首页 > 企业 > > 正文

规制算法推荐强化个人信息保护合规管理

来源:检察日报 2022-02-10 10:45:21

□企业应当落实算法安全主体责任,建立健全算法机制机理审核、科技伦理审查、用户注册、信息发布审核、数据安全和个人信息保护、反电信网络诈骗、安全评估监测、安全事件应急处置等管理制度和技术措施,制定并公开算法推荐服务相关规则,配备与算法推荐服务规模相适应的专业人员和技术支撑。

2021年12月31日,国家网信办、工信部、公安部、市场监督管理局四部门联合发布了《互联网信息服务算法推荐管理规定》(下称《算法推荐管理规定》),针对在我国境内应用算法推荐技术提供互联网服务所应当遵循的合规要求作出了明确规定。该规定的发布对于督促算法推荐服务提供者合理合规地应用算法,净化行业风气,促进良性发展,有效维护用户合法权益具有重大意义,对推动相关企业合规工作也具有十分重要的作用。

强化规制算法推荐的必要性

一段时间以来,“大数据杀熟”、算法歧视、诱导沉迷等算法不合理应用导致的问题频频发生,引发了社会关注,因此,制定针对性的算法推荐管理规定,明确算法推荐服务提供者的主体责任及安全管理义务就显得极为必要。

据中国消费者协会公布的信息,网络领域涉及消费者权益的算法应用问题主要有6种:推荐算法、价格算法、评价算法、排名算法、概率算法和流量算法。其中,价格算法就是饱受消费者诟病的“不同人不同价”。2021年7月,就某在线旅行服务公司针对老客户价格失实、无法说明价格差别理由的“大数据杀熟”第一案,浙江省某法院判决该公司赔偿原告订房差价并按房费差价部分的三倍支付赔偿金,且在其运营的旅行App中为原告增加不同意其现有《服务协议》和《隐私政策》仍可继续使用App的选项,或者为原告修订其旅行App的《服务协议》和《隐私政策》,去除对用户非必要信息采集和使用的相关内容。

推荐算法的违规情形也比较常见,如App运营者通过分析用户浏览过的页面、广告、商品、话题等有针对性地进行商业营销,如果未能充分告知并获取用户同意,则也是侵害用户合法权益的行为。自2019年来国家工信部组织开展了App侵害用户权益专项整治行动工作,运用推荐算法强制用户使用定向推送功能也是被通报的问题多发点。在通报的20个批次中,工信部层面通报的App数量总数为1212款,存在“强制用户使用定向推送功能”的违规App数量达112款,占比为9.24%,而“强制用户使用定向推送功能”在所有被关注的违规问题中排名前列。

通过总结既有的违规案例,可以发现当前在算法推荐的违规场景中存在的问题主要包括如下情形:(1)未在隐私政策中对用户画像、个性化展示的应用场景及对用户可能造成的影响进行说明;(2)未取得用户的明示同意;(3)基于用户画像向不满十四周岁的未成年人进行个性化推荐;(4)未提供非定向推送信息的选项;(5)未向用户提供拒绝接收定向推送的选项;(6)未明示广告发送者的真实身份和联系方式;(7)以其他不合理的方式影响用户正常使用服务;(8)使用非法的用户标签,对用户进行歧视性或偏见性的设置和管理;(9)大数据杀熟。

个人信息保护合规要求

个人信息保护法规定,通过计算机程序自动分析、评估个人的行为习惯、兴趣爱好或者经济、健康、信用状况等并进行决策的活动,属于自动化决策。毫无疑问,利用生成合成类、个性化推送类、检索过滤类等算法技术向用户提供信息属于自动化决策的具体体现,因此,使用算法推荐,除遵守消费者权益保护法、电子商务法的要求外,亦应当严格遵守个人信息保护法的要求。

根据个人信息保护法的规定,应用算法推荐时应当注意:(1)保证决策的透明度和结果公平、公正,不得对个人在交易价格等交易条件上实行不合理的差别待遇;(2)应当同时提供不针对其个人特征的选项,或者向个人提供便捷的拒绝方式;(3)通过自动化决策方式作出对个人权益有重大影响的决定,个人有权要求个人信息处理者予以说明,并有权拒绝个人信息处理者仅通过自动化决策的方式作出决定。具体而言,提供算法推荐服务的企业应当在如下方面开展工作:

企业应当保障用户知情权,在隐私政策等文件中向用户明确说明算法将使用到何种信息,如说明使用的个人信息的类型、范围,使用的具体目的和应用程序,是否可能被第三方所使用,所使用个人信息的必要性,可能对用户个人造成的影响。企业需要明确对基于自动化决策作出的定向推送内容设置明显的、容易识别的标识,并且与非定向推送内容进行区分;企业必须保障同时向用户保留非定向推送的选项和内容。企业还应当保障用户的选择权和拒绝权,向用户提供便捷的拒绝方式,设置和提供简便的、易操作的关闭选项和用户权限管理系统,将用户权限设置页面链接限制在4次点击操作之内。任何企业均不应对用户拒绝个性化信息推送或商业营销设置障碍、收取费用或设定有效期限。

保障决策的透明度和结果的公正性也是算法推荐关注的重点,企业应当通过隐私政策、算法说明等文件,对自动化决策算法的原理、目的意图、决策规则、可能产生的影响等信息进行说明,并从以下维度保证决策结果的公正性:参数设置是否科学、合理,用户画像是否公正、客观、真实,决策规则设计是否科学、合理等。如为了防范“大数据杀熟”的风险,企业就应当明确对用户实施交易价格、交易机会等交易条件上的差别待遇是否具有合理性。

此外,企业提供算法推荐服务,还应当尊重社会公德和伦理,遵守商业道德和职业道德,遵循公正公平、公开透明、科学合理和诚实信用的原则,倡导主流的价值导向,不得利用算法推荐服务从事危害国家安全和社会公共利益、扰乱经济秩序和社会秩序、侵犯他人合法权益等法律、行政法规禁止的活动,不得利用算法推荐服务传播法律、行政法规禁止的信息,不得推荐歧视性信息、传播虚假信息,不得规避监管、实施垄断和不正当竞争行为等。

企业合规实施路径

从个人信息保护合规管理角度看,提供算法推荐服务的企业作为个人信息处理者,也应当落实个人信息保护法第51条的规定,在管理上要做到合规,如制定内部管理制度和操作规程,对个人信息实行分类管理,采取相应的加密、去标识化等安全技术措施,合理确定个人信息处理的操作权限,并定期对从业人员进行安全教育和培训,制定并组织实施个人信息安全事件应急预案等等。具体而言,企业应当落实算法安全主体责任,建立健全算法机制机理审核、科技伦理审查、用户注册、信息发布审核、数据安全和个人信息保护、反电信网络诈骗、安全评估监测、安全事件应急处置等管理制度和技术措施,制定并公开算法推荐服务相关规则,配备与算法推荐服务规模相适应的专业人员和技术支撑。

算法推荐作为“利用个人信息进行自动化决策”的场景之一,亦需做好个人信息处理合规,事先进行个人信息保护影响评估,并对处理情况进行记录。在进行算法推荐时,企业应当做到,以隐私政策、弹窗等方式明确告知用户,并且在业务功能、推荐内容上以“推荐”“猜你喜欢”“定推”“根据你的搜索推荐”“根据你的兴趣推荐”等字样进行显著标识;建立和完善合法合规的用户模型和用户标签管理,完善记入用户模型的兴趣点规则,不得有违法和不良信息关键词,不得有歧视性或者偏见性用户标签,排除任何形式的强制、欺骗、误导用户使用个性化推荐,以及涉及杀熟、价格歧视等违规的系统设置。在下列业务场景中,企业在应用算法推荐时应当保留相关记录以证明其行为具备正当性:(1)基于消费者实际需求,且符合正当的交易习惯和行业惯例,实行不同交易条件;(2)基于针对新用户在合理期限内开展的优惠活动;(3)基于平台公平、合理、无歧视的规则实施的随机性交易;(4)基于保障弱势群体利益和安全而作出的限制或差异性对待;等等。

此外,《算法推荐管理规定》也设置了相应的行政管理要求。网信部门会同电信、公安、市场监管等有关部门建立算法分级分类安全管理制度,根据算法推荐服务的舆论属性或者社会动员能力、内容类别、用户规模、算法推荐技术处理的数据重要程度、对用户行为的干预程度等对算法推荐服务提供者实施分级分类管理。提供算法推荐服务的企业如具有舆论属性或者社会动员能力,应当在提供服务之日起十个工作日内通过互联网信息服务算法备案系统填报服务提供者的名称、服务形式、应用领域、算法类型等备案信息,履行备案手续。

总之,作为技术手段的算法推荐本身是中立的,运用正确可以提高企业的经营效率,为用户提供更具针对性、更优质的服务。《算法推荐管理规定》的发布是政府部门相互协调、细化监管、完善治理的集中体现,有助于规范提供算法推荐服务的行为,保障市场公平有序竞争,维护消费者的合法权益。相关企业必须加强自律,深入开展合规工作,切实承担应尽的义务和责任,以守法经营助力行稳致远。

(作者单位:北方工业大学)

x
推荐阅读

19世纪是哪年到哪年_19世纪

2023-03-15 08:58:54

最新快讯!王牌对王牌第五季嘉宾名单_王牌对王牌第五季嘉宾

2023-03-15 05:47:27

健身应该吃什么牛肉_健身应该吃什么_每日关注

2023-03-15 01:07:01

环球热点评!曾经英语怎么读_曾经英语

2023-03-14 20:49:50

网易、三七、贪玩入局,原生广告“拯救”买量?

2023-03-14 18:10:34

郦鸢是韩信老婆吗(郦鸳)

2023-03-14 16:05:50

今日关注:阵风6级!贵阳发布大风蓝色预警

2023-03-14 14:23:16

亚一黄金价格今天多少一克(2023年3月14日)

2023-03-14 11:41:03

泉州发布一批人事任免 环球今头条

2023-03-14 10:03:53

工商银行信用卡年费,工行的银行卡年费怎么收? 今日精选

2023-03-14 07:22:36
相关新闻

19世纪是哪年到哪年_19世纪

2023-03-15 08:58:54

最新快讯!王牌对王牌第五季嘉宾名单_王牌对王牌第五季嘉宾

2023-03-15 05:47:27

健身应该吃什么牛肉_健身应该吃什么_每日关注

2023-03-15 01:07:01

环球热点评!曾经英语怎么读_曾经英语

2023-03-14 20:49:50

网易、三七、贪玩入局,原生广告“拯救”买量?

2023-03-14 18:10:34

郦鸢是韩信老婆吗(郦鸳)

2023-03-14 16:05:50

今日关注:阵风6级!贵阳发布大风蓝色预警

2023-03-14 14:23:16

亚一黄金价格今天多少一克(2023年3月14日)

2023-03-14 11:41:03

泉州发布一批人事任免 环球今头条

2023-03-14 10:03:53

工商银行信用卡年费,工行的银行卡年费怎么收? 今日精选

2023-03-14 07:22:36

世界看热讯:自由自在的意思解释(自由自在的意思)

2023-03-14 01:07:32

般若波罗蜜多心经译文及注释_般若波罗蜜多心经译文_全球快播报

2023-03-13 21:14:05

汇丰回应收购硅谷银行英国子公司:能加强在英商业银行特许经营权_视焦点讯

2023-03-13 18:13:10

世界热资讯!阳了应该怎么办-阳性感染者如何用药 03月13日14时西藏拉萨疫情数据

2023-03-13 15:59:17

中电兴发:我司自主研发了纠删码核心算法和存储专用文件系统,并基于国产的处理器和操作系统,实现了软、硬件国产自主可控|全球速讯

2023-03-13 13:53:06

中消协:农村消费环境综合满意度75.35分

2023-03-13 11:11:05

每日热闻!新为教育官网_新为了谁歌词

2023-03-13 08:59:01

春闺梦里人_对于春闺梦里人简单介绍 每日热点

2023-03-13 06:02:54

河口:创新形式让普法宣传“活”起来 天天视讯

2023-03-12 23:17:57

湖北工业大学工程技术学院专升本招生简章_湖北工业大学工程技术学院教务系统

2023-03-12 19:03:39

筑牢个人信息“防火墙”(法治论坛)

2023-03-12 16:00:38

消费回暖快 “出海”势头旺——2月新能源汽车行业发展观察

2023-03-12 11:55:25

全球要闻:13代酷睿很能超已经不是新闻但用高端的Z790主板不算什么本事

2023-03-12 07:53:26

unturned单人指令视频教学_unturned单人指令

2023-03-12 01:52:40

梅九哥怎么和宋老虎在一起_梅九哥|焦点资讯

2023-03-11 21:01:10

高中数学的技巧和方法_高中数学学习方法介绍|天天报资讯

2023-03-11 16:51:14

【世界新视野】做你该做的 试驾东风本田 享受域锐和混动

2023-03-11 12:58:15

沈阳搬家

2023-03-11 11:13:57

电讯报:芒特今夏若离队可能有三个下家,曼联利物浦尤文

2023-03-11 09:00:14

电子信息科学类专业

2023-03-11 05:36:02

世界四大洋中面积最小的是哪一个_北冰洋的介绍

2023-03-11 01:52:38

售价11.59万,三代哈弗H6表现如何_世界热门

2023-03-10 18:56:16

提醒!个税汇算别忘了扣除这项费用

2023-03-10 16:46:08

全切双眼皮恢复过程图片_全切双眼皮恢复过程图

2023-03-10 14:40:54

热点在线丨file not found翻译成中文_file not found

2023-03-10 14:32:08

港大揭严重过敏者患新型基因病|快播报

2023-03-10 12:06:00

世界报道:萍乡安源区:露营经济助力乡村振兴

2023-03-10 09:54:50

大象的拼音是什么_大象的拼音

2023-03-10 08:24:47

中信建投:天气回暖叠加人流恢复提振需求,看好啤酒二季度弹性空间

2023-03-10 07:42:09

《唐山皮影展》在蚌埠市博物馆开展

2023-03-10 03:03:13

塑料的特点主要有哪些及应用_塑料的特点今日更新_每日短讯

2023-03-09 22:43:49

感染艾滋病病毒的人平均经过多久潜伏期发展成为

2023-03-09 22:47:55

研究人员揭示了东亚复合干旱和热浪增加的原因_世界动态

2023-03-09 19:56:55

环球要闻:影帝的豪门先生免费阅读_豪门影后:总裁先生请低调

2023-03-09 17:43:18

骑马与砍杀二战中国战场代码大全_骑马与砍杀二战中国战场神器代码|全球报道

2023-03-09 17:27:40

集邦咨询:硅料价格缓降 坩埚短缺或导致硅片价格继续上涨

2023-03-09 16:15:03

通信运营商再度冲高 电信、移动涨超5%_世界今日讯

2023-03-09 14:08:01

永鼎股份:室温超导目前技术上不可行,公司暂无研发计划

2023-03-09 12:09:56

【播资讯】感谢母亲的作文500字高中_感谢母亲的作文500字

2023-03-09 11:55:50

光刻胶概念继续冲高 容大感光涨超10%

2023-03-09 10:04:13

天天看点:“乔丹”变身“中乔”,再续13年IPO长跑

2023-03-09 07:58:37

淘宝千牛开店流程_千牛开店流程

2023-03-09 06:11:24

【全球速看料】如何评价韩腾X5 MAX 新宝骏530手动挡多少钱?

2023-03-09 03:08:30

恶魔小屋子弹好玩吗 恶魔小屋子弹玩法简介|天天快资讯

2023-03-08 22:07:26

大雪飘扑人面伴奏带_大雪飘扑人面唱词|全球速讯

2023-03-08 20:49:30

【环球报资讯】敲诈勒索一万多判多久

2023-03-08 19:16:31

外滩十八号歌词

2023-03-08 17:18:26

英力股份:公司不涉及CPO共封装技术 当前热点

2023-03-08 16:43:27

阿拉尔税务局:春风十载 税惠常伴

2023-03-08 14:53:08

文君竹_环球速讯

2023-03-08 14:31:41

环球看点!贵安樱花园,坐公交就能去!票价来了

2023-03-08 12:02:34

天天热门:英华学校

2023-03-08 11:17:39

天天速看:金山石化往返临港、松江大学城及周边校区定制班线恢复营运!

2023-03-08 10:01:39

每日热议!快手前AI核心人物李岩创业投身“大模型”赛道

2023-03-08 08:33:20

广西铜鼓

2023-03-08 07:53:37

世界快消息!焦的组词的读法

2023-03-08 05:02:19

京沪高速公路

2023-03-08 04:16:43

异世界转生番又出新花样,脑洞惊奇,还有什么种类是不能转生的

2023-03-07 23:53:32

泉州市光前医院血液净化中心完成迁扩建正式投用

2023-03-07 21:00:52

快讯:胜球

2023-03-07 20:43:34

明天,来昆明动物园听春日交响“樱乐会”

2023-03-07 18:08:52

奇门

2023-03-07 17:56:43

三哥抢爆了?小米13 Pro已在印度市场缺货 雷军赚麻了

2023-03-07 16:08:17

糟鱼怎么做 做的步骤是什么

2023-03-07 14:34:02

【机构评级】 安信国际:维持兖煤澳大利亚(03668)“买入”评级 目标价44.06港元

2023-03-07 14:08:02

得性疾病怎么治_得了性病怎么治疗

2023-03-07 11:54:18

篾匠

2023-03-07 11:14:54

田轩:优化新三板政策供给,服务中小企业创新与发展丨五道口两会之声

2023-03-07 10:11:33

食其家

2023-03-07 08:10:04

俄财政部公布今年1至2月财政收支情况

2023-03-07 07:56:01

qq分组伤感繁体字_qq分组伤感_实时

2023-03-07 04:36:42

知春里中学初中部排名_知春里中学

2023-03-07 02:49:40

开福“文艺轻骑兵”进社区送文化

2023-03-06 23:01:03

2022年农历二月二十二是黄道吉日还是黑道凶日?|天天热推荐

2023-03-06 21:04:44

孙海英又被爆在美国翻垃圾桶,曾经是知名的老戏骨,如今是怎么了|当前观点

2023-03-06 20:02:35

众安保险

2023-03-06 18:04:14

环球简讯:“学雷锋纪念日”60周年:西藏军警民齐力践行“雷锋精神”

2023-03-06 17:38:38

校花的贴身高手唐韵完整版_校花的贴身高手唐韵|焦点快看

2023-03-06 15:59:05

电影mp4 当前关注

2023-03-06 14:44:35

天天滚动:穿越到古代,你能做什么?

2023-03-06 13:19:45

QQ空间我的收藏怎么设置加密码 观天下

2023-03-06 11:42:38

2023温州文成县红枫公交有限公司驾驶员招聘公告-热点聚焦

2023-03-06 11:20:25

曹慧泉:做强做优中心商圈 加快服饰文旅融合发展 每日报道

2023-03-06 09:55:56

全球球精选!科学小知识简短大全_科学小知识资料

2023-03-06 08:20:07

全球快消息!岳父杀害女婿一家案再审开庭 到底是怎么回事?

2023-03-06 06:50:07

尾盘拉升是什么意思_尾单货 天天速讯

2023-03-06 04:48:48

环球报道:计算机应用技术学什么课程_计算机应用技术学什么课程

2023-03-06 00:45:23

北京到西安火车要多长时间_北京到西安火车时刻表

2023-03-05 21:29:03

履新记丨韦朝晖:建议扩大面向东盟国家的进口展品优惠政策力度_环球即时看

2023-03-05 19:59:35

世界快看点丨什么是医药卫生专业基础知识

2023-03-05 17:50:58