PCon全球产品创新大会最新日程上线,这里直达 了解详情
写点什么

算法新规剑指大数据杀熟、操纵热搜等问题!人民要算法,不要“算计”

  • 2022 年 1 月 05 日
  • 本文字数:2383 字

    阅读完需:约 8 分钟

算法新规剑指大数据杀熟、操纵热搜等问题!人民要算法,不要“算计”

算法新规来了。


为了规范互联网信息服务算法推荐活动,国家出台了针对性的算法推荐规章制度。


1 月 4 日,国家互联网信息办公室、工业和信息化部、公安部、国家市场监督管理总局联合发布了《互联网信息服务算法推荐管理规定》(以下简称《规定》),自 2022 年 3 月 1 日起施行。


《规定》明确,应用算法推荐技术,是指利用生成合成类、个性化推送类、排序精选类、检索过滤类、调度决策类等算法技术向用户提供信息。

算法推荐服务者的信息服务规范


《规定》明确了算法推荐服务提供者的信息服务规范。


具体而言,《规定》要求算法推荐服务提供者应当坚持主流价值导向,积极传播正能量,不得利用算法推荐服务从事违法活动或者传播违法信息,应当采取措施防范和抵制传播不良信息;


建立健全用户注册、信息发布审核、数据安全和个人信息保护、安全事件应急处置等管理制度和技术措施,定期审核、评估、验证算法机制机理、模型、数据和应用结果等;


建立健全用于识别违法和不良信息的特征库,发现违法和不良信息的,应当采取相应的处置措施 不得将违法和不良信息关键词记入用户兴趣点或者作为用户标签并据以推送信息。


加强用户模型和用户标签管理,完善记入用户模型的兴趣点规则和用户标签管理规则;


加强算法推荐服务版面页面生态管理,建立完善人工干预和用户自主选择机制,在重点环节积极呈现符合主流价值导向的信息;规范开展互联网新闻信息服务,不得生成合成虚假新闻信息或者传播非国家规定范围内的单位发布的新闻信息;


鼓励算法推荐服务提供者综合运用内容去重、打散干预等策略,并优化检索、排序、选择、推送、展示等规则的透明度和可解释性,避免对用户产生不良影响,预防和减少争议纠纷。这一条规定,无疑将会影响到抖音、快手等强算法推荐平台,据悉,目前今日头条已在其 App 中提供了关闭个性化推荐选项。

强化算法垄断监管


《规定》要求,算法推荐服务提供者不得利用算法对其他互联网信息服务提供者进行不合理限制,或者妨碍、破坏其合法提供的互联网信息服务正常运行,实施垄断和不正当竞争行为。


近两年,国家针对算法垄断、“二选一”等问题不断加强监管措施。2020 年 12 月,阿里收到 182 亿元天价罚单,原因为“二选一”式垄断。经调查,自 2015 年以来,阿里巴巴集团滥用该市场支配地位,对平台内商家提出“二选一”要求,禁止平台内商家在其他竞争性平台开店或参加促销活动,并借助市场力量、平台规则和数据、算法等技术手段,采取多种奖惩措施保障“二选一”要求执行,维持、增强自身市场力量,获取不正当竞争优势。

“控制热搜”或将休矣


值得一提的是,新规对控制热搜等算法影响、控制舆论的行为加强了监管。


《规定》明确不得利用算法实施影响网络舆论、规避监督管理以及垄断和不正当竞争行为。具有舆论属性或者社会动员能力的算法推荐服务提供者应当在提供服务之日起十个工作日内通过互联网信息服务算法备案系统填报备案信息,履行备案手续;备案信息发生变更的,应当在规定时间内办理变更手续。算法推荐服务提供者应当依法留存网络日志,配合有关部门开展安全评估和监督检查工作,并提供必要的技术、数据等支持和协助。


《规定》第十四条,算法推荐服务提供者不得利用算法虚假注册账号、非法交易账号、操纵用户账号或者虚假点赞、评论、转发,不得利用算法屏蔽信息、过度推荐、操纵榜单或者检索结果排序、控制热搜或者精选等干预信息呈现,实施影响网络舆论或者规避监督管理行为。

充分保障用户权


算法左右着用户决策,但在这个过程中,用户的合法权益往往容易被忽视。《规定》明确了算法推荐服务提供者的用户权益保护要求。


具体来说,包括保障算法知情权,要求告知用户其提供算法推荐服务的情况,并公示服务的基本原理、目的意图和主要运行机制等;


保障算法选择权,应当向用户提供不针对其个人特征的选项,或者便捷的关闭算法推荐服务的选项。


对向未成年人、老年人、劳动者和消费者等主体提供算法推荐服务的,《规定》明确了具体要求,如不得利用算法推荐服务诱导未成年人沉迷网络,应当便利老年人安全使用算法推荐服务;


前段时间刷屏的《外卖骑手,困在系统里》一文引发了人们对于算法控制的广泛讨论。此次新规也明确,算法推荐服务提供者向劳动者提供工作调度服务的,应当保护劳动者取得劳动报酬、休息休假等合法权益,建立完善平台订单分配、报酬构成及支付、工作时间、奖惩等相关算法。

大数据“杀熟” 将成过去式


如今,我们已生活在算法无孔不入的时代。电商购物、新闻资讯、交通出行...大量的线上应用都以算法作为底层支撑。算法推荐带来了更为繁荣的经济和更加便利的生活。


但与此同时,算法歧视、“大数据杀熟”、诱导沉迷等算法不合理应用也带来了很多不利影响。这些问题早已是积弊已久的乱象。


2015 年,Facebook 曾因其人工智能推荐内容存在政治偏见,备受争议。2018 年 3 月,Facebook“数据门”事件轰动全球,8700 万 Facebook 用户的个人数据被出售给剑桥分析公司,该公司利用这些数据、不正当使用算法用于操纵英国脱欧、特朗普当选等选举程序。


国内大数据杀熟乱象频出。


2018 年 10 月,知名作家王小山炮轰飞猪旅行 App 利用大数据杀熟,购买同一航班机票,飞猪卖给他的比别家高出 700 多元。飞猪随后回应系是航司自身变价导致,飞猪从来不会,也永远不会利用数据坑蒙消费者;


2019 年 3 月。前 360 移动搜索负责人 @陈利人在一篇名为《携程的牌坊塌了》的文章中爆料,携程利用大数据杀熟,他首次购买机票总价为 17548 元;当他发现没有选择报销凭证退回重选时,提示已无票,重新搜索价格变成了 18987 元。随后携程致歉,携程表示,“二次支付显示无票”确认为程序 bug,携程绝不存在任何“大数据杀熟”行为。


这次新规也对“大数据杀熟”行为作出了规范。《规定》明确,应当建立完善平台订单分配、报酬构成及支付、工作时间、奖惩等相关算法,以及不得根据消费者的偏好、交易习惯等特征利用算法在交易价格等交易条件上实施不合理的差别待遇等。

2022 年 1 月 05 日 14:181191
用户头像
刘燕 InfoQ记者

发布了 758 篇内容, 共 246.9 次阅读, 收获喜欢 1446 次。

关注

评论

发布
暂无评论
发现更多内容

性能测试 + 操作系统 + 锁

Arvin

股权交易中心+区块链试点将开始

CECBC

防篡改 股权交易 可追溯 信息存证

拥抱400GE新引擎,跨越新基建的时代龙门

脑极体

Java架构-不要成为项目风险的奴隶

我是苞谷

Java

架构师训练营第八周作业

张明森

LeetCode 1052. Grumpy Bookstore Owner

liu_liu

算法 LeetCode

面试题:Java 中的 ==, equals 与 hashCode 的区别与联系

简爱W

Unix路径是如何简化算法,架构师性能优化 John 易筋 ARTS 打卡 Week 10

John(易筋)

ARTS 打卡计划

设计模式之外观模式解析

程序员七哥

程序员 设计模式 外观模式

没想到 Hash 冲突还能这么玩,你的服务中招了吗?

程序猿石头

Java 安全攻防 后端 hashmap hash

7个获取访问者真实IP的方法,速学!!!

华为云开发者社区

nginx 大前端 网站 IP 服务器

Golang新手常犯错误之【循环迭代篇】

卓丁

常见错误 引用迭代 Go 语言

ARTS WEEK6

紫枫

ARTS 打卡计划

应用程序研发之基础知识分层与进化

superman

Redis系列(七):缓存只是读写回种这么简单吗?如果是,那么请你一定看看这篇文章!

z小赵

redis 分布式 高并发系统设计

实战案例丨ModelArts在数据标注、数据过滤上的应用技巧:自动分组

华为云开发者社区

人工智能 数据 图像识别 图片 分类

一文了解JDK12 13 14 GC调优秘籍-附PDF下载

程序那些事

GC JDK14 秘籍 JDK12 JDK13

浅析区块链如何改变生活

CECBC

数字银行 供应链 身体监测 资产管理

Java架构-代码分层的设计之道

我是苞谷

华为云FusionInsight MRS融合大数据平台进阶之路

数据湖洞见

大数据 新特性 FusionInsight 华为云 智能数据湖

职场求生攻略答疑篇之 1 —— 加班沉思录

臧萌

程序员 加班

安全系列之——RSA的前世今生

诸葛小猿

安全 加密解密 非对称加密 rsa

高并发系统设计要点

南方有乔木兮

Java

week8 作业

Shawn

如何去学好JS的8条小建议

华为云开发者社区

html 编程 大前端 js 代码

【API进阶之路】无法想象!大龄码农的硬盘里有这么多宝藏

华为云开发者社区

容器 层次 API 网关 华为云

JVM系列-读懂 GC 日志

Rayjun

Java JVM GC

Java架构-Java代码规范那些事

我是苞谷

Java

推荐一款技术人必备的接口测试神器:Apifox

狂师

测试 测试驱动开发实战营 接口测试 测试框架

区块链如何切入供应链金融市场?

CECBC

在线互动课堂低延迟交互利器:高性能异步化设计与监控

徐敏

线程模型 异步 Task 在线课堂

ShadowRealm 与微前端沙箱

ShadowRealm 与微前端沙箱

算法新规剑指大数据杀熟、操纵热搜等问题!人民要算法,不要“算计”-InfoQ