【QCon】精华内容上线92%,全面覆盖“人工智能+”的典型案例!>>> 了解详情
写点什么

算法新规剑指大数据杀熟、操纵热搜等问题!人民要算法,不要“算计”

  • 2022-01-05
  • 本文字数:2383 字

    阅读完需:约 8 分钟

算法新规剑指大数据杀熟、操纵热搜等问题!人民要算法,不要“算计”

算法新规来了。


为了规范互联网信息服务算法推荐活动,国家出台了针对性的算法推荐规章制度。


1 月 4 日,国家互联网信息办公室、工业和信息化部、公安部、国家市场监督管理总局联合发布了《互联网信息服务算法推荐管理规定》(以下简称《规定》),自 2022 年 3 月 1 日起施行。


《规定》明确,应用算法推荐技术,是指利用生成合成类、个性化推送类、排序精选类、检索过滤类、调度决策类等算法技术向用户提供信息。

算法推荐服务者的信息服务规范


《规定》明确了算法推荐服务提供者的信息服务规范。


具体而言,《规定》要求算法推荐服务提供者应当坚持主流价值导向,积极传播正能量,不得利用算法推荐服务从事违法活动或者传播违法信息,应当采取措施防范和抵制传播不良信息;


建立健全用户注册、信息发布审核、数据安全和个人信息保护、安全事件应急处置等管理制度和技术措施,定期审核、评估、验证算法机制机理、模型、数据和应用结果等;


建立健全用于识别违法和不良信息的特征库,发现违法和不良信息的,应当采取相应的处置措施 不得将违法和不良信息关键词记入用户兴趣点或者作为用户标签并据以推送信息。


加强用户模型和用户标签管理,完善记入用户模型的兴趣点规则和用户标签管理规则;


加强算法推荐服务版面页面生态管理,建立完善人工干预和用户自主选择机制,在重点环节积极呈现符合主流价值导向的信息;规范开展互联网新闻信息服务,不得生成合成虚假新闻信息或者传播非国家规定范围内的单位发布的新闻信息;


鼓励算法推荐服务提供者综合运用内容去重、打散干预等策略,并优化检索、排序、选择、推送、展示等规则的透明度和可解释性,避免对用户产生不良影响,预防和减少争议纠纷。这一条规定,无疑将会影响到抖音、快手等强算法推荐平台,据悉,目前今日头条已在其 App 中提供了关闭个性化推荐选项。

强化算法垄断监管


《规定》要求,算法推荐服务提供者不得利用算法对其他互联网信息服务提供者进行不合理限制,或者妨碍、破坏其合法提供的互联网信息服务正常运行,实施垄断和不正当竞争行为。


近两年,国家针对算法垄断、“二选一”等问题不断加强监管措施。2020 年 12 月,阿里收到 182 亿元天价罚单,原因为“二选一”式垄断。经调查,自 2015 年以来,阿里巴巴集团滥用该市场支配地位,对平台内商家提出“二选一”要求,禁止平台内商家在其他竞争性平台开店或参加促销活动,并借助市场力量、平台规则和数据、算法等技术手段,采取多种奖惩措施保障“二选一”要求执行,维持、增强自身市场力量,获取不正当竞争优势。

“控制热搜”或将休矣


值得一提的是,新规对控制热搜等算法影响、控制舆论的行为加强了监管。


《规定》明确不得利用算法实施影响网络舆论、规避监督管理以及垄断和不正当竞争行为。具有舆论属性或者社会动员能力的算法推荐服务提供者应当在提供服务之日起十个工作日内通过互联网信息服务算法备案系统填报备案信息,履行备案手续;备案信息发生变更的,应当在规定时间内办理变更手续。算法推荐服务提供者应当依法留存网络日志,配合有关部门开展安全评估和监督检查工作,并提供必要的技术、数据等支持和协助。


《规定》第十四条,算法推荐服务提供者不得利用算法虚假注册账号、非法交易账号、操纵用户账号或者虚假点赞、评论、转发,不得利用算法屏蔽信息、过度推荐、操纵榜单或者检索结果排序、控制热搜或者精选等干预信息呈现,实施影响网络舆论或者规避监督管理行为。

充分保障用户权


算法左右着用户决策,但在这个过程中,用户的合法权益往往容易被忽视。《规定》明确了算法推荐服务提供者的用户权益保护要求。


具体来说,包括保障算法知情权,要求告知用户其提供算法推荐服务的情况,并公示服务的基本原理、目的意图和主要运行机制等;


保障算法选择权,应当向用户提供不针对其个人特征的选项,或者便捷的关闭算法推荐服务的选项。


对向未成年人、老年人、劳动者和消费者等主体提供算法推荐服务的,《规定》明确了具体要求,如不得利用算法推荐服务诱导未成年人沉迷网络,应当便利老年人安全使用算法推荐服务;


前段时间刷屏的《外卖骑手,困在系统里》一文引发了人们对于算法控制的广泛讨论。此次新规也明确,算法推荐服务提供者向劳动者提供工作调度服务的,应当保护劳动者取得劳动报酬、休息休假等合法权益,建立完善平台订单分配、报酬构成及支付、工作时间、奖惩等相关算法。

大数据“杀熟” 将成过去式


如今,我们已生活在算法无孔不入的时代。电商购物、新闻资讯、交通出行...大量的线上应用都以算法作为底层支撑。算法推荐带来了更为繁荣的经济和更加便利的生活。


但与此同时,算法歧视、“大数据杀熟”、诱导沉迷等算法不合理应用也带来了很多不利影响。这些问题早已是积弊已久的乱象。


2015 年,Facebook 曾因其人工智能推荐内容存在政治偏见,备受争议。2018 年 3 月,Facebook“数据门”事件轰动全球,8700 万 Facebook 用户的个人数据被出售给剑桥分析公司,该公司利用这些数据、不正当使用算法用于操纵英国脱欧、特朗普当选等选举程序。


国内大数据杀熟乱象频出。


2018 年 10 月,知名作家王小山炮轰飞猪旅行 App 利用大数据杀熟,购买同一航班机票,飞猪卖给他的比别家高出 700 多元。飞猪随后回应系是航司自身变价导致,飞猪从来不会,也永远不会利用数据坑蒙消费者;


2019 年 3 月。前 360 移动搜索负责人 @陈利人在一篇名为《携程的牌坊塌了》的文章中爆料,携程利用大数据杀熟,他首次购买机票总价为 17548 元;当他发现没有选择报销凭证退回重选时,提示已无票,重新搜索价格变成了 18987 元。随后携程致歉,携程表示,“二次支付显示无票”确认为程序 bug,携程绝不存在任何“大数据杀熟”行为。


这次新规也对“大数据杀熟”行为作出了规范。《规定》明确,应当建立完善平台订单分配、报酬构成及支付、工作时间、奖惩等相关算法,以及不得根据消费者的偏好、交易习惯等特征利用算法在交易价格等交易条件上实施不合理的差别待遇等。

公众号推荐:

2024 年 1 月,InfoQ 研究中心重磅发布《大语言模型综合能力测评报告 2024》,揭示了 10 个大模型在语义理解、文学创作、知识问答等领域的卓越表现。ChatGPT-4、文心一言等领先模型在编程、逻辑推理等方面展现出惊人的进步,预示着大模型将在 2024 年迎来更广泛的应用和创新。关注公众号「AI 前线」,回复「大模型报告」免费获取电子版研究报告。

AI 前线公众号
2022-01-05 14:182668
用户头像
刘燕 InfoQ高级技术编辑

发布了 1112 篇内容, 共 489.3 次阅读, 收获喜欢 1965 次。

关注

评论

发布
暂无评论
发现更多内容

低代码实现探索(一)组件元信息定义

零道云-混合式低代码平台

低代码

按需引入ant-design-vue组件

石云升

Vue 11月日更

修复一个BaseRecyclerViewAdapterHelper漏洞

Changing Lin

11月日更

区块链将掀开人类的伟大时代

CECBC

XTransfer 1号技术员工卡乐:从普通程序猿到技术专家

XTransfer技术

金融科技 支付 经验分享 创业公司

萝卜快跑:迎来首单业绩兑现,商业化试点服务进程进入新阶段

脑极体

看完了阿里大牛的Leetcode刷题笔记, 我成功拿到了字节跳动的offer

热爱java的分享家

Java 面试 算法 LeetCode 经验分享

linux重要的目录之etc

入门小站

Linux

空对象模式(Null Object Pattern)

Tom弹架构

Java 架构 设计模式

雇工模式(Employee Pattern)

Tom弹架构

Java 架构 设计模式

TypeScript 之 Indexed Access Types

冴羽

JavaScript typescript html5 大前端 ES6

Camtasia局部放大特效教程

淋雨

Camtasia 录屏

不是吧,都2021年了你别说你还不会Spring MVC基本应用

热爱java的分享家

Java 架构 程序人生 编程语言 经验分享

字节大牛把算法常见面试:哈希、链表、队列、递归全部总结出来了

热爱java的分享家

Java 面试 程序人生 编程语言 经验分享

面试不慌,拿这70张思维导图,怒怼面试官

奔着腾讯去

c++ golang 数据结构 思维导图 TCP/IP

简述以太坊P2P网络之UDP

devpoint

区块链 以太坊 udp 11月日更

25 K8S之Endpoint对象

穿过生命散发芬芳

k8s 11月日更

百度与赛诺菲签订许可协议,开启新一代mRNA药物和疫苗研发

百度大脑

人工智能 百度

规格模式(Specification Pattern)

Tom弹架构

Java 架构 设计模式

【高并发】浅谈AQS中的ReentrantLock、ReentrantReadWriteLock、StampedLock与Condition

冰河

Java 并发编程 多线程 高并发 异步编程

Go语言学习查缺补漏ing Day7

Regan Yue

Go 语言 11月日更

在线文本对比工具

入门小站

工具

低代码实现探索(二)低代码中的数据

零道云-混合式低代码平台

低代码

阿里大牛最新公开压轴的“Redis深度笔记”,GitHub已标星81.6K

热爱java的分享家

Java 架构 面试 程序人生 编程语言

Flink Forward Asia 2021 延期,线上相见

Apache Flink

大数据 flink 编程 后端 实时计算

对元宇宙 我们期待什么?

CECBC

Spring Boot的前世今生以及它和Spring Cloud的关系详解

Java高级开发

Java 架构 springboot SpringCloud

终于有腾讯架构师把困扰我多年的《计算机网络原理》全部讲明白了

热爱java的分享家

Java 面试 编程语言 网络协议 经验分享

数字人民币的基础:共识与信任!

CECBC

Python Qt GUI设计:QSlider滑动条类(基础篇—16)

不脱发的程序猿

Python PyQt GUI设计 Qt Designer QSlider滑动条类

对象池模式(Object Pool Pattern)

Tom弹架构

Java 架构 设计模式

算法新规剑指大数据杀熟、操纵热搜等问题!人民要算法,不要“算计”_AI&大模型_刘燕_InfoQ精选文章