“算法,你可能违规了”,律师展望惊天变化:未来App要把数据标签“贴”给用户看

时间:2022-01-13 17:10:55 来源: 36氪


30秒快读

1.监管层打出“算法治理”又一记重拳。

2.电商推荐机制、外卖小哥送餐路线、网约车派单、自动写稿机器人、虚拟主播……算法范畴无处不在。

3.专家:今日头条等以算法推荐为主App应用需要作出相应改变。上海汇业律师事务所律师史宇航展示了一个对于互联网用户和消费者来说无比美妙的未来场景:将来每个App都要明明白白告诉用户,App为你打了几个标签,这些标签具体是什么,而消费者则有权直接删除这些标签,拒绝互联网公司通过App为自己画像。

近日,国家互联网信息办公室、工业和信息化部、公安部、国家市场监督管理总局联合发布《互联网信息服务算法推荐管理规定》(下称《规定》),自2022年3月1日起施行。

这是近一年来监管层“算法治理”的又一记重拳。此前,国信办发布的《关于加强互联网信息服务算法综合治理的指导意见》和上海市发布的《上海市网络交易平台网络营销活动算法应用指引(试行)》,已经多次提出指导意见,而《规定》被认为比前者具有更强的监管效力。

“《规定》不仅从更加全面的角度要求使用算法推荐技术的企业开展合规工作,并且可以作为有关部门的执法依据,具有强制性。”1月6日,《IT时报》记者专访上海汇业律师事务所律师史宇航,逐条分析《规定》对数字时代可能带来的影响。

01 自动写稿机器人、虚拟主播也要合规

随着算法推荐技术的日益普及,对算法推荐技术的监管和治理已迫在眉睫。2021年11月召开的中央政治局会议强调,加快提升生物安全、网络安全、数据安全、人工智能安全等领域的治理能力。推荐算法涉及网络安全、数据安全以及人工智能安全等多个领域,其重要性可见一斑。

《规定》开篇,算法推荐技术定义为:“利用生成合成类、个性化推送类、排序精选类、检索过滤类、调度决策类等算法技术向用户提供信息。”

这意味着,“算法推荐的范畴已经涵盖企业经营的各个方面,无论是内容平台借助算法生成并分发内容、零售品牌向顾客发送促销信息,或是电子商务平台优化搜索结果、外卖平台规划‘外卖小哥’的送餐路线,甚至自动写稿机器人、虚拟主播等合成类人工智能,只要在中国境内使用算法推荐功能,都需要根据《互联网信息服务算法推荐管理规定》部署合规工作。”史宇航认为,算法合规正在成为一项新的合规类别,数据合规的组成部分,并可能在未来成为一个单独的门类。

此外,史宇航认为,新规实施后需要警醒的不仅仅是互联网公司,进入全面数字化转型的政府和传统企业在运用人工智能、大数据等技术建设智慧城市时,同样需要对数据的合规处理、各方算法风险应承担的责任,算法成果的归属等问题,与合作方做好约定。

02 如何打开“黑箱”?

此次发布的《规定》中,最引人关注的是要求“算法透明”,第16条规定,“算法推荐服务提供者应当以显著方式告知用户其提供算法推荐服务的情况,并以适当方式公示算法推荐服务的基本原理、目的意图和主要运行机制等。”

这被认为可能是实施过程中最难的一条。以深度学习算法推动的此轮人工智能浪潮,最常见的问题便是“黑箱”,也即算法模型创建后,人们并不知道输入数据后会产生怎样的结果,也不知道为什么会生成这些结果。

“算法透明化”的另一个障碍是商业伦理和商业秘密。通常情况下,互联网公司往往以“机密”为由拒绝回答消费者对其算法结果的质疑。随着《规定》实施,这些障碍都将被一一打破。

史宇航分析,算法透明度的提升可能会通过“算法政策”“开放源代码”等方式进行,尽管这不可避免会将公司原本的一些商业秘密公之于众。但另一方面,当某一算法对社会具有一定的影响力,如果只是将算法作为一个黑箱,也会让社会公众产生疑虑,因此提升透明度是打消此种疑虑的路径。这将是一个逐渐普及、细化的过程。

他建议,处理者应当向受影响的个人说明:其数据会在何种场景下被何种算法处理,该等处理的目的是什么。比如前段时间美团通过微信公众号对自己的“订单分配”算法进行说明,提升算法透明度以及公众对美团的信心,“算法不是一成不变的,需要持续训练、优化,其中肯定也包括对‘黄牛’行为的优化。对商业密码的保护,也可以通过对源代码定点公布的方式实现。(如在特定城市设立透明度中心以供查阅)。”

03 今日头条会变吗?

《互联网信息服务算法推荐管理规定》另一个值得关注的条例是,明确了算法推荐服务提供者的用户权益保护要求,保障算法选择权要求企业应当向用户提供不针对其个人特征的选项,或者便捷的关闭算法推荐服务选项。

此外,对于以未成年人、老年人、劳动者和消费者等用户为主体的应用,《规定》明确了具体要求,如不得利用算法推荐服务诱导未成年人沉迷网络,应当便利老年人安全使用算法推荐服务,应当建立完善平台订单分配、报酬构成及支付、工作时间、奖惩等相关算法,以及不得根据消费者的偏好、交易习惯等特征利用算法在交易价格等交易条件上实施不合理的差别待遇等。

这是否意味着,今日头条等以算法推荐为主要形态的产品形态,会因此发生变化?

史宇航的答案是肯定的。他认为,《规定》赋予用户更多的选择权,这需要算法推荐类App在产品功能上进行调整,允许用户自行选择、删除被平台打上的用户标签,这些操作都会对产品的形态带来根本改变,有助于用户掌控自己的信息流,而“隐私政策”或“算法政策”作为前端的文件,需要体现背后产品功能的变化。

史宇航向记者展示了一个对于互联网用户和消费者来说无比美妙的未来场景:将来每个App都要明明白白告诉用户,App为你打了几个标签,这些标签具体是什么,而消费者则有权直接删除这些标签,拒绝互联网公司通过App为自己画像。

史宇航同时提醒,要做到上述场景,必将对互联网公司的技术提出很高的要求。通常,一个App中一位成熟用户的标签数量可以达到2000个,企业如何将这些标签合理地展示出来,同时兼具用户端的可操作性,还有很长的路要走。

本文来自微信公众号 “IT时报”(ID:vittimes),作者:郝俊慧,编辑:挨踢妹 ,36氪经授权发布。

关键词:要把 你可 惊天

精彩推送

关于我们 加入我们 广告服务 网站地图   

All Rights Reserved, Copyright 2004-2021 www.ctocio.com.cn

如有意见请与我们联系 邮箱:29 59 11 57 8@qq.com

 IT专家网 版权所有 

豫ICP备20005723号-1 营业执照公示信息