华尔街日报10月13日消息,中国正在向算法监管迈出第一步。在西方国家监管机构考虑加强对社交媒体巨头的控制时,这一试验的进展可能帮助这些机构了解应该学习哪些经验以及避免哪些教训。
中国网络监管部门上个月宣布,将利用三年左右的时间,完善算法监管制度建设,在世界各国政府加强对科技巨头的监管之际,中国计划成为这一领域的开拓者。根据8月份公布的草案,公司不能采用会引发成瘾或过度消费的算法。用户也应该有权利选择退出。
这些全面性的规定如果得到严格执行,可能从根本上动摇许多中国互联网巨头的商业运行模式。例如,TikTok的母公司字节跳动,其发展壮大离不开内容推荐算法的帮助。
可以肯定的是,中国的算法监管新规某些方面显然是为了加强对企业的管控。网信办在指导意见中表示,算法应弘扬社会主义核心价值观,并促进正能量的传播。
但是,中国的监管举措以及可能造成的经济损失,对其他想要限制互联网巨头社会影响力的国家仍然具有借鉴意义。欧盟在4月份提出了一套人工智能的法律框架,将人工智能应用场景分为四个风险等级,其中所谓的高风险应用场景就涉及关键基础设施、教育培训和信用评级。在《华尔街日报》对社交媒体巨头展开调查之后,美国国会最近举行了一次针对脸书的听证会。
算法监管的最大问题在于它们的不透明性。随着机器决策的场景越来越多,人工智能通过大量的数据计算进行自动学习,这已经发展成一个更大的隐患。有时,即使是算法的创造者,也难以明白人工智能做出特定决策的具体原因。
隐藏在训练数据之中的社会性偏见可能会在不知不觉中渗入算法的决策过程。而且,算法也可能过分关注某一部分对象,如助长“病毒式内容”(viral content)的传播,而不考虑其他影响。此外,算法本身还在不断地更新,也给监管带来巨大的麻烦。
即使对拥有强大的社会管理能力的中国政府来说,这也是一项很大的挑战。另一个问题是如何在让算法决策过程变得更加透明和可靠的同时,保持监管力度的弹性,以免扼杀所有的创新,特别是中小企业。这是中国作为先行者所面临的一个巨大风险。在中国看来,加强算法监管可能有助于增强其社会治理能力并缓解成瘾和网贷等算法造成的副作用,但在这一过程中也可能将下一个“字节跳动”扼杀在摇篮之中。
算法已经成为日常生活中不可或缺的一部分。监管可能最终需要跟上信息化社会的发展,但如何实施仍然是一个大难题。美国互联网公司的投资者,以及反对者,都应该密切关注中国的监管经验。