logo
繁体
繁体

谷歌希望自己的科学家要“积极正面”对待人工智能研究

据路透社报道,根据内部沟通和对参与工作的研究人员的采访,Alphabet Inc.旗下的谷歌今年采取行动,通过启动“敏感话题”审查来加强对其科学家论文的控制,并要求作者不要对其技术发起负面评论。


根据解释该政策的内部网页,谷歌的新审查程序要求研究人员在追求人脸和情感分析以及种族、性别或政治派别的分类等话题之前,先咨询法律、政策和公共关系团队。其中一个针对研究人员的网页表示,“技术的进步和我们外部环境的日益复杂,正越来越多地导致看似无害的项目引发道德、声誉、监管或法律问题的情况”。路透社无法确定该职位的日期,不过三名现任员工表示,该政策始于6月。

八名现任和前任员工表示,“敏感话题”程序在谷歌标准的论文审查基础上增加了一轮审查,以防止出现泄露商业机密等陷阱。对于一些项目,谷歌官员在后期进行了干预。据写给路透社的内部信件显示,一名谷歌高级经理在今年夏天发表前不久审查了一项关于内容推荐技术的研究,他告诉作者注意保持积极的语气。这位经理补充说,”这并不意味着我们应该躲避该软件带来的真正挑战”。

随后一位研究人员给审稿人的信件显示,作者 “更新后删除了所有谷歌产品参考。路透社看到的一份草案曾提到谷歌旗下的YouTube。包括高级科学家玛格丽特·米切尔在内的四名工作人员研究人员表示,他们认为谷歌开始干涉潜在技术危害的关键研究。米切尔说:“鉴于我们的专业知识,如果我们正在研究一些事情,那么我们就会遇到严重的审查问题。”

谷歌在其面向公众的网站上声明,其科学家拥有“实质性”的自由。本月,在科学家蒂姆尼特·盖布鲁突然离职后,谷歌与部分员工之间的紧张关系进入人们的视野,她与米切尔共同领导了一个12人的团队,专注于人工智能软件(AI)的伦理问题。盖布鲁表示,谷歌解雇她是因为她质疑了一项不发表研究的命令,声称模仿语音的人工智能可能对边缘化人群不利。谷歌表示,它接受并加快了她的辞职。无法确定盖布鲁的论文是否经过了 “敏感话题 “审查。

谷歌高级副总裁杰夫·迪恩本月在一份声明中表示,盖布鲁的论文纠缠于潜在的危害,而没有讨论正在进行的解决这些问题的努力。迪恩补充说:“谷歌支持人工智能伦理学术研究,并正在积极改进我们的论文审查流程,因为我们知道太多的制衡会变得繁琐。”

整个科技行业对人工智能的研究和开发呈爆炸式增长,促使美国和其他地方的主管部门提出使用人工智能的规则。一些人引用的科学研究表明,面部分析软件和其他人工智能可能会延续偏见或侵犯隐私。谷歌近年来将人工智能融入其整个服务中,利用该技术解释复杂的搜索查询,谷歌推荐YouTube,并自动完成Gmail中的句子。迪恩说,该公司的研究人员去年发表了200多篇关于负责任地开发人工智能的论文,其中包括1000多个项目。

谷歌的论文作者被告知要使用积极的语气讨论推荐人工智能。对于上周发表的一篇论文,一名谷歌员工将这一过程描述为“长途跋涉”,根据内部通信,研究人员和审稿人之间的电子邮件交流超过100次。