logo
繁体
繁体

Signal总裁警告:ChatGPT被高度炒作,美中AI竞赛中人类可能会成为输家

据日经报道,知名加密聊天软件Signal背后的基金会,Signal Foundation总裁梅雷迪思·惠特克警告说,鉴于人工智能技术有可能传播错误信息、加强政府监控和危害气候,美国和中国在人工智能领域争夺霸主地位的竞赛令人担忧。

Web Summit, CC BY 2.0 <https://creativecommons.org/licenses/by/2.0>, via Wikimedia Commons

曾在谷歌担任经理的惠特克最近在东京接受采访时告诉日经亚洲,”人工智能是一种营销术语,很多销售非常有限的人工智能技术的公司,都把自己打造成人工智能公司。然而,这是一项只有少数公司和政府有能力开发和部署的技术。”

人工智能已经成为美中竞争的最新战线。中共已经在中国各地建立了一个基于人工智能的大规模监控系统,并计划在2030年之前使中国成为 “世界首要的人工智能创新中心”。

与此同时,美国企业和学术界正在呼吁华盛顿为人工智能发展注入资金,以避免被中国甩在后面。

惠特克创立了谷歌的开放研究小组,以解决人工智能的社会影响等问题,她说过去十年的人工智能进步,是基于 “只有美国和中国最大的科技公司才拥有的大量数据和计算能力”。

惠特克在2020年加入了加密信息应用Signal基金会的董事会,并在2022年成为总裁。2021年,她被联邦贸易委员会聘请为人工智能高级顾问。

在接受《日经新闻》采访时,她特别谈到了ChatGPT,这个人工智能聊天机器人受欢迎程度,已经刺激了美国和中国的大型科技公司加速计划推出自己的人工智能驱动的聊天机器人版本。

“ChatGPT被高度炒作, “惠特克说:”人们对知识产权盗窃、其制造错误信息的能力,以及将信息生态系统的水搅浑的能力有真正的担忧。”

在她发表评论之前,包括马斯克在内的数十位科技名人上周签署了一封公开信,呼吁在全球范围内停止训练 “比GPT-4更强大 “的人工智能系统至少六个月,理由是 “对社会和人类有深刻的风险”。由微软支持的OpenAI上个月发布了GPT-4,这是支撑ChatGPT的技术的一个更强大的版本。

然而,惠特克的担忧,并不限于单一的平台或公司。

她说:”人工智能技术是集中资源打造的工具,它们可以有力地应用于增强社会控制,增加监视能力,使具有社会意义的决策自动化,并降低工人的权力和地位。”

惠特克说,世界上两个最大的经济体之间的 “军备竞赛”,正在被美国用来对抗对科技行业的更严格的监管。

“我们越来越多地看到以中国为理由的反对科技问责和反垄断的论点,这些论点将这些监管干预,认定为在这场所谓的人工智能军备竞赛中阻碍进步。但人工智能技术,可以帮助那些已经拥有的人,国家和大公司,增加凌驾其他人之上的权力。”

她说:”这不是我们大多数人应该满意的理由。”

在军事方面,人工智能有广泛的应用,从监视和侦察到后勤以及指挥和控制能力。根据乔治敦大学政策研究组织安全与新兴技术中心2021年的估计,中国人民解放军近年来每年在人工智能系统上花费超过16亿美元。与此同时,美国国防部可能花费了8亿至13亿美元。

在私人投资方面,美国领先于世界。根据斯坦福大学周一发布的《2023年人工智能指数报告》,2022年美国的私人人工智能投资达到474亿美元,而排在第二位的中国则为134亿美元。

然而,中国在各种类型的人工智能研究出版物方面保持领先。

除了社会和政府的影响,惠特克说,人工智能的发展也带来了环境威胁。

“从气候足迹的角度来看,训练一个大型语言模型的计算量非常大,所以需要大量的计算机功率,这需要大量的能源,”她说。

虽然没有追踪人工智能系统碳强度的标准基准,但根据斯坦福大学的报告,训练布鲁姆模型,世界上最大的开放科学、开放获取的多语言大型语言模型,所排放的碳比航空旅客从纽约到旧金山的单程旅行多25倍。

“我不反对科技公司,也不反对政府。但我认为,驱动科技公司和政治家的激励措施可能导致有害的结果,而人工智能的危害和缺陷必须接受质疑,”惠特克说。