本文刊发在纽约时报评论，作者卡尔·纽波特是乔治城大学计算机科学教授，也是《深度工作》一书的作者。
科技时代的技术革命往往伴随着乐观与兴奋。回想2007年，乔布斯发布iPhone时，全场掌声雷动。
如今，主要人工智能公司似乎正在采取一种更加阴郁、更加怪异的策略：郑重其事地描述自己的模型将带来怎样的危害，同时又表现得仿佛对此无能为力。
Anthropic最近发布了一份堪称这种风格代表作的报告。
这份题为《当人工智能开始构建自己》的报告听上去颇为骇人。报告声称，人工智能可能正在接近一种能力，即“自主设计并开发自己的下一代版本”。
公司表示，希望这种递归式自我改进能够为世界带来“巨大的益处”，但同时也公开担忧，人类可能因此“失去对这些系统的控制”。
公众对这份报告的关注，主要集中在其中一个似乎呼吁全球暂停人工智能研发的部分。但如果仔细阅读就会发现，暂停研发其实并不是Anthropic真正提出的主张。
报告的意思是：如果有办法放慢这项技术的发展速度，那么人们应该这样做；但只要那些“最不谨慎”的参与者仍在全速前进，Anthropic就别无选择，只能跟着继续向前冲。
Anthropic就像一只把死鸟扔在你家门口的猫，详细列出自己的产品可能制造出的可怕未来，然后耸耸肩，转身继续努力让这些警告变成现实。
Anthropic并不是唯一这样做的公司。
OpenAI首席执行官奥尔特曼也经常发表悲观论调。他曾把大型语言模型的发展比作原子弹的诞生；在GPT-5发布时，他还在社交媒体上配发了一张《星球大战》中“死星”的图片。
他也曾多次表示，人工智能工具必然会带来巨大的经济冲击，而唯一的解决办法将是政府提供大规模财政支持，例如全民基本收入或者公共财富基金。
不妨把这种策略称为“末日营销”。
为海外华人提供可靠的信息和分析。如果想看更多内容与即时更新，可以在 Bluesky、Telegram、X 搜索「causmoney」，深度分析和评论也可以直接搜索「caus.com」。
这是当前人工智能时代最鲜明、也最引人注目的特征之一。而我越来越相信，这种做法在道德上根本站不住脚。
对于人工智能公司热衷于末日营销，实际上只有两种解释。
第一种可能是，它们真的相信自己研发的系统，存在相当大的概率引发极具破坏性的事件。最乐观的情况是摧毁现有经济体系，最糟糕的情况则是导致人类灭绝。
如果真是这样，那么任何合理的伦理体系都会得出同一个结论：唯一能够接受的做法，就是立即停止研发任何可能加速这一未来到来的产品，并动用全部资源推动其他人工智能公司也这样做。
从道德角度来看，除此之外的任何反应都近乎骇人听闻。
第二种可能是，这些公司其实并不真正担心这些风险。之所以不断注入这种无法解决的末日叙事，是出于其他目的。
也许这些公司希望在筹备IPO时放大外界对其技术能力的想象；也许希望通过这些充满仪式感的报告和忧心忡忡的访谈，吸引那些沉迷末日叙事文化的顶尖工程师；还有人认为，这是利用监管恐慌来限制潜在竞争对手。
无论是哪一种原因，本质上都意味着这些公司正在利用数百万人的焦虑，为极少数大股东创造财富。
这种冷酷同样令人不寒而栗。
关于人工智能，我们已经习惯了这种无助而令人焦虑的预测口吻，以至于忽略了其本身有多么怪异。
试想一下，如果福特汽车公司发布一份报告，表示自己担心畅销的F-150皮卡未来可能会突然自燃，但由于汽车技术的发展不可阻挡，而且意义重大，因此公司对此无能为力。
你大概很难想象这样的场景。
因为任何正常的消费品公司都不会这么干。
人工智能公司也应该如此。
要做到这一点，这些公司的创始人首先必须停止把人工智能描述成一种自己只能勉强管理的历史洪流。事实并非如此。
人工智能只是这些公司根据特定商业计划设计并销售的一系列工具。
因此，它们应该像介绍任何消费产品一样介绍自己的产品：明确说明产品面向谁，解释产品能够带来什么好处，更重要的是，对产品造成的任何伤害承担责任。
人工智能披着高科技外衣，并不意味着可以凌驾于常识性的安全标准之上。
如果这些公司仍坚持把自己包装成未来反乌托邦世界的无奈观察者，那么或许是时候强迫它们面对现实了。
作为消费者，我们完全可以拒绝参与这场末日营销游戏。
下次Anthropic再发布耸人听闻的报告，或者奥尔特曼再次忧心忡忡地描述OpenAI将带来的颠覆时，我们完全可以回到最现实的问题：
“好吧，但我每月花1000美元购买这些Token，到底能得到什么？”
如果它们继续升级末日叙事，那么或许应该把恐惧变成嘲讽。Anthropic那些一本正经的白皮书，其伪科学气息其实已经接近讽刺作品。
当前围绕人工智能形成的整体舆论氛围，鼓励人们带着焦虑顺从这些科技领袖。但这种局面完全可能迅速改变。
政府也可以发挥作用。
特朗普最近签署行政命令，允许人工智能公司在产品发布前自愿提交模型进行风险评估。
这一制度应当变成强制要求。
为海外华人提供可靠的信息和分析。如果想看更多内容与即时更新，可以在 Bluesky、Telegram、X 搜索「causmoney」，深度分析和评论也可以直接搜索「caus.com」。
而且政府应当敢于揭穿那些不断夸大产品危险性的公司。不能允许企业一边宣称自己的产品可能造成巨大破坏，一边又毫无限制地继续开发和销售这些产品。
令人意外的是，现任政府或许正以自己难以预测的方式朝这个方向迈进。
今年4月，Anthropic宣布不会公开发布Claude Mythos Preview模型。公司表示，这个模型寻找和利用软件漏洞的能力可能对经济和公共安全造成“严重”后果。
因此，公司只向少数机构开放该模型，以帮助修补安全漏洞。
这一决定引发恐慌和争议，同时也强化了Anthropic作为安全导向人工智能领导者的品牌形象。
上周，Anthropic又推出了两个版本，一个增加了安全护栏面向公众开放，另一个则放松部分限制，仅向少数机构开放。
随后，特朗普政府以国家安全为由进行干预，将这些模型列入出口管制名单，迫使Anthropic暂时关闭访问权限。
一种较为怀疑的解读是：此前围绕Mythos模型的那些担忧，更像是一场精心设计的公关活动。
毕竟，人们很难理解为什么上周才加入的那些安全措施，不能在4月首次公布模型时就直接加入。
如果这样理解，那么政府的干预在某种程度上等于公开指出了Anthropic的问题。
这些前沿实验室经常以中国为理由，主张在没有实质监管压力的情况下尽可能快速推进产品开发。
但管理地缘政治风险是政府的职责，不是硅谷的职责。
上世纪90年代，美国生物技术行业担忧基因工程技术可能带来的风险时，并没有为了抢在中国之前行动而急着克隆人类。相反，它们推动国会和国际机构限制最危险的应用。
别人可能做坏事，并不会赋予你做类似事情的道德权利。
法院同样可能成为迫使人工智能公司改变叙事方式的力量。
十年前，社交媒体巨头们也曾处于类似位置。它们试图逃避自身产品造成的明显危害，把这些平台描述成数字时代公共广场，是通信与民主发展的自然演进，因此不应受到限制。
但今年3月，一项具有里程碑意义的判决认定Meta和Google应对其平台造成的伤害承担赔偿责任。
目前还有数百起类似诉讼正在推进之中。
人工智能行业是否也会面临类似局面？
上周，人们已经看到第一个信号。德国一家法院裁定，大型语言模型运营商应对模型生成的文本承担责任。
像Anthropic这样不断发布报告强调自身产品危险性的公司，未来或许会发现，这些报告最终可能成为法庭上的证据。
作为计算机科学家和数字伦理学研究者，我既对人工智能的潜力抱有希望，也对当前科技领袖谈论人工智能时那种恐怖而阴郁的方式感到困惑。
这本来应该是一个充满希望的创新时代。
然而，人们的情绪却正在被硅谷出于自身利益、在道德上难以自圆其说的末日营销所操纵。
这种传播策略必须停止。
为海外华人提供可靠的信息和分析。如果想看更多内容与即时更新，可以在 Bluesky、Telegram、X 搜索「causmoney」，深度分析和评论也可以直接搜索「caus.com」。
它对公众心理健康造成的伤害，或许已经超过人工智能迄今带来的实际收益。
不过，也出现了一些变化迹象。
或许是在回应Anthropic关于递归自我改进的报告，OpenAI随后发布了一份题为《为所有人创造收益：我们的计划》的文件。
文件表示：“彻底自动化一切并不是我们希望看到的未来。”
公司声称，它的目标是创造一种能够明确改善人类生活的技术，就像20世纪初电灯的普及一样。
这份文件读起来就像过去大型科技公司常见的、过度乐观的市场宣传材料。
没有激起我的情绪，也没有给我留下特别深刻的印象。
总算让人松了一口气。
