据CNBC，谷歌首席互联网专家、有“互联网之父”之称的温顿·瑟夫对那些希望推动人工智能聊天业务的企业高管们说：“不要这样做。”

瑟夫周一（2月13日）在山景城的一次会议上，呼吁与会者不要因为“这是一个热门话题”就急于投资对话式人工智能。这一警告是在ChatGPT风靡一时之际发出的。

瑟夫周一对与会者说：“这里面有道德问题，我希望你们中的一些人能考虑一下。每个人都在谈论ChatGPT或谷歌版本的ChatGPT，但我们知道它并不总是按我们希望的方式工作。”他指的是谷歌上周宣布的“巴德”对话式人工智能。

他发出警告之际，像谷歌，Meta和微软这样的大型科技公司正努力在对话式人工智能领域保持竞争力，同时迅速改进一项仍然经常出错的技术。

Alphabet董事长约翰·亨尼西当天早些时候表示，这些系统距离大规模应用还有一段路要走，在对公众进行测试之前，还需要解决许多不准确和“毒性”的问题。

瑟夫自2005年以来一直担任谷歌的副总裁和“首席互联网布道者”。他被称为“互联网之父”之一，因为他参与设计了一些用于构建互联网基础的架构。

瑟夫警告说，不要仅仅因为这项技术“真的很酷”就进行投资，即使它并不总是好用。

瑟夫说：“如果你认为‘哈，我可以把它卖给投资者，因为这是一个热门话题，每个人都会向我砸钱’，那就别这么做了。要深思熟虑。你是对的，我们不能总是预测这些技术会发生什么，老实说，大部分的问题是关于人的。这就是为什么我们人类在过去400年里都没有改变，更不用说过去4000年了。”

瑟夫接着说：“他们会追求对自己有利的事，而不是对你有利的事。所以我们必须记住这一点，并慎重考虑如何使用这些技术。” 他似乎指的是人类普遍的贪婪。

瑟夫说，他试着让其中一个系统在每句话的末尾加上一个表情符号。系统并没有这样做，当他告诉系统他注意到了之后，系统道歉了，但并没有改变自己的行为。

他在谈到聊天机器人时说：“我们离意识或自我意识还有很长的路要走。”

他说，聊天机器人所说的会做的和实际做的之间存在差距。“这就是问题所在……你无法区分一个有说服力的回答，和一个准确回答之间的区别。”

瑟夫举了一个例子，他让聊天机器人提供自己的传记。他说，机器人给出的答案是真实的，尽管其中有不准确的地方。

“在工程方面，我认为像我这样的工程师，应该负责设法找到一种方法来驯服这些技术，使它们不太可能造成伤害。当然，根据应用的不同，写出一个不入流的小说是一回事。而给别人建议，会产生医疗方面的后果。所以，弄清楚如何将发生最坏情况的可能性降到最低，非常重要。”