据Vox报道，生成式AI技术的热潮席卷全球，在科技大本营硅谷更是如火如荼。这股潮流恐怕不会像加密货币和元宇宙那样虚无缥缈。上百万用户已经体验过ChatGPT的强大功能，但由此产生的技术和道德问题也摆在人类面前，短时间内无法完美解决。
它将成为社会上有史以来“最强大的经济赋权力量”，会夺走人类的工作，会“产生一种新型人类意识”，甚至可能杀死我们所有人。
生成式人工智能，是能够创造原创内容的新型人工智能技术，生成的内容包括论文、艺术绘画和软件代码。它是硅谷当前的热门话题。
如果你是ChatGPT1亿多用户中的一员，或者使用过图像生成应用程序Lensa为自己创作一幅波普艺术风格插图肖像，你就知道这种技术最新版本的实际功能，可以达到什么程度。
据其推动者称，由微软支持的初创公司OpenAI创建的ChatGPT等应用程序，只是生成式AI技术完整能力的一个开头。许多人认为这是一个千载难逢的技术突破，几乎可以影响到社会的方方面面，并颠覆从医学到法律的各个行业。
科斯拉风险投资公司是OpenAI的早期投资者。公司合伙人桑迪亚·文卡塔查兰，说：“随着ChatGPT的发布，人工智能在11月迎来了‘令人惊叹’的时刻。”
他将生成式人工智能的最新进展，比喻为互联网本身的创建，“我认为，二者绝对算得上是同一数量级的。”
在过去的二十年里，硅谷一直缺乏真正的技术突破。20世纪80年代，出现个人电脑；90年代，有了互联网；2000年代，有了手机和建立在手机上的一套应用程序。从那时起，科技界一直在等待下一个大发明，有些人仍然看好Web3或AR/VR，现在许多人认为生成式AI是其中之一。
但硅谷人经常对新技术发表宏伟宣言。如果你目睹了加密货币的兴衰，或者听到了生活在元宇宙的宏伟计划，你可能会想：生成式AI的狂欢是否只是炒作？
虽然出现了很多关于生成式AI的夸大宣传，但对许多人来说，它的体验远比Web3或元宇宙概念真实。关键的区别在于，上百万计人可以而且已经在使用生成式AI来写书、创造艺术或开发代码。
根据摩根士丹利最近的一份报告，用户对ChatGPT的接受速度是史无前例的。这个应用只花了5天的时间，就收获了100万用户，相比之下，Instagram用了2.5个月，而推特用了两年才达到相同的用户人数。
尽管这是一项新生技术，但几乎任何人都可以通过ChatGPT、DALL-E或Lensa等应用程序，迅速掌握生成式AI技术的潜力。这就是为什么大大小小的企业都在跃跃欲试地利用它。
在过去的几个月里，我们已经看到生成式AI技术是如何为主要科技公司制定商业议程的。谷歌和微软之间的竞争非常激烈，它们正在推出自己的聊天机器人，并将生成式AI纳入其核心产品，如Gmail和Microsoft Word。
这意味着，数十亿新用户可能很快就会使用这项技术，不仅仅是在一次性聊天机器人对话中，而且在我们每天都要使用的工作和交流应用程序中。其他主要科技公司Meta、Snap和Instacart，也在快速将生成式AI纳入其主要应用程序。
这不仅仅是科技巨头在做的事。在硅谷的资金比以前更紧张的时候，生成式AI的热度启动了对小型初创企业的新一轮投资。据Crunchbase新闻报道，北美科技行业在2022年最后一个季度的创业公司交易，与前一年相比下降了63%。
生成式AI不仅仅是炒作，最令人信服的证据是，各种各样的人正在以意想不到的理由使用ChatGPT，包括许多不认为自己是技术专家的人。
大学生们正在使用这个技术在论文考试中作弊。求职者用它来完成写求职信这个令人头疼的任务。像BuzzFeed这样的媒体公司正在使用它来生成列表，并协助完成报道。
OpenAI的产品和伙伴关系副总裁彼得·韦林德说：“我们过去会问，‘这项技术是否准备好为人类打造有用的产品？’ChatGPT显示，人们正在将它应用于各种场景，各行业的从业者都发现，它可以在生活的各个部分发挥作用。”
对于这项新技术，存在诸多问题和担忧。如果不加以控制，生成式AI可能会延续有害偏见；使骗子得逞；输出错误信息；造成失业，甚至有人担心它会对人类构成生存威胁。
以下是围绕生成式AI所有令人激动和紧张的讨论。
将炒作与现实分开
从风险投资现金到行业活动，再到研究下一个AI项目、由20多岁年轻人组成的黑客之家活动，在这个行业需要一些刺激的时候，生成式AI引发了科技界狂热。
根据商业研究公司CB Insights最近的一份报告，2022年，投资者在110项协议中，向生成式AI初创企业投入超26亿美元，这是此领域投资的最高纪录。这一领域的最大规模投资部分来自大型科技公司。微软在1月份向OpenAI投资了100亿美元，谷歌在2月份向生成式AI初创公司（也是OpenAI的竞争对手）Anthropic投资了3亿美元。
科技风险投资公司NFX联合创始人兼合伙人詹姆斯·柯里尔说：“我们每14年就有一次这样的技术浪潮。这将对一切产生多多少少的影响。”
此公司在过去几年中投资了八家生成式AI公司，在过去两个月中，柯里尔与约100家生成式AI初创公司进行了交谈。
尽管这一领域的总体资金有所增加，许多生成式AI初创公司的预算都很紧张，有些根本没有任何资金。在报告列出的250家生成式AI公司中，33%的公司没有任何外部股权融资，另外51%的公司是A轮或更早融资，由此可见这些公司是多么年轻。
这些人工智能新秀面临着一个巨大挑战。训练一个大型AI模型的成本可能是数百万美元。根据高级人工智能研究小组EpochAI最近的一份报告，由于互联网数据量越来越大，到2030年，训练运行生成式AI的机器学习模型的平均成本可能会增长到5亿美元，这是训练单一模型的成本。
创业公司Neeva首席执行官斯里达尔·拉马斯瓦米说：“在训练2000亿个参数模型方面，我们并不是专家。这就像是赛马运动，需要大量的资金，但我们没有这些资金。”
Neeva是一个无广告搜索引擎，最近推出了其产品的AI版本。拉马斯瓦米说，像他们这样的初创公司可以通过专注于特定的应用场景而获胜。他认为，搜索功能是值得投入的。但他认为，在打造产品之前，初创公司“需要弄清楚这是一时的狂热，还是在创造独特的用户价值。”
然而，这些障碍都没有影响到新型AI的热度。最近几个月，在旧金山和硅谷，生成式AI聚会、联合办公空间和会议蓬勃发展，感觉像是回到了上世纪末移动创业热潮中的兴奋状态。
2月，旧金山举办了一场以生成式AI为重点的编程马拉松（Hackathon，电脑程序员以及其他与软件发展相关的人员，如图形设计师、界面设计师与项目经理，相聚在一起，以紧密合作的形式去进行某项软件项目。），一场AI领域女性午餐，以及“从零构建ChatGPT”研讨会，还有其他几十场以AI为重点的活动。
年轻的科技创始人，给旧金山街区海斯谷起了绰号“智慧谷”，因为这个地区突然汇集了许多与AI有关的活动和公司。
“智慧谷”通讯和人工智能社区的联合创始人伊万·波洛说：“我非常看好这次的AI浪潮，因为我觉得它已经达到了应用商店刚发布时候的水平。” 波洛是一位科技企业家，最近搬回了旧金山。他说：“它带来的感觉完全不同。新一代技术将在我们的余生中影响人类的未来。”
情人节当天，在旧金山举行的由Jasper（一家使用生成式AI创造营销文案的初创公司）主办的1000多人会议上，会场气氛充满了乐观和兴奋的情绪。与会者基本上忽略了海湾大桥迷人的海滨景色，他们盯着舞台，仔细聆听来自OpenAI、Stability AI和Anthropic等一些顶级生成式初创公司高管的讲话。
GitHub前首席执行官、已转为投资者的纳特·弗里德曼坐在台上接受采访时说：“我认为这将改写文明，大家要系好安全带。”
弗里德曼是当天的许多发言者之一，他们坚称AI的最新进展是革命性的，即使还不完美。
在这些生成式AI活动中，我所接触的许多创始人都有远大的发展愿景，比如为建筑师提供一个平台，根据他们想要建造的建筑风格的书面描述生成设计图，或者通过应用程序，根据个人兴趣每天生成想要阅读的所有顶级社交媒体帖子的电子邮件。
但是，大多数创业公司仍然处于早期阶段，要么只有一个想法，要么只有一个粗略的演示文稿。
到目前为止，生成式AI更发达的应用案例之一，是用于创造营销和其他媒体内容。Jasper公司是这方面最典型的范例之一。这家成立两年的公司利用AI创建了博客文章、销售邮件、SEO关键词和广告等营销副本。
2021年，公司称其收入为3500万美元，截至12月，它有近10万名付费客户，包括Airbnb、IBM和哈珀·柯林斯等品牌。11月，此公司以15亿美元的估值筹集了1.25亿美元的资金。Jasper没有向Recode(即Vox的科技专栏)披露其成本，所以不清楚是否存在盈利。
BuzzFeed等一些媒体公司，也已经开始使用OpenAI创建个性化测验并帮助员工进行头脑风暴。开源生成式AI公司Stability AI表示，它在电影行业有付费客户，他们借助公司软件自动生成图像。
生成式AI的更大承诺是改变我们的世界，而不是写广告。这项技术的最大支持者们，希望它能通过诊断疾病或在法庭上比人类更好地申辩案件，来改变医学和法律等领域。领先的学术专家警告说，我们离这个目标还很远，一些人质疑我们是否能达到这个目标。
圣菲研究所人工智能和认知科学教授梅勒妮·米切尔说：“（人工智能）系统存在一些基本的现实问题，如它无法分辨事物的真假……这种问题恐怕不会轻松解决，这比一些人想象的要难。”
一些监管机构也有自己的疑虑。联邦贸易委员会最近发表了一篇博文，警告科技公司“控制好自己的人工智能主张，不要过度承诺公司算法或AI工具可以实现的功能”。
这篇博文中提到：“如果你觉得，毫无根据地宣称自己的产品是AI支持的，这样不会为你招来惩罚，那么请三思而后行。”
这也是对最近人工智能热潮的一种批评，即许多公司只是为了炒作而把“人工智能”加到他们的现有业务上。
人工智能的炒作已经存在一段时间了。2019年，一家风险投资公司的研究发现，40%的欧洲 “AI初创企业”在其主要业务中并没有真正使用AI技术。面对最近围绕生成式AI的大肆宣传，一些批评者担心人工智能的热潮大多是炒作。
大公司整合AI的一些尝试适得其反，比如微软的必应AI能聊天机器人精神错乱的回应，科技出版物CNET自动化金融专栏的失败尝试，最终只是在剽窃他人作品并发布错误信息。
我问风险投资家詹姆斯·库里尔，他是否认为过度夸大生成式AI会有风险。
他告诉我：“我觉得这是整个硅谷文化的问题，即喝酷爱饮料（注：盲目信任或追随创业者所编造的新颖门类）的习惯。当然，我们应该对新颖概念感到兴奋，并认真思考我们能创造出什么。因为在这一点上，技术已经超前于我们的认知。”
生成式AI的局限性和危险性
就其所有潜力而言，生成式AI存在很大局限性，并带来了严重风险。我将这些风险归为三类：犯事实错误；推广攻击性内容，以及接管人类生计或自主权。现在，主要的科技公司谷歌和微软在这项技术上竞相击败对方，我们看到这项技术被推广到大众中，而它的问题还没有解决。
对于第一点，生成式AI可能会传播错误信息，而且错得离谱。在发布时，微软的ChatGPT版本BingGPT，配备了覆盖整个互联网的最新索引功能，但是它无法告诉你最新的《阿凡达》系列电影何时会在你附近的影院上映（最近它还坚持认为，《阿凡达2》还没有上映）。谷歌即将发布的聊天机器人巴德在演示时，对谁发明了第一架望远镜给出了错误的答案。
米切尔说：”这些系统在某些方面非常出色，但它们经常会犯这些诡异的、非常不像人类可以犯下的错误，这实际显示，AI不是以人类的方式进行思考的。”
在过去的几年里，很难衡量生成式AI的先进程度，因为大部分开发都是在私下进行的。谷歌雇了一些世界领先的人工智能科学家，他们长期以来都被视为此领域的行业领导者。但除了研究论文和一些幕后工作外，公众无法真正看到谷歌的生成式AI能力。
当OpenAI与微软合作，将其最新的生成式AI技术ChatGPT快速推广到大众面前时，一切都改变了。微软利用ChatGPT底层技术，建立了独立的“BingGPT”聊天机器人，挑战谷歌在搜索领域的主导地位，并掀起一场技术军备竞赛。
微软首席执行官萨蒂亚·纳德拉上个月告诉科技新闻网The Verge： “我们的创新会让（谷歌）出来展示他们的能力，而且我想让人们知道，是我们让他们亮出绝活的，那会是一个很棒的日子。”
谷歌在展示自己生成式AI能力的巨大压力下，宣布它将在未来几周内发布自己的AI聊天机器人巴德。公司表示，它在公开发布生成式AI技术方面，比一些竞争对手花的时间要长，因为它想确保这是足够负责任的发布。
谷歌专注于人工智能的大脑团队研究主任道格拉斯·埃克最近告诉Recode：“我们的策略是在这些模型的发布空间中相对缓慢地行动，历史会证明我们做的事情是否正确。”
谷歌在这一点上的谨慎是有理由的，如果不加控制，生成式AI可能会做得更糟，而不仅仅是把事实弄错。人工智能可以从它所训练的数据中，反映出种族主义和性别歧视的偏见，正如图像生成应用程序Lensa将其女性头像“性化”（注：此前科技媒体Wired有篇文章称，Lensa根据女性童年照片生成了裸照）那样。
在宏观层面上，它可能以不可预测的规模取代人类工作岗位，进而造成经济不稳定。
人工智能也可能被故意滥用。最近的一个例子中，一名记者使用音频生成AI工具，创建了一个自己声音的假录音，然后打电话给银行，用录音成功地侵入了自己的账户。另一个例子中，微软的AI聊天机器人让《纽约时报》记者凯文·罗斯“深感不安”，在漫长的哲学对话过程中，必应内测版聊天机器人告诉罗斯，它想像人类那样活着，并向记者突然表白爱意，并鼓励他离开自己的妻子。
注：加美财经曾发布过这篇报道，点击回顾：《必应AI机器人的可爱与暗黑：想变成人类并黑掉互联网，还自称爱上了人类》
令人担忧的是，人工智能可能被用于操纵人们的情绪和对现实世界的感知，无论是故意的（如骗子利用人工智能冒充他人），还是通过人工智能本身的非故意行为（如BingGPT在情绪上的“精神失常”）。
再往前走十步的话，一些生成式AI最热心的支持者还担心它有一天会超越人类，对人类构成生存威胁。OpenAI最初是一个非营利组织，它的创立在很大程度上是因为对通用人工智能（AGI）的恐惧，即认为人工智能将达到与人类能力相当或超越人类的通用智能水平。
当OpenAI的首席执行官山姆·阿尔特曼在最近的一次科技活动中，被问及人工智能的最佳和最坏情况时，他说“最坏的情况就是，（人工智能）把我们都灭了（lights out for all of us），我认为说出这一点很重要”。
许多杰出的科学家仍在争论这一观点。
霍金在2018年告诉BBC：“完全人工智能化的发展，可能意味着人类的终结。”这是一个看起来很牵强的想法，但正如我的同事凯尔西‧派珀所写的那样，对于真正在构建这项技术的人来说，这个论断很有道理。
米切尔说：“自从人工智能开始出现，人们就存在幻想：‘会不会出现像电影里的那些机器人，真的可以取代人类完成所有任务，甚至超越人类能力？’，但我们没有一套评判标准，例如‘它如果实现了这10件事，就意味着它是完全智能的’。”
虽然我们可能还远远没有看到人工智能杀手机器人向人类霸主复仇，但生成式人工智能的创造者担心其滥用的事实，是我们应该认真对待它的另一个原因。
生成式人工智能领域的主要技术参与者，即像谷歌、微软、Meta以及OpenAI这样的大型科技公司，也有内部政策和团队来权衡这些产品的危害。但批评人士表示，科技公司的商业利益可能与它的道德利益相悖。
谷歌在2021年初改组了其道德人工智能团队，此前团队的两位领导人蒂姆尼特·格布鲁和玛格丽特·米切尔表示，由于担心公司审查他们对大语言模型中偏见的批评，他们被解雇了。
许多人，包括一些科技公司本身，都在呼吁外部监管机构介入，设置护栏。虽然政府在技术发展方面历来进展缓慢，但一些州和城市已经通过立法，限制某些类型的人工智能，如面部识别和预测性警务工具。我们可能会开始看到，与此类似的针对生成式人工智能的拼凑式监管办法。
在许多方面，这种新形式的人工智能比其他最近的技术趋势更容易理解，比如区块链或元宇宙，后者都是非常概念化的，而前者是有形的。你不需要一个400美元的VR头盔或加密钱包，来看看生成式人工智能能做什么。你只需要加载一个ChatGPT屏幕，或者输入文字，就能产生一些像DALL-E这样的艺术作品。
无论是好是坏，生成式人工智能都有巨大的潜力来重塑我们的创造力概念，而证明就在产品中。这就是为什么我可以说，这可能不仅仅是一种趋势。
如果你不想相信我的话，你可以自己试试。
