logo
繁体
繁体

他在30年前就预言了互联网的黑暗面,然后神秘消失了,曾说在麻省理工学不到知识

Reed Albergotti在华盛顿邮报发表文章,菲利普·阿格尔曾是一名计算机科学家,后来却成为了人文学科教授,他早在30年就尖锐而准确地提出了大数据收集对社会造成的伤害以及人工智能的弊端,然而,当时的人听不懂他在说什么。多年之后,人们才发现这位学者的观点是多么地准确且有预见性,人们希望听到这位学者更多的观点时,却发现这位学者已经神秘地从公众视野中消失了。

Photo by Franki Chamaki on Unsplash 

当时大多数美国人还没有电子邮件地址或互联网接入,甚至没有个人电脑,当时菲利普·阿格尔(Philip Agre)就预见到,计算机有一天会促进社会上所有数据的大规模收集。

当时在加州大学洛杉矶分校担任人文教授的阿格尔写道,这个过程将改变并简化人类的行为。由于这些数据不是由一个强大的“老大哥”政府收集,而是由许多实体出于不同的目的收集,他预测人们会心甘情愿地交出非常隐私的、关于个人好恶的大量信息。

拥有麻省理工学院计算机科学博士学位的阿格尔在一篇学术论文中写道:“因为缺乏奥威尔笔下那种反乌托邦式的公开恐怖,令人担忧的发展可能并‘不那么糟糕’。”

注:英国作家乔治·奥威尔创作过一部反乌托邦小说《一九八四》。它重点探讨当政府权力过分伸张时,对社会所有人和行为实施压抑性统治的风险。阿格尔认为由于数据的收集并非由政府而是由企业主导,因此恶劣程度有所降低。

将近30年后,阿格尔的论文似乎有着惊人的先见之明,他对未来的设想已经以数据产业的形式出现,它不分国界,也几乎没有法律约束。不同的广告网络和移动应用程序,为各种目的收集来的数据被用于影响选举,在至少一个案例中,被用来揭露同性恋神职人员。

但阿格尔并没有止步于此,他还预见到了面部识别技术的滥用,他预言我们没有能力抵制精心制作的虚假信息,他还预言如果不进行道德和哲学调查,人工智能将被用于黑暗用途。

当时,没有人理会他的话。现在,阿格尔的许多前同事和朋友说,他们近年来更多的是在思考他的话语,并重新阅读他的作品,因为互联网爆炸性和不受控制的增长所带来的隐患已经显现出来,并逐步侵蚀了民主,并帮助促成了1月份对美国国会大厦的暴力袭击。

马克·罗滕伯格在1998年与阿格尔一起编辑了一本关于技术和隐私的书,他现在是人工智能和数字政策中心(Center for AI and Digital Policy,一个旨在确保人工智能和数字政策能够促进更加公正社会的政府组织)的创始人和执行主任,他说:“我们正在承受忽视阿格尔这样的人的话所带来的后果。”

夏洛特·李在加州大学洛杉矶分校攻读研究生时师从阿格尔,现在是华盛顿大学以人为本的设计和工程学教授,她说她今天仍在研究他的成果并从中学习。她说,她希望阿格尔能在身边,这样就能帮助她更好地理解他的观点。

然而,阿格尔不在,2009年,他干脆从地球上消失了,他放弃了加州大学洛杉矶分校的职位。当朋友们报告阿格尔失踪时,警方找到了他,并确认他没事,但阿格尔再也没有回到公众辩论中。他最亲密的朋友以尊重阿格尔的隐私为由,拒绝进一步讨论他失踪的细节。

阿格尔在学术研究和写作中探讨的许多观点和结论,直到最近才在专注于追究技术公司责任的智囊团和非营利组织中出现。

加州大学洛杉矶分校信息研究教授克里斯汀·博格曼曾帮助招募阿格尔在学校担任教授,她说:“我看到菲尔在90年代写的东西,在今天被说成是新的想法。”

Photo by UX Indonesia on Unsplash 

华盛顿邮报向阿格尔最后一个已知的电子邮件地址发送了一条信息,它被退回了,邮报试图联系他的妹妹和其他家庭成员的努力也没有任何效果。十几位前同事和朋友都不知道阿格尔今天住在哪里。

一些人说,几年前,他还住在洛杉矶附近的某个地方。

阿格尔是个数学神童,他曾是一个受欢迎的博主和《连线》杂志的撰稿人。现在,他在主流技术圈子里几乎被遗忘,但他的论文仍然经常被学术界的技术研究人员引用,并被认为是社会信息学领域、或研究计算机对社会影响的基础性读物。

阿格尔于1989年在麻省理工学院获得博士学位,同年万维网被发明。当时,即使是在押注计算机崛起的硅谷风险资本家,也很少有人预见到一切事物的计算机化会多么深入和迅速地改变生活、经济甚至政治。

包括阿格尔在内的一小群学者观察到,计算机科学家很大程度上是在真空中进行他们的工作,与周围的世界完全脱节。同时,这个世界之外的人对技术或技术如何改变他们的生活缺乏足够深入的了解。

到20世纪90年代初,阿格尔认为人工智能领域已经误入歧途,而缺乏对这个行业的批评是主要原因之一。在人工智能的早期,大多数从事人工智能的人都专注于复杂的数学问题,旨在使人类任务自动化,但成功率有限。然而,该行业将他们编写的代码描述为“智能”,赋予它实际上并不存在的人类属性。

加州大学欧文分校信息学荣誉教授杰弗里·鲍克在1997年发表的名为《试图改革人工智能的教训》的里程碑式的论文,在很大程度上被视为经典。鲍克表示,阿格尔注意到,那些建立人工智能的人忽视了外界对这项技术的批评,但阿格尔认为,批评应该是构建人工智能的一部分。

鲍克说:“这个论点相当精彩,对于人工智能这个领域,我们花了很多年才理解,一只脚踩在设计的工艺上,另一只脚应该踩在批判上。”

尽管如此,人工智能已经不受约束地向前推进,甚至将自己编织到“低技术”行业中,并影响到大多数使用互联网的人的生活。它指导人们在YouTube和Facebook上看什么和读什么,它决定被定罪的罪犯的刑期,帮助公司实现自动化并减少工作岗位,允许独裁政权以更高的效率监控公民,并阻挠民主的尝试。

今天的人工智能,已经在很大程度上放弃了阿格尔和其他人在80年代和90年代所做的那种工作,它专注于摄取大量数据,并用世界上最强大的计算机进行分析。但随着新形式的人工智能的发展,它也产生了一些问题,从歧视到过滤气泡再到虚假信息的传播,一些学者认为,部分原因是它缺乏阿格尔30年前所指出的那种自我批评。

注:过滤气泡,filter bubble,是一种网站针对个人化搜寻而提供筛选后内容的结果,这种结果可能会导致使用者越来越看不到他们不同意的观点或资讯,这使得人们的认知过于单向,并只能处于他们的文化、意识形态气泡之中。

12月,谷歌解雇了人工智能研究科学家提姆尼特·格布鲁,因为她写了一篇关于谷歌人工智能工作所面临的道德问题的论文,这凸显了人工智能道德的持续紧张以及这个行业对批评的厌恶。

蒙特利尔魁北克大学计算媒体教授索菲安·奥德利曾经是一名人工智能研究人员,他说:“这是一个如此同质化的领域,这个领域的人没有看到,也许他们正在做的事情可能会受到批评,阿格尔说的是,开发这些技术的人需要而且有必要接受批评。”

阿格尔在马里兰州长大,他说他在那里被当地的一位心理学家“塑造成了一个数学神童”。他在1997年的论文中说,学校整合导致了对天才学生的搜寻。据一位朋友说,阿格尔后来对他的父母提前送他上大学感到愤怒,他与父母的关系也因此受到影响,这位朋友是在匿名的条件下说的,因为阿格尔没有允许他谈论他的个人生活。

Photo by Markus Spiske on Unsplash 

阿格尔写道,当他进入大学时,除了数学之外,学校对他没有学习其他知识的要求,他在研究生院休学一年,去旅行和阅读,他写道:“到了麻省理工学院的研究生院,除了数学和计算机之外,几乎没有学到真正的知识,所以我以一种不加区分的方式,依靠自己的资源,试图成为一个受过教育的人。”

从某种意义上说,阿格尔开始反叛他的职业,他开始寻找人工智能的批评者,研究哲学和其他学术学科。他写道,起初他发现这些文本“难以理解”,因为他已经训练了自己的思维,将他读到的所有东西都像数学或计算机科学的技术论文那样进行剖析。

他写道:“终于明白,不要再把这些奇怪的学科语言翻译成技术模式,而是要根据它们自己的条件来学习它们。”

阿格尔对其他领域的知识兴趣使他离开了计算机科学,并将他变成了当时的另类。一个出色的数学家,对人工智能最先进的理论有着深刻的理解,同时也能跳出这个领域,从一个局外人的角度来批判性地看待它。

由于这个原因,阿格尔成为了一个受欢迎的学者。几位前同事表示阿格尔对整个学术和流行领域的书籍都很渴求,他的办公室或图书馆里堆满了书籍。他因其广泛的好奇心所激发的原创性思维而闻名。

加州大学洛杉矶分校信息研究教授博格曼说:“他是一个非常有启发性的思考者,一个你一有机会就会想和他一起吃饭的人。”

阿格尔将他对人文和技术的理解结合起来,剖析技术在发展过程中对社会的影响。今天,他的许多分析读起来就像是成真的预言。

在雅虎、亚马逊和eBay上市前一年发表的一篇1994年的论文中,阿格尔预见到计算机可以促进对社会上所有数据的大规模收集,人们会忽略隐私问题,这种收集不是“老大哥”(即政府)主导并用来监视公民的,而是许多不同的实体出于许多目进行的收集,这有好的一面,但也会带来一些问题。

但更深刻的是,阿格尔在论文中写道,数据的大规模收集将改变和简化人类行为,使人们的行为更容易被量化。这种情况已经发生了,规模之大很少有人能够想象,因为社交媒体和其他在线网络已经将人类的互动归纳为容易量化的指标,例如是否为朋友,是否喜欢,是否是追随者或被追随者。而这些互动产生的数据已经被用来进一步塑造行为,通过有针对性的信息,旨在操纵人们的心理。

2001年的时候,阿格尔写道:“你的脸不是一个条形码”,他反对在公共场所使用面部识别。他在文章中预测,如果这项技术在西方继续发展,它最终会被其他地方采用,例如,允许中国政府在20年内追踪其国内的每个人。

20年后,美国正在就执法部门和移民官员使用面部识别技术进行辩论,一些州已经开始禁止在公共场所使用这种技术,尽管有抗议声,但要遏制该技术的扩散可能为时已晚。正如阿格尔所预测的那样,中国已经开始大规模使用该技术,允许进行前所未有的监控。

阿格尔通过一个名为“红岩食客新闻服务”(Red Rock Eater News Service)的互联网邮件列表将他的观点带给大众,这个邮件列表以贝内特·瑟夫的“谜语书”(Bennett Cerf’s book of riddles)中的一个笑话命名,它被认为是博客的一个早期例子。

阿格尔有时也对他成就的局限性深感沮丧,他的观点是如此的超前,直到25年后才被人注意到。鲍克说:“他觉得人们不明白他在说什么,他为懵懂迷惑的听众答疑解惑,而这些迷惑的听众却无法理解他所说的内容。”

博格曼说:“他当然对没有更多的人接受感到沮丧,但他领先于自己一代的人,别人无法接受是不可避免的事情。“

阿格尔的最后一个项目是被朋友和同事俗称为“互联网圣经”,这是一本从头到尾剖析互联网基础的权威书籍,但他从未完成这本书。

据一位前同事说,刚开始的时候,阿格尔时不时地出现,但后来,好多年都再也没有见过他。

加利福尼亚大学欧文分校的美术教授西蒙·彭尼曾广泛地研究过阿格尔的论文,他问道:“为什么某些类型的有洞察力的学者,甚至对某些领域有如此深刻理解的人,基本上会都会挥舞着手臂,然后说‘我不干了’?从心理学上讲,人们需要一个喘息的时间来问自己一个大问题:谁要继续下去,为什么要继续下去?是否要继续从事这种战斗,终点在哪里?我是不是走到头了?也许他们会回答自己:这与我无关了,我走错路了。”

几年前,加州大学洛杉矶分校的前同事想把他的作品收集起来,但阿格尔再次出现,叫他们停止收集。

阿格尔一生的工作没有完成,他提出了问题,但没有给出答案。印第安纳大学信息学系博士后约翰·塞伯格对阿格尔的工作进行了全面的研究,他说这未必是一件坏事。

塞伯格说,阿格尔的工作提供了一种思考日益数字化的社会所面临的问题的方式。但是今天,在阿格尔失踪十多年后,人们对这些问题有了更清楚的认识,也有更多人在研究它们。

他说:“尤其是现在,当我们正在面对深刻的社会动荡时,让更多不同的学者群体参与回答这些他没有回答的问题会让我们更受益。”