如果你要用一件轶事来描述硅谷占主导地位的意识形态,你可能首先会想到马克·扎克伯格(Mark Zuckerberg)。大约20年前,他坐在电脑的蓝色光芒下,与一位朋友聊天,谈论他的新网站TheFacebook是如何让他获得大量同学的个人信息的。
扎克伯格:是的,所以如果你需要信息的话
关于哈佛的任何人
扎克伯格:问就是了。
扎克伯格:我有超过4000封电子邮件、照片、地址和社交网络
朋友:什么?你是怎么做到的?
扎克伯格:人们只是提交了它。
扎克伯格:我不知道为什么。
扎克伯格:他们“相信我”
扎克伯格:笨蛋。
这段对话——后来通过泄露的聊天记录被披露——很快又有另一段同样能说明问题的对话,只是更有礼貌一些。在2007年的一个著名圣诞派对上,扎克伯格第一次见到了他最终的首席运营官谢丽尔·桑德伯格(Sheryl Sandberg),她和扎克伯格一起将facebook转变为一个数字帝国主义超级大国。在那里,扎克伯格向桑德伯格解释说,他希望每个能上网的美国人都有一个Facebook账户。在Facebook成立之初,扎克伯格一直信奉“公司重于国家”的信条。桑德伯格曾对一位同事说,她“来到这个星球上是为了扩大组织规模”,对她来说,这是一个完美的使命。
看看本期的更多内容,找到你的下一个故事。
查看更多
Facebook(现在是元)已经成为硅谷所有错误的化身。它在全球传播虚假信息方面扮演的自利角色是一场持续的危机。回想一下该公司在2012年进行的秘密情绪操纵实验,该实验故意对用户在动态消息(News Feed)中看到的内容进行修改,以衡量Facebook如何在用户不知情的情况下影响他们的情绪状态。或者参与煽动2017年在缅甸发生的种族灭绝。或者它被用作策划和执行2021年1月6日起义的俱乐部会所。(在Facebook的早期,扎克伯格将“革命”列为他的兴趣之一。那时他的名片上印着“我是CEO,贱人”。)
然而,在很大程度上,Facebook的经营方式仍然是整个科技行业的规范,即使其他社交平台(TikTok)和技术发展(人工智能)在文化相关性方面超过了Facebook。
新技术官僚声称信奉启蒙运动的价值观,但实际上他们正在领导一场反民主、反自由的运动。
要在超大规模的圣坛上膜拜,要说服自己,你应该是代表全球公民做出具有世界历史意义的决定的人,他们没有选举你,也可能不认同你的价值观或缺乏你的价值观,你必须消除许多不便——其中包括谦逊和细微差别。硅谷的许多巨头都曾多次做出这样的权衡。YouTube(归谷歌所有)、Instagram(归meta所有)和Twitter(埃隆·马斯克坚持称其为X)对个人权利、公民社会和全球民主的损害与Facebook过去和现在一样。考虑到现在整个硅谷都在开发生成式人工智能,我们应该做好准备,在未来几年,这种损害将会成倍增加。
这些公司及其经营者的行为往往是虚伪、贪婪和地位至上的。但是,隐藏在这些唯利是图背后的是一种更危险的东西,一种清晰而连贯的意识形态,很少有人说出它的本质:专制的技术官僚。随着硅谷最强大的公司逐渐成熟,这种意识形态只会变得更强大,更自以为是,更妄想,面对越来越多的批评,也更委屈。
新技术官僚在使用诉诸启蒙运动价值观——理性、进步、自由——的语言时是浮夸的,但实际上他们正在领导一场反民主、反自由的运动。他们中的许多人声称无条件支持言论自由,但对那些说不讨好他们的话的人会进行报复。他们倾向于持有古怪的信念:任何形式的技术进步都是毫无保留地、本质上是好的;你应该建立它,因为你有这个能力;无论信息质量如何,无摩擦的信息流都是最高价值;隐私是一个古老的概念;我们应该欢迎机器智能超越人类的那一天。最重要的是,他们的权力应该不受限制。他们已经建立或正在建立的系统——重新连接通信,重塑人类社交网络,将人工智能暗示到日常生活中,等等——将这些信念强加给了人们,而这些人既没有征求过他们的意见,通常也没有得到有意义的信息。所有这一切,他们仍然试图延续荒谬的神话,他们是虚张声势的弱者。
从2018年10月号开始:尤瓦尔·诺亚·赫拉利关于为什么技术有利于暴政
将硅谷与华尔街或华盛顿特区进行比较是司空见惯的事,你可以明白为什么——它们都是权力中心,都吸引着那些雄心壮志往往超过人性的人。但硅谷的影响力轻而易举地超过了华尔街和华盛顿。它正在对社会进行更深刻的改造,这可能是自罗斯福新政以来任何时代的任何其他权力中心都无法比拟的。许多美国人对MAGA共和党人中日益上升的威权主义感到担忧——这是对的,但他们可能忽视了另一股反自由主义的上升力量:那些容易发脾气、权力极大的科技之王。
去年年底在OpenAI上演的莎士比亚戏剧,突显了Facebook“快速行动、打破陈腐”心态的最坏一面在硅谷被内化和颂扬的程度。OpenAI成立于2015年,是一家非营利组织,致力于以一种服务于公共利益的方式将人工通用智能带入世界。其形成的根本原因是,人们相信这项技术太强大,太危险,不能仅仅出于商业动机而开发。
摘自2019年8月号:亨利·基辛格、埃里克·施密特和丹尼尔·胡滕洛赫谈人工智能
但在2019年,随着这项技术的发展速度开始让从事这项技术的人感到震惊,该公司增加了一个营利性部门来筹集更多资金。微软一开始投资了10亿美元,后来又投资了数十亿美元。去年秋天,该公司首席执行官萨姆·奥特曼(Sam Altman)被解雇,但很快又被重新聘用,这一戏剧性事件标志着OpenAI之前建立的防止公司凌驾于国家之上的保障措施被摧毁。据报道,那些希望奥尔特曼下台的人认为,他过于看重发展速度而不是安全。但微软的回应——邀请奥特曼和OpenAI的其他人在那里重新组建他的团队——引发了一场懦夫博弈,最终导致了奥特曼的复职。整个事件很混乱,奥特曼可能是这个职位的合适人选,但传达的信息很明确:对规模和利润的追求压倒了对安全问题和公众责任的担忧。
硅谷仍然吸引着许多非常有才华的人,他们努力做好事,努力实现一个联系更紧密、数据更丰富的全球社会的最佳版本。即使是最有害的公司也建立了一些很棒的工具。但这些工具,在规模上,也是操纵和控制的系统。他们承诺团结,却播下分裂的种子;声称捍卫真理,却散布谎言;把自己包裹在赋权和自由等概念中,却无情地监视着我们。胜出的价值观往往会剥夺我们的能动性,让我们沉迷于自己的信息。
人工智能的理论前景与社交媒体曾经的前景一样充满希望,也像其最具党派色彩的建筑师项目一样令人眼花缭乱。人工智能确实可以治愈许多疾病。它确实可以改变学术,发掘失落的知识。除了硅谷,在其最糟糕的技术官僚冲动的影响下,正在遵循社交网络的大规模扩张和垄断所建立的剧本。OpenAI、微软(Microsoft)、谷歌(Google)和其他在人工智能开发方面处于领先地位的公司,并没有把重点放在公众或认识论需求最大的领域,他们当然也没有以任何程度的透明度或谨慎行事。相反,他们参与的是一场建设速度更快、利润最大化的竞赛。
摘自2023年9月刊:山姆·奥特曼知道他在创造什么吗?
如果没有潜在的技术官僚哲学的必然性,这一切都不会发生,也就是说,如果你能建立新的东西,你必须这样做。“在一个正常运转的世界里,我认为这应该是一个政府的项目,”奥特曼去年对我的同事罗斯·安德森(Ross Andersen)说,他指的是OpenAI开发通用人工智能的尝试。但无论如何,奥特曼都要自己继续建造它。或者,正如扎克伯格多年前对《纽约客》(The New Yorker)所说的那样:“庞大的人际社交网络不是不可避免的吗?如果我们不这么做,别人也会这么做。”
第一次世界大战后,纽约市的一小群科学家和工程师希望用一种新的社会结构来取代代议制民主,让技术精英来掌管一切,技术官僚主义首先作为一种政治意识形态开花结果。尽管他们的运动在政治上陷入困境——人们最终更喜欢富兰克林·d·罗斯福总统的新政——但它在思想上取得了更大的成功,在艺术和文学上与现代主义一起进入了时代精神,后者分享了现代主义的一些价值观。美国诗人埃兹拉?庞德(Ezra Pound)的现代主义口号“创新”(Make it new)很容易成为技术官僚们的口头禅。一个平行的运动是意大利未来主义者的运动,由诗人f·t·马里内蒂(F. T. Marinetti)等人物领导,他们使用“行军,不要腐烂”和“创造,不要沉思”等格言。
技术官僚和未来主义者的精神都是为了行动而行动。马里内蒂在1929年的一次演讲中说:“我们不满足于在一个被深色柏树包围的花园里漫步,弯腰看废墟和长满苔藓的古董。”“我们相信,意大利唯一有价值的传统就是从未有过传统。”杰出的未来主义者将他们对技术、行动和速度的热情最终转化为法西斯主义。马里内蒂继他的《未来主义宣言》(1909)之后又发表了《法西斯宣言》(1919)。他的朋友庞德迷恋贝尼托·墨索里尼,并与他的政权合作主持了一个广播节目,这位诗人在节目中宣扬法西斯主义,滔滔不绝地谈论《我的奋斗》,并赞扬了墨索里尼和阿道夫·希特勒。未来主义向法西斯主义的演变并非不可避免——庞德的许多朋友开始害怕他,或者认为他已经失去了理智——但它确实表明,在社会动荡时期,一场基于对传统和历史的激进拒绝、略带委屈的文化运动是如何成为一种政治意识形态的。
去年10月,风险投资家和技术专家马克·安德森(Marc Andreessen)在他的公司网站上发布了一份意意流文件,他称之为“技术乐观主义者宣言”(the techo - optimist Manifesto),这是一份5000字的意识形态鸡尾酒,令人毛骨悚然地回忆起马里内蒂等意大利未来主义者,并特别赞扬了他们。安德森除了是硅谷最具影响力的亿万富翁投资者之一外,还以脸皮薄、脾气暴躁而臭名昭著。尽管文章标题中提到了乐观主义,但这篇文章似乎在一定程度上是由于他对自己和前任们所开发的技术不再“得到适当的美化”而感到不满。这是一份具有启发性的文件,代表了他和他的技术官僚同僚正在推进的世界观。
硅谷精英们所创造的世界是一个不计后果的社会工程世界
它的架构师的顺序。
安德森写道,“没有任何实质性的问题”,包括那些由技术引起的问题,“不能用更多的技术来解决”。他写道,技术不应该只是一直在进步,而且应该一直在加速进步,“以确保技术资本的上升螺旋永远持续下去”。他还痛斥了他所谓的反技术运动,这些运动以“技术伦理”和“存在风险”等为名。
再看看他的新兴政治运动的《使徒信经》
我们相信我们应该将智力和能量置于一个正反馈循环中,并将它们都推向无限……
我们相信
冒险。展开英雄之旅,反抗现状,绘制未知的版图,等等
探索巨龙,为我们的社区带回战利品……
我们相信自然,但我们也相信
克服大自然。我们不是被闪电吓得畏缩的原始人。我们是顶级掠食者;闪电对我们有用。
安德森指出了他的运动的几位“守护神”,马里内蒂就是其中之一。他引用了《未来主义宣言》,将马里内蒂的“诗歌”换成了“技术”:
美是不存在的
只有在挣扎。没有一件杰作是不具有攻击性的。技术必须是对未知力量的猛烈攻击,迫使它们向人类低头。
需要明确的是,安德森的宣言不是一份法西斯主义文件,但却是一份极端主义文件。他采取了一个合理的立场——技术,总的来说,极大地改善了人类的生活——并扭曲了它,得出了一个荒谬的结论,即在任何情况下,任何限制技术发展的企图都是卑鄙的。如果不加怀疑地看待这一立场,它只会作为一种宗教信仰有意义,而在实践中,它只会免除他和其他硅谷巨头的任何道德或公民义务,让他们不考虑社会成本或历史,只做能让自己富裕的新事物。安德森还列出了一系列敌人和“僵尸思想”,他呼吁他的追随者们打败这些敌人和“僵尸思想”,其中包括“制度”和“传统”。
“我们的敌人,”安德森写道,是“无所不知的专家世界观,沉迷于抽象理论,奢侈的信仰,社会工程,与现实世界脱节,妄想,未经选举,不负责任-在其他人的生活中扮演上帝,完全与后果隔绝。”
具有讽刺意味的是,这种描述非常适合安德森和其他硅谷精英。他们在过去二十年里创造出来的世界,毫无疑问是一个不计后果的社会工程世界,它的缔造者没有受到惩罚,他们把自己的抽象理论和奢侈信念强加给我们所有人。
摘自2022年5月刊:为什么过去10年美国人的生活特别愚蠢
安德森在他的宣言中提出的一些个人原则令人不寒而栗。但考虑到他的地位和权力,这本书的总体激进主义应该会让你坐直。近年来,包括马斯克在内的硅谷关键人物显然对非自由主义的想法产生了兴趣。2020年,唐纳德·特朗普在硅谷的得票率为23%,虽然不多,但高于他在2016年获得的20%。
在这一点上,专制技术官僚的主要危险不是政治性的,至少不是传统意义上的。尽管如此,少数人已经或多或少地掌握了建立数字世界规则和文化规范的威权控制,这些规则和文化规范可能与政治权力一样强大。
1961年,德怀特·艾森豪威尔(Dwight Eisenhower)总统在他的告别演说中警告美国,即将到来的技术官僚政治将带来危险。“我们应该尊重科学研究和发现,”他说,“但我们也必须警惕另一种同等的、相反的危险,即公共政策本身可能成为科技精英的俘虏。”政治家的任务是在我们民主制度的原则范围内塑造、平衡和整合这些和其他新旧力量——永远以我们自由社会的最高目标为目标。”
八年后,该国的第一台计算机连接到阿帕网(ARPANET),这是万维网的前身,于1993年广泛使用。当时,硅谷被视为雄心勃勃的资本家和乐观的发明家的乌托邦,他们拥有想要改变世界的原创想法,不受官僚主义或传统的束缚,以互联网的速度(当时为每秒14.4千比特)工作。这种文化在一开始就有缺陷,但它也以一种独特的美国方式富有想象力,它导致了革命性的,有时甚至是惊人的美丽的硬件和软件的创造。
很长一段时间以来,在科技监管方面,我更倾向于站在安德森的立场。我相信,社交网络仍然可以成为一种净产品,只要有足够的时间,最符合公众利益的价值观自然会胜出。我反对监管社交网络是必要的这一观点,部分原因是我不相信(现在仍然不相信)政府可以在不造成伤害的情况下这样做(欧洲的监管模式,包括所谓的“被遗忘权”等法律,与美国对新闻自由的保护严重不符,并对公众的知情权构成了威胁)。我更愿意把市场竞争看作是技术进步和社会进步的力量。
但近年来,监管的必要性变得越来越明显,尤其是因为技术官僚主义的兴起证明,硅谷的领导人根本不会按照公众的最佳利益行事。我们应该采取很多措施来保护儿童免受社交媒体的危害,打破损害社会的垄断和寡头垄断,等等。与此同时,我认为,仅靠监管不足以有效解决新技术官僚正在蔓延的文化腐败问题。
大学应该恢复其应有的领导地位,为人类的利益开发改变世界的技术。(哈佛大学、斯坦福大学和麻省理工学院可以为此投资创建一个财团——它们的捐赠总额约为1100亿美元。)
个人也必须带头。你可能无法完全放弃社交媒体,或者拒绝工作场所的监控软件——你甚至可能不想放弃这些东西。但是,定义理想具有非凡的力量,我们都可以开始这样做——为我们自己;对于我们现实生活中的朋友网络来说;为了我们的学校;为了我们的礼拜场所。我们应该制定更复杂的共同规范,来讨论和决定我们如何在人际关系和社区内使用侵入性技术。这应该包括挑战关于在课堂上使用应用程序和YouTube的现有规范,青少年手中无处不在的智能手机,以及对个人隐私的普遍漠视。相信我们所有人都应该过得更好的人需要站出来领导这种努力。
摘自2023年7 / 8月刊:阿德里安娜·法兰西在人工智能时代捍卫人类
我们的孩子不是等待被量化、跟踪和出售的数据集。我们的智力输出不仅仅是人工智能的训练手册,它将被用来模仿和剽窃我们。我们的生活不是通过屏幕来优化的,而是要活在我们所有的凌乱、爬树、夜间游泳、冒险的荣耀中。当我们不发推特、不点赞、不滚动、不滚动时,我们都是更好的自己。
技术官僚认为,技术是让世界变得更美好的关键,这是正确的。但首先,我们必须把世界描绘成我们所希望的样子——我们希望解决的问题符合公众利益,符合促进人类尊严、平等、自由、隐私、健康和幸福的价值观和权利。我们必须坚持,代表我们的机构的领导人,无论大小,都要以对个人和社会有益的方式使用技术,而不仅仅是让技术官僚致富。
我们不必生活在新技术官僚为我们设计的世界里。我们不必默许他们不断增长的非人性化和数据挖掘项目。我们每个人都有能动性。
不再是“因为我们有能力去建造它”。不再有算法反馈。没有更多的基础设施设计来削弱人民的权力和强大的控制。每天我们都在用心投票;它是珍贵的,是那些为了自己的利益和政治目的而利用它来对付我们的人迫切需要的。别让他们得逞。