【编者按】在人工智能技术狂飙突进的今天，政治舞台正悄然上演一场前所未有的“信任危机”。从印度尼西亚“复活”前总统苏哈托为政党站台，到美国选民接到以假乱真的拜登AI语音电话，深度伪造技术已不再是科幻电影的桥段，而是真实冲击民主选举的“数字幽灵”。当眼见不再为实，耳听亦可为虚，我们赖以达成社会共识的真相基石正在松动。本文通过印度大选的实证研究，揭示了AI政治应用的复杂图景——它未必直接加剧社会撕裂，却可能悄然降低政治欺骗的道德门槛。在这场技术与真相的赛跑中，我们急需构建数字时代的“信任免疫系统”。（编者按完）

　　新加坡讯：在2024年印尼总统大选期间，人工智能“复活”了已逝世二十余年的前总统苏哈托，为其专业集团党背书。去年印度举行全国大选时，篡改视频被用于竞选期间攻击政治人物。在美国，部分选民曾接到令人毛骨悚然的自动语音电话，声音酷似时任总统乔·拜登，敦促他们不要在初选中投票，后经证实为深度伪造内容。

　　这些事件表明，AI生成的媒体内容如何将记忆、身份与情感武器化，运用于政治领域。但它们也凸显了一个更深层的民主困境：如果民众再也无法相信自己所见所闻，集体决策的根基便开始瓦解。

　　学者与研究人员警告，深度伪造可能加剧社会极化，将选民推入信息茧房，甚至使选举结果丧失公信力。部分政策制定者更进一步，称合成媒体对民主构成生存性威胁。

　　但深度伪造真如我们想象中那般激化对立吗？我的团队基于印度数字化选民进行的一项新研究，揭示了一个更为复杂的故事。

　　深度伪造在数字工具中独树一帜，因为它不仅扭曲事实，更直接操纵身份本身。

　　丹妮尔·西特朗和博比·切斯尼等学者警告，当公众无法区分真实与伪造时——他们称之为“说谎者的红利”——社会信任可能被腐蚀。

　　民主制度依赖于对真相的共同理解，公民才能有效参与公共生活并监督问责领导者。当这种共识被侵蚀，政治行为者便可将不利事实斥为捏造，甚至利用合成内容攻击对手。

　　在线上平台惯于奖励煽动性内容和情绪化参与的模式下，深度伪造确实可能加速政治分裂。

　　但深度伪造的影响并非一成不变。如同所有政治传播，它们会经过选民身份、信念和预期的过滤。为理解这些动态在现实中的运作，我们将目光投向印度。

　　印度是一个关键测试案例：作为全球最大民主国家，其合格选民达9.69亿。政治生态呈现多党制与联盟驱动特征，使得极化问题尤为复杂。同时这也是数字竞选爆炸式发展的国度，各政党广泛运用WhatsApp网络、AI工具，乃至日益增多的合成媒体。

　　在我们的实验研究中，1600余名受访者接触了政治新闻报道。部分人阅读关于反对党使用深度伪造的报道，另一部分阅读关于己方政党使用该技术的报道，对照组则阅读无关政治新闻。

　　我们测量的是情感极化——即选民在接触实验情境后，对联盟、政党和领导人的感受是升温还是降温。

　　结果令人惊讶。首先，仅接触深度伪造报道并未加剧极化。阅读反对党使用深度伪造的受访者，对对手的敌意并未比对照组显著增强。这一发现挑战了“深度伪造必然激化党派分歧”的普遍假设。

　　其次，选民对AI使用的认可度至关重要。对候选人在竞选中使用AI认可度较高的群体，在联盟、政党和领导人层面的极化程度反而更低。换言之，对AI应用接受度越高，不仅未加剧分裂，反而与去极化效应相关。

　　第三，人口差异显现。女性报告的极化程度持续低于男性，年长选民对竞争对手的敌意也略低于年轻群体。这些结果表明，性别与年龄是理解AI如何重塑政治态度的关键变量，却常被忽视。

　　那么，我们该如何看待政治中的深度伪造？真正的危险或许更在于对制度信任的渐进侵蚀。

　　若深度伪造成为常态，民众可能逐渐将操纵视为标准操作。这或将降低政治欺骗的道德门槛——即使选民不会因每段伪造视频立即变得极化。

　　此外，对AI使用的认可度带来一个悖论。一方面，它似乎钝化了情感极化，表明接受技术创新的选民不易被激怒。另一方面，常态化可能使公民对伦理问题变得麻木。

　　如果“人人皆为之”，民主问责的门槛便会下降。

　　首先，监管对防范新技术滥用至关重要。

　　新加坡已通过《防止网络假信息和网络操纵法案》及2024年新修订的《选举（网络广告诚信）法案》迈出重要步伐，该法案禁止创建或传播深度伪造及其他篡改内容，包括虚假代表候选人、政党及其关联方，或可能煽动群体对立的内容。

　　然而随着合成媒体更易获取，即使监管严格的民主国家也需就竞选中的使用建立更清晰、可执行的规范。

　　挑战不仅在于防止伤害，更在于建立信任、开发帮助公民辨别真伪与问责主体的系统。在这个眼见不为实的时代，我们必须找到数字创新与民主完整性共存之道。

　　其次，提升媒体素养将使公民与社会共同受益。既然对AI的认可度影响公众反应，那么赋予选民批判性评估合成媒体的能力便至关重要。学校、公民社会及平台本身皆可发挥作用。

　　最后，我们需要更多研究来解析AI不断演变的社会维度。本研究发现性别与年龄差异，引发出更深刻的问题：在数字社会中，信任、技术与党派立场如何交织？

　　针对东南亚的比较研究，可揭示文化与制度因素如何影响公众对AI驱动媒体的反应。

　　深度伪造并非宿命。其影响力取决于政治文化、选民态度与制度保障。

　　我们在印度的研究表明，尽管深度伪造令人不安，但其对极化的影响既非自动发生，也不均匀分布。真正的威胁在于社会如何回应——是放任合成媒体侵蚀信任，还是增强民主制度抵御它的韧性。

　　在AI时代，挑战不仅在于区分真相与虚构，更在于确保民主本身依然可信。

　　本文作者塔贝雷兹·艾哈迈德·内亚齐系新加坡国立大学可信互联网与社会中心副教授、首席研究员，兼数字竞选与宣传实验室主任