
当机器人——代表人类执行任务的自动代理——在在线社区中变得更加活跃时,它对人类在这些平台上的互动方式产生了深远的影响。旨在帮助用户看到更多内容的机器人增加了用户联系的人数,但也减少了人与人之间的互动。
在网络社区中,用户之间的回复、点赞和评论形成了一个互动网络。对这些社交网络的分析显示了模式,比如谁在连接,谁在社区中受欢迎或重要。
我和同事尼古拉斯·贝伦特、哈尼·萨法迪分析了Reddit上被称为子Reddit的社区的网络结构,从2005年到2019年,这些社区越来越多地使用机器人。我们的目标是看看机器人的存在是否会影响人类社区成员之间的互动。
根据最近的研究,我们知道我们正在寻找两种类型的机器人:反射型机器人和监督型机器人。
对反射机器人进行编码,以插入社区的应用程序编程接口。根据它们的编码方式,它们要么根据特定的规则发布内容,要么根据预编程的规则搜索特定的内容并发布回复。监督机器人在社区中有更多的权限,可以删除或编辑帖子,甚至可以根据预编程的社区审核规则禁止用户。
我们发现,当一个社区中有更多反射性的机器人活动时——更多的机器人发布内容——人与人之间的联系就会更多。这意味着反射式机器人发布内容使人们能够找到新颖的内容,并与其他用户互动,否则他们就不会看到这些内容。然而,这种高机器人活动导致用户之间的来回讨论减少。如果用户在reddit的子版块上发帖,机器人更有可能会回复或插入对话,而不是两个人类用户进行有意义的来回讨论。
当有监督机器人管理社区时,我们看到人类社交网络的集中化程度降低。这意味着那些对社区很重要的关键人物的联系比以前少了。如果没有监督机器人,这些成员将是建立和执行社区规范的人。有了监督机器人,这就不那么必要了,这些人类成员对社区来说也不那么重要了。
机器人在网络社区中非常普遍,它们可以非常快速地处理大量数据,这意味着它们可以对比人类更多的帖子做出反应和回应。
更重要的是,随着生成式人工智能的改进,人们可以用它来创建越来越复杂的机器人账户,平台也可以用它来协调内容审核。大量投资于生成式人工智能技术的科技公司也可以部署生成式人工智能机器人,以提高其平台的参与度。
我们的研究可以帮助用户和社区领导者了解这些机器人对他们社区的影响。它还可以帮助社区管理员了解通过监督机器人启用自动审核的影响。
由于基于规则的性质,机器人是僵化的,但随着它们融入生成式人工智能等新技术,它们可能会变得更加先进。需要更多的研究来了解复杂的生成式人工智能机器人如何影响在线社区中人与人之间的互动。
与此同时,自动化平台审核可能会导致奇怪的效果,因为机器人在执行方面更加严格,无法根据具体情况处理潜在问题。生成式AI如何改变主持人机器人还有待观察。
研究简报是对有趣的学术工作的简短介绍。




