担心人工智能?加州立法者计划在2024年如何应对这项技术的风险

   日期:2025-05-15     来源:本站    作者:admin    浏览:68    
核心提示:    笼子里装满了摄像头,用来拍摄她的脸和身体,这让乔迪·朗措手不及。  “我有点吓坏了,因为在我走进去之前,我说我不

  

  笼子里装满了摄像头,用来拍摄她的脸和身体,这让乔迪·朗措手不及。

  “我有点吓坏了,因为在我走进去之前,我说我不记得我的合同里有这个,”这位演员说。

  朗被告知,电影制作人需要她的数字扫描,因为他们想确保她的手臂在她抱着电脑生成的角色的场景中位置正确。

  2020年的那一刻一直困扰着SAG-AFTRA洛杉矶地区主席朗,当时她正在就演员罢工时使用人工智能的保护措施进行谈判。去年11月,演员工会与好莱坞电影公司达成了一项协议,除其他事项外,要求对使用工人的数字复制品进行同意和赔偿。

  工会并不是唯一试图限制人工智能潜在威胁的组织。去年9月,加州州长加文·纽森(Gavin Newsom)签署了一项关于人工智能的行政命令,除此之外,加州立法者还提出了一系列立法,为2024年实施更多监管奠定了基础。其中一些建议侧重于保护工人,打击可能导致性别和种族偏见的人工智能系统,并制定新的要求,以防止人工智能被滥用于网络犯罪、武器开发和宣传。

  不过,加州立法者能否成功通过人工智能立法仍不清楚。他们将面临来自数十亿美元科技公司的游说,包括微软(Microsoft)、谷歌(Google)和Facebook,这些政治巨头去年成功阻止了几项人工智能法案的通过。

  人工智能已经存在了几十年。但随着科技的迅速发展,机器执行与人类智能相关任务的能力引发了人们的质疑:人工智能是否会取代工作、助长错误信息的传播,甚至导致人类灭绝。

  在立法者试图监管人工智能的同时,他们也在试图了解这项技术是如何工作的,这样他们就不会阻碍它的潜在好处,同时也会试图减轻危险。

  斯坦福大学(Stanford University)法学院教授、白宫人工智能政策顾问何志勇(Daniel Ho)表示:“其中一个核心挑战是,这项技术具有双重用途,也就是说,能够大幅改善医疗保健的同一类技术,也可能被用来造成相当严重的伤害。”

  政客们感到了一种紧迫感,他们指出,在试图控制一些因社交媒体和其他科技产品而加剧的心理健康和儿童安全问题时,他们已经遇到了阻力。虽然一些科技公司高管表示,他们不反对监管,但他们也表示,批评人士夸大了风险,并表示担心,他们将不得不应对世界各地不同的规则拼凑。

  包括苹果、谷歌和亚马逊等多家公司在内的行业组织TechNet在其网站上概述了成员在人工智能监管方面支持和不支持的内容。例如,TechNet表示,政策制定者应该避免“全面禁止人工智能、机器学习或其他形式的自动决策”,而不是强迫人工智能开发人员公开分享专有信息。

  州议员Ash Kalra (D-San Jose)表示,政策制定者不相信科技公司能够自我监管。

  卡拉说:“作为一名立法者,我的目的是保护公众,保护工人,防止不受监管的人工智能可能带来的风险。”“业内人士有不同的优先事项。”

  根据高盛2023年4月的一份报告,人工智能可能会影响3亿个全职工作岗位。

  去年9月,卡拉提出了一项立法,该立法将使演员、配音师和其他工作人员有办法废除允许电影公司和其他公司使用人工智能对他们的声音、面孔和身体进行数字克隆的模糊合同。卡拉说,他目前没有计划搁置这项由SAG-AFTRA支持的法案。

  联邦立法者还提出了旨在保护工人声音和肖像的立法。去年10月,拜登总统签署了一项关于人工智能的行政命令,指出这项技术如何提高生产力,但也会取代工人。

  SAG-AFTRA全国执行董事兼首席谈判代表Duncan Crabtree-Ireland表示,他认为重要的是,州和联邦立法者都应立即对人工智能进行监管。

  他说:“它必须来自各种来源,并以一种我们都想看到的方式组合在一起,创造出最终的画面。”

  美国以外的政策制定者已经在向前迈进。上个月,欧洲议会和欧盟成员国就人工智能法案达成了一项具有里程碑意义的协议,称该提案是“世界上第一个全面的人工智能法律”。该立法包括一套基于人工智能系统风险程度的不同规则,还要求生成文本、图像和其他内容的人工智能工具(如OpenAI的ChatGPT)公布用于训练系统的受版权保护的数据。

  随着联邦和州议员对立法进行微调,工人们正在看到人工智能如何影响他们的工作,并测试现行法律是否提供了足够的保护。

  科技公司——包括微软支持的OpenAI、Stability AI、Facebook母公司meta和Anthropic——正面临诉讼,指控它们使用艺术家和作家的版权作品来训练它们的人工智能系统。12月27日,《纽约时报》对微软和OpenAI提起诉讼,指控这两家科技公司使用受版权保护的作品开发人工智能产品,与《纽约时报》竞争。

  全国配音演员协会主席兼联合创始人蒂姆·弗里德兰德(Tim Friedlander)表示,由于一些公司决定使用人工智能生成的语音,他的成员正在失去工作机会。演员们还声称,他们的声音在未经他们同意或赔偿的情况下被克隆,音乐家们也面临着同样的问题。

  他说:“目前最困难的事情之一是,没有办法证明某种东西是人类的还是人工合成的,也没有办法证明声音来自哪里。”

  工人保护只是加州立法者在2024年试图解决的人工智能问题之一。

  去年9月,旧金山民主党参议员斯科特·维纳(Scott Wiener)提出了《人工智能安全法》(Safety in Artificial Intelligence Act),他说,该法案旨在解决人工智能带来的一些最大风险,包括该技术在化学武器和核武器方面的潜在滥用、选举干预和网络攻击。维纳说,尽管立法者不想“压制创新”,但他们也希望积极主动。

  他说:“如果你不提前采取行动,那么可能就太晚了。我们已经看到,在社交媒体和其他领域,我们本应该在问题出现之前建立至少广泛的中风监管体系。”

  议员们还担心,人工智能系统可能会犯错误,导致基于种族和性别等受保护特征的人受到不平等对待。众议院议员丽贝卡·鲍尔-卡汉(来自奥林达州的民主党人)正在赞助一项法案,该法案将禁止个人或实体部署涉及做出导致“算法歧视”的“重大决策”的人工智能系统或服务。

  由于使用什么数据来训练计算机系统,人们担心算法会放大性别和种族偏见,这一直是科技行业的一个持续问题。例如,据路透社2018年报道,亚马逊取消了一种人工智能招聘工具,因为在计算机模型接受了主要来自男性的简历训练后,它显示出对女性的偏见。

  事实证明,通过人工智能立法很困难。鲍尔-卡汉的法案甚至没能进入议会进行投票。对该法案进行分析的AB 331表示,许多行业和企业都表示担心,该法案过于宽泛,会导致“这一领域的过度监管”。

  尽管如此,鲍尔-卡汉表示,尽管上一届会议遭到反对,她仍计划在2024年重新提出该法案。

  她说:“我并不是想让这些工具消失,而是想确保当它们进入市场时,我们知道它们是没有歧视的。”“这种平衡的要求并不过分。”

  考虑到有争议的法案在选举年很难通过,试图弄清楚在人工智能的潜在风险方面应该优先考虑哪些问题是政治家们在2024年将面临的另一个挑战。

  斯坦福大学法学院(Stanford Law School)教授何教授表示:“如果各方不能就损害的轻重缓急以及哪些是最紧迫的问题达成至少某种程度的共识,那么可能很难找出最有效的干预形式。”

  朗表示,尽管围绕人工智能存在种种担忧,但她对未来仍持乐观态度。

  她主演了漫威的《尚气》和《十环传奇》等大片,并于2021年凭借在Netflix电视剧《Dash and Lily》中的出色表演成为首位获得日间艾美奖的亚裔美国女配角。

  “我的行业是很多人合作的过程,”她说。“只要我们有人类来发表我们的故事,我想我们就会没事的。”-洛杉矶时报/论坛报新闻服务

  ×

 
打赏
 
更多>同类文章

推荐图文
推荐文章
点击排行