Ed Husic表示，政府正在考虑是否需要制定新的法律来确保人工智能的安全。(Lukas Coch/AAP PHOTOS)

　　在讨论人工智能时，一个由机器人统治的世界往往是人们最关心的问题，但政府并不担心被机器人接管，而是担心虚假信息泛滥。

　　随着人工智能技术的迅速发展，联邦政府正在考虑围绕人工智能的使用制定法律，以确保更有力的保护，尤其是在高风险行业。

　　生成式人工智能(Generative AI)是指从大量数据中提取文本、图像或其他媒体，这些数据通常是在未经创作者同意的情况下从创作者那里获取的。由于对版权和创意工作构成威胁，它受到了关注。

　　虽然工业部长Ed Husic表示，他坚信人工智能的价值，并不想扼杀创新，但新兴技术提出了政府必须面对的巨大挑战。

　　“关于生成式人工智能，我最担心的是合成数据的巨大爆炸。他周三在堪培拉对记者说:“生成式人工智能可以创造出你认为是真实的、有机发展的东西，但它是从生成式模型中产生的。”

　　“我担心的大事不是机器人会接管，而是虚假信息会接管。”

　　胡西奇警告说，生成的媒体可能会被收集起来，并通过社交媒体迅速传播，这可能会演变成引发政府回应的事情。

　　他说:“我们都认识到，如果政府的反应是基于不合法的东西，就会出现威胁和危险。”

　　因此，政府周三发布的关于负责任地使用人工智能的行业咨询临时回应建议，对人工智能生成的材料引入自愿标签和水印等措施。

　　它还在考虑在水电、卫生和执法等关键基础设施等潜在高风险行业中使用人工智能的保障措施，并可能包括规范产品使用前后测试方式的措施，以及进一步提高产品设计和使用数据方式的透明度。

　　然而，谈判的重点是在制定强制性保障措施之前制定一项自愿性安全标准。

　　胡西奇表示，落实保护措施至关重要，他指出，“自我监管的日子已经一去不复返”。

　　这份临时回应文件表示，尽管人工智能的许多用途并不存在需要监管的风险，但仍有许多值得关注的领域。

　　报告称:“现有法律无法在人工智能引发的危害发生之前充分预防，需要做更多的工作，以确保在危害发生后对其作出充分的反应。”

　　超过500个团体回应了政府关于人工智能的讨论文件。

　　澳大利亚信息产业协会(Australian Information Industry Association)对这份讨论文件表示欢迎，称政府需要与国际框架合作，以确保澳大利亚不会落后。

　　该协会的一份报告称，34%的澳大利亚人愿意信任人工智能技术，71%的人认为政府需要设置护栏。

　　首席执行官西蒙?布什(Simon Bush)表示，政府需要利用人工智能的增长。

　　他说:“如果对人工智能的监管不仅能在公民和企业采用和使用人工智能方面建立社会信任，而且能促进澳大利亚人工智能领域的投资和增长，那么它将被行业视为成功。”

　　澳大利亚联合通讯社