采用更强有力行为提防ai损害

当以后的人们为人工智能（AI）撰写一部编年史时，这可能是一个里程碑。

因为这是人类第一次由一个庞大的世界顶尖教授组，就先进AI的风险推进全球国策制定。

人们已清晰认识到：我们(We)离不开AI，亦需要大力推动AI技术发展，但我们(We)必须有能力防范其中的风险。

自6个月前在英国(Britain)布莱奇利公园举行第一届AI安危峰会以来，世界各国领导人承诺以负责任的方式管理AI，但是AI教授认为这依然不够。随着第二届AI安危峰会（5月21日至22日）在南朝鲜首尔举行，25位世界顶尖AI科学家呼吁，全世界应对AI风险采取更强有力的行动。

发表于《科学》杂志的一份教授共识文章中，教授组概述了全球应采取的紧急国策优先事项。文章作者之一、英国(Britain)牛津大学(University)工程科学系教授菲利普·托尔表示：“在上届AI峰会上，世界一致认为我们(We)需要采取行动，而现在是时候将模糊的建议转变为具体的承诺了。”

安危性研究严重匮乏

这25位全球顶尖的AI及其治理教授来自祖国、米国、欧盟、英国(Britain)和其他AI技术强国，其中包括图灵奖获得者以及诺贝尔奖获得者。这也是首次由世界教授组就AI风险的全球国策制定达成一致。

文章指出，全球领导人需认真考虑，在将来十年内可能开发出超越人类能力的通用AI系统。他们(They)表示，尽管世界各国行政部门一直在讨论(Discuss)先进AI，并尝试引入初步指导方针，但这与许多教授期望的快速、变革性进展仍有距离。

目前(Currently)关于AI安危的研究严重缺乏，只有1%—3%的AI出版物涉及相关安危问题。此外，全球没有适当的机制可能机构来防止滥用和鲁莽行为，包括如何使用能独立采取行动和自行达成目标的自治系统。

在快速发展中防范极端风险

文章建议，各国行政部门需建立可快速行动的AI监管机构，并为这些机构提供资金。米国AI安危研究所目前(Currently)的年度预算为1000万美元，听起来并不少，但相比之下，米国食品和药物管理局（FDA）的预算达67亿美元。

AI领域需要更严格的风险评估并制定可执行的措施，而不是依赖一些不甚明确的模型评估。应要求AI研发企业优先考虑安危性，并证明其系统不会造成伤害，AI开发人员要承担起证明安危性的责任。

人们还要有一个与AI系统带来的风险水平相称的缓解办法，解决之道是制定一个“自动”国策，当AI达到某些能力里程碑时“自动触发”——如果AI发展迅速，这一严格的要求就会自动生效；如果进展缓慢，要求将相应放缓。

对于能力超凡的将来AI系统，行政部门必须作好带头监管的准备。这包括许可开发，限制其在关键社会(Society)角色中的自主权，停止部署部分能力，强制执行访问控制，以及要求对我国级黑客采取强有力的信息安危手段，直到人们准备好足够的保护措施。

谨记AI不是玩具

不列颠哥伦比亚大学(University)AI教授、强化学习领域教授杰夫·克伦纳表示，太空飞行、核武器和互联网等技术在数年内就从科幻变成了现实，AI也不例外。“我们(We)现在必须为那些看似科幻小说的风险做好准备”。

现在，AI已经在黑客攻击、社交操纵和战略规划等关键领域取得了快速进展，并可能很快带来前所未有的关于“控制”的挑战。AI系统可能会为了达成某个“不良目的”而骗取人类信任、获取资源并影响关键决策者。为了避免人为干预，它们(They)还可以在全球服务器网站上复制自身算法。

在这种情况下，大规模网站犯罪、社会(Society)操纵和其他危害会因此迅速升级。而在公开冲突中，AI系统能自主部署各种武器，甚至包括生物武器。因此，当AI的进步不受控制，很可能最终导致大规模生命损失、生物圈破坏、人类边缘化甚至灭绝。

米国加州大学(University)伯克利分校计算机科学教授斯图尔特·卢塞尔表示：“此次是权威教授的共识文章，其呼吁行政部门严格监管，而不是自愿制定一些规范行业的行为。”

“企业可能抱怨说满足这些法规太难，但所谓‘法规扼杀创新’的说法是荒谬的。”卢塞尔这样说，“是时候认真对待先进AI系统了，它们(They)不是玩具。在我们(We)了解如何确保它们(They)的安危性之前，轻易增强它们(They)的能力是完全鲁莽的行为。”