「弗吉尼亚大学经济学教授：美国需要一个新机构来监管人工智能」 2021年12月8日，美国布鲁金斯学会（Brookings Institution ）发表弗吉尼亚大学经济学教授 Anton Korinek撰写的《为什么我们需要一个新机构来监管先进的人工智能：来自 Facebook 控制人工智能的教训（Why we need a new agency to regulate advanced artificial intelligence: Lessons on AI control from the Facebook Files）》。作者首先阐述了人工智能（AI）控制问题。AI 系统确定越来越多的决策和行动，并且随着它们在优化目标方面变得越来越有效，潜在副作用的风险和程度也会增加。作者以近期Facebook事件为例，阐述了对AI进行监管的重要意义。Facebook公司以用户参与度为首要追求目标，采用先进的人工智能系统来决定在Facebook和Instagram 的新闻提要中展示哪些帖子，但往往而忽略了社会发展的其他维度，如使用Instagram导致女性青少年产生与身体形象相关的心理健康问题，以及部分地区的贩毒集团和人口贩子利用 Facebook 开展业务等。随着人工智能系统复杂性的提高，它们不受控制行为的后果会变得越来越严重，而且Facebook的案例表明，对高级 AI 系统施加控制的难度越来越大。 作者在本文中利用从Facebook事件吸取的经验教训，阐述了他对于人工智能控制问题的理解和管理建议。作者发现AI治理面临两个方面的挑战，一是AI 的直接技术控制问题，即确保先进的 AI 系统做运营它的公司希望它做的事情；二是AI的社会治理问题，即确保公司编程到先进人工智能系统中的目标与社会目标一致。 直接人工智能控制是运营先进人工智能系统的公司面临的技术挑战。所有大型科技公司都经历过无法直接控制其人工智能系统的失败。例如，亚马逊采用了一种对女性有偏见的简历筛选系统；谷歌开发了一个照片分类系统，将黑人标记为大猩猩等。高级人工智能系统的基本问题之一是底层算法在某种程度上是黑匣子。它们的复杂性使它们变得不透明，并使人类难以完全理解它们的工作原理。尽管在使深度神经网络可解释方面取得了一些进展，但这些进展在本质上受到此类网络架构的限制。通常，我们只在 AI 控制问题发生后才检测到它们，就像上面讨论的所有大型科技公司的例子一样。然而，随着人工智能系统获得更强大的能力，依赖事后修正会使社会面临巨大的潜在成本，例如因AI控制问题导致的无法弥补的生命损失，以及在军用人工智能系统应用方面。与直接控制问题的技术挑战相反，社会人工智能控制问题是治理挑战,这是为了确保人工智能系统不会对社会其他人强加外部性。由公司运营的人工智能系统的社会控制问题因市场力量而加剧。不受约束的市场力量可能会激励企业追求单一目标，即利润最大化，而牺牲人们可能关心的所有其他目标，实际上在多方面的世界中追求单一目标必然会对部分或所有社会成员产生有害的副作用。现代社会已经制定了一套丰富的市场规范和法规，但先进的 AI 系统导致企业与社会之间的权力平衡发生转变，令企业能够追求一心一意的目标，例如以超高效的方式实现用户参与。因此，由此产生的对社会的潜在危害更大，需要更主动和更有针对性的监管解决方案。 针对于上述问题，作者呼吁建立一个新的监管机构——人工智能控制委员会，该机构将致力于寻求直接人工智能控制问题的解决方案，以及监督并在必要时规范人工智能在整个美国经济中的使用方式，确保它不会阻碍社会的进步。作者认为该机构需要具备以下权力：有权监控人工智能的发展，并定义哪些类型的先进人工智能系统属于监管范围；有权要求对这些先进的人工智能系统对各种利益相关者的影响进行评估；能够定义高级人工智能公司需要报告的标准；以及进行审计和实验以确定它们在现实世界中的影响的能力；当评估表明AI对社会存在风险或出现滥用时，该机构可以行使监管权力来减少这些风险和滥用；该机构应该公开影响评估的经验教训，以提高先进人工智能系统的透明度。同时，作者也认识到建立人工智能控制委员会存在很多挑战。首先，由于人工智能领域的人才短缺严重，该委员会需要吸引世界顶级专家加入；其次，如何确保其行动引导人工智能朝着理想的方向发展，同时不阻碍技术进步和美国在该领域的领导地位也是一个重要问题。此外，如何与现有监管机构明确分工也是该委员会的另一个重要问题。在这种情况下，作者认为委员会需要发挥咨询作用，提供人工智能方面的专业知识。 Anton Korinek：美国弗吉尼亚大学达顿商学院经济学教授，国民经济研究局（The National Bureau of Economic Research，NBER）和经济与政策研究中心的研究员，牛津人类未来研究所人工智能治理中心高级顾问，专注于研究人工智能如何影响我们的经济和社会。 原文链接： https://www.brookings.edu/research/why-we-need-a-new-agency-to-regulate-advanced-artificial-intelligence-lessons-on-ai-control-from-the-facebook-files/