2024年达沃斯论坛：领导人能否可以直接监管人工智能？

在今年的达沃斯世界经济论坛上，全球领导人都在讨论，是为人工智能本身设置护栏，还是在技术开发出来后对其影响进行监管。

人工智能（AI）是许多对其潜力抱有希望但对其未来影响感到谨慎的工作者关注的焦点。

本月早些时候，国际货币基金组织（IMF）的研究人员发现，人工智能可能会影响全球四成员工的工作。在发达经济体中，这一比例跃升至六成，涉及电话营销和法律等多种行业。此外，世界经济论坛刚刚发布的一份报告显示，半数接受调查的经济学家认为，人工智能将在2024年产生“商业颠覆性”，这一比例高于2023年的42%。

出席2024年达沃斯世界经济论坛年会的商界领袖也优先讨论人工智能问题。他们特别关注如何监管人工智能技术，以确保它成为商业和整个世界的一股有益力量。

“这是我们这个时代最强大的技术，”美国白宫科技政策办公室主任Arati Prabhakar在1月17日的达沃斯论坛上表示。“我们认为人工智能的力量必须加以管理。风险必须得到管理。”

关于治理究竟如何帮助管理这种风险的讨论正处于一个关键的转折点。伴随着人工智能不断涌现的好处，还有一个更复杂、更黑暗的现实：人工智能可能会产生意想不到的后果，甚至可能被用于恶意用途。例如：有软件会自动（非法）拒绝年龄超过一定限制的求职者，或者发布性别歧视和种族主义推文的人工智能聊天机器人。

包括欧盟和美国在内的地区政府多年来一直在讨论人工智能法规，但问题仍然与答案几乎一样多。最棘手的问题之一是如何准确监管人工智能，以及在多大程度上可以对其进行监管。

在人工智能辅助医疗保健领域，该技术的影响已经在一些国家受到监管。

达沃斯论坛上讨论的一个方法是从一开始就规范人工智能的工作方式。

这可能意味着要制定评估和审计算法的策略。其核心思想是确保算法本身不会以可能导致非法结果的方式滥用数据。例如，在美国，联邦机构建议为评估抵押贷款申请中财产抵押品价值的算法建立质量控制评估。然而，一些业内专家担心，对该技术的起源进行限制性监管可能会扼杀创新和发展。

正如人工智能教育公司 Deeplearning.AI 的创始人、斯坦福大学计算机科学兼职教授Andrew Ng在最近接受世界经济论坛采访时所说，“对开源软件或人工智能技术开发施加繁重要求的法规可能会阻碍创新，产生有利于大型科技公司的反竞争效应，并降低我们为每个人带来利益的能力。”

其他领导人认为，一开始就试图直接管理人工智能技术可能是不切实际的。相反，他们认为，监管应该针对人工智能开发后的影响。

迪拜未来基金会（Dubai Future Foundation）首席执行官Khalfan Belhoul最近在达沃斯电台的一期节目中对世界经济论坛表示：“人工智能这个名字并不是能实际管理的。”“你可以管理人工智能可能影响的子效应或部门。如果你根据具体情况进行处理，这是制定某种政策的最佳方式。”

在某些方面，这种方法已经在实施。

“世界各地有各种各样的法律，不一定是为人工智能而制定的，但它们绝对适用于人工智能。微软副董事长兼总裁Brad Smith在达沃斯论坛上表示：“隐私法、网络安全规则、数字安全、儿童保护、消费者保护、竞争法等等。现在你还有一套全新的人工智能专用规则和法律。我确实认为它们比大多数人想象的有更多相似之处。”

但也有人说，应该有一些标准的规则来专门监管人工智能技术。

这类事情还处于萌芽阶段。目前还没有人知道答案。

                                             ——Josephine Teo

事实上，卡内基国际事务伦理委员会高级学者、人工智能与平等倡议联合主任、《危险大师：如何防止技术失控超出我们的控制》一书的作者Wendell Wallach指出，一些行业已经制定了一些监管人工智能的法规。

就管理结果而言，已经存在监管——在某些行业中更甚。“至少在美国和欧洲，医疗保健已经得到了很好的监管，”Wallach说“从某种意义上说，许多人工智能应用程序将受到现有法规的监管。所以，问题是，你还需要什么额外的（规定）？在某些领域，你可能需要不同形式的测试和合规性。”

例如，在美国，医疗法规规定医生有注意义务；如果他们误诊了病人，他们可能要为医疗事故负责。如果医生依靠人工智能来帮助诊断病人并且诊断错误，他们仍然可能要承担责任（尽管专家指出，存在一个貌似合理的推诿问题：将错误归咎于人工智能是否会变得普遍）。但这意味着要控制结果——误诊。

许多专家认为，即使这样做也远远不够。需要有更多的安全措施来规范过程本身：例如，对导致误诊的基础数据进行质量控制评估。

新加坡通讯和信息部长Josephine Teo在达沃斯论坛上表示“必须有不同的方式来证明人工智能是否以负责任的方式实施。以及如何实施测试的问题？如何对它们进行基准测试？“这类事情还处于萌芽阶段。目前还没有确切的答案。”

专家们表示，总的来说，关键目标是确保人工智能得到良好利用——无论采用何种方法。

Prabhakar说：“如果你想想摆在我们面前的工作——应对气候危机，提高人们的健康和福利，确保我们的孩子受到教育，以及人们在工作中可以接受新技能的培训……如果没有人工智能的力量，很难想象我们将如何做到这些。”“在美国的做法中，我们一直认为监管工作是实现这一目标的一种手段，而不仅仅是为了保护权利，这不仅对于保护国家安全是完全必要的，而且对于实现这些伟大愿望也是完全必要的。”

感谢阅读！你还可以订阅我们的YouTube频道，观看大量大数据行业相关公开课：https://www.youtube.com/channel/UCa8NLpvi70mHVsW4J_x9OeQ；在LinkedIn上关注我们，扩展你的人际网络！https://www.linkedin.com/company/dataapplab/

原文作者：Amanda Ruggeri
翻译作者：文玲
美工编辑：过儿
校对审稿：Jason
原文链接：https://www.bbc.com/worklife/article/20240118-davos-2024-can-and-should-leaders-aim-to-regulate-ai-directly