奥尔特曼将赴联合国安理会 首次就AI安全作简报

联合国安理会将召开AI安全会议 奥尔特曼确认出席

OpenAI发言人于当地时间18日确认，公司首席执行官萨姆·奥尔特曼将于下周在纽约联合国大会期间，向联合国安全理事会就人工智能议题进行简报。此次会议定于当地时间23日举行，由9月轮值主席国法国召集，法国欧洲和外交部长让-诺埃尔·巴罗将主持会议。

安理会15个成员国将参与这场聚焦人工智能与国际安全的讨论。据一名外交官透露，Anthropic也可能派出高级别代表参会，但最终安排尚未敲定。

会议背景：AI风险引发全球警觉

法国在分发给安理会成员的概念文件中明确指出，人工智能技术存在被恶意滥用的风险，安理会此前已在该领域有所行动，法国希望借此强调采取行动的紧迫性，推动AI以安全、负责任的方式发展，让国际社会整体受益。

这一会议召开之际，AI行业正面临日益增大的安全压力。几周前，多位AI领域领军人物公开呼吁各方协调放缓AI发展速度，并警告称，随着技术能力持续攀升，AI可能很快获得自我改进能力，最终脱离人类控制。

联合国安理会首次就人工智能风险举行会议是在2023年。此次会议是安理会再度将AI安全议题纳入高级别讨论，显示出国际社会对这项技术潜在影响的关注不断加深。

奥尔特曼的立场与会议焦点

据OpenAI发言人介绍，奥尔特曼预计将重点讨论国际协调和共同安全标准的必要性，以及OpenAI为确保全球民众都能从AI发展中受益而采取的措施。

奥尔特曼对AI风险的警示并非始于当前这轮热潮。早在2015年，他就在《Machine Intelligence, part 1》一文中写道：“超人类机器智能的发展，可能是对人类持续生存构成的最大威胁。”这一表态在当下AI能力快速演进的背景下，更显其前瞻性。

国际协调成AI治理关键议题

从法国主导的这次会议可以看出，AI安全治理正从行业讨论向国际政治议程迁移。安理会作为维护国际和平与安全的核心机构，介入AI议题意味着各国开始将AI风险视为潜在的安全挑战。

奥尔特曼的出席以及Anthropic可能的高级别参与，表明头部AI公司正试图在国际规则制定中扮演更主动的角色。然而，国际协调与共同安全标准的建立仍面临诸多挑战，各国在技术发展、安全关切与商业利益之间的平衡将决定未来AI治理的走向。