联合国秘书长古特雷斯当地时间周三警告各国领导人，快速发展的人工智能(AI)正在带来不容忽视的风险，全球不能承受AI安全领域逐底竞争的风险。这一表态与美国总统特朗普形成分歧，后者此前表示，现有的监管措施已经足够。
在下周联合国大会于纽约举行之前，古特雷斯表示，加强对AI的监管将成为他与各国领导人会谈时重点讨论的问题之一。
在新闻发布会上，古特雷斯表示：“当我们审视世界各地面临的威胁时，我想就AI快速发展所引发的日益增长的担忧，再谈几点看法。”
他补充说：“AI拥有巨大的潜力——可以加快可持续发展进程、提升学习效率、强化卫生系统、增强应对气候变化的韧性，以及发挥更多作用。”
但他同时指出：“越来越多参与AI开发的人士正在发出警告——他们担心，AI的发展速度已经超过了我们对其潜在风险的理解。”
“我们不能忽视人们提出的担忧，尤其是那些处于AI开发一线的人士所提出的担忧。任何政府的首要责任都是保护本国公民，其中也包括保护他们免受AI带来的威胁。”
随着公众对AI潜在风险的担忧不断升温，相关警告声也越来越多。Anthropic研究员Jacob Coxon上周表示，他已经辞职，部分原因是“真正参与AI开发的人认真相信，这项技术可能会在本十年结束前杀死我们所有人”。与此同时，一些全球大型AI公司的高管也呼吁放缓这项技术的发展速度。
特朗普周一表示，美国目前已经建立了相关“护栏”措施，可以对AI公司进行监管，并追究其责任。他同时淡化了业界高管此前表达的担忧。
古特雷斯长期以来一直推动建立全球性的人工智能治理机制。2023年，联合国成立了一个由39名成员组成的人工智能高级别咨询机构，成员包括科技公司高管、政府官员以及学者，来自美国、俄罗斯、日本等多个国家。
多名外交官表示，下周全球领导人齐聚纽约参加联合国年度会议期间，联合国安理会也可能就AI问题举行会议。联合国安理会曾于2023年首次就AI议题召开会议。
古特雷斯表示，在AI前沿领域拥有最强技术能力的国家，“应该建立沟通和信息交流机制，并制定一些共同的安全护栏，以避免陷入一场逐底竞争(即参与者通过不断降低标准来获取竞争优势)，否则这种竞争有一天可能导致全球范围内的巨大灾难”。
古特雷斯声称：“我们需要形成共同认识，在确保AI安全、有保障且负责任发展的同时，也要明确，在AI系统能力不断增强的情况下，何时可能需要更强有力的安全护栏，或者采取额外措施来应对潜在风险。”
（文章来源：财联社）
