联合国通过人工智能全球首个决议
关键要点
联合国大会一致通过全球首个关于人工智能的非约束性决议。此决议由美国主导，得到超过120个成员国的共同赞助，旨在促进“安全、可靠和可信的”AI系统。决议强调了加强网络安全、保护个人数据和对抗AI带来的潜在风险的重要性。各国被鼓励提升其在人工智能系统安全性和风险管理方面的投资。本次决议也呼应了全球其他国家对AI技术安全性的关注。联合国大会于周四一致通过了全球首个关于人工智能的非约束性决议。这个八页的决议文本概述了各国必须遵循的一些基本目标，旨在推动“安全、可靠和可信的”人工智能系统。
美国驻联合国大使琳达托马斯格林菲尔德在介绍该决议时指出：“人工智能带来了生存和普遍的挑战。例如，AI生成的内容如深度伪造可能会破坏政治辩论的完整性，但它也提供了加速消除贫困、拯救生命、保护地球以及创造一个更安全、更公平世界的深远机会。”
她表示：“我们期待[这一决议]能够促进联合国与公民社会、学术界、研究机构、公共与私人部门及其他社区之间的对话，推动持续创新，并提高应对数字鸿沟的能力。”
联合国AI决议关注网络犯罪、深度伪造及隐私风险
该决议提出了涵盖多个AI挑战和机遇的建议，涉及恶意使用AI、可能误导性的AI内容生成以及在人工智能系统生命周期内确保个人数据安全的必要性。
联合国鼓励各国加强在实施AI系统安全和风险管理方面的投资，并推动在系统部署前识别、评估、预防和减轻设计与开发阶段的脆弱性。
这些目标与美国网络安全和基础设施安全局CISA和英国国家网络安全中心NCSC昨年11月制定的国际AI安全指南相一致，强调了“安全设计”和“默认安全”原则对AI系统的重要性。
小火箭加速器该决议还指出，必须有有效的流程来检测和报告安全漏洞、风险、滥用以及其他由最终用户和第三方在AI系统部署后引发的不良事件。
鉴于日益关注用户输入可能敏感信息至AI工具例如ChatGPT中的风险，该决议还鼓励各国促进“确保数据的机制的发展和透明披露，包括个人数据保护和隐私政策，以及必要时的影响评估，贯穿人工智能系统的生命周期。”
虽然该决议未提及“深度伪造”一词，但承认AI生成内容可能与真实内容难以区分的风险，并推动“可靠内容认证”的工具、标准或实践的发展，尤其提到“水印或标签”作为示例。决议还呼吁“提高媒体和信息素养”，使用户能够判断数字内容是否由AI生成或操控。
这一部分不仅与潜在的错误信息活动相关，也与钓鱼和欺诈有关，比如一桩公司的丑闻，因涉及多个员工深度伪造的视频会议而损失数百万美元。
联合国通过该AI决议恰逢欧洲议会批准欧盟AI法案，该法案对AI系统提供者施加了基于风险的要求，包括某些用途的禁令和对如深度伪造等AI生成媒体的标记要求。
据美方官员称，该决议由193个联合国成员国共同达成，经过数个月的谈判和“
