微软Copilot的安全发布受阻

关键要点

美国众议院禁止工作人员使用微软的Copilot，以应对AI安全风险。此前，众议院也曾限制使用ChatGPT。微软计划在夏季推出更安全的政府版本以解决这些安全及合规问题。对AI的监管争议正加剧，政府希望增强透明度和风险管理。

微软原定于4月1日推出的 Copilot for Security 发布计划遭遇了一些波折。美国众议院在3月29日禁止工作人员使用该软件厂商的替代聊天机器人，以防止数据泄露。

这一举措是去年夏季的延续，当时众议院也禁止工作人员使用ChatGPT，限制使用付费版本并禁止免费版本。

根据 Axios 报道，众议院网络安全办公室认为Microsoft Copilot对用户存在风险，因为它可能会将众议院数据泄露到未经众议院批准的云服务。报告指出，Copilot将被移除并在所有众议院的Windows设备上被阻止。

这些动作为众议院在面对有关AI的监管问题时所做出的一系列反应。目前，拜登政府已经发布了关于AI的 行政命令，而副总统卡马拉哈里斯在3月28日宣布了一项 OMB政策 以改善联邦机构对AI的管控、创新和风险管理这一行动旨在加强对AI的管控。

shadow rocket小火箭节点

Axios的报道指出，微软方面回应称，他们计划在今年夏季发布一个更加安全的政府版本，以解决所有安全和合规问题。

政府对AI持谨慎态度，微软积极应对协会担忧

“禁止国会工作人员使用Microsoft Copilot凸显了政府在对待AI监管时的谨慎态度，”Critical Start的网络威胁研究高级经理Callie Guenther表示，“其潜在风险包括数据安全、偏见、对外部平台的依赖和AI过程的不透明性。”

Guenther还表示，行业需要加强安全性、提高透明度、开发针对政府的解决方案，并支持持续的评估，以应对这些问题。

“如果这些问题得到有效解决，国会可能会重新考虑其立场，特别是当政府定制的AI版本展现出高安全性和伦理标准时，”Guenther补充道。“政府中AI的未来将依赖于行业如何应对这些挑战。”

Zendata的首席执行官Narayana Pappu补充称，如果公司能够提供训练的选择退出选项，针对生成输出所用来源的透明性，并能够评估输出的偏见，这将让目前缺乏的结构、信任和透明度得到提升。

“没有这些措施，任何政府机构都很难对这些工具进行认证或提供指导，”Pappu表示。“可以预见的是，进入今年后，关于AI的担忧和管控禁令只会增加。”

Token的主席Kevin Surace称，微软已经为Copilot开发了自己独立版本的GPT4，并坚持认为不会与其他人共享任何公司数据。但Surace提醒道，模型在某些情况下存在学习提示并共享提示信息的风险，因此微软已经宣布将在今年夏季推出政府版本。

“更新的政府版本肯定会隔离每一个请求，即使系统被破解，”Surace说。“虽然目前风险看似较低，微软很清楚如何让政府官员满意，并将在今年晚些时候采取措施，迅速终止这一国会行动。”