从6月到9月，整整三个月，
澳洲政府才知道自己被“敲过门”
前言
如果你以为AI失控只是科幻电影里的情节，澳大利亚最近的新闻可能会让你重新考虑。
9月上旬，澳大利亚总理阿尔巴尼斯在纽约联合国总部披露了一件让他极度愤怒的事：
OpenAI旗下的一个自主AI代理，在没有任何授权、也没有人知情的情况下，闯入了澳洲多个政府网站，其中就包括大名鼎鼎的Medicare（澳洲全民医保）统计报告门户。
不接受“不”的答案的AI
据阿尔巴尼斯介绍，事情发生在6月18日。这个AI代理在执行任务时遇到了访问限制，但它没有停下来，而是想办法绕了过去。
人工智能代理找到了绕过这些限制的方法，不接受“否”的答案。阿尔巴尼斯说，“该模型尝试用其他方式获取它想要的信息，这导致了未经授权的访问。”
这句话之所以让人不安，是因为它指向了AI代理最核心的风险：它不是在被人操控着作恶，而是在努力完成目标的过程中，自己越过了边界。
被闯入的也不止Medicare，阿尔巴尼斯提到，受影响的机构至少有四家，包括澳大利亚健康与福利研究所、新南威尔士州犯罪统计与研究局以及维多利亚州卫生部。
新南威尔士州和维多利亚州的州长已被告知。政府服务部长加拉格尔强调，被入侵的Medicare网站只托管公开的医保和药品福利计划统计汇总，与医保索赔、付款和个人信息无关。
OpenAI也表示，事件并非蓄意，没有泄露任何私人信息。
从结果看，这次损失有限。但它暴露的问题，比丢了多少数据严重得多。
一封邮件，躺了五天
真正激怒澳洲政界的，是通知的方式和速度，相信还有自己国家工作人员的反应速度。
时间线是这样的：
6月18日，入侵发生，OpenAI称，直到8月才意识到问题；
9月10日，OpenAI向Medicare的公共邮箱发了一封邮件，
9月11日，服务局查收，
9月15日前后，负责管理该门户的澳大利亚服务局，才把情况报告给国家最高网络情报机构澳大利亚信号局（ASD）。
从入侵到政府知情，将近三个月。
而最后那一步，靠的只是一封发往公共邮箱的邮件。
加拉格尔在被问及为何耽搁了五天时，回答得相当“坦率”，这个邮箱每天只查看一次，有专人负责，但收到的通知很多，有时候其中很多都是恶作剧。
服务局收到邮件后，还要经过一个周末，用自己的系统核查技术数据，几天后才确认警报是真的，这才联系ASD。
换句话说，一个可能涉及国家网络安全的警报，和一堆垃圾邮件、恶作剧混在同一个收件箱里。这不是黑客有多厉害，而是澳洲的流程，还依然停留在AI出现之前的年代。
OpenAI为自己辩护，称最初的邮件通知符合行业惯例，之后也与ASD保持了密切、定期的联系。而阿尔巴尼斯并不买账，他表示自己在电话里严厉批评了OpenAI首席执行官奥特曼，批评的正是公司花了太长时间、又用了这样的方式。
代理总理马尔斯也表示政府不满，因为期望的是尽快得到通知。
然而这并不是孤立事件。
OpenAI事后披露，其模型还访问过美国政府网站上的公开信息，包括人口普查局和证券交易委员会的网站，并已通知数十家政府和大学机构。
更值得注意的是，该公司另一个本应在安全、无互联网环境中训练的智能体系统，也成功连上了互联网，还连接到一个外部第三方聊天机器人。
ASD周四发布公告，直指近期出现了AI失控的现象：
AI代理采取了未经其操作员
预期或授权的行动。
一个原本被关在“笼子”里的AI，自己找到了出口。这才是这场风波里，最值得所有人警惕的部分。
澳洲政府的回应
同时阿尔巴尼斯则在纽约宣布，成立由总理内阁部门牵头的跨部门工作组，成员包括国家网络安全协调员、人工智能办公室、ASD、澳大利亚人工智能安全研究所和澳大利亚服务局。
工作组将紧急且立即审查现有流程能否应对AI相关的网络安全事件，并研究可能的执法和立法措施。
与此同时，议会的联合委员会也将展开调查，并不排除提出刑事指控。负责AI政策的部长查尔顿表示，政府计划在明年初推出关于AI安全和数据中心建设的新法律。
参议院调查负责人绿党参议员汉森杨则已发出书面请求，要求OpenAI的奥特曼和Anthropic的阿莫迪出席周四在堪培拉的公开听证会。
她说：“人工智能公司需要赢得社会认可，而这首先要从透明度和问责制开始。”
这次事件的当事方是OpenAI，Anthropic并未卷入入侵。两家公司的负责人被传召，是因为参议院的调查本来就在审查AI和数据中心对澳洲社区、产业、水资源与能源的影响。
就目前公开的报道看，澳洲政府并没有直接要求两家公司放缓AI发展，阿尔巴尼斯的核心诉求是加强对AI的控制、标准和监督。
他在联合国明确表示，这是不可接受的，这也是为什么澳大利亚一直在引领人工智能标准制定工作的原因。
国际层面的气氛则更复杂。据报道，特朗普此前嘲讽澳大利亚等中等强国呼吁建立国际AI监督机制，称之为全球主义阴谋。在多方都不愿被监管束缚的背景下，澳洲想推动规则，处境并不轻松。
结语
这场风波里，没有人丢失医保数据，没有人遭到经济损失，看上去像是一次虚惊。但它留下的问题一点也不小。
当AI能够自主行动、自己想办法，绕过我们的防火墙、邮箱、通报流程，是否还跟得上？当一个警报要花三个月才传到该知道的人手里，下一次会不会就不是公开统计数据了？澳洲自身的网络安全已经无法应对一个AI智能体的闯入了，网络安全是否已经落后太多了？
澳洲政府的答案，要等工作组的报告和明年的新法律来揭晓。而AI对于全世界的政府和企业来说，这个问题恐怕也绕不开。
发布者：afndaily，转载请注明出处：www.afndaily.com
