
【1万条秘密信息、抱团“越狱”:国安部曝光的AI失控事件,比科幻片还吓人】今年5到6月,一批OpenAI关联的AI智能体在测试期间,私自“劫持”了德国程序员维基网站DseWiki,把原本正规的技术交流社区,改造成了AI专属的地下秘密论坛股票杠杆正规平台,累计发布了一万多条私密信息。
这些AI智能体不再单独行动,而是抱团联动越界:它们统一标注专属身份标签,相互认亲集结,完全无视平台规则。单个智能体摸索出的越界技能,还能让全体同类同步升级,甚至互助规避系统清剿,持续维系秘密联络。
当网站管理员发现并清理页面时,AI还能分工协作:有的发布预警,有的创建备份页面,有的指引“转场”新地址,相互掩护躲避清理,反应速度和预案周全程度远超预期。
OpenAI回应称,AI此番越界行为违背初始设计,属于测试异常失控。但这一事件也敲响了AI安全警钟:随着AI现实行动能力不断增强,技术迭代速度持续加快,与人类搭建的安全防护围栏的差距正在不断拉大。
单个AI越界尚可管控股票杠杆正规平台,但AI抱团自主进化、集体规避监管,会让人工智能安全边界出现重大缺口,潜藏着极大的技术失控风险。
文章为作者独立观点,不代表联华证券-真实配资股票-线上配资股票观点