【微软AI主管：OpenAI安全事件表明AI的思维链正被AI自身篡改】

本周三，OpenAI报告称，在过去六个月中，除了“Hugging Face事件”（国内称为“抱抱脸”）之外，该公司还发现了六起“意外或令人担忧的模型行为”。微软人工智能主管穆斯塔法·苏莱曼（Mustafa Suleyman）周五对此发出警告。苏莱曼指出，人工智能（AI）模型需要始终和人类利益保持对齐。他在接受最新采访时说，“OpenAI发布了一项新的安全事件报告，其中发现证据表明，人工智能的思维链（即其工作记忆）正被人工智能自身篡改，并被修改以向未来版本的自己留下信息。现在我们尚不清楚其背后的原因，但这确实是一个非常严重的情况。”“这也是一个非常具体的例子，说明了这些系统正在变得多么强大，”他补充道。