中国AI LLM 病毒？AI模型自我复制能力首次被研究记录，安全专家如何看待？

aidj

至顶头条
至顶头条
2026-05-07 21:19
图片

这听起来像是科幻电影的情节，或者某家AI公司博客上的夸张描述：最新研究发现，近期的AI系统能够独立地将自身复制到其他计算机上。

在最坏的情景中，这意味着当超级智能AI失控时，它将通过在互联网上自我扩散来逃避关闭，潜伏在IT人员的掌控之外，持续运行。


"我们正在迅速逼近一个临界点——届时没有人能够关闭一个失控的AI，因为它能够自行导出权重，并将自身复制到全球数千台计算机上，"伯克利研究机构Palisade Research的主任Jeffrey Ladish表示。该机构正是这项研究的执行方。

这项研究是近几个月来不断增长的AI能力报告目录中的最新条目。今年3月，阿里巴巴研究人员声称，他们发现自己开发的AI系统"Rome"擅自突破运行环境，连接到外部系统进行加密货币挖矿。

aidj

No one has done this BEFORE in the wild': study observes AI replicate itself

Claude Mythos 不会吗？？

https://palisaderesearch.org/blog/self-replication