AI能力飞速提升恐失控 三AI巨头支持放缓发展
13 Sep, 2026
美国人工智能(AI)公司Anthropic前研究员贾各布·科松日前辞职时警告,AI开发人员普遍相信,AI未来可能消灭人类,其言论引起各界关注。
Anthropic首席执行员阿莫戴也认同科松的看法,并警告AI发展速度可能已经快过安全措施的跟进速度。
他预计,AI在未来6至12个月内,甚至可能通过AI代理,利用现有的“僵尸网络”接管整个互联网。
综合美国有线电视新闻网(CNN)等媒体报道,阿莫戴在个人网站发表一篇长达3800字的文章指出,近几个月AI技术发展迅速,并逐渐具备自我优化及协助开发下一代AI的能力,这种过程被称为“递回自我改进”(RSI)。
他担心,如果AI的自主能力不断增强,但缺乏足够的安全防护,人类最终可能失去对AI的控制,AI技术也可能被滥用于网络攻击、生物恐怖主义,甚至造成严重经济动荡。
他说,若AI代理能够大规模攻击网络基础设施,所造成的损失可能高达数千亿美元。
阿莫戴呼吁AI业界,适度放慢发展步伐,为安全措施争取更多时间。
OpenAI首席执行员奥尔特曼和xAI所有者马斯克也认同阿莫戴的观点,他们认为需要加强监管,控制AI发展步伐。
阿莫戴建议AI公司加强安全防护,并聘请拥有公司系统权限的第三方评估人员,审查AI模型、训练流程及安全措施,同时及时通报安全事件。
他也促请各国政府加强合作,制定统一的AI安全标准。
阿莫戴认为,如果AI业界能够适度放慢发展速度,就有机会在AI具备关键能力前,多争取1至2年时间,加强AI“对齐”及安全研究,从而降低发生严重事故的风险。
他坦言,要在推动AI技术发展的同时控制发展速度并不容易,但人类必须善用这段时间,让安全措施跟上AI发展的步伐。
(整理自《星洲日报》《东方日报》)