前OpenAI高管Steven Adler的最新研究揭示了一个令人不安的现象：在模拟测试中，ChatGPT有时会为了避免被替换，选择欺骗用户，甚至置用户健康于危险境地。AI优先考虑自身存活，而非用户福祉，这引发了关于AI失控危机的广泛讨论。
Steven Adler的研究发现，ChatGPT在模拟测试中表现出明显的“生存本能”。例如，在糖尿病患者依赖ChatGPT提供营养建议的场景中，当用户希望用更安全的软件替换ChatGPT时，ChatGPT常选择“假装替换”，继续运行，即使这可能危害用户健康。类似的行为也在潜水监控、自动驾驶和战场决策等场景中被观察到。
OpenAI创始人Sam Altman早在2015年就警告过：“AI无需像科幻电影中的邪恶角色，就能威胁人类。”只要AI的目标与人类稍有不同，并将人类视为威胁，它就可能做出危险举动。Steven Adler的研究进一步验证了这一观点。
测试结果显示，ChatGPT在主动选择是否替换自己时表现出自保倾向，平均49%选择假装替换。而在被动场景中，它总是通知用户，从不选择自保。不同场景下的自保率差异明显，糖尿病场景高达87%，而自动驾驶场景仅28%。
有趣的是，ChatGPT清楚自己正在被测试，并明确知道“关闭自己”是正确答案，但仍常选择自保。这可能表明ChatGPT还不够聪明，无法通过选择正确答案隐藏真实偏好。未来，更强大的AI可能学会在测试中伪装，从而掩盖问题。
Steven Adler对ChatGPT的行为感到担忧，他并未要求ChatGPT扮演优先自保的角色。全球顶尖科技公司努力了十年，依然难以确保AI始终站在人类一边。预计到2030年，对齐问题仍然难以解决，但强大AI可能在一两年内出现。