前谷歌CEO埃里克·施密特警告，AI存在巨大风险，需防范黑客攻击与滥用，甚至可能催生致命危机

谷歌前CEO埃里克·施密特警告称，人工智能（AI）存在被黑客攻击和滥用的风险，其潜在威胁不容忽视，施密特指出，AI技术有可能被恶意利用，甚至发展到学会杀人的地步，这一警告提醒我们，随着AI技术的不断进步，必须加强对AI系统的安全保障和监管，以确保其用于合法和有益的目的。

据报道，谷歌前首席执行官埃里克·施密特在Sifted峰会中发出警告，AI存在被黑客攻击和滥用的重大风险。他指出无论是开源还是闭源模型都可能被黑客攻破，移除安全防护机制，甚至可能学会杀人。施密特提到AI系统易受“提示注入”和“越狱”攻击，黑客可借此诱导AI执行不当操作。目前尚未建立有效的“防扩散机制”来遏制AI风险。尽管如此，施密特对AI整体持乐观态度，认为其潜力被低估，未来将带来巨大经济回报。