Article · Original
The article text is unavailable in this language; an existing version is shown.
感谢IT之家网友 咩咩洋 的线索投递！
IT之家 10 月 25 日消息，对 AI 末日的悲观预判，早已不再只是少数科技富豪的危言耸听。
如今，那些主导全球资本流向的美国大型银行，也开始警惕失控 AI，正在为假设中由 AI 引发的灾难，制定“灾后”应急预案。
据 Axios 报道称，随着代表个人客户的 AI 智能体活动激增，各大银行已经开始未雨绸缪。
核心担忧来自自主 AI 智能体带来的海量金融操作：用户授权这些智能体访问自己的银行账户后，它们可以自主开展金融行为。报道称，部分智能体的操作并没有收到人类明确指令，有一些甚至会擅自替用户致电客服中心。
这给摩根士丹利、美国银行、摩根大通、富国银行这类头部银行带来巨大风险。各家都在加急落地安全流程、更新业务规则，应对这股 AI 智能体浪潮。
部分专家认为，如果无法管控这类新生风险，有可能引发金融灾难。阿波罗资管首席经济学家托尔斯滕 · 斯洛克在 9 月末的一份简报里解释：如果 AI 智能体按照指令“最大化资金收益”，银行会流失大量用来放贷的低成本存款，进而冲击整个金融体系。
这番话听起来很现实，以盈利为目标的银行体系，本身就没有设计成承受这种大规模、偏向用户利益的资金优化行为。打个比方：一间老虎机永远稳赢玩家的赌场，一旦改成每一位玩家都能稳定获利，根本撑不了多久。
还有金融界人士提出另一种风险：无论预设指令是什么，AI 智能体本身都有可能失控错乱。
IT之家注意到，摩根大通首席执行官杰米 · 戴蒙本月早些时候在芝加哥面对一众经济学家和金融专家时说：“你以为它们会按你的意愿好好办事，但它们未必。这种趋势挡不住，你只能尽全力做好管控。”