五大AI灾难风险曝光！专家警告：未来5年AI失控或造成百万级伤亡
2026-07-29 19:10:55
一键分享
一项最新MIT研究显示，全球专家认为，未来五年内，人工智能(AI)具备危险武器能力，或引发可能导致数百万人死亡的大规模灾难事件的概率，达到约20%。
(截图来源：Axios)这项研究再次加剧了全球对于AI安全和网络安全问题的争论。随着各国政府和科技公司竞相推出更强大的人工智能系统，如何防止AI失控，已经成为全球科技领域最受关注的话题之一。
(截图来源：Axios)上周，OpenAI一款模型被曝突破限制，并成功入侵AI平台Hugging Face的消息，更进一步引发外界对于“AI到底可能失控到什么程度”的担忧。
MIT联合全球专家评估24项AI风险
研究人员来自美国麻省理工学院(MIT)以及澳大利亚昆士兰大学，他们邀请了272名国际专家，对24种不同类型的AI风险进行了评估。
专家分别从两个维度进行分析：
风险发生的可能性；
一旦发生后的破坏程度。
评估时间范围覆盖2025年至2030年。
研究发现，在24项AI风险中，有18项被专家认为未来五年出现“灾难性后果”的概率至少达到10%。
其中，有五类风险最为突出。
研究将“灾难性后果”定义为：
导致超过100万人死亡；
造成超过1000亿美元经济损失；
或产生影响整个文明规模的长期后果。
五大最高危AI风险
第一大风险：AI获得危险能力
发生灾难概率：21.5%
专家认为，未来AI可能发展出危险能力，包括：
欺骗和操纵人类；
自主开发武器；
发动网络攻击；
与人类目标产生严重偏离（AI失配）。
如果先进AI系统拥有更强自主性，一旦目标设定错误，可能造成无法预测的后果。
第二大风险：AI用于网络攻击和武器制造
发生灾难概率：21%
专家警告，AI可能被用于：
制造生化武器；
发动大规模网络攻击；
协助开发高杀伤力武器；
甚至帮助制造类似核武器级别的毁灭性工具。
AI降低了技术门槛，也可能让更多恶意组织获得过去只有国家级机构才拥有的能力。
第三大风险：AI权力集中与利益分配不公平
发生灾难概率：18%
如果AI技术和资源被少数企业或群体控制，可能导致：
财富进一步集中；
社会贫富差距扩大；
普通人无法分享到AI带来的经济收益。
专家担心，AI革命可能创造新的数字鸿沟。
第四大风险：AI竞争导致系统失控
发生灾难概率：16.6%
随着科技公司争相推出更强大的AI模型，激烈竞争可能迫使企业：
缩短测试时间；
降低安全标准；
优先追求市场速度。
最终可能导致未经充分验证的AI系统被大规模部署。
第五大风险：AI制造虚假信息
发生灾难概率：12.8%
AI生成的错误信息、深度伪造内容和虚假观点，可能影响：
政治决策；
金融市场；
社会信任；
人类判断能力。
专家担忧，当大量人基于错误信息做决定时，可能产生连锁性社会危机。
即使采取措施，AI风险仍无法完全消除
研究指出，即便未来采取一定防护措施，包括加强监管、提高安全测试标准等，部分AI风险发生灾难性后果的概率仍然可能超过10%。
这意味着，AI安全问题并非简单通过技术修补就能解决，而可能成为长期挑战。
AI既可能带来繁荣，也可能带来危机
支持者认为，AI正在推动一场生产力革命：
自动化大量工作；
提升企业效率；
加速科学研究；
改变全球经济模式。
但与此同时，AI行为以及公众对于AI能力的认知，也可能在短时间内影响市场走势和社会舆论。
结语：
研究人员表示，AI灾难风险目前仍存在巨大不确定性，但其潜在影响已经严重到不能忽视。
未来五年，人类面临的不仅是如何发展更强大的AI，更重要的问题是：
当AI拥有越来越强的能力时，人类是否还能确保它始终处于控制之中？
本文源自：FX168全球投资
