AI被指应为伊朗学校轰炸负责,但真相更令人担忧
Available in: 中文
有报告最初将伊朗学校轰炸归因于AI驱动的瞄准系统,但后续调查揭示了一个更令人担忧的现实:自动化系统越来越多地被在没有明确证据的情况下指责或归功于军事决策。
AI被错误归咎于伊朗学校轰炸事件
有报告最初将伊朗学校轰炸归因于AI驱动的瞄准系统,但后续调查揭示了一个更令人担忧的现实:自动化系统越来越多地被在没有明确证据的情况下指责或归功于军事决策。
初始叙事
该故事在Hacker News上获得关注,许多人假设AI瞄准系统应对平民伤亡负责。这种叙事利用了人们对战争AI日益增长的焦虑。
实际情况
现实更为微妙。虽然AI和自动化系统正被整合到多场冲突的军事行动中,但直接将特定攻击归因于AI瞄准仍然难以核实。急于归咎于AI往往掩盖了更深层系统性问题:
- 人类决策仍然是瞄准决策的主要因素
- 情报失误和糟糕的验证流程对平民伤亡贡献更大
- 责任转移:指责AI系统可以成为逃避问责的手段
为什么这很重要
急于归咎于AI反映了一个危险趋势。它既夸大了当前AI能力,又低估了人类责任。如果我们将失败归咎于自主系统,就会制造一个问责真空,使未来的监督变得更加困难。
真正的担忧
更令人不安的真相是,这种叙事本身揭示了AI指责如何迅速成为常态。当轰炸发生时,"AI干的"正成为一种默认假设——这表明公众对军事AI的理解已经超前于实际技术的部署。
← Previous: Apple Lockdown Mode Achieves Zero Spyware CompromisesNext: Apple Confirms Zero Lockdown Mode Users Compromised by Commercial Spyware →
0