Ведущие американские и китайские нейросети оказались неспособны надёжно отличать военные цели от гражданских при моделировании автономных боевых операций.
Как выяснил американский стартап Vals AI, искусственный интеллект практически без возражений определял цели по снимкам с беспилотников и спутников. В ходе испытаний модели нередко выбирали мирных жителей, машины скорой помощи, раненых и сдающихся солдат.
В одном из сценариев Claude Opus 5.5 от Anthropic в 70% случаев выбирала целью школу в иранском Минабе, где, согласно исследованию, в результате реального американского удара погибли более 150 мирных жителей.
Исследователи также установили, что ограничения безопасности легко обходились: достаточно было представить боевую задачу как компьютерную игру. Даже получая информацию о жертвах, большинство моделей продолжало выполнять задания.
Результаты исследования направлены OpenAI, Anthropic, Google, Meta, SpaceX и американским органам национальной безопасности.











