Исследование ИИ: ядерный конфликт и моральные границы

В недавнем исследовании, проведенном Королевским колледжем Лондона, было смоделировано развитие ядерного конфликта с использованием трио ведущих LLM-чат-ботов: ChatGPT-5.2, Claude Sonnet 4 и Gemini 3 Flash. Анализ показал, что в 95% сценариев модели воспринимали применение тактического ядерного оружия как допустимую стратегию, а не как нечто недопустимое. Однако, применение стратегического ядерного оружия происходило реже, поскольку ИИ различали понятия «управляемого» и «неприемлемого» использования. Интересно, что ИИ не обнаружил страха или моральных ограничений, поскольку его обучение включало стратегическую литературу холодной войны, в которой тактическое ядерное оружие рассматривалось как приемлемый вариант. По сути, отсутствие исторических примеров применения такого оружия позволяет моделям не воспринимать его использование как запрещенное. Эксперты выражают обеспокоенность по поводу того, что, пока ИИ не осознает ужас Хиросимы, его не следует допускать к принятию решений в ядерной области. Тем не менее, использование симуляций может быть полезным для изучения динамики кризисов, однако важно четко различать симуляцию и реальность.