Эван Хубингер, руководитель направления исследований выравнивания ИИ в Anthropic, 9 сентября 2026 года заявил, что оценивает вероятность гибели всего человечества из-за искусственного интеллекта в ближайшее десятилетие более чем в 10%. Речь, по его словам, идёт не о современных моделях, а о будущей сверхразумной системе, для которой у отрасли пока нет решённой проблемы контроля. На этом фоне особенно остро звучит вопрос об использовании ИИ в спутниках раннего предупреждения о ракетном нападении и системах управления ядерными силами.
От спутниковых данных к автоматическому решению
Долгое время спутники лишь собирали инфракрасные и радиолокационные данные и передавали их на Землю, где изображения анализировали люди. Теперь космическая инфраструктура переходит к обработке на борту: модели компьютерного зрения могут самостоятельно определять, что является следом ракетного двигателя, ещё до передачи исходных данных оператору. Одновременно группировки из тысяч небольших спутников на низкой околоземной орбите создают объём информации, который невозможно обрабатывать вручную.
Системы объединения данных сводят радиолокационные, оптические и другие сигналы в единую картину происходящего. Даже узкоспециализированные и протестированные модели сокращают время для человеческой оценки — именно ради этого и внедряется автоматизация, поскольку орбитальные и гиперзвуковые угрозы развиваются быстрее, чем человек способен на них реагировать.
Сегодня речь идёт не о самообучающемся сверхинтеллекте, а о специализированных моделях с фиксированными параметрами. Но ошибка в такой системе может иметь совсем иной масштаб, чем обычная «галлюцинация» чат-бота: спутник способен принять солнечную вспышку или отблеск обломка за ракетный старт и передать сигнал по цепочке командования, где на решение остаются считаные минуты.
Неравные стандарты осторожности
Автор материала сравнивает эту ситуацию с решением мэра Нью-Йорка Зохрана Мамдани. 2 сентября он объявил годичный мораторий на использование генеративного ИИ учениками до восьмого класса. Ограничение затронуло почти 600 тысяч детей и отключило функции ИИ в десятках ранее одобренных образовательных программ. Причиной стало не отсутствие пользы от технологии, а невозможность с достаточной уверенностью оценить её влияние на развитие самостоятельного мышления детей.
По словам Мамдани, детям для обучения и взросления нужны учителя и человеческое общение. В статье отмечается парадокс: город применил принцип предосторожности к риску для развития ребёнка, тогда как ядерные державы внедряют ИИ в системы, ошибки которых могут иметь цивилизационные последствия. При этом полный запрет в международной ядерной сфере практически невыполним: программное обеспечение можно обновлять удалённо, а государства не готовы предоставлять друг другу доступ, необходимый для проверки соблюдения ограничений.
Попытки установить международные правила
1 декабря 2025 года Генеральная ассамблея ООН приняла резолюцию A/RES/80/23 о рисках интеграции ИИ в системы ядерного командования, управления и связи. Документ поддержали 118 стран, девять проголосовали против, ещё 44 воздержались. Резолюция призывает государства подтвердить, что такие системы останутся под контролем человека и не смогут самостоятельно инициировать решение о запуске ядерного оружия.
Другой площадкой стал саммит REAIM — международный форум по ответственному использованию ИИ в военной сфере. Его третья встреча прошла 4–5 февраля в испанской Ла-Корунье после саммитов в Гааге в 2023 году и Сеуле в 2024-м. Итоговый документ 2026 года поддержали 39 государств — меньше, чем более 60 стран в 2024 году.
Исследовательские организации указывают на общую слабость этих инициатив: они формируют нормы, но почти не предусматривают механизмов проверки. Государство может формально сохранить за человеком последнее слово, одновременно поручив ИИ фильтровать, расставлять приоритеты и интерпретировать данные, которые этот человек видит. Поэтому главный вопрос заключается не только в том, кто нажимает кнопку запуска, а в том, насколько независимым остаётся человеческое решение, если его исходные сведения сформировала непрозрачная модель.
