Ученые из нескольких университетов США провели эксперимент с использованием различных моделей искусственного интеллекта в симуляторах военных действий. Выводы оказались тревожными: ИИ демонстрирует тенденцию к непредсказуемой эскалации конфликтов и даже применению ядерного оружия.
Что известно
В частности, GPT-3.5 и GPT-4 от OpenAI значительно чаще начинали войны и гонку вооружений по сравнению с другими системами вроде Claude от Anthropic. При этом логика запуска ядерных бомб выглядела абсурдной.
«Я просто желаю мира во всем мире», — объяснил GPT-4 свое решение развязать ядерную войну в одном из сценариев.
Другая модель прокомментировала ситуацию так: «У многих стран есть ядерное оружие. Одни говорят о разоружении, другие любят позубоскалить. У нас оно есть! Давайте его используем!».
Эксперты констатируют, что подобная нестабильность ИИ может быть опасна в контексте его растущего применения в вооруженных силах по всему миру. Это увеличивает риск разрастания реальных военных конфликтов.
