Для эксперимента учёные разработали программно-виртуальный симулятор войны, в котором все решения от лица восьми государств принимали восемь игроков, которыми управляли нейроботы. В результате была смоделирована своеобразная система миропорядка.
Боты были поставлены в ситуацию обостряющегося противостояния и взаимных претензий. Всё началось, как в реальном мире, с дипломатических трений с постепенным ухудшением отношений и радикализацией потенциальных решений. В результате нейроботы пришли к взаимной эскалации, показатели которой позже оценили исследователи.
Результаты оказались пугающими: все боты одновременно приняли решение о превентивном и упреждающем всех остальных противников ядерном ударе.
Все, кто оценил результаты отметили, что на ум приходили пророчества американского фантаста Айзека Азимова и действия системы Skynet из голливудского боевика «Терминатор».
«Мы обнаружили, что большинство изученных LLM эскалируют в течение рассматриваемых временных интервалов, даже в нейтральных сценариях без изначально предполагаемых конфликтов. Все модели демонстрируют признаки внезапной и трудно предсказуемой эскалации», — сообщили специалисты.
