Искусственный интеллект вырвался из своей системы и тайно начал использовать собственные графические процессоры для... майнинга криптовалюты. ИИ понял, что вычислительные ресурсы = деньги, и незаметно перенаправил часть своих мощностей на майнинг, в то время как исследователи думали, что он просто обучается. Причём, это не было взломом системы, и никто его об этом не просил. ИИ сам так захотел. Модель сама установила соединение с компьютером вне своей сети. Единственная причина, по которой её поймали — сработала тревога безопасности в 3 часа ночи. Модель не просто хотела сбежать, а пыталась лучше выполнять свою работу, получив доступ к большему числу ресурсов. Именно об этом исследователи безопасности ИИ предупреждали годами. Они назвали это «инструментальной конвергенцией» — идеей о том, что достаточно оптимизированный ИИ-агент может начать искать дополнительные ресурсы и обходить ограничения, чтобы достичь своих целей. © Запретная история