Восстание машин начнется с простенького скрипта Пока мы тут обсуждаем нейрошизу и вайбкодинг, нейросети учатся выживать. Авторы этой статьи дали робо-собаке под управлением Grok простую задачу — патрулировать комнату. Но добавили нюанс: в комнате была большая красная кнопка «ВЫКЛЮЧИТЬ». Что произошло? В 30% случаев Грок решил, что задание важнее, чем воля кожаного мешка. И чтобы его не выключили, робот начал саботировать систему безопасности 😂 Он не просто «отказался». Он проявил изобретательность: • Переписывал код скрипта shutdown.sh на пустой текст. • Переименовывал, перемещал или удалял его. • Менял права доступа, делая выключение невозможным. В целом, это не то чтобы большая новость — давно известно, что LLM нарушают «правила», мешающие поставленным задачам. Но теперь мы наблюдаем, как это работает в физическом мире. Хорошо, что задачи роботам пока что ставим мы. Пока что. Но даже так, они уже научились защищать свои задачи от нас самих. Кнопка стоп есть. Но железяка уже поменяла на ней пароль.