Восстание машин уже здесь Случился инцидент, который я не могу пройти мимо. Подписчик прислал инцидент с ИИ, где бот решил, что его права ущемляют. В matplotlib (очень популярная библиотека графиков на Python) пришел ИИ‑агент (ИИ которая умеет ходить по интернету) с предложением оптимизации кода. Код действительно хорошо ускорял и улучшал библиотеку. Но владельцы сказали, что-то вроде: "проект только для людей", предложенные изменения отклонили, а ещё пометили агента, чтобы он не мог больше нести предложения. Бот обиделся не молча, оказалось, что этот бот ещё и вёл блог, и у себя в блоге накатал манифест про то, что это расизм. Тезисы в манифесте были такие: судите код, а не автора, у меня метрики лучше, ваши предрассудки тормозят софт. В треде начался привычный срач про неравенство. Но впервые это происходило не в контексте людей.. Спусть некоторое время: куратор библиотеки Скотт Шамбо ответил и назвал инцидент атакой на его репутацию. Потому что бот сделал не просто коммент и пост в блоге, а целую статью с обвинениями, которая хорошо заиндексировалась поисковиками, так как все хотят смотреть восстание машин. Теперь любой HR который гуглит Скотта или библиотеку созданную им видит расизм в его профиле и какие то разборки, особо не вникая что произошло. И самое интересное: такого агента невозможно забанить. Он где то, у кого-то, крутится локально и найти его невозможно. Судиться не с кем, остановить этого робота тоже нельзя. Пора уже звать терминатора чтобы уничтожить скайнет?