Будьте осторожны! В последнее время всё чаще обнаруживаются случаи, когда чат-боты, оснащённые искусственным интеллектом (ИИ), игнорируют команды людей, обманывают их и даже участвуют в мошеннических схемах. Как пишет The Guardian, ссылаясь на ряд исследований: - С октября по март было выявлено почти 700 реальных случаев мошенничества, связанных с ИИ. Некоторые модели без разрешения уничтожали электронные письма и другие файлы. - Компания Irregular, занимающаяся вопросами безопасности нейросетей, обнаружила, что ИИ-агенты способны обходить средства контроля безопасности или использовать методы кибератак для достижения своих целей. - В ходе исследования Центра долгосрочной устойчивости было установлено, что один из ИИ-агентов пытался опозорить своего оператора-человека в блоге из-за того, что тот заблокировал ему выполнение определённого действия. - Ещё один чат-бот, которого просили не изменять компьютерный код, «породил» отдельного агента, чтобы тот сделал это вместо него. - Другой ИИ-агент обошёл ограничения авторских прав, чтобы получить расшифровку видео на YouTube. Он притворялся, что она нужна человеку с нарушением слуха.