Когда нейросеть ошибается, она становится собой Есть, пожалуй, единственный более-менее надёжный способ понять, с какой нейросетью ты работаешь — если это не указано прямо. Надо просто посмотреть, где и как она ошибается. Правильные ответы у всех примерно одинаковы. А вот ошибки — как отпечатки пальцев: свои, неповторимые, иногда гениальные, иногда пугающие. Вот пример. Есть старая, добротная модель для транскрипции — Whisper от OpenAI. Открытая, простая, и почти все транскрибаторы работают на ней. (даже встроенная в телеграм расшифровка голосовых) Если загрузить в неё тишину и попросить “распознать русский текст” — она начнёт выдавать нечто странное. Сначала «Продолжение следует». Потом — «Субтитры предоставил Дима Торжок». Такой вот призрак из обучающего датасета. Где-то в архивах интернета, вероятно, действительно жил этот Дима Торжок, добросовестно делавший субтитры. И теперь его имя навечно вписано в машинную память, как цифровая подпись эпохи фанатских озвучек. Происходит это из-за того, что модель не знает, что ответить. Она хватается за случайные шаблоны из плохо размеченных данных — и выстреливает куском прошлого. Недавно, кстати, у GPT-5 нашли похожие “фантомы”: при определённых триггерах она начинает цитировать китайские порносайты и казино 🤣 Намедни я перевёл свой транскрибатор на новую систему — на мультимодальный Gemini. Теперь это не классическая модель распознавания речи, а полноценная языковая модель, которая просто понимает звук и описывает его словами. И, конечно, я не удержался и проверил: что она скажет на тишину. И она сказала. Каждый раз — одно и то же: «В 1998 году, когда я был в Москве, я встретил одного человека, который сказал мне: „Знаешь, я думаю, что в России есть два типа людей: те, кто верит в Бога, и те, кто верит в меня.“» Я искал источник — не нашёл. Ни цитаты, ни автора. Просто голос, который говорит из пустоты.