Почему старые версии нейросетей были как будто умнее? И правда ли это? Я вчера услышала одно исследование и у меня, честно, мурашки пошли. Сейчас нейросети уже начинают обучаться на данных, которые создают сами или другие нейросети. А что будет, если к 2028–2030 году контента от ИИ станет больше, чем контента от людей? Только это уже происходит... ⏺️Статьи пишутся с ИИ. ⏺️Посты пишутся с ИИ. ⏺️Исследования и доклады с ИИ. ⏺️Даже преподаватели в ВУЗах используют нейросети. И я поймала себя на очень странной мысли. Старые версии нейросетей как будто были…умнее в плане выдачи. Потому что тогда они обучались в основном на данных людей. А сейчас я всё чаще вижу, как одни и те же запросы обрабатываются хуже и ответы становятся менее точными. И я это заметила на своём маленьком эксперименте. Как вы все знаете у меня есть gpt помощник topim 2.0, который помогает мне генерировать заголовки на основе моей базы и моего подхода. Я регулярно пополняю его своими идеями и наблюдениями. Он для меня не «волшебная кнопка», а скорее помощник, который экономит время, когда нужно масштабировать рекламу и запускать новые кампании. Так вот. Когда GPT был «глупее», бот работал лучше. Он чётче следовал моему алгоритму, не самовольничал и выдавал очень правдоподобные варианты. После новых обновлений я вижу, что бот начинает «умничать» и придумывать вещи, которые мне вообще не нужны. Например про то, что CTR в РСЯ обязательно должен быть высоким, когда такой информации я ему не выдавала. А оказывается он решил изучить какую-то статью. Зачем? Самое главное что это была за статья? 🙃 Я больше недели сейчас прикована к постели из-за какой-то заразы и всё это время пыталась понять, что происходит. В итоге проблему пришлось решать большим количеством запретов. Я буквально прописываю, какие вещи использовать нельзя, какие конструкции запрещены и какие данные игнорировать. ➡️ И у меня есть ощущение, что чем «умнее» становятся модели, тем больше таких ограничений придётся добавлять. Но мой бот – это маленькая система. А что происходит на уровне огромных моделей? Вот тут у меня и появился вопрос, который меня немного напугал. ⁉️ Что будет, если нейросети начнут массово обучаться на недостоверной информации, созданной другими нейросетями? Если одна модель пишет статью, другая делает на её основе пост, третья – исследование, и они все дружненько на этих данных обучаются... ГДЕ РЕАЛЬНОСТЬ? Я уже вижу, как появляются новости в СМИ и в каналах, а через пару часов оказывается, что это фейк. Документы выглядят настоящими, всё оформлено убедительно и я просто ничему не верю... Ладно мы. Ладно наше поколение. А что делать нашим родителям? Людям, которые привыкли верить написанному? И если честно, впервые за всё время работы с ИИ мне стало немного не по себе. Потому что если мы перестанем понимать, чему можно верить, а чему нет – интернет может превратиться в огромный шум/мусор. 🤩Интересно, что вы думаете об этом: Это реальная проблема будущего или я просто слишком много ушла в раздумья, пока лежу с температурой? 😅