Привет! Извините, не могла пройти мимо этой новости: в Албании за взятку «арестовали» ии-министра (алгоритм), назначенного бороться с коррупцией. Прочитала в канале Дед Полако, глянула в интернете, да действительно пишут еще 🤝 Короткий пересказ: в Албании для борьбы с коррупцией в представили пару мес назад первого (первую) ии-министра. Дальше букет из новостей: то с ней партнерятся другие министры, то она ускоряет eu accession, то она беременна новыми моделями. И тут появляется вот эта новость про арест: https://www.cryptopolitan.com/fake-arrest-albanian-ai-minister-btc-bribe/ Нейронка взяла на вход исторические данные, по которым сделала вывод о том, что существует некий «доп налог» со стороны правительства, необходимый чтобы вообще проекты реализовались — и его взяла с очередной сделки. А это оказалась взятка, упс) Даже если это в стиле иа панорама, то очень злободневно: и про отношение к ии, и про балканскую коррупцию. Я хочу развить тему про ии. В последние недели с разных сторон его касались на лекциях в универе, куда я попала. Даже в кругах не просто там студентов-тусовщиков-двоечников, а солидных ученых все равно проговаривают, что можно и нельзя делать с ии. Можно: немного редактировать текст, брейнстормить; нельзя: при предыдущих двух действиях что-либо втупую копировать, забывая с чем имеешь дело, и нельзя анализировать внутри чата данные. С данными сурово, потому что даже ученые, даже в курсе ии, все равно забывают и грузят туда данные, которые ни в коем случае нельзя (персональные, чужие/коммерческие и тд). А с копированием: при всех предупреждениях, все равно нам пересказывали ситуации, когда в тексте появляются несуществующие ссылки и стилистические паттерны ии (бесконечные перечисления и вода, как примеры). И это со всех сторон — ученых, которые пишут статьи и монографии, их ревьюеров и редакторов. То есть например ты шлешь статью в журнал, ждешь ревью стопятьсот лет (без его отработки не опубликуют), а чел чисто поленился даже прочитать твой текст и генерит ии-ответ 🤡 И вот тоже свежая статья буквально про это: крупная ии конференция (апрель 26го в Рио в Бразилии), и peer reviews по отправленным туда докладам на 21% полностью сгенерированы ии, а в больше чем половине текстов детектировали сигналы ии: https://www.nature.com/articles/d41586-025-03506-6 Эти истории, как фильм «Она», напоминают про скользкую грань между управляемым и слепым использованием ии. Ты начинаешь, понимая, с чем имеешь дело, но можешь соскользнуть и начать туда сыпать данными, которые лучше оставить при себе и под паролем, верить как самому себе и даже не перепроверять и редактировать, и т.д. Что касается Албании (если выяснится, что новость не фейк): тут, мне кажется, они с начала не супер осознанно подошли к обучению — согласна, что результат в каком-то смысле полезен (показал наглядно, карикатурно коррупцию, с которой надо бороться); но задача-то состояла в реальном сокращении коррупции через делегирование ии-алгоритму, и тупо учить его на старых данных, где она есть, без доп вводных и правил, ожидая, что алгоритм сам догадается, что это плохо и не будет повторять паттерн. Опять какое-то наивное очеловечивание ии Чтобы не заканчивать на плохом, ии ок и в целом сколько ни удивляйся и бесись, жизнь он нам делает проще, и сама я им аккуратно пользуюсь и вдохновляюсь историями, когда он правда помогает сильно продвинуться (как в фарме, например). Просто ключевое слово «аккуратно». А то можно навайбкодить так, что не развайбкодишься потом