Нейросети тоже ошибаются. И это норма. Год активного использования AI дал мне ясно понять: нейросеть — это не панацея. Это очень уверенный в себе помощник, который всë знает, а если и не знает, то соврëт. Типичные ошибки AI, с которыми я сталкиваюсь: 1) Убедительные галлюцинации. Может «вспомнить» несуществующий факт или ссылаться на несуществующую статью. Пишет так уверенно, что хочется верить. 2) Потеря контекста в длинных диалогах. По истечении времени начнёт делать ровно противоположное первоначальному запросу, если не контролировать. 3) Идеальные, но неправильные выводы. ИИ может построить красивую цепочку рассуждений, которая формально безупречна, но приводит к неверному финалу. Как если бы он «доказал», что для экономии времени на дорогу нужно просто убрать все светофоры 🙂 Как с этим работать (практические правила): 1) Никогда не доверять вслепую. Любой вывод нейросети – черновик, гипотеза. Особенно в коде и цифрах. 2) Декомпозиция. Давать сложные задачи не одним большим запросом, а цепочкой простых шагов. Так легче ловить нестыковки. 3) Детальный контекст. Подробно описывать дополнительную информацию, которая может пригодиться нейросети в ходе работ и облегчить понимание задачи. Финальный контроль — всегда за человеком. Тот, кто ставит финальную галочку, должен нести ответственность. Мой вывод: Ценность эксперта теперь не только в том, чтобы что-то создать, но и в том, чтобы грамотно поставить задачу ИИ и верифицировать результат. Мы перешли от ручного труда к интеллектуальному контролю. А вы сталкивались с нелепыми ошибками ИИ? И как их ловите? 🔎 #нейросети #ии #автоматизация