Не доверяй, но проверяй: Новый девиз в мире ИИ. Поймал себя на интересной мысли: мне хочется доверять ИИ в вопросах результата выполнения задач. И вот этого как раз делать категорически нельзя. Особенно хорошо это видно на задачах, где важна точность. Например, при подготовке смет. ИИ может красиво оформить, уверенно посчитать, логично объяснить, но это вообще не гарантия, что в цифрах всё сошлось. Поэтому я всё чаще ставлю ему не только основную задачу, но и отдельную задачу на проверку самого себя. Например: сделать итоговое суммирование пунктов, собрать Excel с формулами, проверить логику расчётов, сопоставить итог с исходными данными. Стало интересно, почему так происходит, и пошёл смотреть исследования на эту тему. Там есть любопытные термины: algorithmic complacency и AI-assisted thinking (кому интересно можно загуглить). Наш мозг достаточно ленивый, и когда задачу решили за него, ему не очень хочется что-то там проверять. А когда система выглядит умной и экспертной (она же машина, ИИ, всяко лучше знает), человек начинает ей сильнее доверять. Но с ИИ так нельзя. ИИ это не финальный исполнитель, которому можно безусловно доверить результат. Это скорее очень быстрый помощник, которого нужно контролировать. Похоже, один из главных навыков будущего это не просто умение пользоваться ИИ, а умение не терять критическое мышление при работе с ним.