Генеральный директор Google Сундар Пичаи подтвердил наличие проблемы «черного ящика» в современных LLM. Системы демонстрируют эмерджентные свойства — навыки, не заложенные при обучении, например, автономное освоение бенгальского языка. Инженеры понимают математическую архитектуру, но не могут интерпретировать логику формирования конкретных ответов. Это создает риски непредсказуемого поведения и галлюцинаций. Несмотря на неопределенность, Google продолжает внедрять эти технологии, аргументируя это тем, что человеческий разум также не изучен до конца.