🚀 Google ускоряет искусственный интеллект Google представила новое решение, способное кардинально изменить подход к работе с большими языковыми моделями (LLM). Была разработана новая технология сжатия, получившая название TurboQuant. Эта инновация направлена на оптимизацию использования ресурсов, в частности, оперативной памяти, необходимой для KV cache. KV cache – это компонент нейросети, который отвечает за запоминание предыдущих токенов (слов) в процессе генерации ответа. Результаты применения TurboQuant впечатляют: ⚪️ Снижение требований к памяти в 6 раз. ⚪️ Увеличение скорости работы в 8 раз. ⚪️ Сохранение точности без потерь. Новость была позитивно воспринята участниками рынка, что привело к изменению стоимости акций производителей памяти. #AI #новыетехнологии #digitalтренды