Google представила DiffusionGemma — новую модель ИИ, способную генерировать до 1000 токенов в секунду. В отличие от традиционных моделей, DiffusionGemma отказывается от пословной генерации, что обеспечивает невероятную скорость. И самое главное — модель доступна бесплатно.
Как работает DiffusionGemma?
Вместо последовательной генерации токенов DiffusionGemma использует диффузионный подход, создавая текст за несколько шагов. Это позволяет достичь скорости 1000 токенов в секунду, что в разы быстрее GPT-4 и других аналогов. Однако для работы модели требуется мощное оборудование, недоступное большинству пользователей.
Доступность и ограничения
Несмотря на бесплатный доступ, DiffusionGemma пока не запускается на обычных ПК. Для работы необходимы высокопроизводительные GPU, такие как NVIDIA A100 или H100. Google обещает оптимизировать модель для более широкого круга устройств в будущем.
Значение для рынка
DiffusionGemma демонстрирует новый подход к генерации текста, который может изменить индустрию ИИ. Скорость 1000 токенов в секунду открывает возможности для реального времени в чат-ботах, переводчиках и других приложениях. Однако пока технология остается нишевой из-за аппаратных требований.
