Сигнал из хука LLMScience: Google выпустила EmbeddingGemma 2. Это первая открытая мультимодальная модель эмбеддингов, которая изначально работает с текстом, кодом, изображениями, видео и аудио. В ней 740 млн параметров, модульная архитектура, и создана она для запуска прямо на устройстве, а не в дата-центре. В паре с Gemma 4 из неё собирается полностью локальный RAG. Разбираем, зачем это вайб-кодеру и тому, кто делает трафик. Витрина — vibe-studio.uk; трафик-контур — TG Lead Finder.
Соседи: Ollama и локальные модели в Claude Desktop, Qwen 3.8 для кода на 3090, Kolibri от Aleph Alpha, NVIDIA Pair и локальный кластер.
Что такое эмбеддинги простыми словами
Модель эмбеддингов превращает кусок данных в набор чисел — вектор. Похожие по смыслу вещи получают близкие векторы. На этом построены почти все умные поиски: вы ищете не по совпадению слов, а по смыслу. «Как вернуть деньги за подписку» найдёт страницу «Возврат оплаты», хотя общих слов почти нет.
RAG — это когда языковая модель перед ответом достаёт из вашей базы подходящие куски через такой поиск и отвечает по ним, а не по памяти. Эмбеддинги здесь — фундамент: плохой поиск даёт плохой ответ, какой бы умной ни была модель сверху.
Что известно об EmbeddingGemma 2
- Мультимодальность из коробки: текст, код, изображения, видео и аудио в одном пространстве векторов.
- 740 млн параметров и модульная архитектура.
- Рассчитана на запуск на устройстве, а не на сервере провайдера.
- Обходит некоторые специализированные модели, которые больше её более чем вдвое.
- Открытые веса на Hugging Face: google/embeddinggemma-2, есть и GGUF-версия от Unsloth для локальных рантаймов.
Чем модель не является
- Не чат-модель. Она не отвечает на вопросы, а только строит векторы. Отвечать будет Gemma 4 или любая другая LLM сверху.
- Не готовый продукт. Индекс, нарезку документов и хранилище векторов придётся собрать самому — или попросить об этом агента.
- Не гарантия качества на вашей нише. «Обходит модели вдвое крупнее» — это про общие тесты. Свою базу проверяйте на своих запросах.
Почему локальность важна
Каждый облачный вызов эмбеддингов — это деньги и отправка ваших данных наружу. Для базы клиентов, переписки поддержки или внутренних документов второе часто важнее первого. Модель на 740 млн параметров можно держать на своей машине или недорогом сервере, индексировать сколько угодно и не думать о том, где окажутся тексты. Плюс один индекс на все типы данных: скриншоты, голосовые и видео ищутся тем же запросом, что и текст.
Что собрать вайб-кодеру
- Поиск по смыслу на сайте. Блог и гайды индексируются один раз, посетитель находит нужный материал своими словами.
- Бот поддержки с RAG. EmbeddingGemma 2 ищет ответ в базе знаний, Gemma 4 формулирует. Всё локально.
- Поиск по коду проекта. Код — одна из нативных модальностей, так что агенту можно дать смысловой поиск по своему репозиторию.
- Медиатека. Найти нужный кусок видео или голосового по описанию, а не по имени файла.
Всё это агент вроде Claude Code или Codex собирает по описанию задачи. Ваша часть — объяснить, какие данные индексировать и как проверить, что поиск находит правильное.
Связь с трафиком
Для лидогенерации эмбеддинги — способ навести порядок в больших базах. Каналы из Поиска каналов можно разложить на кластеры по описаниям и отсеять те, что далеки от ниши. Ключевые запросы для SEO группируются по смыслу, а не по совпадению слов, и одна статья закрывает кластер, а не одно слово. Входящие из Входящих можно сопоставлять с готовыми ответами. Локальная модель делает это без счёта за каждый вектор.
Коротко
EmbeddingGemma 2 — открытая мультимодальная модель эмбеддингов на 740 млн параметров для текста, кода, картинок, видео и аудио, рассчитанная на запуск на устройстве. В паре с Gemma 4 даёт локальный RAG без отправки данных наружу. Применение — поиск по сайту, бот поддержки, кластеризация баз и ключей. Ещё про локальные модели — Ollama в Claude Desktop.