Тысяча проверок картинок — около восьми центов. Столько выходит у Jev 1.14 в тесте Торстена Мейера: он прогнал через новую версию 30 своих изображений, медиана ответа — 0,36 секунды. На VC про релиз написали коротко: TypeSafe обновила модель Jev с распознаванием изображений. Я полез глубже, потому что за последний месяц меня дважды спросили, можно ли дёшево «поставить ИИ на камеры». Для камер ответ пока «нет». А вот для отдела продаж из этого релиза вышло кое-что поинтереснее.
Модель, которая работает как if/else
TypeSafe основал Диого Алмейда, ушедший из OpenAI, в 2024 году. В октябре компания, по данным TechCrunch, привлекла около $870 млн при оценке $7,5 млрд. Jev вышла 15 сентября и не пишет текст вообще. Ей дают «состояние» — переписку, транскрипт, карточку сделки — и типизированные вопросы, а она возвращает ответ из допустимых вариантов с вероятностью: выбор одного из списка (до 255 вариантов), оценку по шкале или «да/нет». Сам Алмейда формулирует так: ИИ должен быть похож на базу данных, а не на коллегу.
Цена — $0,042 за миллион входных токенов, выход бесплатный. Лучшую метафору я нашёл у Джона Линдквиста: это не промпт, а if/else. Где в программе стоит условие или switch, туда и ставится такая модель. За 16 дней после Jev вышли пять похожих — Clef от Cloudflare, pplx-decider от Perplexity, Strands Decider от AWS, Laya и GLiDE, — а OpenAI запустила свой Decisions API.
Что на самом деле добавили в 1.14
На витрине — картинки и скриншоты на входе, новый тип ответа Box (рамка вокруг объекта плюс уверенность) и контекст до 262 тысяч токенов. В документации всё скромнее. Картинки и длинный контекст включаются флагом с названием Danger Zone, версия 1.14 доступна только как preview, и TypeSafe сама пишет, что неровностей для продакшена «слишком много». Длинный контекст, по их же словам, медленнее и менее точен.
Box возвращает ровно одну рамку и не умеет ответить «объекта нет». У одного из тестировщиков отсутствующий на фото велосипед всё равно получил рамку — с уверенностью 0,03. TypeSafe советует сначала спросить «есть ли объект», и только потом просить рамку.
У Мейера на товарных фото модель узнавала свой заголовок с медианой уверенности 0,76 и уверенно отвергала чужие. На новостных снимках, где везде люди за мониторами, медиана упала до 0,33 — это почти угадайка. А mesh-систему из роутера и модуля модель назвала просто роутером.
Почему я не понёс бы это на кухню ресторана
У нас в проектах видеоаналитики для ресторанов детектор стоит на месте, рядом с камерами, и смотрит несколько потоков сразу. Jev 1.14 упирается в каждую из причин, по которым мы так делаем.
- Одна рамка на вопрос. «Сколько тарелок на раздаче» — не к ней, и обзоры прямо называют счёт слабым местом таких моделей.
- Задержка. Треть секунды на кадр плюс сеть — нормально для фото раз в минуту, но не для видеопотока.
- Данные. Кадры с поварами и гостями уходят в американское API. Для российской сети это прежде всего вопрос 152-ФЗ, оплата тут вторична.
Где картинки уже пригодятся: проверка фото как документа. «На фото чека есть QR-код?», «Ценник на выкладке на месте?», «На скриншоте из 1С документ проведён?». Одна фотография, один вопрос, ответ да или нет. Картинка 1024×576 — около 1 600 токенов, то есть примерно семь тысячных цента за проверку.
И для России важнее другое. У Clef от Cloudflare веса открыты под Apache 2.0 и есть визуальный энкодер, GLiDE и Laya тоже открыты, Laya отвечает примерно за 33 мс на видеокарте T4. Подход можно поднять на своём сервере и не отправлять кадры за границу. Я бы смотрел в эту сторону, а не на API TypeSafe.
Звонкам менеджеров это подарок
Чек-лист разговора — это готовый набор вопросов да/нет. Менеджер выяснил бюджет? Назвал следующий шаг? Клиент упомянул конкурента? Каждый пункт — отдельный вопрос, интерес клиента — оценка от 1 до 5, следующий этап воронки — выбор из списка. Транскрипт звонка — состояние. Вместо пересказа звонка, который потом всё равно кто-то читает, в CRM ложится строка с вероятностями по каждому пункту.
По моим прикидкам, транскрипт десятиминутного звонка — несколько тысяч токенов, и десять тысяч звонков в месяц уложатся в доллар-два по прайсу TypeSafe. Оговорка одна, и она важная: основной язык обучения у Jev английский, для остальных качество, по словам самой компании, «неравное». Русские звонки надо мерить на своих данных. Тот же приём закрывает разбор входящих заявок: «продажи, сервис, бухгалтерия или спам» — это классический выбор из списка.
Порог важнее модели
Самая полезная цифра, которую я нашёл, — в разборе decision-моделей на Хабре. При пороге уверенности 0,9 Jev брала на себя 70 % решений с точностью 95,9 %. Оставшиеся 30 % уходят дальше — к обычной LLM или к живому РОПу. Это и есть рабочая схема: быстрая модель закрывает уверенные случаи, спорные идут к дорогой модели или человеку.
Бенчмарки вендоров при этом спорят друг с другом. Clef обходит Jev на банковской классификации на 14,5 пункта и проигрывает 8,6 на задаче «вызывать ли инструмент прямо сейчас». Средний балл ничего не говорит — смотреть надо на строку, похожую на вашу задачу, а лучше на свои данные.
Что сделать на этой неделе
Возьмите 200 случаев, где правильный ответ уже известен: звонки, которые оценил РОП, или заявки, которые разнесли руками. Прогоните их через decision-модель — открытую у себя или Jev, если данные не чувствительные. Посчитайте, при каком пороге точность не ниже человеческой и какую долю модель закрывает сама. Если выходит 60–70 % при точности выше 95 %, у вас первый автоматизированный кусок отдела продаж почти бесплатно. Если меньше — вы сэкономили месяц пилота.
Сам Jev на русских транскриптах я ещё не гонял. Как прогоню — выложу цифры.
Илья Потоцкий — внедряю ИИ и автоматизацию в российских компаниях. Что делаю — об авторе и Floxio.
Чем занимаюсь: ИИ для отдела продаж · автоматизация рутины · видеоаналитика · разработка софта.
Первоисточник: vc.ru: TypeSafe обновила модель Jev с распознаванием изображений. Перевод и адаптация для российского рынка — с собственными комментариями.
Есть похожая задача в вашей компании? Напишите — разберу, стоит ли её вообще автоматизировать.
Написать в Telegram