Стартап TypeSafe AI, який заснував співавтор ChatGPT Діогу Алмейда, 15 вересня представив Jev — модель ШІ, що не належить до класу великих мовних моделей (LLM). Замість тексту вона видає ймовірності, або те, що компанія називає «каліброваними рішеннями». За кілька днів продукт викликав такий ажіотаж серед розробників, що сервіс тимчасово перестав витримувати навантаження на API.
Чому Jev не розмовляє
Алмейда допомагав створювати ChatGPT і був серед авторів навчання з підкріпленням на основі відгуків людей (RLHF) — техніки, що заклала фундамент сучасного буму ШІ. Результат його розчарував. Моделі блискуче опанували людську мову, але для автоматизації вона малопридатна: комп’ютери «спілкуються» інакше. Два роки тому він пішов з OpenAI і заснував TypeSafe AI, щоб це виправити.
Jev свідомо відмовляється від генерації тексту. Розробник заздалегідь задає перелік можливих відповідей, тож модель фізично не може вигадати неіснуючий результат чи припуститися помилки типу. Галюцинації зникають не завдяки кмітливості, а завдяки конструкції. Кожну відповідь супроводжує оцінка впевненості. Свій підхід компанія називає System One — за аналогією зі «швидким» інтуїтивним мисленням із книжки Деніела Канемана, на противагу повільним міркуванням.
Поки провідні лабораторії на кшталт OpenAI та Anthropic вдосконалюють мовні моделі для діалогу з людиною, TypeSafe робить ставку на машину як головного користувача ШІ.
Швидше і дешевше за LLM
Відмова від тексту різко здешевлює обчислення. Вхідні токени Jev коштують $0,042 за мільйон, вихідні — безкоштовні; за словами компанії, вони «надто дешеві, щоб їх рахувати». Для порівняння, звичайні LLM беруть від $0,20 до $10 за мільйон вхідних токенів, а вихідні зазвичай приблизно вп’ятеро дорожчі. Час відповіді — від 70 до 500 мілісекунд: це у 40–200 разів швидше за традиційні моделі на завданнях відповідного класу. На складніших робочих процесах TypeSafe заявляє про виграш до 193,6 раза у швидкості та 444,6 раза у вартості.
Модель навчали виключно на синтетичних даних методом, який Алмейда називає навчанням з підкріпленням для каліброваних рішень (RLCD). Архітектуру компанія розкриває неохоче.
Що кажуть розробники
Ранні тести підкріплюють ажіотаж. Інженер Vercel Праніт Шарма замінив класифікатор на базі моделі OpenAI, що перевіряв команди на безпеку, — і на Jev отримав результат у 5–18 разів швидше та точніше. Технічний директор Bryo AI Нікхіл Мудголкар порівняв Jev із Gemini на сортуванні ділових листів: Gemini був трохи точнішим, але в 10–20 разів дорожчим, а Jev єдиний повертав реальну ймовірність.
Окрім заміни LLM, модель може їх доповнювати: стежити за поведінкою агентів, маршрутизувати запити чи виявляти спроби зламу. Один із розробників показав, як Jev у реальному часі керує ботом у грі Doom, роблячи близько десяти запитів на секунду. Зі стелс-режиму TypeSafe вийшла з seed раундом на $40 млн на чолі з фондом DCVC. Ранній доступ відкривають за списком очікування.
Висновок
Назву обрали на честь економіста XIX століття Вільяма Стенлі Джевонса. Його парадокс описує, як здешевлення ресурсу веде до ще більшого споживання. Алмейда розраховує на той самий ефект: чим дешевшим стає інтелект, тим ширше його вбудовуватимуть у код. Чи справді Jev відкриває новий клас моделей, покаже ринок — але конкуренти, за прогнозами самих розробників, з’являться швидко.
Читайте також
- Anthropic показала три метрики розвитку ШІ всередині лабораторій
- Оганян: технологічна галузь «глуха» до реальних ризиків ШІ
- Huawei Ascend 960DT: новий чип проти Nvidia виходить раніше
Джерела
Ви маєте увійти, щоб оприлюднити коментар.