LLM-провайдер vs вкладка чату: хто продає токени, аптайм і політику даних

«Ми користуємось ChatGPT» зазвичай змішує три речі: чат, який відкриває людина, назву моделі (GPT, Claude, Gemini) і компанію, яка рахує токени й виставляє рахунок. Ця компанія — LLM-провайдер. Якщо різницю пропустити, ви обираєте вкладку замість постачальника — і не можете сказати юристу, фінансам чи розробнику, що саме купили.

Я вже писала, що таке LLM і як порівнюються чат-плани та ціни API. Тут вужче: хто стоїть між вами і моделлю, що ви в них купуєте, і чому потім міняти логотип боляче.

1. Чотири назви, які зводять до однієї

Тримайте їх окремо в договорі й у репозиторії. Якщо змішати — «інтеграція ChatGPT» стає постачальником, якого вже не зрушити.

• Модель: ваги. GPT-4.1, Claude, Gemini, Llama, Mistral. Ім’я в конфігу. Не компанія.
• Чат-застосунок: ChatGPT, Claude.ai, Gemini в браузері. Людина друкує. Ок для чернеток. Так сайт, CRM чи бот модель не викликають.
• API: HTTPS-вхід, яким ходить продукт. Та сама родина моделей, інший договір, логи й ліміти.
• Провайдер: хто тримає цей вхід і виставляє рахунок. OpenAI, Anthropic, Google, Mistral — або хост чужих відкритих ваг (Groq, Together, Fireworks, Azure, AWS Bedrock).

2. Що ви насправді купуєте в провайдера

Ви не купуєте «ШІ». Ви купуєте послугу з лічильником і політикою. Рахунок - легка частина.

• Токени вхід і вихід, зі стелею. Спалах трафіку з кампанії - інцидент продукту, не сюрприз у рахунку, якщо ви поставили ліміт.
• Політика даних: чи промпти йдуть у тренування, де лежать, скільки живуть. Саме це питає юрист. Назва моделі - не відповідь.
• Аптайм і регіон. Бот, який виставляє рахунки клієнтам, не може знизати плечима на простій у ЄС так, як людина знизує на повільну вкладку чату.

3. Перша сторона vs хост відкритих ваг

Дві форми провайдера. Змішати їх - як «заощадити» і втратити модель, яку тестували.

• Перша сторона: OpenAI, Anthropic, Google, Mistral продають свої моделі. Один відповідальний. Модель і рахунок — один бренд.
• Хост: Groq, Together, Fireworks, Azure OpenAI, Bedrock. Вони крутять модель (інколи OpenAI, інколи Llama). Швидше, дешевше або у вашій хмарі - і друга компанія в ланцюгу, коли щось падає.

4. Змінити модель дешево. Змінити провайдера - ні

Id моделі в конфігу - зміна одного рядка після повторного тесту якості. Провайдер - ключі, білінг, DPA, логи й кожен промпт, який звик до їхніх примх tool-calling. Я тримаю тонкий адаптер: один інтерфейс, одне місце для ключів, без типів OpenAI у всьому застосунку. Оце робота. Обрати логотип на слайді - ні.

Висновок: назвіть постачальника, не вкладку

LLM-провайдер — хто продає токени, регіон і політику даних. Вкладка чату — для людей. Назва моделі — рядок у конфігу. Якщо потрібен бойовий бот, крок у CRM або сторінка, яка викликає модель, ви обираєте провайдера й адаптер — не «ми користуємось ChatGPT». Я це збираю в застосунки на Next.js. Напишіть через форму, це інструмент для команди чи фіча продукту — оберемо провайдера, який реально стане за вебхуком.