Zakładka LLM Dostawca vs Czat: Kto sprzedaje tokeny, czas pracy i zasady dotyczące danych

„Używamy ChatGPT” zwykle łączy w sobie trzy rzeczy: aplikację do czatu, którą dana osoba otwiera, nazwę modelu (GPT, Claude, Gemini) oraz firmę, która mierzy tokeny i wysyła fakturę. Ta firma jest LLM dostawcą. Jeśli pominiesz to rozróżnienie, zamiast sprzedawcy wybierzesz zakładkę i nie będziesz w stanie powiedzieć, co właściwie kupiłeś z zakresu prawa, finansów lub dewelopera.

Napisałem już, czym jest LLM i jak porównują się plany czatu z cenami API. Ta część jest węższa: kto stoi między tobą a modelem, co od niego kupujesz i dlaczego późniejsza zmiana logo boli.

1. Cztery imiona, które ludzie łączą w jedno

Trzymaj je oddzielnie w umowie i w repo. Dzięki ich połączeniu „integracja ChatGPT” staje się niezmiennym dostawcą.

• Model to wagi: GPT-4.1, Claude, Gemini, Llama i Mistral. Nazwa wpisywana w konfiguracji, a nie firma.
• Aplikacja do czatowania: ChatGPT, Claude.ai, Gemini w przeglądarce. Osoba pisze. Dobra dla przeciągów. Nie w jaki sposób strona internetowa, CRM czy bot wywołują model.
• API: drzwi HTTPS, z których korzysta Twój produkt. Ta sama rodzina modeli, różne umowy, dzienniki i limity stawek.
• Dostawca: kto obsługuje te drzwi i wystawia Ci rachunki. OpenAI, Anthropic, Google, Mistral lub host obsługujący cudze otwarte ciężary (Groq, Together, Fireworks, Azure, AWS Bedrock).

2. Co faktycznie kupujesz od dostawcy

Nie kupujesz „AI”. Kupujesz usługę licznikową z polisą. Faktura to łatwa część.

• Żetony wchodzące i wychodzące, z sufitem. Wzrost ruchu z kampanii to incydent związany z produktem, a nie faktura-niespodzianka – jeśli ją ograniczysz.
• Polityka danych: czy do treningu wykorzystywane są podpowiedzi, gdzie siedzą, jak długo żyją. To jest pytanie, które właściwie zadaje prawnik. Nazwa modelu nie jest odpowiedzią.
• Czas pracy i region. Bot wystawiający rachunki klientom nie może wzruszać ramionami w obliczu awarii w UE w taki sam sposób, w jaki ktoś wzrusza ramionami na karcie powolnego czatu.

3. Własna drużyna kontra mnóstwo otwartych ciężarów

Dwa kształty dostawców. Mylenie ich polega na tym, że „oszczędzasz pieniądze” i tracisz testowany model.

• First-party: OpenAI, Anthropic, Google, Mistral sprzedające własne modele. Jedno gardło do udławienia. Model i rachunek mają wspólną markę.
• Gospodarz: Groq, Together, Fireworks, Azure OpenAI, Bedrock. Prowadzą model (czasem OpenAI, czasem Lamę). Szybciej, taniej lub w Twojej chmurze - i druga firma w łańcuchu, gdy coś się zepsuje.

4. Zmiana modelu jest tania. Zmiana dostawcy nie jest

Identyfikator modelu w konfiguracji to jednowierszowa zmiana po ponownym przetestowaniu jakości. Dostawca to klucze, fakturowanie, DPA, rejestrowanie i każdy monit, który zakłada dziwactwa związane z wywoływaniem narzędzi. Trzymam cienki adapter: jeden interfejs, jedno miejsce na klucze, żadnych OpenAI typów przedostających się do rest aplikacji. Na tym polega praca. Wybieranie logo na slajdzie nie jest.

Wniosek: podaj nazwę dostawcy, a nie zakładki

Dostawca LLM to ten, który sprzedaje Ci tokeny, region i zasady dotyczące danych. Zakładka czat jest przeznaczona dla ludzi. Nazwa modelu to linia w config. Jeśli potrzebujesz bota produkcyjnego, kroku CRM lub strony wywołującej model, wybierasz dostawcę i adapter – a nie „używamy ChatGPT”. Podłączam to do Next.js aplikacji. Napisz za pomocą formularza, czy jest to narzędzie dla współpracowników, czy funkcja produktu; wybierzemy dostawcę, który faktycznie może usiąść za webhookiem.