LLM Karta Poskytovatel versus Chat: Kdo prodává tokeny, doba provozu a zásady dat

„Používáme ChatGPT“ obvykle kombinuje tři věci: chatovací aplikaci, kterou člověk otevře, název modelu (GPT, Claude, Gemini) a společnost, která měří tokeny a odesílá fakturu. Tato společnost je poskytovatelem LLM. Pokud tento rozdíl přeskočíte, vyberete si kartu místo prodejce – a nemůžete říct právním, finančním nebo vývojářům, co jste vlastně koupili.

Již jsem psal, co je LLM a jak se porovnávají chatovací plány versus ceny API. Tento kousek je užší: kdo stojí mezi vámi a modelkou, co si od něj kupujete a proč později záměna loga bolí.

1. Čtyři jména lidí se zhroutí do jednoho

Udržujte je odděleně na smlouvě a v repo. Jejich smícháním se „integrace ChatGPT“ stává nepohyblivým dodavatelem.

• Model představují váhy: GPT-4.1, Claude, Gemini, Llama a Mistral. Je to název uvedený v konfiguraci, nikoli firma.
• Chatovací aplikace: ChatGPT, Claude.ai, Gemini v prohlížeči. Typ člověka. Dobře pro koncepty. Ne jak webová stránka, CRM nebo bot nazývají modelku.
• API: dveře HTTPS, které váš produkt používá. Stejná modelová rodina, různé smlouvy, protokoly a limity sazeb.
• Poskytovatel: kdo řídí ty dveře a účtuje vám poplatky. OpenAI, Anthropic, Google, Mistral nebo hostitel, který obsluhuje otevřené váhy někoho jiného (Groq, Together, Fireworks, Azure, AWS Bedrock).

2. Co vlastně kupujete od poskytovatele

Nekupujete „AI“. Kupujete si měřenou službu se zásadou. Faktura je ta snadná část.

• Žetony dovnitř a ven, se stropem. Nárazový provoz z kampaně je produktový incident, nikoli překvapivá faktura – pokud ji omezíte.
• Zásady dat: zda se výzvy používají k tréninku, kde sedí, jak dlouho žijí. To je otázka, kterou si zákon skutečně klade. Název modelu není odpovědí.
• Uptime a region. Bot, který účtuje zákazníkům, nemůže při výpadku v EU pokrčit rameny, jako když někdo krčí rameny nad pomalým chatem.

3. První strana versus řada otevřených vah

Dva tvary poskytovatele. Matoucí je způsob, jakým „ušetříte peníze“ a ztratíte model, který jste testovali.

• První strana: OpenAI, Anthropic, Google, Mistral prodávají své vlastní modely. Jedno hrdlo k udušení. Model a účet sdílejí značku.
• Hostitel: Groq, Together, Fireworks, Azure OpenAI, Bedrock. Provozují model (někdy OpenAI’s, někdy lama). Rychleji nebo levněji nebo ve vašem cloudu – a druhá společnost v řetězci, když se něco rozbije.

4. Přepínání modelů je levné. Změna poskytovatele není

ID modelu v konfiguraci je změna o jeden řádek poté, co znovu otestujete kvalitu. Poskytovatelem jsou klíče, fakturace, DPA, protokolování a každá výzva, která předpokládala jejich zvláštnosti při volání nástrojů. Nechám si tenký adaptér: jedno rozhraní, jedno místo pro klíče, do rest aplikace neuniká OpenAI typů. To je ta práce. Výběr loga na snímku není.

Závěr: pojmenujte dodavatele, nikoli kartu

Poskytovatel LLM je ten, kdo vám prodává tokeny, region a datové zásady. Záložka chatu je pro lidi. Název modelu je řádek v config. Pokud chcete produkčního robota, CRM krok nebo stránku, která volá model, vyberete si poskytovatele a adaptér – nikoli „používáme ChatGPT“. Zapojuji to do Next.js aplikací. Napište prostřednictvím formuláře, zda se jedná o nástroj pro spolupracovníky nebo funkci produktu; vybereme poskytovatele, který může skutečně sedět za webhookem.