Provider LLM vs tab della chat: chi vende token, uptime e la policy sui dati

«Usiamo ChatGPT» di solito mescola tre cose: un’app di chat che una persona apre, un nome di modello (GPT, Claude, Gemini) e un’azienda che conta i token e manda una fattura. Quell’azienda è il provider LLM. Se saltate la distinzione, scegliete una scheda invece di un fornitore — e non sapete dire a legale, amministrazione o a uno sviluppatore cosa avete comprato davvero.

Ho già scritto cos’è un LLM e come i piani chat si confrontano coi prezzi API. Qui più mirati: chi sta tra voi e il modello, cosa gli comprate, e perché cambiare logo dopo fa male.

1. Quattro nomi che si fanno passare per uno

Teneteli distinti nel contratto e nel repo. Se li confondete, un’«integrazione ChatGPT» diventa un fornitore da cui non si esce più.

• Modello: i pesi. GPT-4.1, Claude, Gemini, Llama, Mistral. Un nome in config. Non un’azienda.
• App di chat: ChatGPT, Claude.ai, Gemini nel browser. Una persona digita. Va per le bozze. Non è così che un sito, un CRM o un bot chiama un modello.
• API: l’ingresso HTTPS che usa il vostro prodotto. Stessa famiglia di modelli, altro contratto, log e limiti.
• Provider: chi tiene quell’ingresso e fattura. OpenAI, Anthropic, Google, Mistral — o un host di pesi aperti di un altro (Groq, Together, Fireworks, Azure, AWS Bedrock).

2. Cosa comprate davvero da un provider

Non comprate «IA». Comprate un servizio a contatore, con una policy. La fattura è la parte facile.

• Token in e out, con un tetto. Un picco da una campagna è un incidente di prodotto, non una fattura a sorpresa - se mettete un cap.
• Una policy sui dati: se i prompt addestrano, dove stanno, quanto vivono. Questa è la domanda del legale. Il nome del modello non è una risposta.
• Uptime e una regione. Un bot che fattura ai clienti non può alzare le spalle a un outage UE come una persona a una tab chat lenta.

3. First-party vs un host di pesi aperti

Due forme di provider. Confonderle è «risparmiare» e perdere il modello che avete testato.

• First-party: OpenAI, Anthropic, Google, Mistral vendono i loro modelli. Un solo interlocutore. Modello e fattura condividono un brand.
• Host: Groq, Together, Fireworks, Azure OpenAI, Bedrock. Fanno girare un modello (a volte OpenAI, a volte Llama). Più veloce o più economico o nel vostro cloud - e una seconda azienda nella catena quando si rompe.

4. Cambiare modello è economico. Cambiare provider no

Un id modello in config è una riga dopo aver ritestato la qualità. Un provider è chiavi, billing, DPA, log e ogni prompt che dava per scontate le loro stranezze di tool-calling. Tengo un adapter sottile: un’interfaccia, un posto per le chiavi, niente tipi OpenAI nel resto dell’app. Quello è il lavoro. Scegliere un logo su una slide, no.

Conclusione: nominate il fornitore, non la scheda

Un provider LLM è chi vi vende token, una regione e una policy sui dati. La scheda chat è per le persone. Il nome del modello è una riga in config. Se volete un bot di produzione, un passo CRM o una pagina che chiama un modello, scegliete un provider e un adapter — non «usiamo ChatGPT». Lo integro in app Next.js. Scrivete dal modulo se è uno strumento di team o una funzione di prodotto; sceglieremo un provider che possa stare davvero dietro un webhook.