LLM sağlayıcısı vs sohbet sekmesi: token, uptime ve veri politikasını kim satar

«ChatGPT kullanıyoruz» çoğu zaman üç şeyi karıştırır: birinin açtığı sohbet uygulaması, bir model adı (GPT, Claude, Gemini) ve token sayıp fatura kesen bir şirket. O şirket LLM sağlayıcısıdır. Ayrımı atlarsanız sağlayıcı yerine sekme seçersiniz — hukuk, finans veya geliştiriciye ne aldığınızı söyleyemezsiniz.

LLM’in ne olduğunu ve sohbet planlarının API fiyatıyla nasıl kıyaslandığını zaten yazdım. Burada daha dar: sizinle model arasında kim duruyor, ondan ne alıyorsunuz ve logoyu sonra değiştirmek neden acıtır.

1. Tek adda birleştirilen dört isim

Sözleşmede ve repo’da bunları ayrı tutun. Karıştırırsanız «ChatGPT entegrasyonu» kımıldamaz bir sağlayıcıya dönüşür.

• Model: ağırlıklar. GPT-4.1, Claude, Gemini, Llama, Mistral. Config’deki bir ad. Şirket değil.
• Sohbet uygulaması: tarayıcıda ChatGPT, Claude.ai, Gemini. Bir insan yazar. Taslak için olur. Site, CRM veya bot modeli böyle çağırmaz.
• API: ürününüzün kullandığı HTTPS girişi. Aynı model ailesi, başka sözleşme, log ve limit.
• Sağlayıcı: o girişi işleten ve fatura kesen. OpenAI, Anthropic, Google, Mistral — veya başkasının açık ağırlıklarını sunan bir host (Groq, Together, Fireworks, Azure, AWS Bedrock).

2. Bir sağlayıcıdan gerçekten ne alırsınız

«Yapay zekâ» satın almazsınız. Politikası olan, sayaçlı bir hizmet alırsınız. Fatura kolay kısımdır.

• Giren ve çıkan token, tavanlı. Kampanyadan gelen patlama, tavan koyduysanız sürpriz fatura değil ürün olaydır.
• Veri politikası: prompt’lar eğitime gidiyor mu, nerede duruyor, ne kadar yaşıyor. Hukukun gerçekten sorduğu budur. Model adı yanıt değildir.
• Uptime ve bölge. Müşteriye fatura kesen bir bot, yavaş sohbet sekmesine omuz silkmek gibi AB kesintisine omuz silkemez.

3. First-party vs açık ağırlık host’u

İki sağlayıcı şekli. Karıştırmak «tasarruf edip» test ettiğiniz modeli kaybetmektir.

• First-party: OpenAI, Anthropic, Google, Mistral kendi modellerini satar. Tek bir muhatap. Model ve fatura aynı markayı paylaşır.
• Host: Groq, Together, Fireworks, Azure OpenAI, Bedrock. Bir modeli çalıştırırlar (bazen OpenAI, bazen Llama). Daha hızlı veya daha ucuz veya sizin bulutunuzda - ve bir şey kırılınca zincirde ikinci şirket.

4. Model değiştirmek ucuz. Sağlayıcı değiştirmek değil

Config’deki model id, kaliteyi yeniden test ettikten sonra bir satırdır. Sağlayıcı anahtarlar, billing, DPA, log ve tool-calling tuhaflıklarını varsayan her prompt’tur. İnce bir adapter tutarım: bir arayüz, anahtarlar için bir yer, uygulamanın gerisine sızan OpenAI tipleri yok. İş budur. Slaytta logo seçmek değil.

Sonuç: sekmeyi değil sağlayıcıyı adlandırın

LLM sağlayıcısı size token, bölge ve veri politikası satandır. Sohbet sekmesi insanlar içindir. Model adı config’de bir satırdır. Üretim botu, CRM adımı veya model çağıran bir sayfa istiyorsanız sağlayıcı ve adapter seçersiniz — «ChatGPT kullanıyoruz» değil. Bunu Next.js uygulamalarına entegre ederim. Ekip aracı mı ürün özelliği mi formdan yazın; webhook’un arkasında gerçekten durabilecek bir sağlayıcı seçelim.