Bütün Şirket İçin Tek Yapay Zekâ Platformu: Tek Sağlayıcı, Çok Modelli Çalışma Alanı, Gateway, Bulut Kataloğu ya da Kendi Çözümünüz

Birçok şirket aynı noktaya geliyor. Çalışanlar zaten ChatGPT ya da Microsoft Copilot kullanıyor ve şimdi biri farklı bir model, bir ekip için ortak bir asistan ya da kimin neyi sorduğunun kaydını istiyor. Model, yanıtları yazan eğitilmiş programdır; büyük dil modeli (LLM) ise metinle çalışan bir modeldir. Tek bir sağlayıcının ürününde kalabilir, birkaç modelli bir çalışma alanı satın alabilir ya da birkaç sağlayıcının önüne bir gateway koyabilirsiniz. Gateway, yazılımınızla modeller arasındaki bir kontrol noktasıdır. Modelleri bir bulut kataloğundan kiralayabilir ya da kendiniz geliştirebilirsiniz. Orta ölçekli şirketlerin çoğu, çalışanlarının zaten kullandığı ürünle başlamalı ve parçaları yalnızca adı konmuş bir ihtiyaç ortaya çıkınca eklemeli.

Bir şirket neden birden fazla yapay zekâ modeli ister ve ne zaman tek model yeter?

Modeller neyi iyi yaptıkları ve ne kadara mal oldukları bakımından farklıdır, sağlayıcılar da ürün yelpazelerini sık sık değiştirir. Tek bir ürün bile modelleri karıştırır. Microsoft'un Copilot sayfası şöyle diyor: “Varsayılan olarak Copilot, isteminize göre kullandığı alttaki modeli ayarlamak için gerçek zamanlı bir yönlendirici kullanır.”

Modelleri kendiniz seçmeyi üç gerekçe haklı çıkarır. Bir ekibin ürününüzde bulunmayan bir modele ihtiyacı olabilir. Rutin bir iş daha küçük, daha ucuz bir modele uygun olabilir. Ya da bir kesinti için hazır bir ikinci sağlayıcı istersiniz. Çalışanlar yapay zekâyı taslak yazma ve arama için kullanıyorsa, kimse yazılımınızın içine yapay zekâ koymuyorsa ve yönetici denetimleri kurallarınıza uyuyorsa tek bir sağlayıcı yeter.

ChatGPT Enterprise ve Microsoft 365 Copilot bize ne veriyor, nerede bitiyor?

ChatGPT Enterprise çalışma alanı için OpenAI'den güncel yönetici denetimlerini, veri şartlarını ve model listesini yazılı olarak isteyin. OpenAI'nin API dokümantasyonu “OpenAI API'sine gönderilen veriler OpenAI modellerini eğitmek veya geliştirmek için kullanılmaz (verileri bizimle paylaşmayı açıkça tercih etmediğiniz sürece)” diyor, ancak bu sayfa ChatGPT uygulamalarını değil API'yi kapsıyor.

Özel GPT (custom GPT), bir çalışanın ChatGPT içinde yazılı talimatlar ve eklenmiş belgelerle kurduğu asistandır. OpenAI bunu ChatGPT'yi “talimatlar vererek, belgeleri bilgi kaynağı olarak ekleyerek” özelleştirmenin bir yolu olarak tanımlıyor.

Microsoft şöyle diyor: “Microsoft, Microsoft Copilot'ta Anthropic ve OpenAI modelleri gibi üçüncü taraf yapay zekâ modelleri sunuyor.” Şunu da ekliyor: “Yönetici olarak bu modelleri deneyimlerinizi güçlendirmek için kullanıp kullanmayacağınıza karar verebilirsiniz; ek şartlar geçerli olabilir.”

Sınırlar asistan kurmaya başladığınızda ortaya çıkar. Microsoft, bildirimsel (declarative) ajanların “Copilot'un yapay zekâ altyapısını, modelini ve orkestratörünü kullandığını” söylüyor; yani talimatları, bilgiyi ve eylemleri siz belirlersiniz ama Microsoft'un model seçimleriyle kalırsınız. “Kendi orkestratörünüzü ve modellerinizi getirdiğiniz” özel motor ajanı “Microsoft 365 dışında ek barındırma gerektirebilir”. Microsoft, kurulumun “Copilot Studio'daki basit kurulumlardan gelişmiş pro-code uygulamalara kadar değiştiğini” söylüyor ve bu yolun pro-code ucu zaten bir geliştirmedir.

Çok modelli çalışma alanı nedir ve nelerden vazgeçiyoruz?

Çok modelli çalışma alanı, tek bir girişin ardında birkaç sağlayıcının modellerini sunan, çalışanlara yönelik bir sohbet uygulamasıdır. Kendi sunucularınızda çalıştırabileceğiniz iki örnek var: Open WebUI dokümantasyonu “Ollama ve OpenAI uyumlu API'ler için destek”ten söz ediyor, LibreChat ise kendini “kendi sunucunuzda barındırılan bir web uygulaması” olarak tanımlıyor. Bu türden barındırılan (hosted) ürünler de var.

Vazgeçtiğiniz şey derinliktir. Microsoft, Copilot'un “yalnızca bireysel kullanıcıların en az görüntüleme iznine sahip olduğu kurumsal verileri gösterdiğini” söylüyor; çünkü Microsoft 365 izinlerinizi doğrudan okuyor. Ayrı bir çalışma alanının dosyalarınıza ve sistemlerinize kendi bağlantılarına ihtiyacı vardır ve hangi dosyayı kimin görebileceğini eşlemeniz gerekir. Kendi sunucunuzda barındırmak onu işletecek birini gerektirir, barındırılan bir ürün ise istemlerinizi işleyen bir şirket daha ekler.

Bir LLM gateway'i ne yapar ve kimin ihtiyacı olur?

Gateway, yazılımınızla model sağlayıcıları arasında duran bir hizmettir. Yazılımınız her isteği tek bir adrese gönderir, gateway de isteği seçilen modele iletir. Token, bir modelin okuyup yazdığı, sağlayıcıların da saydığı ve faturalandırdığı küçük metin birimidir. Anthropic'in sözlüğü token'ların “kelimelere, alt kelimelere, karakterlere hatta baytlara karşılık gelebileceğini” söylüyor.

Açık kaynaklı LiteLLM projesi gateway'ini “kendi kendine barındırılan bir sunucu” olarak tanımlıyor; bu sunucu “100'den fazla LLM sağlayıcısı, MCP araçları ve A2A ajanları için tek bir OpenAI uyumlu uç nokta” sunuyor. “Her kullanıcıya, ekibe ve projeye bir sanal anahtar verin” diyor; her biri “modeller, bütçeler ve hız sınırlarıyla”. Gerçek sağlayıcı anahtarları böylece tek bir yerde kalır.

Diğerleri benzer alanı kapsıyor. Portkey, gateway'ini “açık kaynak olarak yayımladığını” söylüyor. Barındırılan bir hizmet olan Cloudflare AI Gateway, “İstek sayısı, token'lar ve uygulamanızı çalıştırmanın maliyeti gibi metrikleri görüntüleyebileceğinizi” söylüyor. Kong ise AI Gateway'in “yavaş veya erişilemez olan bir sağlayıcıdan ya da modelden otomatik olarak başka bir sağlayıcıya veya modele geçebildiğini” belirtiyor.

Birkaç ekip ya da ürün koddan model çağırıyorsa ve anahtarlar, bütçeler, yönlendirme ve kayıtlar için tek bir yer istiyorsanız bir gateway'e ihtiyacınız vardır. Yalnızca sohbet uygulamaları kullanan çalışanların ihtiyacı yoktur. Gateway onlara sohbet penceresi vermez ve kayıtları, ayarlarına bağlı olarak, istemleri (çalışanların yazdığı metin) içerebilir; bu yüzden onları koruyun.

Bir bulut sağlayıcısının model kataloğu ne ekler?

Üç örnek: Microsoft Foundry (eski adıyla Azure AI Foundry), Amazon Bedrock ve Google'ın Gemini Enterprise Agent Platform'u (eski adıyla Vertex AI). Mühendislerinizin, zaten sahip olduğunuz bulut hesabı üzerinden birçok sağlayıcının modellerini çağırmasına izin verirler. Microsoft, Foundry kataloğunun “10.000'den fazla model içerdiğini”, AWS ise Bedrock'ın “100'den fazla temel modeli” desteklediğini söylüyor. Google, Model Garden'ın modelleri “Google'dan ve Google iş ortaklarından” topladığını belirtiyor.

Kazançlar, mevcut güvenlik kurulumunuz, tek fatura ve bir işleme konumu seçimidir. Microsoft “uyumluluk gereksinimlerinize göre küresel, veri bölgesi veya bölgesel işleme seçebilirsiniz” diyor. Bu, sunucusuz dağıtımlar için geçerli. Anthropic'in kendi altyapısında barındırılan Claude modelleri için Microsoft, verinin “seçtiğiniz Azure coğrafyasının dışında dahil olmak üzere Azure dışında işlenebileceğini” söylüyor. Maliyet şu ki bu, geliştiriciler için bir alet çantasıdır. Konsolundaki sohbet ekranları geliştiricilerin test etmesi içindir; yani çalışanlara hazır bir sohbet ürünü sunulmaz, test ve model seçimi de sizde kalır. Microsoft ayrıca eski modellerin “Foundry model kataloğundan kaldırılabileceğini” söylüyor.

Özel GPT'lerimizi, istemlerimizi ve bilgi dosyalarımızı nasıl taşırız, geride ne kalır?

Önce OpenAI'nin takvimine bakın. 2026 sonbaharına ait basın haberleri, OpenAI'nin özel GPT'leri Aralık 2026'da kaldırıp eklentilere taşımayı planladığını, bazı Enterprise çalışma alanları için ise daha sonraki tarihler olduğunu yazıyor. Kendi çalışma alanınıza gelen bildirimi izleyin. Her asistanı sahibi ve kullanımıyla birlikte listeleyin. En çok kullanılanı önce yeniden kurun ve her kopyayı aynı sorularla test edin. Üç şey iyi taşınır: talimat metni, orijinalleri hâlâ elinizdeyse kaynak belgeler ve test sorularınız. Dört şey geride kalır. Konuşma geçmişi eski platformda kalır; ne kadarını dışa aktarabileceğiniz yönetici araçlarına bağlıdır. Paylaşım ayarları yeniden yapılmalıdır. Eylemler, yani asistandan diğer sistemlerinize giden çağrılar, her platformda yeniden kurulmalıdır. API'nin OpenAPI tanımı, platform kabul ediyorsa yeniden kullanılabilir. Yanıtlar da değişecektir; çünkü her platform dosyaları kendi yöntemiyle böler ve arar, alttaki model de farklıdır.

Kim neyi görebilir ve her yol verimizi nasıl ele alıyor?

Her yola, verinizin sağlayıcının modellerini eğitip eğitmediğini ve nerede işlendiğini sorun. Sağlayıcılar şunu söylüyor:

• OpenAI API: “OpenAI API'sine gönderilen veriler OpenAI modellerini eğitmek veya geliştirmek için kullanılmaz (verileri bizimle paylaşmayı açıkça tercih etmediğiniz sürece)”.
• Microsoft 365 Copilot: istemler, yanıtlar ve Microsoft Graph (Microsoft 365 veri hizmeti) üzerinden okunan veriler temel modellerini eğitmek için kullanılmaz. “AB trafiği AB Veri Sınırı içinde kalırken dünya genelindeki trafik LLM işleme için AB'ye ve diğer ülke veya bölgelere gönderilebilir” ve “Anthropic tarafından alt işleyen olarak sağlanan modeller şu anda AB Veri Sınırı'nın dışında tutulmaktadır.”
• Amazon Bedrock: “AWS ve üçüncü taraf model sağlayıcıları, Amazon Bedrock'a gönderilen girdileri veya Amazon Bedrock'tan alınan çıktıları Amazon Nova, Amazon Titan ya da herhangi bir üçüncü taraf modelini eğitmek için kullanmayacaktır.” AWS'nin genel gizlilik SSS'si şunu ekliyor: “İçeriğinizin depolanacağı AWS Bölge(ler)ini siz seçersiniz.” Küresel bir bölgeler arası çıkarım profiliyle Bedrock, bir isteği “dünya genelinde desteklenen herhangi bir AWS ticari bölgesinde” işleyebilir.
• Gemini Enterprise Agent Platform (eski adıyla Vertex AI): Google, verileriniz üzerinde önceden izniniz veya talimatınız olmadan model eğitmediğini belirtiyor. Beklemedeki verinin sizin seçtiğiniz konumda kaldığını, ancak küresel bir uç noktaya gelen isteklerin “dünyanın herhangi bir Google Cloud konumunda işlenebileceğini” söylüyor.
• Kendiniz barındırdığınız bir çalışma alanı ya da gateway: veri, iletilene kadar sizin ortamınızda kalır; iletildikten sonra model sağlayıcının şartları geçerli olur. Barındırılan bir gateway bir şirket daha ekler.

Kişisel veriler söz konusu olduğunda GDPR, verileri sizin adınıza işleyen şirket için veri işleyen (processor) terimini kullanır. Sade söyleyecek olursak, 28. madde yazılı bir sözleşme şart koşar ve hukuken aksi gerekmedikçe yalnızca sizin belgelenmiş talimatlarınız doğrultusunda hareket edilmesini ister. Başka bir veri işleyen ancak sizin önceden yazılı izninizle eklenebilir. Bu izin genel olabilir; o durumda veri işleyen, itiraz edebilmeniz için değişiklikleri size bildirmek zorundadır. Microsoft'un Foundry sayfası, Azure Machine Learning hizmetinin “sunucusuz dağıtımlarda gönderilen istemler ve üretilen içerik için veri işleyen olarak hareket ettiğini” söylüyor. Foundry'deki Claude modelleri için Microsoft, Anthropic'in “bağımsız bir veri işleyen olarak hareket ettiğini” belirtiyor; bu yüzden her model için veri işleyenin kim olduğunu kontrol edin. Her sözleşmeyi kendi hukuk danışmanınıza okutun.

Şirket içinde bir asistan, bir kişiye yalnızca o kişinin zaten açabileceği şeyleri göstermelidir. Copilot dahil her yolda bunu, o kişinin görmemesi gereken bir klasör üzerinde tek bir oturumla test edin.

Yönetişim pratikte neyi gerektirir?

Roller ilk sırada gelir: her asistanın sahibi kim, yenisini kim onaylıyor ve modeli kim değiştirebiliyor. NIST'in AI Risk Management Framework'ü şöyle diyor: “Yapay zekâ risklerinin haritalanması, ölçülmesi ve yönetilmesiyle ilgili roller, sorumluluklar ve iletişim hatları belgelenmiştir ve kuruluştaki kişiler ve ekipler için açıktır.”

Onaylar ikinci sırada gelir. E-posta göndermek, bir kaydı değiştirmek ya da bir faturayı ödemek, yukarıda bağlantısı verilen insan onayı makalesinin açıkladığı gibi, bir kişiyi beklemelidir. Kayıtlar üçüncü sırada gelir: kim sordu, hangi model yanıtladı, asistanın hangi sürümü çalıştı ve bunun maliyeti ne oldu. Yazılımınız her istekle birlikte kişiyi ve asistan sürümünü gönderiyorsa, bir gateway bu kaydın çoğunu çağırdığınız her model için yazabilir.

Dördüncü madde bir kullanım senaryoları kaydıdır. NIST'in kılavuzu şöyle diyor: “Yapay zekâ sistemlerini envantere almak için mekanizmalar mevcuttur ve kurumsal risk önceliklerine göre kaynaklandırılmıştır.” Başlamak için ortak bir elektronik tablo yeter. Her satıra bir kullanım senaryosu, bir sahip, model, dokunduğu veri ve bir gözden geçirme tarihi yazın.

Koltuk başına fiyatlandırma, token başına fiyatlandırmadan nasıl ayrılır?

Koltuk başına fiyatlandırma, her adlandırılmış kullanıcı için sabit bir tutar alır. Token başına fiyatlandırma, yazılımınızın gönderdiği ve aldığı metin için ücret alır. Her sağlayıcıdan güncel koltuk fiyatını, tüm asgari tutarlar ve eklentilerle birlikte yazılı olarak isteyin.

Token için Anthropic, ABD doları cinsinden bir fiyat listesi yayımlıyor. Claude Sonnet 5.5 için milyon girdi token'ı başına 2 dolar, milyon çıktı token'ı başına 10 dolar gösteriyor. Claude Haiku 5.5 ise 100.000 token'a kadar istemlerde 0,10 ve 0,50 dolara geliyor.

Günde 1.000 istekten oluşan varsayımsal bir iş yükü alalım; her istek 3.000 token gönderiyor ve 500 token alıyor, yani 3 milyon girdi ve 0,5 milyon çıktı token'ı. Sonnet 5.5'te maliyet girdi için 6 dolar artı çıktı için 5 dolar, günde 11 dolar. Haiku 5.5'te 0,30 artı 0,25, günde 55 sent. İş yükü bir varsayımdır ve bulut yeniden satıcıları farklı ücret alabilir.

Çıktı token'ları girdi token'larından pahalıdır, model seçimi faturayı büyük bir çarpanla değiştirir ve uzun eklenmiş belgeler girdi tarafını yükseltir. Gateway bütçesini ilk günden belirleyin.

Bağımlılık neye benziyor ve ayrılabilmek için neyi elimizde tutmalıyız?

Bağımlılık, emeğin gittiği yerde oluşur: tek bir sağlayıcının düzenleyicisinde kurulan asistanlarda, onun sisteminde saklanıp aramaya hazırlanan dosyalarda, onun biçiminde yazılan eylemlerde ve yalnızca onun tuttuğu geçmişte. Yönlendirme kurallarınız yalnızca gateway'in okuyabildiği bir biçimde duruyorsa gateway de bağımlılık yaratabilir.

Her asistanın talimat metnini, kaynak belgeleri, test sorularınızı ve kayıtların bir dışa aktarımını bir depoda tutun. Modelleri OpenAI uyumlu bir uç nokta üzerinden çağırın (birçok aracın taklit ettiği bir istek biçimi) ve eylemleri, OpenAPI tanımı (bir API'nin standart tarifi) gibi açık biçimler ya da kendini “yapay zekâ uygulamalarını harici sistemlere bağlamak için açık kaynaklı bir standart” olarak tanımlayan Model Context Protocol üzerine kurun. Dışa aktarma, silme ve model kullanımdan kaldırma bildirimi şartlarını sözleşmede kararlaştırın.

Kendi platformumuzu geliştirmek ne zaman haklı olur?

Yapay zekâ sattığınız ürünün parçasıysa geliştirmek haklı olur; çünkü o zaman kullanıcılar sizin müşterileriniz olur ve hiçbir çalışan lisansı onları kapsamaz. Bir süreç hiçbir ürünün sunmadığı bir mantığa ihtiyaç duyuyorsa da, örneğin müşteri sözleşmesine göre yönlendirme gibi, geliştirmek haklıdır. Verinin nerede işlenebileceğine dair kurallar da barındırılan tüm seçenekleri eleyebilir.

Yalnızca çalışan sohbeti için bunu haklı çıkarmak zor. Yukarıdaki ürünler bunu zaten yapıyor; siz de güncellemeleri, erişim denetimini, kayıtları ve nöbet yükünü üstlenirsiniz.

Bir sağlayıcıya ne sormalıyız?

• Hangi modelleri seçebiliriz ve biri değiştirildiğinde ya da kullanımdan kaldırıldığında kim karar verir?
• Verilerimiz herhangi bir planda eğitim için kullanılıyor mu ve sözleşmenin neresinde yazıyor?
• Veri hangi bölgede işleniyor ve seçtiğimiz modele göre bu değişiyor mu?
• Sağlayıcı bizim GDPR veri işleyenimiz mi ve hangi alt işleyenleri kullanıyor?
• Bir yönetici, istemlerin ve yanıtların kayıtlarını görebilir ve dışa aktarabilir mi?
• Gerçek kullanımımızın bir aylık maliyeti, tüm asgari tutarlar ve eklentiler dahil ne kadar?
• Ayrılırsak neyi yanımızda götürebiliriz ve hangi biçimde?

Bunu geliştirecek bir firmaya neler sormalıyız?

• Hangi parçaları siz geliştirecek, hangilerini mevcut ürünlerden yapılandıracaksınız?
• Bizim bulut hesabımızda mı çalışacak ve anahtarlar kimde?
• Her asistanı lansmandan önce nasıl test edeceksiniz ve bizim tarafımızda kim onay verecek?
• Sonunda ne teslim alıyoruz: kod, yapılandırma, test setleri, kayıtlar, işletim kılavuzları?
• Lansmandan sonra kim işletiyor ve bu her ay ne kadara mal oluyor?

amBrain nerede devreye girer?

Bu blogu amBrain yayımlıyor. amBrain kendi ürünü hakkında şöyle diyor: “Kendi ürünümüz shyash.ai, şirket bilgilerinin tek bir ortak belleğinden araştıran, yazan, kontrol eden ve ölçen yapay zekâ ajanları üzerinde çalışır. Yayınlanan her şeyi bir kişi onaylar.”

Bu makale bir vaka çalışması değildir ve hiçbir müşteri işini anlatmaz. amBrain'in herhangi bir müşteri için çok modelli bir platform ya da gateway geliştirdiğini iddia etmez. Yukarıdaki cümle amBrain'in kendi ürünüyle ilgilidir, örnekler ise geneldir.

Burada adı geçen şirketler ve projeler, 10 Kasım 2026'da okunan yayımlanmış sayfalarından alıntılanmıştır. Makale amBrain ile bunlardan herhangi biri arasında bir ilişki öne sürmez ve amBrain fiyatı ya da zaman çizelgesi vermez.

amBrain 2019'dan bu yana yazılım geliştiriyor. Müşterileriyle nasıl çalıştığı konusunda şöyle diyor: “Üç format: tam teslim, özel ekip ya da sizin ekibinize yerleşen mühendisler.” Mülkiyet konusundaki satırı ise şöyle: “Müşteri, yeniden kullanılabilir bileşenlerimiz dışında ürünün ve kodun tam mülkiyetini elinde tutar.” İmzalamadan önce bu bileşenlerin adlarıyla listesini isteyin.

amBrain kısa listenizdeyse ona da diğer firmalara sorduğunuz soruların aynısını sorun.