İnce Ayar mı, RAG mi: Yapay Zekâ Modelini Şirket Verilerinizle Eğitmek mi, Belgelerinizde Arama Yaptırmak mı?

Bir yapay zekâ modelinin soruları şirketinizin belgelerine dayanarak yanıtlamasını istiyorsanız, genellikle modeli bu belgelerle eğitmeniz gerekmez. Retrieval-augmented generation, kısaca RAG, her soru geldiğinde belgelerinizde arama yapar ve eşleşen pasajları soruyla birlikte modele iletir. İnce ayar (fine-tuning), mevcut bir modeli sizin hazırladığınız örnekler üzerinde eğitmeye devam etmek demektir. Araştırma makaleleri ve tedarikçi rehberleri, ince ayarın yeni olgular öğretmekten çok bir format ya da üslup öğretmekte daha başarılı olduğunu söylüyor. İşinizden gelen gerçek sorularla yapılan bir test, hangisine ihtiyacınız olduğunu ya da ikisine birden ihtiyaç duyup duymadığınızı gösterir.

İnce ayar ile RAG arasındaki fark nedir?

ChatGPT'nin arkasındaki türden bir yapay zekâ olan büyük dil modeli (LLM), bildiklerini eğitildiği metinden öğrenir. Şirketinizden hiç çıkmamış belgeler bu metnin parçası değildi; bu yüzden modelin onlara başka bir yoldan ulaşması gerekir.

RAG'da belgeleriniz modelin dışında, bir arama dizininde, yani dosyalarınızdan oluşturulmuş bir pasaj kataloğunda durur. Biri soru sorduğunda sistem eşleşen pasajları bulur ve bunları modelin aldığı metin olan prompt'a ekler. Sistem hangi pasajları kullandığını bildiği için her yanıtın yanında kaynak belgeyi gösterebilir.

İnce ayar, modeli her biri bir soruyu ya da görevi istediğiniz yanıtla eşleştiren örnekler üzerinde eğitmeye devam eder. Sonuç, modelin yeni bir sürümüdür. Modelin öğrendikleri modelin iç sayılarına dağılır ve hiçbir dosya belirli bir bilginin nereden geldiğini göstermez.

OpenAI'ın 23 Ekim 2026'da okunan “Optimizing LLM Accuracy” rehberi, farkı bir sınav benzetmesiyle anlatıyor. RAG, bir şeylere bakabilmek için “ders kitabının yanınızda olması” gibidir. İnce ayar ise aylarca derse girip “çok sayıda tekrarlanan örnekten” öğrenmeye benzer.

Rehber, iki yöntemin “birbirine eklenebildiğini, birbirini dışlamadığını” da söylüyor. Ayrıca “OpenAI'daki en büyük müşteri dağıtımlarımızın birçoğunun yalnızca prompt mühendisliği ve RAG kullanılarak yapıldığını” belirtiyor. Prompt mühendisliği, model için daha iyi talimatlar ve örnekler yazmak demektir.

Bir modele belgelerimizle ince ayar yapıp işimizi öğrenmesini sağlayabilir miyiz?

Yayımlanmış araştırmalar, bir modeli belgelerinizle eğitmenin ona işinize ait olguları güvenilir biçimde öğretmediğini söylüyor. İlk kez Aralık 2023'te yayımlanan bir çalışmada Oded Ovadia ve üç ortak yazarı, RAG'ı bir modele belgelerin düz metniyle ince ayar yapmakla karşılaştırdı. Çalışmanın özeti, “RAG'ın ince ayardan sürekli olarak daha iyi sonuç verdiğini” ve modellerin bu yolla “yeni olgusal bilgileri öğrenmekte zorlandığını” söylüyor. Özet, eğitim sırasında modele “aynı olgunun çok sayıda farklı varyasyonunu” göstermenin yardımcı olabileceğini de ekliyor.

Zorik Gekhman ve altı ortak yazarının 2024 tarihli bir makalesi, yanıtlarıyla eşleştirilmiş sorular üzerinde ince ayarı test etti. Yeni olgular içeren örnekler, modelin zaten bildikleriyle örtüşen örneklere göre “önemli ölçüde daha yavaş öğreniliyor”. Bu örnekleri öğrendikten sonra ise modelin olgusal olarak yanlış yanıtlar verme olasılığı arttı. Yazarlar, sonuçlarının şu görüşü desteklediğini yazıyor: modeller “olgusal bilgiyi çoğunlukla ön eğitim yoluyla ediniyor”, yani modelin geliştiricisinin yaptığı ilk eğitimle; ince ayar ise onlara “bu bilgiyi daha verimli kullanmayı öğretiyor”.

Bir işletme için fiyatlar ya da politika metinleri gibi değişen bilgilerin yeri, sistemin arama yaptığı belgelerdir. İnce ayarlı bir model eğitildiği gün öğrendiklerini korur ve bunu değiştirmek yeni bir eğitim çalıştırması gerektirir.

İnce ayar yapmaya ne zaman değer?

OpenAI'ın rehberi, model “tutarsız ve yanlış formatlı sonuçlar üretiyorsa” ya da tonu veya konuşma üslubu “doğru değilse”, modele verilen bilgi üzerinde değil, modelin davranışı üzerinde çalışılmasını söylüyor. Önce prompt'taki talimatlar ve örnekler iyileştirilir; ince ayar bir sonraki adımdır. Rehber ince ayar için bir neden olarak verimliliği de sayıyor; yani daha küçük bir modelle ya da daha az token'la aynı doğruluğa ulaşmayı. Token bir kelimenin bir parçasıdır ve model sağlayıcıları token başına ücret alır.

Örneğin faturaları okuyan bir modelin, verileri muhasebe sisteminizin kabul ettiği düzende, birebir döndürmesi gerekir. Müşteriler için hazırlanan yanıt taslaklarının destek ekibinizin üslubunda olması gerekebilir. Daha küçük, ince ayarlı bir model, ihtiyaç duyduğunuz doğruluğa ulaşırsa büyük, genel bir modelden daha ucuza da çalışabilir.

Eğitim örnekleri gerçek işin birebir aynısı gibi görünmelidir. Rehber “50+ örnekle” başlamayı, ardından test etmeyi ve ancak kalan hatalar modelin davranışıyla ilgiliyse daha fazla örnek eklemeyi öneriyor. Bu işi her gün yapan birinin bu örnekleri yazması ya da kontrol etmesi gerekir; bu yüzden bütçeye mühendislik süresinin yanı sıra bu kişinin saatlerini de koyun.

Belge setimiz küçük. RAG'a gerçekten ihtiyacımız var mı?

Küçük bir belge setiyle RAG'a hiç ihtiyacınız olmayabilir. Claude modellerinin arkasındaki şirket olan Anthropic, 19 Eylül 2024 tarihli bir yazısında şunu yazdı: “Bilgi tabanınız 200.000 token'dan (yaklaşık 500 sayfalık malzeme) küçükse, RAG'a ya da benzer yöntemlere gerek kalmadan bilgi tabanının tamamını modele verdiğiniz prompt'a ekleyebilirsiniz.”

Her modelin bir seferde okuyabileceği token sayısının bir sınırı vardır. Prompt caching (prompt önbellekleme), bir uygulamanın daha önceki isteklerde gönderdiği metni, örneğin aynı belge setini yeniden kullanmasını sağlar. Rehberle aynı gün okunan Anthropic yazısı, prompt caching'in Claude ile maliyetleri “%90'a kadar” düşürdüğünü söylüyor. OpenAI'ın rehberi, modellerin “çok büyük prompt'larda dikkatini korumakta zorlanabileceği” konusunda uyarıyor; bu yüzden kullanmayı planladığınız boyutta test edin.

Her soruyla birlikte bütün belgeleri göndermek yine de birkaç pasaj göndermekten daha pahalıdır ve maliyet eklediğiniz her sayfayla artar. Bir pilot, tek bir ürün grubunun kılavuzları gibi küçük bir setle başlayabilir ve belgeler artık prompt'a sığmadığında RAG'a geçebilir.

RAG'da neler ters gidebilir?

Bir RAG sistemi, arama yanlış pasajları ya da gereğinden fazla pasajı getirdiğinde, model daha tek kelime yazmadan başarısız olabilir. OpenAI'ın rehberi iki durumu da anlatıyor. Sistem modele “yanlış bağlamı verebilir; bu durumda modelin yanıt vermesi mümkün değildir”. Diğer risk fazla miktarda ilgisiz metindir, çünkü bu metin “gerçek bilgiyi boğar ve halüsinasyonlara yol açar”; halüsinasyon, kulağa doğru gelen ama yanlış olan yanıtlar demektir.

Pek çok RAG sistemi tam kelimelere göre değil anlama göre arama yapar ve bu tür bir arama, birebir eşleşmesi gereken kodları kaçırabilir. Anthropic'in yazısı, TS-999 hata koduyla ilgili bir destek sorusunu örnek veriyor. Böyle bir arama, genel olarak hata kodlarıyla ilgili sayfaları bulup TS-999'a ait olanı kaçırabilir. Yazı, bu aramanın tam metni arayan anahtar kelime aramasıyla birleştirilmesini öneriyor.

Bu yüzden aramayı ayrıca test edin. Her test sorusu için, yanıtı değerlendirmeden önce doğru pasajın gelip gelmediğini kontrol edin. Gelmediyse OpenAI'ın rehberi düzeltilmesi gereken şey olarak aramayı gösteriyor.

Verilerimizi hangisi kontrol altında tutar, RAG mı ince ayar mı?

İkisi de kendi sunucularınızda çalışabilir. RAG'da belgeleriniz sizin kontrol ettiğiniz bir dizinde durur ve model yalnızca her soru için seçilen pasajları görür. İnce ayar ise eğitim örneklerini model dosyalarının içine işler ve modelin bunlardan öğrendikleri yanıtlarında yeniden ortaya çıkabilir.

RAG erişim haklarını uygulamayı kolaylaştırır, çünkü arama, soruyu soran kişinin görmeye yetkisi olmayan belgeleri dışarıda bırakabilir. Microsoft bunun bir yolunu Azure AI Search hizmetinde anlatıyor. Microsoft'un güvenlik filtresi kalıbı hakkındaki, aynı gün okunan sayfası, “arama sonuçlarını bir grup ya da kullanıcı kimliği içeren bir dizeye göre kırpan” bir filtreyi tarif ediyor. Sayfa bu filtreyi, hizmetin yerleşik erişim kontrol listelerini kullanamayan sistemler için öneriyor.

Aynı sayfa, filtrenin kendisinde “kimlik doğrulama ya da yetkilendirme olmadığını” söylüyor; bu yüzden uygulamanızın her aramada doğru kullanıcıyı ya da grubu iletmesi gerekir. İnce ayarlı bir modelde bunun bir karşılığı yoktur. Modelin bir departmanın örneklerinden öğrendikleri, o modelin herhangi bir kullanıcısına verilen yanıtlarda ortaya çıkabilir.

Ulusal veri koruma otoritelerinin ve Avrupa Veri Koruma Denetçisi'nin temsilcilerinden oluşan Avrupa Veri Koruma Kurulu (EDPB), 17 Aralık 2024'te 28/2024 sayılı Görüşü kabul etti. Görüş, “kişisel veriyle eğitilen yapay zekâ modellerinin her durumda anonim kabul edilemeyeceğini” söylüyor, çünkü kişisel veriler “modelin parametrelerinde ‘emilmiş’ olarak kalmaya devam edebilir”. Parametreler, bir modelin öğrendiklerini sakladığı iç sayılardır. Görüş, belirli bir modelin anonim olup olmadığının her durum için ayrı ayrı değerlendirilmesi gerektiğini de ekliyor.

Destek talepleri ya da müşteri dosyaları üzerinde ince ayar yapıyorsanız, modelin kendisinin kişisel veri barındırabileceğini varsayın. Bir kişinin kayıtlarını silme talebinin nasıl karşılanacağını sorun. RAG'da bir belge kaldırılıp dizin güncellendiğinde, o belge artık yeni sorular için bulunmaz. Loglarda, önbelleklerde ya da kaydedilmiş sohbet geçmişlerinde tutulan kopyaların ayrıca temizlenmesi gerekir. Kurallar ülkeden ülkeye değişir ve bu yazı hukuki tavsiye değildir; bu yüzden durumunuzu bir avukatla kontrol edin.

İnce ayarlı bir model ne kadar süre çalışmaya devam eder?

İnce ayarlı bir model, bir temel model, yani yola çıktığınız genel model üzerine kurulur. İnce ayarı bir bulut hizmeti üzerinden yapıyorsanız, o temel modelin ve sizin sürümünüzün ne kadar süre kullanılabilir kalacağına sağlayıcı karar verir. OpenAI'ın aynı gün okunan API fiyatlandırma sayfası şöyle diyor: “OpenAI, ince ayar platformunu aşamalı olarak kapatıyor.” Sayfa ayrıca ince ayarlı modellerin, temel modelleri deprecated durumuna geçene kadar kullanılabilir kalacağını ekliyor; deprecated, OpenAI'ın kullanımdan kaldırmakta olduğu modeller için kullandığı terimdir.

OpenAI'ın kullanımdan kaldırmalar (deprecations) sayfası tarihleri veriyor. 7 Mayıs 2026'dan itibaren daha önce hiç ince ayar yapmamış kuruluşlar artık başlayamaz hâle geldi. 2 Temmuz 2026'dan itibaren aynı kural, son 60 gün içinde ince ayarlı bir model kullanmamış kuruluşlar için de geçerli oldu. 6 Ocak 2027'de ise “Mevcut aktif müşteriler artık yeni ince ayar işleri oluşturamayacak.”

Aynı sayfa modellerin kendileri için de bitiş tarihleri belirliyor. Sayfa, gpt-4.1-nano ve diğer beş modelin ince ayarlı sürümleri için kapatılma tarihi olarak 23 Ekim 2026'yı gösteriyor. GPT-4o, GPT-4o mini, GPT-4.1 ve GPT-4.1 mini 14 Ocak 2027'de onları izliyor ve “Bu modellerin ince ayarlı sürümleri, dayandıkları temel modellerle aynı kapatma takvimini izler.”

Geliştiricilerinin model dosyalarını herkes bir lisans altında çalıştırabilsin diye yayımladığı açık ağırlıklı modellere ise kendi donanımınızda hâlâ ince ayar yapılabilir. OpenAI'ın gpt-oss-120b modeli bunlardan biridir ve Hugging Face model sitesindeki, aynı gün okunan sayfası Apache 2.0 lisansını belirtiyor. Sayfa, modele “tek bir H100 düğümünde ince ayar yapılabileceğini” söylüyor; bu, Nvidia H100 GPU'ları olan tek bir sunucu demektir. H100, sayfanın modeli çalıştırmak için andığı bir çip türüdür.

Model ister bir sağlayıcının bulutunda ister kendi donanımınızda çalışsın, yeni bir temel model yeni bir ince ayar ve test turu demektir. Yanıtları yazan model değiştiğinde bir RAG sisteminin de yeniden test edilmesi gerekir, ancak dizin ve belgeleriniz olduğu gibi kalır.

RAG'ı ve ince ayarı kurmanın ve işletmenin maliyeti nedir?

Burada rakam verilmiyor, çünkü rakamlar hacimlerinize ve kurulumunuza bağlıdır. Ancak faturanın kalemleri farklıdır.

RAG'da geliştirme işi, belgeleri iyi aranabilecek şekilde hazırlamak, dizini oluşturmak ve aramayı test etmektir. İşletme maliyetlerine arama hizmeti ve daha uzun prompt'lar dahildir, çünkü her soru kendisi için bulunan pasajları da taşır. Bir dosya eklendiğinde ya da değiştirildiğinde yeniden dizinleme otomatik olarak çalışabilir.

İnce ayarda maliyetin büyük kısmı personel zamanı olabilir, çünkü eğitim örneklerini işi bilen kişiler yazar ve kontrol eder. Ardından eğitim çalıştırmaları ve yeni modeli barındıran sunucular ya da hizmet gelir. Yeni bir temel model ya da yeni bir görev, bu iş için yeniden ödeme yapmak demektir.

Bazı sistemlerin ikisine de ihtiyacı vardır. İlk testler formatın yanı sıra bilgilerde de sorun gösterirse, OpenAI'ın rehberi “muhtemelen sonunda ince ayar + RAG kullanacağınızı” söylüyor. Bu durumda ikisinin de bedelini ödersiniz.

RAG'ı mı yoksa ince ayarı mı seçmeliyiz ve bunu geliştirmeyi teklif eden bir firmaya ne sormalıyız?

İşinizden alınmış gerçek sorulardan ya da belgelerden oluşan ve her birinin bir kişi tarafından kontrol edilmiş bir yanıtı olan bir test setiyle başlayın. OpenAI'ın rehberi, başarısızlıkların neden yaşandığına baktıktan sonra “20+ soru ve yanıttan” oluşan bir setin size daha gelişmiş yöntemler için “doğru başlangıç noktasını” verdiğini söylüyor. Takılıp kalmış bir yapay zekâ pilotu hakkındaki yazı, böyle bir setin nasıl kurulacağını anlatıyor.

Ardından RAG ile iyi yazılmış bir prompt deneyin ve başarısızlıkları nedenlerine göre gruplayın. Eksik bir pasaj, aramanın üzerinde çalışılması gerektiği anlamına gelir. Bazen doğru pasaj gelmiştir ama model onu yine de yanlış okumuş ya da yanlış formatta yanıt vermiştir. Bu durum için rehber önce daha iyi talimatları, prompt'a eklenen birkaç çözümlü örnek yanıtları iyileştiriyorsa da ince ayarı öneriyor.

Tasarım öneren her firmaya aynı soruları sorun:

• Test setimizdeki hangi sonuçlar sizi ince ayar önermeye yöneltti?
• Sistem, çalışanların açmaya yetkili olmadıkları belgeleri görmesini nasıl engelleyecek?
• İnce ayar yaparsanız eğitim örneklerini kim yazacak ve temel model kullanımdan kaldırıldığında ne olacak?
• Yayına aldıktan sonra bir belgeyi ya da tek bir kişinin verilerini nasıl kaldırırız?

amBrain nerede devreye girer?

amBrain'in kamuya açık olarak anlattığı tek dil modeli projesi şu: “Bir müşterinin FinTech perimetresi içinde bir LLM entegrasyonunu üretime aldık: yapılandırılmamış broker ve işlem yeri bildirimlerinin — kurumsal işlemler (corporate actions), enstrüman ve teminat değişiklikleri — çıkarılıp normalize edilerek trading sisteminin tükettiği yapılandırılmış kayıtlara dönüştürülmesi.”

Bu yazı bir vaka çalışması değildir ve hiçbir müşteri çalışmasını anlatmaz. Alıntılanan satır, o sistemin RAG mi, ince ayar mı kullandığını ya da hiçbirini kullanmadığını, hangi modeli kullandığını veya bu modelin nerede çalıştığını söylemez. Bu yazıdaki örnekler geneldir; o projeden ya da amBrain'in başka herhangi bir çalışmasından alınmamıştır.

Burada adı geçen şirketler, kamu kurumları, modeller ve araştırma makaleleri yayımlanmış sayfalarından alıntılanmıştır ve yazı amBrain ile bunların herhangi biri arasında bir ilişki iddia etmez. Yazı amBrain'e ait fiyat, takvim ya da koşul vermez.

amBrain 2019'dan bu yana yazılım geliştiriyor. Üç formatta çalışıyor: tam teslim, özel ekip ya da sizin ekibinize yerleşen mühendisler. Mülkiyet konusundaki satırı ise şöyle: “Müşteri, yeniden kullanılabilir bileşenlerimiz dışında ürünün ve kodun tam mülkiyetini elinde tutar.” amBrain kısa listenizdeyse, ona da diğer her firmaya yönelttiğiniz soruların aynısını yöneltin.