Yapay zeka çıktısında kalite kapısı: uydurma bilgi nasıl yakalanır?
Uydurma bilgiyi modele güvenerek değil, çıktıyı yayından önce ölçülebilir kapılardan geçirerek yakalarsın: kaynaksız rakam yasağı, eski ve yeni metin karşılaştırması, değerlendirme seti ve insan onayı. Model hatayı da akıcı bir cümleyle söylediği için gözle okumak yetmez. Kapılar kaynağı olmayan rakamı durdurur, taşınmayan cümleyi raporlar, testten geçmeyen çıktıyı teslim ettirmez.
Yapay zekanın ürettiği metnin en tehlikeli özelliği yanlış olması değil, yanlışken de akıcı görünmesi. İnsan hatası genelde belli olur: cümle bozulur, boşluk kalır. Model hatası ise düzgün bir cümle içinde gelir. Bu yüzden üretim hattında güven değil, kapı gerekir.
Halüsinasyon nedir, neden olur?
Halüsinasyon, modelin var olmayan bir bilgiyi üretmesidir. Sebebi basit: modeller bir veri tabanından bilgi çekmez, bir sonraki kelimeyi tahmin eder. Tahmin, doğru bilginin bulunmadığı yerde de devam eder. En sık ortaya çıktığı yerler:
- Rakam ve tarih (istatistikler, fiyatlar, sürüm numaraları)
- Kaynak ve referans (var olmayan makale, yanlış atıf)
- Alıntı (söylenmemiş cümlenin birine mal edilmesi)
- Boşluk doldurma (eksik bilgi yerine makul görünen uydurma)
Dört kalite kapısı
- Kaynaksız rakam yasağı Çıktıda geçen her sayının bir kaynağı olmalı. Kaynağı yoksa sayı çıkarılır ya da sistem durup sorar. Bu tek kural, pazarlama metinlerindeki hataların büyük kısmını keser.
- Karşılaştırma kapısı Bir metin taşınıyorsa (site yenileme, çeviri, özet) eski ve yeni metin karşılaştırılır. Eksik cümle ve yeni eklenmiş cümle ayrı ayrı raporlanır. Detay: içerik-diff kapısı.
- Değerlendirme seti On beş gerçek örnek ve her biri için beklenen çıktı. Talimat ya da model değiştiğinde set yeniden çalıştırılır; kalite düşüşü anında görülür. Detay: eval.
- İnsan onayı Geri alınamayan her işlem (mail gönderme, ödeme, silme, yayına alma) insan onayına bağlanır. Detay: insan onayı döngüsü.
Kapı olmayınca ne oluyor?
Hata yayına çıkıyor ve düzeltme maliyeti üretim maliyetinden yüksek oluyor. Bir müşteri teklifindeki yanlış fiyat, bir videodaki uydurma istatistik ya da yenilenen bir sitede kaybolan hizmet sayfası; hepsinin ortak noktası, çıkmadan önce ölçülebilecek olmalarıydı.
Hangi kapı hangi hatayı yakalar?
Dört kapı aynı işi yapmaz. Her biri farklı bir hata türünü yakalar, farklı bir hatayı da kaçırır. Bu yüzden tek kapıya güvenmek yerine birbirini tamamlayan kapıları üst üste koymak gerekir. Tabloda dört kapının yanında isteğe bağlı bir yardımcı da var: model hakemi.
| Kapı | Yakaladığı hata | Nasıl çalışır | Kaçırdığı hata |
|---|---|---|---|
| Kaynaksız rakam yasağı | Uydurma sayı, tarih, fiyat ve alıntı | Her sayının yanında kaynak alanı aranır; boşsa sayı çıkarılır ya da sistem durur | Kaynağın kendisi yanlışsa ya da eskiyse |
| Karşılaştırma kapısı | Taşıma sırasında kaybolan ya da sonradan eklenen cümle | Eski ve yeni metin cümle cümle karşılaştırılır, fark raporlanır | İki metnin de aynı yanlışı taşıması |
| Değerlendirme seti | Talimat ya da model değişince ortaya çıkan kalite düşüşü | Sabit örnekler yeniden çalıştırılır, çıktı beklenenle kıyaslanır | Sette hiç olmayan yeni durumlar |
| İnsan onayı | Geri alınamayan işlemdeki yargı hatası | Taslak durur; gönderim ya da yayın insanın onayıyla olur | Kalabalık listede yorgunlukla geçilen kayıtlar |
| Model hakemi (yardımcı) | Ton ve tutarlılık gibi kurala dökülmesi zor ölçütler | İkinci bir model çıktıyı belirli bir ölçekte puanlar | Hakemin de yanılması; kritik işte tek başına yetmez |
Kapıyı bir talimat dosyasının içine yazmak istersen girdinin, çıktının ve doğrulama adımının nereye oturduğunu Claude Skills yazısında bulursun. Orada da kural aynı: iyi bir skill, çıktısını kendi denetleyen bir kapı içerir.
İyi kapı nasıl yazılır?
Kapı bir temenni değil, kontrol edilebilir bir koşuldur. Fark şurada:
| Kötü kapı | İyi kapı |
|---|---|
| "Metin doğru olmalı" | "Metindeki her sayının yanında kaynak alanı dolu olmalı" |
| "Altyazı düzgün olsun" | "Altyazı kelimeleri sesle ±120 ms içinde hizalı olmalı" |
| "Site hızlı olsun" | "LCP saha verisi 2,5 saniyenin altında olmalı" |
| "Mail profesyonel olsun" | "Mailde en fazla bir bağlantı, en fazla üç paragraf olmalı" |
RAG ve kaynak bağlama
RAG, modele cevaptan önce kendi belgelerini getirtir ve uydurma riskini azaltır. Ama sihir değildir: getirilen belge yanlışsa cevap da yanlış olur. Bu yüzden RAG kurulumlarında da iki kural geçerlidir: cevabın hangi belgeden geldiği gösterilmeli ve belge bulunamadığında sistem "bilmiyorum" diyebilmelidir.
Bir sistemin olgunluğu, doğru cevap verebilmesiyle değil, cevabı olmadığında durabilmesiyle ölçülür.
Model neden bilmiyorum demek yerine tahmin eder?
Kaynak bağlamak uydurmayı azaltır ama kökünü kurutmaz, çünkü modeller çoğu ölçümde susmak yerine tahmin ederek puan toplar. OpenAI'nin araştırma yazısı, halüsinasyonun nedenlerinden biri olarak tam bu ödül düzenini gösteriyor: standart ölçümler "bilmiyorum" demeyi değil, doğru tahmin etmeyi ödüllendiriyor.
OpenAI'nin 2025 tarihli araştırma yazısına göre SimpleQA testinde soruların yüzde 52'sinde cevap vermekten kaçınan modelin hata oranı yüzde 26, yalnızca yüzde 1'inde kaçınan modelin hata oranı ise yüzde 75 çıktı.
İki modelin doğru cevap oranı yüzde 22 ile yüzde 24 arasında, yani neredeyse aynıydı. Aradaki fark, ne zaman susacağını bilmekten geliyordu. Bu yüzden talimatta üç satırlık bir düzen kurmak yeterli:
- Susma izni ver. Talimata "kaynakta yoksa bulunamadı yaz" satırını ekle.
- Önce alıntı çıkarttır. Uzun belgede cevaptan önce kelimesi kelimesine alıntı istenir; cevap yalnız bu alıntılara dayanır.
- İddiayı alıntıyla eşle. Metin yazıldıktan sonra her iddia için destekleyen alıntı aranır; bulunamayan iddia geri çekilir.
Eylül 2026 itibarıyla Anthropic'in resmi dokümanı, 20 bin tokenı aşan uzun belgelerde modelden cevaptan önce kelimesi kelimesine alıntı çıkarmasını istemeyi öneriyor.
Aynı doküman bu tekniklerin halüsinasyonu belirgin biçimde azalttığını ama tamamen ortadan kaldırmadığını da yazıyor; kritik bilgi yine de ayrıca doğrulanmalı. Bu mantığın kısa hali, yani küçük bir test seti ve kontrol edilebilir koşullar, prompt örnekleri yazısındaki "prompt yetmediğinde ne yapılır" bölümünde anlatılıyor.
Küçük ekipte 30 dakikada kurulabilecek kapılar
- Çıktı şablonuna "kaynak" sütunu eklemek ve boş bırakılamaz yapmak.
- Yayın öncesi kontrol listesini tek sayfaya indirmek ve her teslimde işaretlemek.
- Son on gerçek işi örnek seti olarak saklamak ve talimat değişince tekrar çalıştırmak.
- Geri alınamayan işlemleri taslak olarak bırakıp gönderimi insana bırakmak.
Kapılar gerçek bir üretim hattında nasıl görünür?
Kapı fikri soyut kalırsa uygulanmaz. Eylül 2026 itibarıyla Sıfırdan Sistem'in video ajanı her işi teslimden önce 8 kapı kontrolünden geçiriyor; ürünün kendi beyanına göre tüm ajanlar birlikte 40'tan fazla kapı ve doğrulama adımı taşıyor. Bu rakamlar ürünün kendi kaydından geliyor, bağımsız bir denetimin sonucu değil.
Aşağıdaki tablo dört farklı işte kapının nasıl yazıldığını ve geçilmezse ne olduğunu gösteriyor.
| İş | Kapı | Geçilmezse |
|---|---|---|
| Video kurgu | Altyazıdaki her kelime seste geçmeli; kart yüze binmemeli | Render teslim edilmez |
| SEO/GEO raporu | Rapordaki her cümlenin bir kaynağı olmalı | Kaynaksız cümle rapora girmez |
| Toplu mail | Belirlenen gönderim eşikleri sürekli izlenir | Eşik aşılınca gönderim otomatik durur |
| Site yenileme | Eski metindeki cümleler yenisinde bulunmalı | Kaybolan ve sonradan eklenen cümle ayrı ayrı raporlanır |
Senin hattında kaç kapı olacağını iş belirler: video için bir kapı, rapor için bir başkası. Önemli olan her kapının tek bir soruya evet ya da hayır diyebilmesi.
Kalite kapısı ne zaman yetmez ya da gereksiz olur?
Kapı hatayı yakalar ama doğruyu üretmez. Üç sınırı bilmek gerekir:
- Kaynak yanlışsa kapı geçer. Kaynak kapısı yalnız sayının bir yere bağlı olduğunu denetler, o yerin güncel olduğunu değil. Fiyat ve sürüm gibi bilgiyi yayın gününde resmi sayfadan yeniden oku.
- Yazılmamış hata türü görünmez. Değerlendirme seti yalnız içindeki durumları ölçer. Sette 15 örnek başlangıçtır; Anthropic'in değerlendirme rehberi az sayıda elle notlanan soru yerine otomatik notlanabilen çok sayıda soruyu öneriyor, yani set yeni hatalarla büyür.
- Ağır kapı hızı düşürür. Yalnız kendine yazdığın tek seferlik bir not için dört kapı gereksizdir. Kapı, başkasına giden ya da geri alınamayan çıktılarda değer taşır.
Karar kuralı basit: çıktı bir müşteriye, yayına ya da paraya gidiyorsa kapı koy; taslak olarak sende kalıyorsa kendi gözün yeter.
Özet
Yapay zekayla çalışırken kaliteyi belirleyen şey modelin gücü değil, hattaki kapıların sıkılığıdır. Kapılar, hızdan çalmaz; aksine geri dönüşü ortadan kaldırdığı için toplam süreyi kısaltır. Döngünün tamamını loop engineering yazısında, projelerin neden battığını araştırma verileriyle bu yazıda anlattık.
Kapının en çok yakaladığı hata türü uydurma bilgidir; nasıl azaltılacağı halüsinasyon yazısında anlatılıyor.
Sık sorulan sorular
Halüsinasyon tamamen engellenebilir mi?
Tamamen engellenemez, ama yayına ulaşması engellenebilir. Kaynak zorunluluğu, karşılaştırma kapıları ve insan onayı, hatayı çıktı öncesinde yakalayan üç pratik katmandır.
Kaynaksız rakam yasağı ne demek?
Bir çıktıda geçen her sayının bir kaynağı olması kuralıdır. Kaynağı olmayan sayı ya çıkarılır ya da kaynak eklenir; sistem bu kararı kendi başına vermez, durur ve sorar.
Değerlendirme seti kurmak zor mu?
Hayır. On beş gerçek örnek ve her biri için beklenen çıktı yeterlidir. Talimat veya model değiştiğinde bu set tekrar çalıştırılır ve kalite kaybı anında görülür.
Yapay zeka çıktısındaki uydurma bilgi nasıl fark edilir?
Çıktıdaki her sayı, tarih ve alıntı için kaynak ara; kaynağı olmayan ifade uydurma adayıdır. Sonra kaynağı aç ve cümleyle uyuşup uyuşmadığına bak: bağlantı çalışıyor ama sayfa başka bir şey söylüyorsa yine uydurmadır.
Yapay zekaya bilmiyorsan söyle demek işe yarar mı?
Yarar ama tek başına yetmez. Anthropic'in resmi dokümanı, modele belirsizlikte bilmediğini söyleme izni vermeyi en basit önlem olarak öneriyor; yine de kritik bilgiyi kaynağından doğrulamak gerekir.
Bu döngüyü sıfırdan kurmak yerine hazır al
Yazıda anlatılan yöntem, yapay zeka kodlama ajanının okuyup kurabileceği tek bir talimat dosyası halinde Profil Paketleri · 3 Ajan içinde. Tek seferlik lisans, abonelik yok; her ay yama ve güncellemeler e-postana gelir.
Profil Paketleri · 3 Ajan · Satın al 4 ajanın tamamını gör