Yapay zeka çıktısında kalite kapısı: uydurma bilgi nasıl yakalanır?
Yapay zekanın ürettiği metin akıcı olduğu için hata da akıcı görünür. Çözüm modele güvenmek değil, çıktıyı ölçülebilir kapılardan geçirmek: kaynağı olmayan rakam yayınlanmaz, taşınmayan cümle raporlanır, testten geçmeyen çıktı teslim edilmez.
Yapay zekanın ürettiği metnin en tehlikeli özelliği yanlış olması değil, yanlışken de akıcı görünmesi. İnsan hatası genelde belli olur: cümle bozulur, boşluk kalır. Model hatası ise düzgün bir cümle içinde gelir. Bu yüzden üretim hattında güven değil, kapı gerekir.
Halüsinasyon nedir, neden olur?
Halüsinasyon, modelin var olmayan bir bilgiyi üretmesidir. Sebebi basit: modeller bir veri tabanından bilgi çekmez, bir sonraki kelimeyi tahmin eder. Tahmin, doğru bilginin bulunmadığı yerde de devam eder. En sık ortaya çıktığı yerler:
- Rakam ve tarih (istatistikler, fiyatlar, sürüm numaraları)
- Kaynak ve referans (var olmayan makale, yanlış atıf)
- Alıntı (söylenmemiş cümlenin birine mal edilmesi)
- Boşluk doldurma (eksik bilgi yerine makul görünen uydurma)
Dört kalite kapısı
- Kaynaksız rakam yasağı Çıktıda geçen her sayının bir kaynağı olmalı. Kaynağı yoksa sayı çıkarılır ya da sistem durup sorar. Bu tek kural, pazarlama metinlerindeki hataların büyük kısmını keser.
- Karşılaştırma kapısı Bir metin taşınıyorsa (site yenileme, çeviri, özet) eski ve yeni metin karşılaştırılır. Eksik cümle ve yeni eklenmiş cümle ayrı ayrı raporlanır. Detay: içerik-diff kapısı.
- Değerlendirme seti On beş gerçek örnek ve her biri için beklenen çıktı. Talimat ya da model değiştiğinde set yeniden çalıştırılır; kalite düşüşü anında görülür. Detay: eval.
- İnsan onayı Geri alınamayan her işlem (mail gönderme, ödeme, silme, yayına alma) insan onayına bağlanır. Detay: insan onayı döngüsü.
Kapı olmayınca ne oluyor?
Hata yayına çıkıyor ve düzeltme maliyeti üretim maliyetinden yüksek oluyor. Bir müşteri teklifindeki yanlış fiyat, bir videodaki uydurma istatistik ya da yenilenen bir sitede kaybolan hizmet sayfası; hepsinin ortak noktası, çıkmadan önce ölçülebilecek olmalarıydı.
İyi kapı nasıl yazılır?
Kapı bir temenni değil, kontrol edilebilir bir koşuldur. Fark şurada:
| Kötü kapı | İyi kapı |
|---|---|
| "Metin doğru olmalı" | "Metindeki her sayının yanında kaynak alanı dolu olmalı" |
| "Altyazı düzgün olsun" | "Altyazı kelimeleri sesle ±120 ms içinde hizalı olmalı" |
| "Site hızlı olsun" | "LCP saha verisi 2,5 saniyenin altında olmalı" |
| "Mail profesyonel olsun" | "Mailde en fazla bir bağlantı, en fazla üç paragraf olmalı" |
RAG ve kaynak bağlama
RAG, modele cevaptan önce kendi belgelerini getirtir ve uydurma riskini azaltır. Ama sihir değildir: getirilen belge yanlışsa cevap da yanlış olur. Bu yüzden RAG kurulumlarında da iki kural geçerlidir: cevabın hangi belgeden geldiği gösterilmeli ve belge bulunamadığında sistem "bilmiyorum" diyebilmelidir.
Bir sistemin olgunluğu, doğru cevap verebilmesiyle değil, cevabı olmadığında durabilmesiyle ölçülür.
Küçük ekipte 30 dakikada kurulabilecek kapılar
- Çıktı şablonuna "kaynak" sütunu eklemek ve boş bırakılamaz yapmak.
- Yayın öncesi kontrol listesini tek sayfaya indirmek ve her teslimde işaretlemek.
- Son on gerçek işi örnek seti olarak saklamak ve talimat değişince tekrar çalıştırmak.
- Geri alınamayan işlemleri taslak olarak bırakıp gönderimi insana bırakmak.
Özet
Yapay zekayla çalışırken kaliteyi belirleyen şey modelin gücü değil, hattaki kapıların sıkılığıdır. Kapılar, hızdan çalmaz; aksine geri dönüşü ortadan kaldırdığı için toplam süreyi kısaltır. Döngünün tamamını loop engineering yazısında, projelerin neden battığını araştırma verileriyle bu yazıda anlattık.
Kapının en çok yakaladığı hata türü uydurma bilgidir; nasıl azaltılacağı halüsinasyon yazısında anlatılıyor.
Sık sorulan sorular
Halüsinasyon tamamen engellenebilir mi?
Tamamen engellenemez, ama yayına ulaşması engellenebilir. Kaynak zorunluluğu, karşılaştırma kapıları ve insan onayı, hatayı çıktı öncesinde yakalayan üç pratik katmandır.
Kaynaksız rakam yasağı ne demek?
Bir çıktıda geçen her sayının bir kaynağı olması kuralıdır. Kaynağı olmayan sayı ya çıkarılır ya da kaynak eklenir; sistem bu kararı kendi başına vermez, durur ve sorar.
Değerlendirme seti kurmak zor mu?
Hayır. On beş gerçek örnek ve her biri için beklenen çıktı yeterlidir. Talimat veya model değiştiğinde bu set tekrar çalıştırılır ve kalite kaybı anında görülür.
Bu döngüyü sıfırdan kurmak yerine hazır al
Yazıda anlatılan yöntem, yapay zeka kodlama ajanının okuyup kurabileceği tek bir talimat dosyası halinde Profil Paketleri · 3 Ajan içinde. Tek seferlik lisans, abonelik yok; her ay yama ve güncellemeler e-postana gelir.
Profil Paketleri · 3 Ajan · Satın al 4 ajanın tamamını gör