RAG nedir? Yapay zekânın otelin kendi belgelerinden yanıt vermesi

RAG, yani erişimle güçlendirilmiş üretim, bir soruyu iki adımda yanıtlar: sistem önce sizin verdiğiniz belgelerdeki ilgili paragrafları bulur, sonra yanıtını yalnızca bu paragraflardan yazar ve nereden geldiğini gösterir. Model yeniden eğitilmez; otelinizle ilgili hiçbir bilgi modelin içine gömülmez.

Genel amaçlı bir asistan, kahvaltı saatlerinizle ilgili soruyu tereddüt etmeden, ama bilmeden yanıtlar. Bir otel için yararlı soru, yanıtın kendinden emin görünmesi değil, cümlenin nereden geldiğidir. Bu yazıyı okuduktan sonra asistanı "otelinizi biliyor" diyen her tedarikçiyi değerlendirebileceksiniz: RAG nedir, ne değildir ve hangi parçası sizin kontrolünüzdedir.

Genel bir yapay zekâ modeli otelinizi neden bilmez?#

Çünkü genel metinlerden, tesisinizden değil, inşa edilmiştir. Bilgi formunuzu, fiyat kurallarınızı ya da spa saatlerinizi hiç görmemiştir; boşluğu inandırıcı görünen bir şeyle doldurur.

Bir dil modeli, eğitim aldığı metinler üzerinde çalışan bir örüntü makinesidir ve bilgisi eğitimin bittiği noktada donmuştur. Otelinizle canlı bir bağlantısı yoktur. Tesisinizle ilgili soru sorarsanız, diğer otellerin yanıtlarına benzeyen akıcı bir yanıt üretir. Uydurma bilgileri doğuran şey kötü niyet değil, bu mekanizmadır; bu yüzden yapay zekâ asistanlarının neden uydurma yanıt verdiği ve bunların nasıl yakalanacağı konusunu anlamak değerlidir.

İlk içgüdü, "verilerimizle eğitelim" demektir: yavaştır, çok sayıda örnek ister ve bir fiyat değiştiği gün bayatlar. İkinci içgüdü, tüm belgeleri tek bir uzun komuta yapıştırmaktır: boyut sınırına takılır ve ilgili tek satırı yüzlerce sayfanın arasına gömer. Erişim üçüncü seçenektir: modeli olduğu gibi bırakın ve soru anında ona doğru birkaç paragrafı uzatın.

Pratik sonuç şu: bir asistanın otel bilgisi, model sorunu olmaktan önce belge sorunudur.

Erişim (RAG) nedir, iki adımda?#

Erişimle güçlendirilmiş üretim, asistanın önce ilgili paragrafları bulması, sonra yanıtını yalnızca bulduklarından yazması demektir. "Güçlendirilmiş" sözcüğü, sorunun bu paragraflarla genişletilmesine işaret eder, modelin değiştirilmesine değil.

İki adımın sade anlatımı#

Birinci adım, bulmak. Soru ve kayıtlı her paragraf, gömme (embedding) denen sayısal bir parmak izine dönüştürülür; böylece aynı anlamı taşıyan paragraflar, kelimeleri farklı olsa bile birbirine yakın durur. Arama en yakın birkaçını getirir. Bu parmak izlerini tutan depoya çoğunlukla vektör veritabanı denir. Bir otelin bunu işletmesi gerekmez; ama bir tane olup olmadığını ve içinde hangi belgelerin bulunduğunu sormalıdır.

Belgeleri parçalara bölmeye parçalama (chunking) denir. Parça boyutu, bir yanıtın koşuluyla birlikte ("30 Eylül'e kadar") gelip gelmeyeceğini belirler. Küçük parçalar hassas bulur ama bağlamı kaybeder; büyük parçalar bağlamı korur ama ilgili satırı gömer.

İkinci adım, yanıtlamak. Paragraflar sorunun yanına yerleştirilir ve modele, yanıtı yalnızca bunlardan vermesi, içinde yanıt yoksa bunu söylemesi söylenir. Her yanıt, belgeyi ve paragrafı adlandıran bir kaynak satırı taşımalıdır; böylece bir kişi belgeyi açıp cümleyi sayfayla karşılaştırabilir. Bu, kendi otel verinize günlük dille soru sormanın ardındaki aynı sade fikirdir.

Erişimin bittiği yer#

Erişim belgelerden yanıtlar; rezervasyonlarınızdan hesap yapmaz. Birisi bu gece kaç odanın boş olduğunu sorarsa, o sayı otel yönetim sisteminden (PMS) sorgulanır, belge rafından çekilmez. İyi bir asistan ikisini de yapar; ama bunlar farklı mekanizmalardır ve ikisini birbirine karıştıran bir tedarikçi sorgulanmayı hak eder.

Bu, modeli verilerinizle eğitmekle aynı şey mi?#

Hayır. Eğitim modelin kendisini değiştirir; erişim yalnızca modelin yanıtlama anında eline verileni değiştirir. Otelinizle ilgili hiçbir bilgi modelin içine gömülmez.

Eğitim ya da ince ayar, modelin iç ayarlarını düzenler. Çok sayıda örnek ister, zaman alır ve sonucu sonradan satır satır düzeltilemez. Erişimde modele dokunulmaz. Belgeleriniz bir başvuru rafıdır ve bir sayfayı değiştirmek, bir sonraki sorunun yanıtını değiştirir.

Üç sonuç çıkar. Birincisi, bir belgeyi silmek onu gelecekteki yanıtlardan çıkarır; bir veri saklama kuralının ihtiyaç duyduğu tam olarak budur. İkincisi, bir yanıtın neden verildiğini görebilirsiniz, çünkü neden okuyup düzeltebileceğiniz bir paragraftır. Üçüncüsü, model bilgi tabanını yeniden kurmadan değiştirilebilir ve bilgi tabanı modele dokunmadan büyüyebilir.

Ödün ise şu: erişim, rafın kadar iyidir. Eksik ya da bayat bir belge zayıf yanıt üretir ve hiçbir model yükseltmesi bunu düzeltmez.

Bilgi tabanına ne girer, ne dışarıda kalır?#

İyi bir resepsiyonistin bir misafiri doğru yanıtlamak için ihtiyaç duyacağı her şey girer; yanıtın ihtiyaç duymadığı kişisel, mali ya da sözleşmesel hiçbir şey girmez.

Girenler: adres, açılış tarihleri ve mesafelerle bilgi formu; oda tipleri ve her fiyatın neyi kapsayıp neyi kapsamadığı; iptal, çocuk ve evcil hayvan kuralları; menüler ve servis saatleri; spa, havuz ve tesis kuralları; transfer, otopark ve erişilebilirlik bilgileri. Ayrıca personelin sorduğu iç prosedürler: geç çıkış nasıl onaylanır, kayıp eşya nereye kaydedilir.

Dışarıda kalanlar: misafir adları, iletişim bilgileri, kimlik taramaları, kart verileri, hesap içerikleri, personel kişisel dosyaları ve fiyatlarının bir yanıtta ortaya çıkması istenmeyen sözleşmeler. Sınırda kalan bir belge için test şudur: bu paragraf, bir misafire verilen yanıtta kelimesi kelimesine görülse sorun olur muydu? Cevap evetse dışarıda kalır. Role göre kapsamı da ayırın: personele hizmet veren bir asistanla misafire hizmet veren aynı raftan okumamalıdır.

Bir konuya bir belge, üst üste binen beş belgeden iyidir; çünkü çelişkilerin doğduğu yer yinelenen belgelerdir. Ve erişim için yazın: net başlıklar, kısa paragraflar ve gerçek bir metin katmanı. Metni olmayan taranmış bir sayfa ya kötü bulunur ya hiç bulunmaz. Bu, yapay zekâdan önce otel verisi kalitesini düzeltme işinin bir parçasıdır.

Belgeleri güncel tutan kim, iki belge çelişirse ne olur?#

Her belgeye bir sahip adı verin ve her birine bir inceleme tarihi koyun. İki belge çeliştiğinde asistan sessizce seçim yapmak yerine, durumu söyleyip soruyu bir kişiye iletmelidir.

Bayat belgeler, doğru görünen yanlış yanıtların en yaygın nedenidir: geçen sezonun fiyat listesi, kapanmış bir restoran, eski bir servis saati. Eklemek yerine emekli edin. Yeni belge eskisini yerine koymalı ve eski belge depodan çıkmalıdır; yoksa ikisi de bulunmaya devam eder.

Önceden bir üstünlük sırası belirleyin; örneğin güncel yönetim kararı, departman notuna; departman notu da pazarlama sayfasına üstün gelir. Çelişki sinyali isteyin: bulunan iki paragraf birbirini tutmuyorsa yanıt ikisinin ortalamasını vermemeli, ikisini de göstermelidir. Her belgeyi tarihleyin ve tarihi kaynak satırının yanında gösterin; okuyucu tazeliği bir bakışta değerlendirebilsin.

Aynı bilgiler web sitenizde, acente sayfalarınızda ve harita kaydınızda da yaşar. Yalnızca sizin belgelerinizi okuyan bir asistan yine de onlarla çelişebilir; bu, otelinizin bilgilerinin kanallar arasında tutarlı kalması sorununun ta kendisidir.

Belgelerinizden yanıt veren bir asistanı nasıl sınarsınız?#

Yanıtını bildiğiniz sorular sorarak ve kaynak satırını yanıtı kadar dikkatli okuyarak. Yanlış kaynaklı doğru yanıt, başarı değil uyarıdır.

Kendi belgelerinizden yirmi soruluk kısa bir liste hazırlayın; her biri için doğru yanıt ve onu taşıyan belge belirli olsun. Listeyi her değişiklikten önce ve sonra çalıştırın. Yanıtlanamaz bir soru ekleyin: asistan bilmediğini söylemeli ya da bir kişiye devretmeli, doğaçlama yapmamalıdır. İki belgenin çeliştiği bir soru ekleyin ve çelişkinin saklanmak yerine yüzeye çıktığını kontrol edin.

Yanıtı bir koşula bağlı olan bir soru da ekleyin, örneğin havuz Ocak'ta açık mı; çünkü belgeleri bölerken yitirilen ilk şey koşullardır. Türkçe ve İngilizce sorun; yanıtın ve kaynağın diller arasında tutarlı kaldığını doğrulayın. Başarısız soruların bir kaydını tutun ve sohbet kaydını değil belgeyi düzeltin: neden belgedir. Testi her belge değişikliğinden ve her model değişikliğinden sonra yineleyin; çünkü yeni bir model, içeriğinize dokunmadan tonu ve reddetme davranışı değiştirebilir.

Raftan başlayın, modelden değil#

Resepsiyonunuzun en sık yanıt verdiği on belgeyi listeleyin ve her birinin güncel olduğunu, yalnızca tek sürümde bulunduğunu ve misafir ya da kart verisi taşımadığını kontrol edin. Belge temelli herhangi bir asistan bu listeyle yargılanacaktır ve işin bu bölümü sizin kontrolünüzdedir.

AI Otel'in PMS asistanı aynı mantığı izler ve geliştirildi, lansman öncesi: bir otelin kendi tesisiyle ilgili sorulara düz bir dilden yanıt verir, rutin işlemleri yapar ve hassas her adımda bir kişinin onayını bekler. Kendi belge setinizle bunun nasıl çalıştığını görmek isterseniz görüşme talep edin.