Yapay zekâ terimleri: prompt, token, bağlam penceresi ve diğerleri

Yapay zekâ terimleri, bir metin modeline neyin verildiğini, nasıl ücretlendirildiğini ve nasıl değerlendirileceğini anlatır. Prompt, yazdığınız talimattır; token, metnin sayıldığı parçadır; bağlam penceresi, modelin bir anda görebildiği metin miktarıdır. Buradaki her madde düz bir anlam, bir otel örneği ve bir kontrol sorusu içerir.

Elinize bir yazılım teklifi gelir: bir satırda token, bir satırda kullanıcı lisansı yazar; toplantıdaki kimse resepsiyon aracı kullanmaya başlayınca hangisinin büyüyeceğini söyleyemez. Bu sözcükler zor değildir; yalnızca odaya giren kimsenin tanımlamaması sorunudur. Bu yazının sonunda her üretken yapay zekâ terimini dört aileden birine yerleştirebilir, her biri için doğru soruyu sorabilir ve bir fatura ya da sözleşme satırının sizi neye bağlı kıldığını bilerek okuyabilirsiniz. Temeldeki mekanizma için üretken yapay zekânın sözcüklerle nasıl çalıştığını anlatan yazımıza bakın.

Bir otel ekibi bu terimleri nasıl okumalı?#

Her maddeyi aynı biçimde okuyun: sözcük ne demek, bir otelde nasıl görünür ve ona güvenmeden ya da parasını ödemeden önce neyi kontrol etmeniz gerekir. Sözcükler dört ailededir: metin ailesi (prompt, sistem talimatı, çıktı), fatura ailesi (token, kullanım limiti, kullanıcı lisansı), yanıt kalitesi ailesi (dayandırma, erişim, kaynak, sıcaklık) ve model ailesi (dil modeli, çok kipli, açık ve kapalı model, sürüm). Aileyi bilmek, sorunun otelde kime ait olduğunu söyler: fatura muhasebeye, metin şablonları yazan kişiye, model sözleşmeyi imzalayan yöneticiye aittir.

Bu sözcüklerin hiçbiri insan anlamında zekâyı tanımlamaz. Metnin nasıl beslendiğini, sayıldığını, görünürde tutulduğunu ve yanıta dönüştürüldüğünü anlatırlar. Üzerinde eyleme geçemediğiniz bir tanımayı ezberlemeye değmez; bu yüzden her madde bir kontrolle biter: tedarikçiye sorulacak bir soru, faturada aranacak bir satır ya da ekip için bir alışkanlık. Bir sözcük sözleşmede geçtiğinde yararlı soru ne anlama geldiği değil, limite ulaşınca ne olacağıdır: üst sınır, bildirim süresi, sürüm değişikliği. Bir sistemin kendi başına ne yaptığını anlatan sözcükler, örneğin yapay zekâ ajanı (sizin adınıza işlem yapan yapay zekâ yazılımı), insan onayı ve denetim kaydı, ayrı bir sözlükte tanımlanır. Buradaki bir terimin yanında bilmediğiniz bir sistem adı geçerse, otel teknolojisi terimleri sözlüğü PMS, API ve kanal yöneticisini aynı sade üslupla anlatır.

Prompt nedir, sistem talimatı nedir?#

Prompt, modelin önüne koyduğunuz her şeydir: talimat ve çalışması gereken malzeme. Sistem talimatları ise aracı yapılandıran kişinin, prompt'unuzun üzerine koyduğu kalıcı kurallardır.

Prompt yalnızca soru değildir. Bir fiyat listesi yapıştırıp "bunu satış toplantısı için özetle" yazarsanız, hem liste hem cümle prompt'un parçasıdır. Sistem talimatları oturumdaki her prompt'un üzerinde durur ve genellikle işletmecinin kurallarını taşır: hangi dilde yanıt verileceği, aracın neyi reddedeceği, hangi tonun korunacağı. Personel bunları çoğu zaman göremez; aynı sorunun iki araçta farklı davranmasının nedeni budur.

Çıktı üretilmiş metindir, kayıt değildir. Bir kişi sayıları, adları ve tarihleri kaynağa göre kontrol edene kadar taslak olarak ele alın. Kaydedilmiş prompt ya da şablon, ekibin yeniden kullandığı prompt'tur ve kayar: aynı şablon bir model sürümü değişikliğinden sonra ya da bir çalışma arkadaşınız onu düzenlediğinde farklı sonuç verir. Şablonları tek bir yerde, tek bir sahibiyle tutun. Örneğin, bir misafir şikâyetini otelin tonunda yanıta çeviren, misafirin adını ve konaklamanın bilgilerini modelin üretmesi yerine bir kişinin yazdığı bir şablon.

Kontrol edilecekler: sistem talimatlarını okuyup okuyamadığınız, kaydedilmiş prompt'ların ekip içinde paylaşılıp paylaşılmadığı ve aracın prompt'larınızı saklayıp saklamadığı. Sonuncusu teknik değil, politika sorunudur.

Token nedir ve fatura neden onları sayar?#

Token, modelin metni okuyup yazdığı parçadır ve kullanımın ölçüldüğü, ücretlendirildiği birimdir. Kısa bir sözcük bir token olabilir; uzun bir sözcük birkaç token.

Token'lar iki kez sayılır: girişte (prompt'unuz ve yapıştırdığınız belge) ve çıkışta (yanıt). Kısa bir özet için yapıştırılan uzun belgede ücretin çoğu giriş tarafında oluşur. Türkçe, kök ve eklerle uzun sözcükler kurar; bir İngilizce sözcük öbeğinin taşıdığı anlamı taşıyan bir Türkçe sözcük, modele birden çok token olarak ulaşabilir. Bu yüzden prompt'larını İngilizceden Türkçeye yeniden yazan bir ekip, aynı işin farklı ölçüldüğünü görebilir.

Kullanım limiti, bir dönemdeki token ya da istek üzerine konan üst sınırdır. Asıl önemlisi sınıra ulaşınca ne olduğudur: araç durur mu, yavaşlar mı, fazlasını faturalar mı? Resepsiyon ona bağlanmadan önce sorun. Kullanıcı lisansı (seat), adı yazılmış kullanıcıya verilen lisanstır ve bu araçların satıldığı öteki yoldur. Lisanslar öngörülebilir, token'lar değildir; birçok tedarikçi ikisini aynı faturada karıştırır.

Bağlam penceresi nedir ve dolduğunda ne olur?#

Bağlam penceresi, modelin bir anda görünürde tutabildiği azami metin miktarıdır ve token ile ölçülür. İçinde sistem talimatları, o ana kadarki tüm sohbet ve yapıştırdığınız her şey yer alır.

Her şey aynı alan için yarışır. Grup rezervasyonu hakkında uzun süren bir sohbet, baştaki oda listesini yavaşça görüş alanının dışına iter; model kalan metinden yanıt verir. Pencere dolduğunda araç üç şeyden birini yapar: en eski malzemeyi atar, özetler ya da isteği reddedip girdiyi kısaltmanızı ister. Bunların hiçbiri kendini açıkça duyurmaz.

Pratik kural, görev başına bir sohbettir. Yeni bir misafir, yeni bir grup ya da yeni bir ay için yeni bir konuşma başlatın ve yalnızca ilgili sayfaları yapıştırın. Bir sözleşmenin tamamını ya da tüm sezonun fiyat listesini yapıştırmak, çoğu zaman sorunun olduğu iki sayfayı yapıştırmaktan daha kötüdür; ilgisiz pasajlar ilgili olanlarla yarışır. Kontrol edilecekler: aracın pencerenin ne kadarının kullanıldığını gösterip göstermediği ve kesme yaptığında haber verip vermediği.

Dayandırma, erişim, kaynak ve sıcaklık nedir?#

Dayandırma, yanıtın modelin genel hafızasından değil, sizin verdiğiniz malzemeden yazılması demektir. Erişim, önce doğru pasajları bulan adımdır. Sıcaklık ise modelin ne kadar çeşitliliğe izin vereceğini belirleyen ayardır.

Erişim şöyle çalışır: araç yanıtlamadan önce fiyat listeleri, tanıtım dosyaları ya da politika sayfaları gibi bir belge setinde arama yapar ve soruyla eşleşen pasajları çıkarır. Yanıt sonra bu pasajlardan yazılır. Kaynak, aracın bir cümlenin yanında gösterdiği atıftır ve yalnızca açıp pasajın cümlenin öne sürdüğünü gerçekten söylediğini doğrularsanız değer taşır. Kaynak satırı, iddiayı desteklemeyen gerçek bir belgeye işaret edebilir.

Sıcaklık çeşitliliği belirler: düşük değerler aynı prompt'un neredeyse aynı yanıtı üretmesini sağlar, yüksek değerler çeşitlilik yaratır. Sayı, tarih ya da politika içeren her iş için düşük; yine de düzenleyeceğiniz taslak pazarlama metinleri için yüksek kullanın. Birçok iş aracı bu ayarı hiç göstermez. Dayandırma hataları ortadan kaldırmaz; model verilen bir pasajı yine yanlış okuyabilir. Fark, hatanın adı geçen bir sayfaya karşı kontrol edilebilir olmasıdır. Örneğin "temmuzda 20 kişilik grup için iptal kuralımız nedir" sorusunu genel iptal kurallarını sorarak değil, otelin kendi sözleşme dosyasına karşı, madde alıntılanarak sormak. Başarısızlık biçimi için yapay zekâ asistanlarının neden bilgi uydurduğunu ve bunları nasıl yakalayacağınızı anlatan yazımıza bakın.

Dil modeli, çok kipli, açık ve kapalı model ile sürüm ne demek?#

Dil modeli, metni her seferinde bir token olacak biçimde, sıradakinin ne olacağını tahmin ederek üreten motordur. Çok kipli, görüntü ya da ses de alabildiği anlamına gelir; açık ve kapalı, nerede çalıştığını; sürüm, hangi sürümle konuştuğunuzu anlatır.

Bir dil modelinin mekanizması, çok büyük bir metin gövdesi üzerinde sıradaki token'ı tahmin etmektir. Akıcı metin üretir; bir erişim adımı okuyacak bir şey vermedikçe hiçbir şey aramaz. Çok kipli bir araç metnin yanında fotoğraf ya da kayıt kabul eder. Otel kullanımlarına fotoğraflanmış bir hasar tutanağını ya da taranmış bir tedarikçi faturasını okutmak girer; çıktıyı yine bir kişinin kontrol etmesi gerekir.

Açık modellerde ağırlık dosyaları indirilebilir ve sizin ya da tedarikçinizin denetlediği makinelerde çalıştırılabilir. Kapalı modellere internet üzerinden, sağlayıcının yanında ulaşılır. Ödünleşim denetim ve bakım ile yetenek ve emek arasındadır: kendi sunucunuzda barındırdığınız açık modeli güncellemek, yamalamak ve çalışır tutmak size kalır. Modelin nerede çalıştığı, metnin nereye gideceğini belirler. Bu bir kalite değil, veri sorunudur ve satış konuşmasında değil sözleşmede yer almalıdır.

Sürüm önemlidir, çünkü sağlayıcılar modelleri değiştirir ve sizin tarafınızda hiçbir değişiklik olmadan aynı prompt güncellemeden sonra farklı yanıt verebilir. Sürüm değişiklikleri için bildirim isteyin ve sonrasında yeniden çalıştırmak üzere gerçek otel sorularınızdan küçük bir set tutun. Sözleşmede kontrol edilecekler: hangi model ailesinin kullanıldığı, değişiklik için ne kadar bildirim verildiği, işlemenin nerede yapıldığı ve prompt'larınızla çıktılarınızın modeli geliştirmek için kullanılıp kullanılmadığı.

Yapay zekâ ajanı, güvenlik ve kayıt sözcükleri nerede tanımlı?#

Bir sistemin kendi başına ne yaptığını anlatan sözcükler, örneğin yapay zekâ ajanı, asistan, araç kullanımı, insan onayı ve denetim kaydı, davranış ve sorumluluğu anlattıkları için ayrı bir sözlükte yer alır. Yapay zekâ ajanı sözlüğü yanıtlayan bir sistemle işlem yapan bir sistem arasındaki farkı kapsar.

Otelde yapay zekâ kullanım politikası yazısı, personelin bir sohbet aracına neyi yapıştırabileceğini ele alır; bu, prompt sorununun pratik yüzüdür. İki sözlüğü birlikte okuyun: buradaki, aracın metinle ne yaptığını; öteki, bir şey yaptığında sorumlunun kim olduğunu söyler. İki listeyi ekibin ulaşabileceği bir yerde tutun ve araçlarınızda ve sözleşmelerinizde belirdikçe otelin kendi sözcüklerini ekleyin.

Şimdi ne yapmalı#

Elinize gelen bir sonraki yapay zekâ faturasını ya da araç sözleşmesini alın ve her satırı dört aileden biriyle işaretleyin: metin, fatura, yanıt kalitesi, model. Sonra ekibinizin gerçekten sorduğu beş soruyu yazın; örneğin bir fiyat sorusu, bir iptal sorusu ve bir kat hizmetleri sorusu. Bunları sınama seti olarak tutun; böylece bir sonraki sürüm değişikliği ya da yeni araç, bir tanıtım gösterimine göre değil, gerçek bir şeye göre değerlendirilir.