Açık kaynak ve kapalı yapay zekâ modelleri: otel için fark ne?

Açık ağırlıklı (open-weight) yapay zekâ modeli, eğitilmiş parametrelerini yayımlar; herkes indirip çalıştırabilir. Kapalı modele yalnızca sahibinin hizmeti üzerinden erişilir. Otel için bu fark, modelin nerede çalıştığını, değişimine kimin karar verdiğini ve nasıl ödeme yaptığınızı belirler; yanıtların kendi sorularınız için doğru olup olmadığını değil.

İki satıcı resepsiyonunuz için yapay zekâ asistanı tanıtır. Biri açık modellerle çalıştığını söyler, öteki özel bir modelle. Her iki cümle de güven verici görünür; hiçbiri asistanın ekibinizin sorularına doğru yanıt verip vermeyeceğini söylemez. Bu yazının sonunda etiketlerin gerçekte ne anlama geldiğini, oteliniz için pratikte neyin değiştiğini ve her aday satıcıya hangi soruları soracağınızı bileceksiniz.

Yapay zekâ modeli nedir, düz bir dille?#

Model, bir girdiyi, örneğin bir soruyu, olası bir çıktıya, örneğin bir yanıta dönüştüren çok büyük bir sayı kümesidir. Bu sayılar metin üzerinde eğitilerek üretilir ve yayımlanan ya da gizli tutulan kısım da tam olarak bu sayılardır.

Eğitim pahalı adımdır: metin modele defalarca verilir ve çıktılar yararlı görünene dek sayılar ayarlanır. Sonuca ağırlık ya da parametre denir. Eğitilmiş bir modeli kullanmaya ise çıkarım denir; çıkarım, eğitime kıyasla ucuzdur. Bu yüzden bir modeli, onu kurmayan biri kopyalayıp çalıştırabilir.

Model, otel ürününün yalnızca bir parçasıdır. Geri kalanı, otelin kendi verisinin bulunup modele verilmesi, iş kuralları, yetkiler, kayıt tutma ve personelin kullandığı ekranlardır. Akıcı cümleler yazan bir model otomatik olarak doğru değildir; akıcılık ve doğruluk ayrı özelliklerdir ve aradaki fark en çok sayılarda, tarihlerde ve isimlerde görünür. Modelde biten bir ürün tanımı, dolu bir gecede saat 23:00'te asistanın ne yapacağı hakkında size pek az şey söyler. Arka plan için akıcı yanıtın neden her zaman doğru yanıt olmadığını okuyun.

Açık ağırlık ne demektir ve gerçekte ne paylaşılmıştır?#

Açık ağırlık, eğitilmiş parametrelerin başkalarının indirip çalıştırması için yayımlandığı anlamına gelir. Eğitim verisinin, eğitim kodunun ya da arkasındaki tarifin yayımlandığı anlamına gelmez; "açık kaynak yapay zekâ" ifadesinin yaygın kullanımı bu yüzden "açık ağırlık"tan daha az isabetlidir.

Katı anlamda açık kaynak, modeli yeniden kurmak için gereken veriyi ve kodu da kapsardı. Yayımlanan modellerin çoğu yalnızca bitmiş parametreleri paylaşır. Lisanslar farklıdır: bazıları ticari kullanım, atıf ya da isimlendirme koşulu taşır ve ürün satın alan bir otel hangi lisansın geçerli olduğunu çoğu zaman görmez. Bunu satıcıya sorun.

Kapalı modele sahibinin hizmeti üzerinden erişilir. Metni gönderirsiniz, yanıt alırsınız ve parametreler sahibin tarafında kalır. Açık ağırlıklar modeli taşınabilir kılar: aynı parametreler bir bulut hizmetinde, bir yazılım satıcısının sunucularında ya da sizin denetiminizdeki donanımda çalışabilir. Kapalı, kalite konusunda sır saklamak demek değildir; açık da denetlenmiş demek değildir. Hiçbir etiket, modelin nasıl sınandığı hakkında bir şey söylemez.

Model nerede çalışabilir ve otel için ne değişir?#

Üç yerleşim vardır: model sahibinin hizmeti, yazılım satıcısının sunucuları ya da sizin denetiminizdeki donanım. Yerleşim, gönderdiğiniz metni hangi şirketin işlediğini belirler ve otelin önem vermesi gereken kısım da budur.

Model sahibinin hizmeti üzerinden hızlı başlarsınız, donanım gerekmez; ama gönderdiğiniz metin binanızdan çıkar ve üçüncü bir tarafa gider. Satıcının sunucularında satıcı hem modeli hem veri akışını elinde tutar; bu durumda satıcının sözleşmesi ve güvenlik pratiği ağırlığı taşır. Kendi donanımınızda metin denetiminizdeki makinelerde kalır; ama uygun bir makine, onu çalışır tutacak biri ve güncellemeler için bir plan gerekir.

Modeli yerel çalıştırmak teknik bir düzenlemedir, hukuki bir statü değil. Veriyi kimin elinde tuttuğunu değiştirir; veri sorumlusu olarak yükümlülüklerinizi tek başına çözmez. "Veri asla dışarı çıkmaz" gibi cümleler pazarlama cümleleridir. Bunun yerine somut akışı isteyin: hangi metin, kime gönderiliyor, ne kadar saklanıyor, nasıl siliniyor.

Gecikme ve bağlantı da farklıdır. İnternet bağlantısı koptuğunda yerel model çalışmaya devam eder; barındırılan model etmez.

Modelin değişimine kim karar verir?#

Kapalı modelde karar sahibindir ve ürününüz, otelde kimse bir ayara dokunmadan gelecek ay farklı davranabilir. Kendinizin barındırdığı açık ağırlıklı modelde karar sizdedir; iş de sizdedir.

Kapalı hizmetler modelleri günceller, eski sürümleri emekliye ayırır ve varsayılanları değiştirir. Satıcı genellikle bir sürümü bir süre sabitleyebilir ama sonsuza dek değil. Bir değişiklikten ne kadar önce haber aldığınızı, eski sürümlerin erişilebilir kalıp kalmadığını ve satıcının her model değişikliğinden sonra kendi testlerini yeniden çalıştırıp çalıştırmadığını sorun.

Kendi barındırdığınız açık ağırlıklı model, siz güncellemedikçe donuk kalır. Bu kararlılık gerçektir; kimsenin yamalamadığı bir sürümü çalıştırma riski de öyle. Hangi yoldan olursa olsun, geçen çeyrekte doğru olan bir yanıt, bir güncellemeden sonra yanlış hâle gelebilir. Her değişiklikten sonra yeniden çalıştırılan sabit bir test sorusu kümesi güvenilir bir denetimdir; izleme ve yanıtları okuyan bir kişiyle birlikte en iyi sonucu verir.

Yanıtı sözleşmeye yazdırın: modeli kim değiştirebilir, size nasıl bildirilir ve yeni sürüm test setinizi geçemezse ne olur.

Maliyet nasıl yapılandırılmıştır, düz bir dille?#

Kapalı modeller genellikle kullanım üzerinden faturalanır; fatura sorulan her soruyla büyür. Açık ağırlıklı modeller maliyeti donanıma ve insanlara kaydırır; fatura daha düz seyreder ama bir taban maliyeti vardır.

Kullanım token ile sayılır; token kabaca kelime parçalarıdır. Uzun bir misafir mesajı, uzun bir belge ya da uzun bir sohbet, kısa bir sorudan pahalıdır. Kapalı modelde sabit maliyet nerdeyse yoktur ve fatura benimsenmeyi izler: personel asistanı yoğun kullanmaya başlarsa fatura hareket eder.

Kendi barındırdığınız açık ağırlıklı model için bir makine, elektrik, kurup güncelleyecek biri ve yanıtlamayı kestiğinde fark edecek biri gerekir. İki yol da aynı gizli maliyeti taşır: bir test seti kurmak, çalıştırmak ve devreye girişten sonra yanıtları izlemek. Bu iş, modelin indirilmesi ücretsiz olduğu için ortadan kalkmaz.

Birim fiyatı değil, beklenen hacminizdeki toplam maliyeti karşılaştırın. Yüksek hacimde ucuz bir birim fiyat, sabit bir makine ve yarı zamanlı bir mühendisten pahalıya gelebilir. Fiyatlandırmanın geniş resmi için yapay zekâ araçlarının nasıl fiyatlandırıldığına bakın.

Etiket, yanıtların doğru olduğunu söyler mi?#

Hayır. Açık ya da kapalı olması, bir otelin kendi sorularındaki doğruluk hakkında hiçbir şey söylemez; doğruluk göreve, asistana verilen veriye ve konulan sınırlara bağlıdır.

Dar bir işe sınırlandırılmış küçük bir model, örneğin yalnızca bu gecenin kat hizmetleri listesiyle ilgili soruları yanıtlayan bir model, o listeyi hiç görmemiş büyük bir genel modelden iyi çıkabilir. Kalite ölçülür, ilan edilmez. Kendi işletmenizden gerçek sorulardan, zor olanlar dâhil, bir küme kurun ve doğru yanıtın neye benzediğini kaydedin.

Tuzaklar ekleyin: var olmayan bir oda fiyatı sorusu, yetkisiz bir rezervasyon değişikliği talebi, iki kez geçen bir misafir adı. Asistanın yalnızca ne söylediğini değil, ne yapabileceğini de sınayın: hangi eylemler doğrudan çalışır, hangileri bir kişiyi bekler, hangileri iki onay ister. Aynı seti her model değişikliğinden sonra yeniden çalıştırın ve sonuçları saklayın ki sonraki bir karşılaştırma bir anlam taşısın. Yöntemin tamamı yapay zekâ asistanını devreye almadan önce nasıl test edeceğiniz yazısında anlatılıyor.

Satıcıya açık ve kapalı modeller hakkında ne sormalısınız?#

Sırasıyla yerleşimi, değişiklik politikasını ve kanıtı isteyin. Üçüne de yanıt verebilen satıcı sorunu düşünmüştür; yalnızca "açık" kelimesiyle yanıt veren düşünmemiştir.

Yanıtlar sözleşmeye ya da ekine yazılabilecek kadar somut olmalı; güven veren sıfatlar değil. Satıcı sizinkine benzer vakalarda ölçülmüş sonuçları gösteremiyorsa model etiketini bir süs sayın. Aynı soruları her adaya sorun ki yanıtları yan yana karşılaştırabilesiniz.

Şimdi ne yapmalı#

Etiket konuşmanın başlangıcıdır, sonu değil: otelin bir satıcıya gerçekten tutturabileceği şeyler yerleşim, değişiklik politikası ve kanıttır. Kendi işletmenizden beş soru yazın, her aday satıcıdan aynı asistanla yanıtlamasını isteyin ve yanıtları yan yana karşılaştırın.

Biz de soruyu aynı yaklaşımla ele alıyoruz: mimarimiz belirli bir modele bağlı değil, her kurulum için modeli ölçerek seçiyoruz ve bunu sağlayan test düzeneği, 30 vaka ve 5 tuzakla kuruldu ama henüz çalıştırılmadı; eğitilmiş bir modelimiz de yok. Bunun pratikte nasıl işlediğini görmek isterseniz OtelCiro ile görüşün ya da görüşme talep edin.