Güvenli yapay zekâ mimarisi: AI Otel neden önce kuralları koydu?

Güvenli yapay zekâ mimarisi, otelin yapay zekâsının içinde çalıştığı kural kümesidir: hangi eylemler tek başına çalışabilir, hangileri bir kişinin onayını bekler, ne kayda geçer ve her otelin verisi nasıl ayrı tutulur. AI Otel önce bu kuralları geliştirdi; modeli ölçerek değerlendirmeyle, sonra seçecek.

Bir genel müdür önce en belirgin soruyu sorar: hangi yapay zekâ modelini kullanıyorsunuz? Bu, yanlış ilk sorudur. Model, tedarikçinin takvimine göre değiştirilen bir bileşendir; izinler, kayıtlar ve veri sınırları ise yıllarca otelle birlikte kalır. Bu yazı güvenli yapay zekâ mimarisinin otelde gerçekte ne içerdiğini, kuralların neden modelden önce gelmesi gerektiğini anlatıyor ve her tedarikçiye demo öncesinde sorabileceğiniz sekiz soruyu veriyor.

Otel için yapay zekâ güvenlik katmanı nedir?#

Yapay zekânın içinde çalıştığı, modelin kendisinden ayrı tutulan kural kümesidir: neyi tek başına yapabilir, ne için bir kişi gerekir, ne kayda geçer, kimin verisini görebilir. Her parça farklı bir soruyu yanıtlar. İzin seviyeleri "bunu tek başına yapabilir mi?" sorusunu yanıtlar. Karar kaydı "ne değişti, geri alınabilir mi?" sorusunu. Denetim izi "bu kayda güvenebilir miyim?" sorusunu. Kiracı ayrımı "bu veri kime ait?" sorusunu.

"Katman" sözcüğü bilinçli seçilmiştir. Model, kuralların içinde oturur; modeli değiştirmek, otelin yıllarca birlikte yaşayacağı kuralları değiştirmez. Güvenlik katmanı, modelin zekâsına verilen bir söz değildir. Model zeki olsun ya da olmasın ayakta kalan bir sınırlar bütünüdür.

Bu konuda yararlı bir kamuya açık sözlük de var. NIST'in gönüllü kullanım için hazırladığı Yapay Zekâ Risk Yönetimi Çerçevesi (AI RMF 1.0, Ocak 2023) (yeni sekmede açılır), güvenilir yapay zekânın özelliklerini şöyle sıralar: geçerli ve güvenilir, emniyetli, güvenli ve dayanıklı, hesap verebilir ve şeffaf, açıklanabilir ve yorumlanabilir, mahremiyeti gözeten ve zararlı yanlılığı yönetilen adil. Bir otel bu listeyi herhangi bir tedarikçiyi değerlendirmek için sözlük olarak ödünç alabilir; sertifika olarak değil.

Dürüstlük gereği: AI Otel'in örneğinde dört mekanizma da geliştirildi ve karar kaydı ile denetim izi herkese açık bir demo ortamında çalışıyor. AI Otel'in teknolojisinde faaliyette olan hiçbir şey yok; şirket kullandığı beş durum etiketini yayımlar ki okur bunu hatırlatabilsin.

Kurallar, model seçiminden önce neden inşa edildi?#

Çünkü model değiştirilebilir, kurallar değil: otel, izinlerle, kayıtlarla ve veri sınırlarıyla, herhangi bir model değiştirildikten çok sonra da uzun süre birlikte yaşar. Modeller tedarikçinin takvimine göre, otelin değil. Tek bir modelin alışkanlıklarına göre yazılmış kurallar onunla birlikte eskir; otelin işleyişine göre yazılmış kurallar eskimez.

Bu yüzden mimarideki bu ayrım bilinçlidir. AI Otel'in mimarisi belirli bir modele bağlı değildir; her kurulum için model ölçerek değerlendirmeyle seçilir ve ürüne hiçbir model ya da tedarikçi adı sabitlenmemiştir. Modelin ölçerek nasıl seçileceğini ayrı bir yazıda ele aldık.

Bu sıralama yalnız AI Otel'e özgü de değil. NIST'in AI RMF 1.0 çerçevesi, 5.3 numaralı "Measure" bölümünde, yapay zekâ sistemlerinin kullanıma alınmadan önce ve kullanım sırasında düzenli olarak test edilmesi gerektiğini; ölçümün titiz yazılım testlerini, performans karşılaştırma ölçütleriyle kıyaslamayı ve sonuçların resmî biçimde raporlanıp belgelenmesini içermesi gerektiğini belirtir. Başka bir deyişle: test düzeneği, seçimden önce var olur. AI Otel'in test seti kuruldu ve henüz çalıştırılmadı: 30 vaka, 5 tuzak. Sonuçlar ölçüldüğünde yayımlanacak.

Bu sıralama, otelin denetçisinin, sigortacısının ya da hukuk danışmanının da sorduğu şeydir. Onlar hangi modelin yanıt verdiğini değil, hangi eylemlerin bir kişi gerektirdiğini ve kaydın ne gösterdiğini sorar. Ödünleşme gerçektir: önce kuralları inşa etmek daha yavaştır ve kısa bir demoda daha az etkileyicidir. İlk model değişiminden sonra ayakta kalan da budur.

Güvenlik seviyeleri, yapay zekânın tek başına neler yapabileceğini nasıl belirler?#

Asistanın yapabileceği her eylem üç seviyeden birindedir: bazıları doğrudan çalışır, bazıları tek kişinin onayını ister, en hassas olanlar iki onay ister. Haziran 2026 kayıt anlık görüntüsünde bu, 207 eylemdir: 107'si doğrudan çalışır, 90'ı tek onay ister, 10'u iki onay ister.

Burada eylem, tanımlı bir yazılım eylemi anlamına gelir: bir fiyatın okunması, bir odanın durumunun değiştirilmesi ya da bir mesajın hazırlanması gibi. Sohbet yanıtı değildir. Kayıt defteri cümleleri değil, eylemleri listeler.

Seviyelendirme mantığı sonuç ve geri alınabilirliktir. Sonucu düşük ve geri alınabilir eylemler doğrudan çalışır. Paraya, misafire ya da yasal kayda dokunan eylemler tek onay alır. İkisini birden ya da geri alınamaz olanlar iki onay alır. Örneğin, yalnızca örnek olsun diye ve bizim kayıt defterimizden değil: bu gecenin doluluk oranını okumak doğrudan çalışabilir, bir fiyat değişikliği tek onay bekleyebilir, bir iade iki onay isteyebilir.

Bu, çerçevelerin zaten istediği şeyin yazıya dökülmüş hâlidir. NIST'in AI RMF 1.0 çerçevesi, Ek C'de, karar almada ve yapay zekâ sistemlerinin gözetiminde insanların rol ve sorumluluklarının açıkça tanımlanması gerektiğini belirtir; bazı sistemler insan gözetimi gerektirmeyebilir, bazıları ise özellikle gerektirir. Seviyelendirme, bu tanımın eylem eylem yazıya dökülmüş hâlidir; hangi otel yapay zekâ eylemlerinin bir kişinin onayını gerektirdiğini ayrı bir yazıda işledik.

İşe yarayan kısım dağılımdır. Bir otel tam listeyi isteyip hangi 10 eylemin iki kişi gerektirdiğini görebilir; ortalamayı kabul etmek zorunda değildir. Dürüst bir sınır: seviye ataması bugün kodda sabittir. Her otelin kendine göre ayarlayabileceği bir kaydırıcı değildir; aksini söylemek geliştirileni abartmak olur.

Karar kaydı otel yapay zekâsında neyi değiştirir?#

Her değişikliği görünür ve geri alınabilir kılar: küçük değişiklikler kendiliğinden uygulanır ve kayda geçer, büyükleri bir kişiyi bekler ve her değişiklik, misafire gönderilmiş bir mesaj hariç, geri alınabilir. Kayıt, her değişiklik için neyin değiştiğini, ne zaman, kimin yetkisiyle ve önceki değerin ne olduğunu tutar.

Geri alma bir mekanizmadır, özür değil. Önceki değer geri yüklenir ve geri almanın kendisi de kayda geçer; böylece kayıt hem değişikliği hem düzeltmeyi gösterir. Tek durum geri alınamazdır: misafire gönderilmiş bir mesaj. Bir fiyat geri yüklenebilir; gönderilmiş bir mesaj geri çağrılamaz. Kayıt, aksini umuyormuş gibi davranmak yerine bunu açıkça söyler.

İnsanı döngüde tutmanın yasal bir nedeni de var. 6698 sayılı Kişisel Verilerin Korunması Kanunu'nun 11. maddesi (birleşik metin, Haziran 2024), herkese verilerinin münhasıran otomatik sistemlerle analiz edilmesi sonucu aleyhine çıkan bir sonuca itiraz etme hakkı tanır. Hassas eylemlerde bir kişinin onayı, bu hakkın günlük işte karşılanma biçimidir. Kendi durumunuzu bir hukuk danışmanıyla doğrulayın.

Kurcalamayı belli eden denetim izi neyi kanıtlar?#

Değişikliklerin fark edilebilir olduğunu, imkânsız olmadığını: geçmiş kayıtlar yalnızca eklenebilir, değiştirme ve silme veritabanında kapalıdır; biri yine de değiştirirse zincir bunu gösterir.

Tanım önce. NIST Bilgisayar Güvenliği Kaynak Merkezi sözlüğü (yeni sekmede açılır), "tamper evident" (kurcalamayı belli eden) kavramını verideki değişiklikleri kolayca fark edilebilir kılan bir süreç olarak tanımlar. Fark edilebilir; önlenmiş değil. Aynı sözlük, SP 800-53 Rev. 5'e dayanarak denetim izini (yeni sekmede açılır), belirli bir eylem, prosedür ya da olayı çevreleyen veya ona yol açan faaliyetlerin sırasını baştan sona yeniden kuran ve inceleyen kronolojik bir kayıt olarak tanımlar.

Mekanizma düz bir dille şöyledir: her kayıt, bir önceki kaydın parmak izini taşır; birini silmek ya da düzenlemek zinciri tam o noktada kırar. Bu, veritabanı erişimi olan bir yöneticinin denemesini engellemez. Denemeyi, kaydı sıradaki okuyan kişiye görünür kılar.

Otelin neden umursadığı: bir misafirle, acenteyle, muhasebeciyle ya da denetçiyle anlaşmazlık, hafızayı yeniden kurma meselesi olmaktan çıkıp kayıt okuma meselesi olur. Her tedarikçinin yanıtından uzak tutulması gereken sözcükler: "kurcalanamaz", "blok zinciri", "silinemez". Her biri geliştirileni abartır. AI Otel'in denetim izi geliştirildi, demo ortamında çalışıyor ve kurcalamayı belli eder; daha fazlası değil.

Her otelin verisi, oteller arası öğrenmeden önce neden ayrı tutuluyor?#

Çünkü otelin verisi kendisine aittir ve ayrım, oteller arasında öğrenmek üzere tasarlanan her şeyden önce var olmalıdır: her otelin verisi veritabanı seviyesinde ayrılır. Düz bir deyişle, bir otelin kayıtlarına başka bir otelin oturumundan ulaşılamaz ve sınır ekranda değil, veritabanında uygulanır.

Bu yalnız iyi mühendislik değil, yasal bir yükümlülüktür. 6698 sayılı Kanun'un 12. maddesi (birleşik metin, Haziran 2024) (yeni sekmede açılır), veri sorumlusunun kişisel verilerin hukuka aykırı işlenmesini ve bunlara hukuka aykırı erişilmesini önlemek ve verilerin muhafazasını sağlamak için gerekli her türlü teknik ve idari tedbiri almasını, veriler kanuni olmayan yollarla elde edilirse durumu en kısa sürede ilgilisine ve Kurula bildirmesini öngörür. Ayrım, bu teknik tedbirlerden biridir.

İşlem sırası önemlidir. Ayrım önce gelir. Tüm ağdaki örüntüleri, hiçbir otelin tek başına ayırt edilemeyeceği gizlilik eşikleriyle öğrenmek üzere tasarlanan Platform Beyni tasarlandı ve eğitilmedi. İlke tek cümlede: üç seviyeli beyin, tek bir söz, otelin bilgi birikimi kendisine ait kalır. O cümle tasarlandı ve öyle etiketlenmelidir.

Her alıcının yapabileceği bir denetim: ayrımın nerede uygulandığını sorun; bir görüntüleme ayarı mı, veritabanı sınırı mı. Bu bölümün söylemediği bir şey de var: barındırmayı ve yapay zekâ işlemeyi Türkiye'ye taşımak yol haritasındadır ve tamamlanana kadar bu iddia dile getirilmez.

Otel, işletmesindeki her yapay zekâdan ne istemeli?#

Eylem listesini ve seviyelerini, neyin değiştiğine dair kaydı, denetim izini ve veri ayrımının nerede uygulandığını isteyin. Bunları gösteremeyen bir tedarikçi, kanıt yerine güven istiyor demektir. Aşağıdaki sorular yalnız bizim sistemde değil her sistemde işler; yazının tamamının pratik çıktısıdır. AI Otel'in kendi iş sırası için neyi, hangi sırayla inşa ettiğimize göz atabilirsiniz.

Bizim örneğimizde: PMS asistanı rutin işlemleri yapar, hassas her adımda bir kişinin onayını bekler; 207 eylem üç seviyededir (kayıt anlık görüntüsü, Haziran 2026). Karar kaydı ve denetim izi geliştirildi ve demo ortamında çalışıyor; her otelin verisi veritabanı seviyesinde ayrılır. Ve dürüst sıfır, kendi sözcüklerimizle: henüz eğitilmiş bir modelimiz yok ve ekranda da öyle yazıyor. Var olan: mimari, bir modelin içinde güvenle çalışacağı karar altyapısı ve modeli seçmek için kurduğumuz test düzeneği.

Şimdi ne yapmalı#

Herhangi bir gösterimden önce tedarikçiden, yapay zekânın yapabileceği eylemlerin tam listesini, her birinin hangi seviyede olduğunu ve veri ayrımının nerede uygulandığını isteyin. Bu yazının parçaları tek bir sıraya uyar: önce kurallar, çünkü otel onlarla yaşar; sonra model, çünkü ölçerek seçilir ve başkasının takvimine göre değiştirilir. AI Otel'in kendi durumu güven sayfasında yayımlanır; görüşme talep edebilirsiniz.