Yapay zekâ güvenliği terimleri: gölge yapay zekâ, jailbreak, veri sızıntısı ve diğerleri

Gölge yapay zekâ, otelin bilgisinde ya da onayı olmadan otel işinde kullanılan her türlü yapay zekâ aracıdır: kişisel bir sohbet hesabı, bir tarayıcı eklentisi, bir toplantı not alıcısı. Risk genellikle aracın kendisi değildir. Risk, ona yazılan misafir verisi ve ne yapıldığına dair eksik kayıttır.

Rezervasyon görevlisi, bir grubun oda dağıtım listesini teyit e-postası taslağı çıkarmak için ücretsiz bir sohbet aracına yapıştırır. Hiçbir şey bozulmaz, hiçbir alarm çalmaz ve e-posta zamanında gider. Sorun tam da budur: misafir verisi biraz önce otelin hiç onaylamadığı ve denetleyemediği bir sisteme gitmiştir. Bu sözlük, her güvenlik terimine düz bir tanım, bir otel örneği ve o terime yanıt veren denetimi verir; böylece bir tedarikçi toplantısında, sigorta incelemesinde ya da personel bilgilendirmesinde sözünüzü kendiniz savunabilirsiniz.

Bu terimleri bir otel yöneticisi nasıl okumalı?#

Her maddeyi üç parçada okuyun: terimin düz karşılığı, bir otel örneği ve o terime yanıt veren denetim. Bir otel eylemine bağlayamadığınız terim, henüz sizin sorununuz değildir.

Tedarikçiler, sigortacılar ve denetçiler aynı kelimeleri farklı ağırlıkla kullanır; tepki vermeden önce kimin konuştuğunu sorun. Buradaki tanımlar yalnızca betimleyicidir: bu yazı hiçbir saldırının nasıl yapılacağına dair bir rehber değildir ve hiçbir teknik anlatılmamıştır. Sözlüğün çoğu iki kamuya açık kaynaktan gelir: saldırı ve izin terimleri için OWASP'ın büyük dil modeli uygulamalarına yönelik Top 10 listesi (2025 sürümü), insan etkenli terimler için NIST AI 600-1 (Temmuz 2024).

Denetim sütunu tanımdan daha önemlidir: denetimi olmayan terim, üzerinde işlem yapamayacağınız terimdir. Sözlüğü de kısa tutun: resepsiyona anlatabileceğiniz yirmi terim, kimsenin okumadığı iki yüz terimden iyidir.

Otelde gölge yapay zekâ nedir?#

Gölge yapay zekâ, otelin onaylamadığı ve göremediği yapay zekâ kullanımıdır. Bir bilgisayar korsanlığı terimi değildir: çalışan genellikle daha hızlı çalışmaya çalışır ve araç genellikle meşrudur.

Tipik biçimleri şunlardır: kişisel telefondaki kişisel bir sohbet hesabı, sayfaları özetleyen bir tarayıcı eklentisi, görüşmelere katılan bir toplantı not alıcısı, resepsiyon bilgisayarındaki ücretsiz bir çeviri ya da yazım aracı. Risk abonelik değil, veridir: oda dağıtım listeleri, misafir adları, pasaport bilgileri, şikâyet yazışmaları, fiyat tabloları ve tedarikçi sözleşmeleri, daha hızlı yanıt almak için hep bu araçlara yapıştırılır.

İkinci risk, eksik kayıttır. Bir misafir daha sonra verisinin nasıl kullanıldığını sorarsa, otelin o veriye dokunan araçların listesi yoktur. Gölge yapay zekâ ayrıca onaylı yolun yavaş olduğu yerde büyür: personel bir çeviriyi üç gün bekliyorsa, daha hızlı bir yolunu kendisi bulur. Denetim şudur: adı yazılmış bir onaylı araç listesi, o listenin tek bir sahibi ve personelin yeni bir araç kullanmadan önce sorabileceği basit bir yol.

Bu belirtileri görürseniz, sonraki adım o araçların nelere dokunabileceğini sınıflandıran bir veri kontrol listesidir; otel bilgisayarlarında yapay zekâ eklentileri ve toplantı not alıcıları yazısında ele aldık.

Jailbreak nedir, prompt injection'dan farkı nedir?#

Jailbreak, bir modeli kendi güvenlik kurallarını yok saymaya ikna etme girişimidir. Prompt injection ise modelin okuduğu içeriğin içine gizlenmiş bir talimattır. Biri kullanıcıdan, öteki malzemeden gelir.

Jailbreak'in otel örneği: bir çalışan, iç asistanı kapsamı dışında yanıt vermeye ikna eder; örneğin, hiç açmaması söylenen bir belgeyi özetletir. Prompt injection'ın otel örneği: bir misafir, özel istekler alanına rezervasyonu okuyan asistanın bu talimatı uygulamasını umarak bir talimat yazar. Zehirli belge de aynı fikrin bir dosyayla taşınmış hâlidir: metninin içinde talimatlar ya da yanlış rakamlar bulunan bir tedarikçi PDF'i ya da e-postayla gelen bir fiyat listesi, bir sisteme okutulmayı bekler.

Bu ayrım denetim için önemlidir. Jailbreak'i insanlardan süzüp çıkaramazsınız, ama misafir ve tedarikçiden gelen her metni talimat değil veri olarak ele alabilirsiniz. İki terimden hiçbiri otelin sisteminin bozuk olduğunu söylemez; ikisi de, otelin denetlemediği bir şeyin, eylem yapabilen bir şey tarafından okunduğunu söyler. Bu mekanizmalardan birinin ayrıntıları prompt injection nedir? yazısındadır.

Yapay zekâ kaynaklı veri sızıntısı otel için ne demektir?#

Veri sızıntısı, otel ya da misafir verisinin bir yapay zekâ aracı üzerinden otelin denetiminden çıkmasıdır. Yazdığınızla, aracın sakladığıyla ya da bir modelin daha sonra yeniden ürettiğiyle olabilir.

İlk yol, komuttur: bir sohbet penceresine yazılan her şey, adlar, rezervasyon numaraları ve şikâyet ayrıntıları dahil, binadan çıkar. İkinci yol saklamadır: birçok araç görüşmeleri bir süre saklar ve bazıları, hesap başka şekilde yapılandırılmadıysa, bunları hizmetini geliştirmek için kullanır. Ayarı varsaymayın, kontrol edin. Üçüncü yol ezberlemedir: bir model, eğitildiği malzemenin parçalarını yeniden üretebilir; kimliği belirli misafir verisinin tüketici araçlarına hiç yapıştırılmamasının nedeni budur.

Türkiye'de kişisel verilerin işlenmesi KVKK (kişisel verilerin korunması kanunu) kapsamındadır. Yükümlülüğü personele genel çerçevede anlatın; kendi durumunuzu, bildirimlerinizi ve sözleşmelerinizi bir hukuk müşaviriyle teyit edin.

Personel için pratik bir ölçüt: bu metni bir yabancıya e-postayla göndermeyecekseniz, otelin onaylamadığı bir araca yapıştırmayın.

Aşırı yetki nedir, nasıl fark edilir?#

Aşırı yetki, bir büyük dil modelinin beklenmedik, belirsiz ya da manipüle edilmiş çıktısına karşılık zarar verici eylemlerin yapılabilmesine imkân veren zaafiyettir. OWASP nedenlerini üç başlıkta sayar: gereğinden fazla işlev, gereğinden fazla izin, gereğinden fazla bağımsızlık (OWASP Gen AI Security Project, LLM06:2025 Excessive Agency (yeni sekmede açılır), 1 Kasım 2026).

İşlev, asistanın işin gerektirdiğinden daha çok şey yapabilmesi demektir: tek bir sohbet penceresinden rezervasyon iptal etmek, para iadesi yapmak ve fiyat değiştirmek gibi. İzin, görevinin ötesindeki sistem ve kayıtlara ulaşması demektir: tek bir rezervasyon hakkındaki soruya yanıt vermek için tüm misafir veritabanı gibi. Bağımsızlık, para, misafir kaydı ya da yasal belge içeren adımlarda insan devrede olmadan hareket etmesi demektir.

OWASP'ın önerisi, bir yapay zekâ asistanının çağırabileceği araçları ve bu araçların izinlerini gereken en aza indirmek ve yüksek etkili eylemler yapılmadan önce bir insanın onayını şart koşmaktır. Kapsamlı erişimi aşamalı isteyin: önce yalnızca okuma, sonra tek sistem, sonra onaylı yazma erişimi. Acil durdurma anahtarı ve işlem kaydı, iznin parçasıdır, ekstra değildir.

Bu yanıtları araçlar arasında izlemek için her kullanımın sorumlusu ve risk seviyesinin tek tabloda tutulduğu yapay zekâ envanterini kullanın.

Uydurma ve aşırı güven nedir?#

Uydurma, kendinden emin bir dille sunulan hatalı ya da yanlış içeriğin üretilmesidir. Aşırı güven ise, yanıtın hızlı gelmesi ve kendinden emin görünmesi yüzünden onu kabul etme alışkanlığıdır.

NIST uydurmayı tam bu sözlerle tanımlar ve otomasyon yanlılığına ya da aşırı güvene yol açabilen insan-sistem düzenlerini üretken yapay zekâ riskleri arasında sayar (NIST, NIST AI 600-1 (yeni sekmede açılır), Temmuz 2024). Otel örneği: bir asistan, iptal politikası sorusunu akıcı ve kendinden emin bir dille yanıtlar ve yanıt yanlıştır, çünkü politika geçen sezon değişmiştir.

İpucu güven tonu değildir. Akıcı ve yanlış, dışarıdan bakınca aynı görünür; bu yüzden ton zayıf bir ölçüttür. İşe yarayan denetimler: araca yanıtın nereden geldiğini sorun, kaynak kayıtla karşılaştırarak örnekleme yapın ve misafire ya da fiyat tablosuna ulaşan her şey için tek bir adı sorumlu tutun. Aşırı güven de sessizce büyür: ilk ay personel her yanıtı kontrol eder; üçüncü ay yalnızca tuhaf görünenleri kontrol eder ki bu, tam olarak yanlış filtremedir.

Otel nereden başlamalı?#

Tek sayfalık bir politikayla başlayın, sonra bir envanter, sonra sınama. Politika personele neyin izinli olduğunu, envanter gerçekte neyin kullanımda olduğunu, sınama da onaylı bir aracın nasıl davrandığını söyler.

Politika için onaylı araçların adını yazın, hiçbir araca girilmeyecek veri sınıflarının adını yazın ve personele, yeni bir şeyi sormanın cezasız olduğu bir yol verin; ayrıntılar otelde yapay zekâ kullanım politikası yazısındadır. Envanter için her yapay zekâ kullanımına bir satır tutun: sorumlusu, dokunduğu veri ve risk seviyesiyle. Gölge yapay zekâyı görünür yapay zekâya çeviren şey envanterdir. Sınama için bir araca yanıtını zaten bildiğiniz bir soru verin; bilmediğini söylüyor mu, yoksa bir yanıt mı uyduruyor, bakın.

Paraya, misafir kaydına ya da yasal belgeye dokunan her şeyde bir insan bulunsun. Bu tek kural, sözlükteki terimlerin çoğunu karşılar. Çeyrekte bir gözden geçirin: araçlar ayarlarını ve modellerini değiştirir; ilkbaharda verilmiş bir karar sonbaharda geçerli olmayabilir.

Şimdi ne yapmalı#

Onaylı araç listesini ve yasak veri listesini bu hafta, tek sayfada yazın ve tüm departman yöneticilerine gönderin. Bu sözlükteki terimler ayrı sorunlar değildir: gölge yapay zekâ, veri sızıntısı ve aşırı yetki, aynı boşluğun üç açıdan görünüşüdür; bir politika, bir envanter ve yüksek etkili işlemleri onaylayan tek bir kişi bu boşluğun çoğunu kapatır. Sonra zaten kullandığınız bir aracı, yanıtını bildiğiniz bir soruyla sınayın.