Yapay zekânın güvenlik riskleri

Gerçekten yeni olan ne, sadece büyüyen ne?

Yapay zekânın güvenlik riskleri hakkında yazılanların çoğu bu ikisini birbirine karıştırır ve sonuç, talimatı olmayan bir korkudur. Önce ayrım.

Birinci kategori, yeni olmayan ve yalnızca ucuzlayıp cilalanan şeyler: dolandırıcılık e-postaları, sahte mesajlar, taklit giriş sayfaları, herhangi bir dilde ikna edici metin. Bunlar yirmi yıldır var. Değişen şey, üretim maliyetleri ve dillerinin kalitesi. Onlara karşı savunma aynı eski savunmadır; işe yaramaz hâle gelen yalnızca insanlara öğrettiğimiz ipuçlarıdır.

İkinci kategori gerçekten yeni olandır ve iki dalı var. Birincisi kimlik üretimi: oğlunuzunki gibi bir ses, yöneticinizin yüzü gibi bir video, sıfıra yakın bir maliyetle. İkincisi, daha az konuşulan ve birincisinden ciddi olanı: sizin adınıza metin okuyan ve iş yapan yazılımlar. Düne kadar bir yabancının yazdığı metni yalnızca sizin gözünüz görürdü. Şimdi onu, aynı zamanda e-posta gönderme, satın alma, dosya silme yetkisi taşıyan bir şey okuyor olabilir.

Sayfanın üstündeki şekil bu dört riski tek bir aralığa yerleştiriyor; soldan, bugünün alışkanlıklarının hâlâ dizginlediği yerden, sağa, yeni bir alışkanlığın gerektiği yere. Her iğnenin konumu bir ölçüm değil bizim yargımızdır ve kaynağı olan her iddianın kaynağı bu sayfada bağlanmıştır.

Tanıdık bir ses neden artık kanıt değil?

Çünkü birkaç saniyelik örnekten bir ses kurmak bugün zor değil ve dolandırıcılık yapan biri için maliyeti önemsiz. Sonuç, aynı eski dolandırıcılığın yeni bir biçimi: size yakın birinin sesinin başının dertte olduğunu ve hemen şimdi paraya ihtiyacı olduğunu söylediği bir arama.

Bunu tahminden değil sağlam bir kaynaktan söylüyoruz. FBI, İnternet Suçları Şikâyet Merkezi'nin 2025 tarihli bir kamu duyurusunda, o yılın nisan ayından bu yana, metin mesajlarının ve yapay zekâ ile üretilmiş sesli mesajların üst düzey yetkililerin kimliğine bürünerek her şeyden önce güven kurmaya çalıştığı bir kampanyanın sürdüğünü yazdı. Aynı metinde tüm tespit tartışmasını kapatan bir cümle var: yapay zekâ ile üretilen içerik, ayırt edilmesi çoğu zaman zor olacak noktaya ilerlemiştir.

Peki tespit işe yaramıyorsa ne yarıyor? İkinci bir kanaldan doğrulama. FBI'ın kendi tavsiyesi şu: yanıt vermeden önce o kişinin telefon numarasını gelen mesajdan bağımsız olarak bulun ve kendiniz arayın. Ve daha basit, daha ucuz ve İran'da neredeyse kimsenin yapmadığı ikinci bir tavsiye: aile üyelerinizle yalnızca sizin bildiğiniz bir kelime ya da ifade üzerinde anlaşın. Önceden anlaşılmış tek bir basit kelime, dünyanın en iyi ses klonlamasına karşı ayakta durur, çünkü hiçbir ses örneğinde var olmayan bir şeydir.

Hâlâ işe yarayan ve sahteciliğin kalitesiyle ilgisi olmayan üç ipucu. Aciliyet: hemen şimdi ve kimseye söyleme diyen her mesaj o noktada şüphelidir. Kanal değişimi: sizinle hep tek bir uygulamada konuşan biri aniden yeni bir numaradan ya da başka bir uygulamadan yazar. Ve ödeme yöntemi: kripto para, hediye kartı ya da üçüncü taraf bir hesaba havale isteği, etrafında anlatılan hikâye ne olursa olsun aynı tek şeyi ifade eder.

Oltalama e-postalarında neden artık yazım hatası yok?

Çünkü Farsça dahil herhangi bir dilde akıcı, hatasız metin yazmak artık bir beceri değil ve hiçbir maliyeti yok. Koca bir kuşağa öğretilen en büyük ipucu, yani bozuk metnin sahtelik demek olduğu, bugün öldü. Daha kötüsü: ipucu öldüğü ve yerine bir şey konmadığı için, birçok kişi artık temiz metni gerçeklik işareti okuyor ki bu tam tersidir.

Yerine geçen şey yapısal ipuçlarıdır. Bunların yazının kalitesiyle ilgisi yoktur ve hiçbir model onları iyileştirmez, çünkü metinle değil durumla ilgilidirler: mesajın sizin başlattığınız bir şeyin yanıtı mı yoksa gökten mi düştüğü, bağlantının arkasındaki gerçek adresin bildiğiniz alan adıyla harf harf örtüşüp örtüşmediği ve sizden istenenin o kurumun zaten yaptığı bir şey olup olmadığı. Bu ipuçlarını okumanın tam yöntemi, İran'a özgü örnekleriyle, oltalama nedir ve nasıl anlaşılır dersinde ve burada tekrarlamıyoruz.

Ve söylenmeye değer bir ayrım: yapay zekâ metin dedektörleri bu sorunu çözmez ve zaten bunun için yapılmadılar. Bir e-postanın bir model yardımıyla yazılmış olması, dolandırıcılık olup olmadığı hakkında hiçbir şey söylemez; bugün şirketlerin resmî yazıları da bir model yardımıyla yazılıyor. O araçların neden iki yönde birden yanıldığı, yapay zekâ içeriğini tespit etmek dersinin konusudur.

Yapay zekâ sizin adınıza okuduğunda ne değişir?

Bu, konunun en yeni ve en az konuşulan kısmı. Model yalnızca size yanıt verdiği sürece, olabilecek en kötü şey yanlış bir yanıttı. Bir model gelen kutunuzu okuduğunda ya da açık olan sayfayı özetlediğinde ya da birinin size gönderdiği bir belgeyi incelediğinde başka bir şey olmuştur: bir yabancının yazdığı metin, iş yapabilen bir şeyin içine girmiştir.

İstem enjeksiyonu, bu duruma verilen addır ve OWASP yapay zekâ güvenliği projesi onu, dil modelleri üzerine kurulu uygulamaların risk listesinin başına koymuştur. Tanımlarının iki parçası var ve ikisi de önemli. Birincisi, bir girdinin modelin davranışını istenmeyen biçimlerde değiştirebilmesi. İkincisi ve daha önemlisi, çoğu kişinin beklemediği bir cümle: böyle bir metnin bir insan tarafından görülebilir ya da okunabilir olması hiç gerekmez, yeter ki model onu ayrıştırsın. OWASP bunu iki türe ayırıyor: doğrudan, yani kullanıcının yazdığı, ve dolaylı, yani bir web sayfası ya da dosya gibi dış bir kaynaktan gelen. Sizi ilgilendiren ikinci türdür.

Ve o belgedeki en dürüst cümleyi OWASP'ın kendisi yazmış: bu modellerin olasılıksal doğası göz önüne alındığında, istem enjeksiyonunu önlemenin kusursuz bir yöntemi olup olmadığı belirsizdir. Yani bu, bir yamayla çözülen bir şey değil.

Peki savunma nedir? O belgenin de yetersiz dediği metin filtrelemek değil, yetki vermemek. OWASP'ın kendi tavsiyeleri tam bu yönde ilerliyor: model çıktısının tanımlı bir biçimi olmalı ve o biçim belirlenimci kodla doğrulanmalı; modelin erişim ayrıcalıkları gereken en az düzeyde olmalı ve hassas işlevler modele verilmek yerine kodda yürütülmeli; ve yüksek riskli her eylem insan onayı istemeli. Bir kullanıcı olarak sizin için bu üç cümle tek bir basit kurala çevrilir: yabancıların metnini okuyan bir yardımcının, size sormadan para harcamasına, e-posta göndermesine ya da bir şeyi silmesine izin vermeyin.

Bunu kendi sitemizde uyguladık ve bu sayfanın altındaki bölüm nasıl olduğunu tam olarak söylüyor.

Hangi alışkanlıklar gerçekten işe yarar?

Dört tane ve hiçbiri bir araç gerektirmiyor.

Hiçbir yere yazılmamış bir aile şifre kelimesi. En pahalı sahteciliğe karşı en ucuz savunmadır ve beş dakika alır. İşi para ve acil durumlardır, her konuşma değil.

Para ya da erişim içeren her şey için ikinci bir kanaldan doğrulama. O mesaja bir yanıt değil ve içinde gelen numara da değil. Zaten sahip olduğunuz bir numara.

Yardımcılardan yetkiyi esirgemek. Bir araç gelen kutunuza ya da dosyalarınıza bağlanıyorsa, önce sormadan ne yapabildiğine bakın. Salt okuma kipi ile oku ve yap kipi tümüyle farklı iki şeydir ve arayüz bu farkı genelde öne çıkarmaz.

Ve bir sohbete koymadığınız şeyler. Parolalar, anahtarlar ve belirteçler, kart bilgileri, sözleşmeler ve müşteri bilgileri. Google'ın Gemini yardımı, bir insan denetçinin görmesini istemeyeceğiniz gizli bilgileri girmemeyi açıkça söylüyor. Bu tek bir şirketten şüphelenmek değildir; metninizi saklayan her hizmet için geçerli genel kuraldır.

Ve bitirilecek bir nokta, çünkü diğerlerinden daha çok gözden kaçıyor: çoğu kişi için asıl risk yapay zekâyı kullanmaları değil. Başka birinin onu onlara karşı kullanmasıdır. Hiçbir modeli hiç açmamış bir kişi, klonlanmış sesle gelen bir aramaya tam olarak aynı ölçüde açıktır. Bu ders bu yüzden araçlarla değil alışkanlıklarla ilgilidir.