Bir siber saldırı ile karşı karşıya olduğumuzda, saldırının ortasında kapalı modeller yardımı reddederse kullandığımız yapay zekâyı kendi makinemizde çalıştırabilir miyiz?
Geçtiğimiz Temmuz ayında, yapay zekâ modellerinin ve veri kümelerinin paylaşıldığı en büyük platform olan Hugging Face’nin güvenlik ekibi ilginç bir tecrübe yaşadı. Sistemlerine sızan otonom bir yapay zekâ ajanı iç ağda düğümden düğüme yayılmış, kimlik bilgisi toplamıştı. Geriye on binlerce olay kaydı kaldı. Ekip bunları çözmek için Anthropic’in Claude Opus ve Fable modellerine başvurdu; ikisi de çözmeyi reddetti. Modellerin güvenlik kısıtları, bir saldırıyı çözümlemekle saldırıyı düzenlemeyi aynı şey saydı ve saldırı planlıyorlar zannedip bu araştırmayı yapmayı kabul etmedi.
Bunun üzerine ekip, Çinli ZAI’nin açık ve indirilebilen GLM-5.2 modelini kendi sunucularına kurup bütün incelemeyi oradan yürüttü. Aynı kayıtlardan ilk taramalara kıyasla kat kat fazla hassas bulgu çıktı; üstelik saldırganın bıraktığı izler kurumun dışına taşınmadı. Hugging Face şimdi herkese aynı şeyi öneriyor. Bir siber saldırı yaşanmadan önce kendi altyapınızda çalıştırabileceğiniz yetkin bir modeli sınayın ve hazır tutun.
Teknik bir ayrıntı gibi duruyor. Aslında yıllardır konuşulan büyük tartışmanın sahaya inmiş hâli. Kullandığımız zekâyı, işler sarpa sardığında kendi makinemizde çalıştırabilir miyiz?
Soru yalnızca dünya ölçeğinde çalışan şirketlerin derdi değil. Bir üniversitenin öğrenci işlerini, bir hastanenin randevu sistemini ya da küçük bir işletmenin muhasebesini düşünelim. Yıllardır bir yapay zekâ yardımcısı kullansınlar; sistem kurumun dilini ve istisnalarını öğrenmiş olsun. Bir sabah kullandıkları yapay zekânın fiyatı değişse, erişim şartları yenilense veya cevaplar bambaşka bir yöne kaysa ne olur?
Bu tedirginliği duyanlar yalnız kurumlar değil. Microsoft, 24 Temmuz’da aralarında Amazon, Google, Meta, OpenAI ve NVIDIA’nın da bulunduğu iki yüzü aşkın şirketin imzasını taşıyan bir açık mektup yayımladı. Mektup, her işe en pahalı modeli koşmak zorunda kalmamayı, tek bir tedarikçiye kilitlenmemeyi, veriyi ve birikimi kurumda tutabilmeyi savunuyor. Tabii ki bu mektup imzacı şirketlerin ticari çıkarını da taşıyan bir sektör pozisyonu. Mektubun tartışıldığı Hacker News başlığında bir okur can alıcı soruları sormuş. Aynı mantık işletim sistemleri ve ofis yazılımları için niçin geçerli olmuyor? Madem bu kadar duyarlısınız, niçin işletim sistemi ve ofis yazılımlarınız özgür yazılım ve açık kaynak değil? Niçin o konuda tekel oluşturuyorsunuz?
Mektubun etrafında dönen bazı teknik kavramlar var. ChatGPT, Gemini ve Claude gibi kapalı modellerde şirketin sunucusuna soru gönderirsiniz, cevabı alırsınız; modelin kendisi hiçbir zaman elinize geçmez. Açık ağırlıklı modellerde ise ağırlıklar indirilebilir. Ağırlık, yapay zekânın eğitim sırasında öğrendiği ve hangi soruya nasıl karşılık vereceğini belirleyen sayısal ayar demektir. Meta’nın Llama’sı, Alibaba’nın Qwen’i, DeepSeek ve GLM böyle çalışıyorlar. Modeli kendi sunucunuza kurar, ihtiyacınıza göre uyarlarsınız. Atölyenin anahtarını almak gibi. Ama anahtar binanın planı değil. Özgür yazılım geleneğinin dört özgürlüğünü yapay zekâya taşıyan Open Source Initiative tanımı, kullanma, inceleme, değiştirme ve paylaşma haklarının yanında eğitim verisi hakkında benzer bir sistemi kurmaya yetecek bilgiyi, eğitim ve çalıştırma kodunun tamamını ve parametreleri birlikte arıyor. Ağırlıkları indirebilmek bu eşiğin ancak bir parçası.
Bu tartışmaya Meta şirketi Ağustos’ta yüksek perdeden dahil oldu. Meta’nın kurucusu Mark Zuckerberg, “Gelecek herkesindir” başlıklı manifesto niteliğindeki yazısında süperzekânın birkaç kurumda toplanmasına karşı çıkıyor, herkesin cebinde her konuda uzman bir öğretmen ve bir sağlık danışmanı taşıması gerektiğini düşünüyor. Bunlar olmuş bitmiş şeyler değil tabii ki, bir kapitalist şirketin gelecek tasavvuru. Üstelik “herkes” sözü tek başına yetmiyor. Aynı hizmete erişebilmek bir şey; hizmet değiştiğinde itiraz edebilmek, fiyat arttığında başka kapıya gidebilmek, gerektiğinde sistemi kendi imkânıyla çalıştırabilmek başka şey.
Aynı kaygı çevrimiçi tartışmalarda çok daha sert bir dille dolaşıyor. Yapay zekâ üzerine yazan Ahmad Osman’ın Haziran’da yayımladığı ve geniş yankı uyandıran uzun X yazısı, kapalı bir sağlayıcıya bağımlılığın kullanıcıyı fiyat, erişim şartı ve model davranışı karşısında savunmasız bıraktığını savunuyor. Kurumunuzun en kıymetli iş akışı, başka bir şirketin tek taraflı değiştirebileceği bir ayara ne kadar bağlı?
Bu tartışmada bir de madalyonun öbür yüzü var. Anthropic, 27 Temmuz’da açıkladığı pozisyonda açık ağırlıklı modellerin yasaklanmasını savunmuyor, tehlikeli yetenekleri olmayanları kamusal bir fayda sayıyor. İtiraz yetenek eşiğinde başlıyor. Ağırlıklar bir kez yayımlandığında geri çağrılamıyor ve kısıtlar uygulamak çok güçleşiyor. Şirketin önerisi, açık ya da kapalı ayrımı yapmadan yeterince güçlü bütün modelleri yayımdan önce bağımsız güvenlik testinden geçirmek. Ağırlıkların geri alınamayacağını mektubun imzacıları da kabul ediyor. Hugging Face olayı da tek yönlü bir ders vermiyor; aynı kısıtlar bir gün saldırganı durdururken başka bir gün savunmaya çalışan ekibi engelleyebiliyor.
Bu endişelerin kesin ve net bir çözümü henüz yok. Her kapalı sistemin kötü olduğunu, indirilebilir her modelin de güvenli olduğunu söyleyemeyiz. Kritik olmayan işler için hazır bir hizmete abone olmak da akıllıca olabilir. Önemli olan, hangi bağımlılığı bile bile kabul ettiğimizi bilmek ve geri dönebileceğimiz bir yol bırakmak. Gelecek gerçekten herkesin olacaksa, herkes aynı şirketin kapısında beklediği için değil, gerektiğinde kendi kapısını açabildiği için olacaktır.
