Geleceğin yapay zeka destekli dronları “öldürme yetkisine” sahip olmalı mı? Hükümetlerin ve savunma sanayisinin, dron sistemlerinin gelecekteki savaşlarda kritik bir rol oynayacağını kabul etmesiyle bu soru her geçen gün daha acil bir hal alıyor. Ukrayna’daki yoğun dron kullanımı ve Orta Doğu’daki çatışmalarda AI teknolojisinin bombardıman görevlerine dahil edilmesi, silahların artık daha yüksek “operasyonel otonomi” ile çalışacağı bir dönemi işaret ediyor. Ancak bu durum, makinelerin bir tür “ahlaki çerçeveye” sahip olup olamayacağı tartışmasını da beraberinde getiriyor.
Microsoft AI CEO’su ve DeepMind kurucularından Mustafa Suleyman, makinelerin ahlaki kararlar vermesi konusunda oldukça net: “Yapayı zekalar insan ya da ahlaki varlıklar olamazlar.” Öte yandan, İngiliz istihbarat teşkilatı GCHQ’nun eski başkanı David Omand, insansız silahlar için “ahlaki” bir konfigürasyon oluşturulabileceğine inanıyor. Bu zıt fikirler, ahlakın otonom bir silah sistemine kodlanıp kodlanamayacağı konusundaki teknolojik ve etik zorlukları gözler önüne seriyor.
Yapay Zeka Olasılıklarla Karar Verir, Etik İse Bir Tartışma Sürecidir
Edinburgh Üniversitesi’nden Zee Talat, modern üretken yapay zeka sistemlerinin temelini oluşturan LLM (Büyük Dil Modelleri) teknolojisinin, doğası gereği ahlaki karar verme yetisinden yoksun olduğunu savunuyor. Yapay zeka modelleri, devasa veri setleri üzerinden bir sonraki kelimenin veya cümlenin ne olacağına dair istatistiksel tahminler yürütür. Talat’a göre etik değerlendirme ucu açık, tartışmaya dayalı ve sosyopolitik bir süreçtir; olasılık hesapları yapan bir makinenin bu karmaşıklığa ayak uydurması mümkün değildir.
Hukuki Boşluklar ve “Öldürme Bölgeleri”
Utrecht Üniversitesi’nden Jessica Dorsey, dronlara ahlak kodlamanın önündeki en büyük engelin “kimin ahlakı?” sorusu olduğunu belirtiyor. Cenevre Sözleşmesi, savaşan tarafların sivil ve askeri hedefleri ayırt etmesini şart koşar. Ancak AI hızında ilerleyen bir savaşta, yanlış giden bir kararın devasa ölçekte tekrarlanması riski bulunuyor.
Buna rağmen, savunma sanayisindeki bazı uzmanlar otonomiyi bir zorunluluk olarak görüyor. Swarmer gibi girişimler, insanların tek tek hedefleri seçmek yerine belirli bir “öldürme bölgesi” (kill box) tanımladığı ve bu alandaki her türlü askeri unsura müdahale yetkisini yapay zekaya bıraktığı senaryolar üzerinde çalışıyor. Sonuç olarak teknoloji hızla ilerlerken, bu sistemlerin hukuki ve ahlaki zemini hala büyük bir belirsizlik taşıyor.