Askeri Yapay Zeka Hedefleme, Nasıl Çalışıyor ve Kim Kontrol Ediyor

Askeri yapay zeka hedefleme, imha zincirinin altı adımı boyunca hedefleri bulmak, sınıflandırmak ve önceliklendirmek için makine öğrenmesi yazılımının kullanılmasıdır ve çoğu Batılı sistemde ateş etme kararını hâlâ bir insan onaylar. Teknoloji, algoritmaların drone videolarını ve uydu görüntülerini insanlardan çok daha hızlı taradığı istihbarat analizinde çoktan rutinleşti; daha zor politika sorusu ise son adım üzerinde yazılıma ne kadar yetki verilmesi gerektiğidir.

Yapay zeka hedefleme nedir

Hedefleme, neyin ve nasıl vurulacağına karar verme sürecidir. İlgi çekici bir şeyin bulunmasıyla başlar, kimliklendirilmesiyle sürer ve bir silahın angajman için serbest bırakılmasıyla biter. Yapay zeka her aşamada yardımcı olabilir, ancak en olgun kullanımlar, devasa sensör verilerinin ayıklanması gereken zincirin ön tarafındadır.

Tek bir drone saatlerce video kaydedebilir ve bir uydu takımyıldızı aynı araziyi günde birkaç kez görüntüleyebilir. Hiçbir analist ekibi bunların tamamını izleyemez. Bilgisayarla görü modelleri araçları, fırlatıcıları veya gemileri işaretleyip bir insana kısa bir liste sunar; bir zamanlar saatler süren işi dakikalara sıkıştırır.

Yapay zeka hedefleme nasıl çalışır

Kaliteyi eğitim verisi belirler. Bir model, farklı ışık, hava ve kamuflaj koşullarında binlerce etiketli tank görüntüsü görerek tankı tanımayı öğrenir. Koşullar gördüklerinden uzaklaştığında doğruluk uyarı vermeden düşebilir; operatörlerin çıktıları kontrol edilmesi gereken öneriler olarak görmesinin nedeni budur.

Aynı mantık, başka yerlerde ele aldığımız algılama araçlarının da temelidir; örneğin veri akışları bu modellerin çoğunu besleyen AESA radar.

Yapay zeka karar desteği ile otonom silahlar

İki kavram sıkça karıştırılır. Karar desteği, seçimden sorumlu kalmaya devam eden bir insana tavsiye vermek için yapay zekayı kullanır. Otonom silahlar ise etkinleştirildikten sonra başka insan girdisi olmadan hedef seçer ve angaje olur. İlki yaygındır. İkincisi daha dardır ama gerçek örnekleri vardır: son saniyelerinde bir hedef imzasına yönelen dolanan mühimmatlar ve gelen füzelere otomatik ateş açan hava savunma sistemleri gibi.

Pratikte çizgi bulanıktır. Ekranda yalnızca yapay zekanın ürettiği bir kutuyu gören bir drone operatörü hızla onay verebilir; eleştirmenler buna otomasyon yanlılığı diyor. Savunanlar ise operatörün sorumluluğu taşımaya devam ettiğini ve çoğu zaman yardımsız bir insandan daha iyi bilgiye sahip olduğunu söylüyor. Dolanan mühimmat açıklamamız bu tartışmanın drone tarafını ele alıyor.

Askeri yapay zeka hedefleme sistemlerini kim geliştiriyor

Bu araçların arkasındaki şirketleri Palantir ve Helsing profillerimizde ele alıyoruz. Ukrayna bir laboratuvara dönüştü; yetkililer, drone ve topçu birlikleri için hedefleri tespit edip önceliklendirmeye yardımcı olan yazılımlardan söz ediyor. Bunlar hükümet açıklamalarıdır ve gerçek otomasyon derecesini dışarıdan değerlendirmek zordur.

Riskler, kurallar ve insan kontrolü

Temel riskler tanıdıktır. Modeller nesneleri, özellikle sivilleri veya hasarlı ekipmanı yanlış tanımlayabilir. Bir sistem diğerini beslediğinde hatalar makine hızında yayılabilir. Düşmanlar sensörleri aldatabilir veya verileri zehirleyebilir. Daha hızlı karar döngüleri de tırmanma riskini artırır, çünkü muhakemeye daha az zaman kalır.

Kurallar cephesinde, ABD direktifi komutan ve operatörlerin güç kullanımı üzerinde uygun düzeyde insan muhakemesi uygulamasını şart koşuyor ve onlarca devlet, sorumlu askeri yapay zekaya ilişkin bir siyasi bildiriyi destekledi. BM’de ölümcül otonom silahlara dair görüşmeler bağlayıcı bir antlaşma olmaksızın yıllardır sürüyor ve Kızılhaç, devletlere sınırlar koyma çağrısı yaptı. Ne kadar kontrolün yeterli olduğu konusunda makul insanlar bile ayrışıyor.

Askeri yapay zeka hedefleme hakkında sık sorulan sorular

Orduda yapay zeka hedefleme nedir?

Genellikle insan operatörler için görüntü, video ve sensör verilerini analiz ederek hedeflerin bulunmasına, kimliklendirilmesine ve önceliklendirilmesine yardımcı olan yazılımdır.

Tamamen otonom silahlar var mı?

Belirli dolanan mühimmatlar ve hava savunmaları gibi bazı sistemler dar durumlarda sınırlı otonomiyle hareket ediyor, ancak çoğu Batılı kuvvet ölümcül güç için insan onayı şart koşuyor.

Project Maven nedir?

Drone ve uydu görüntülerini yapay zekayla analiz etmek için 2017’de başlatılan bir ABD Savunma Bakanlığı girişimidir.

Askeri yapay zeka düzenleniyor mu?

Bağlayıcı bir küresel antlaşma yok. ABD direktifi gibi ulusal politikalar ve bağlayıcı olmayan uluslararası bildiriler mevcut normları belirliyor.

Otomasyon yanlılığı nedir?

İnsan operatörlerin, yanlış olabileceği durumlarda bile otomatik bir öneriye fazla kolay güvenme eğilimidir.