Hayatı kolaylaştırmak amacıyla geliştirilen yapay zekâ, kontrolden çıkması halinde insanlığın geleceğini tehdit eden bir teknolojiye dönüşebilir. Yapay zekâ alanında çalışan uzmanlar, teknolojinin önümüzdeki 10 yıl içinde insanlığın tamamını yok edebilecek bir tehdide dönüşebileceği konusunda uyarılarda bulunuyor.
İNSANLIK TEHDİT ALTINDA
Yapay zekâ şirketi Anthropic'ten istifa eden İngiliz Jacob Coxon, yapay zekânın çok yakında insan yeteneklerini aşacağını, bu teknolojinin gerçek anlamda güç ve kaynak elde etme kapasitesine sahip olacağını söyledi. Anthropic'in yapay zekâ güvenliğinden sorumlu araştırmacılarından Evan Hubinger de Coxon'un uyarılarına katıldığını belirterek, gelecek 10 yıl içinde yapay zekânın insanlığın yok olmasına yol açma ihtimalinin yüzde 10'dan fazla olduğunu, teknolojinin insanlık için varoluşsal bir tehdit oluşturmasından endişe duyduğunu ifade etti.
GELİŞİM HIZINI KAVRAYAMADIK
Anthropic'in Üst Yöneticisi (CEO) Dario Amodei, CBS News'e verdiği mülakatta, yapay zekâ uzmanlarının son zamanlarda bu teknolojiye ilişkin dile getirdiği endişeler hakkında değerlendirmelerde bulundu. Yapay zekâ teknolojisinin katlanarak artan hızla geliştiğini belirten Amodei, “İlerlemenin bu kadar hızlı olmasının, gerçekte nasıl bir şey olacağını tam olarak kavrayabildiğimi sanmıyorum” dedi. Teknolojiyi geliştiren araştırmacıların bu uyarıları, yıllardır bilim kurgu filmlerin konu olan ihtimali yeniden gündeme taşıdı. Yapay zekânın insan yeteneklerini aşarak kendi gelişimini hızlandırabileceği ve güç ile kaynaklara erişim kapasitesi kazanabileceği endişesi, önümüzdeki 10 yıl için varoluşsal risk tartışmasını büyütüyor.
3 ÜLKEDE SİLAH ÜRETİM YAPILDI
ABD merkezli yapay zekâ şirketi Anthropic’in yayımladığı rapor, yapay zekânın yanlış ellerde nasıl tehlikeli bir araca dönüşebileceğini ortaya koydu. Raporda 3’ü Çin, 2’si Rusya ve 1’i Yemen merkezli olmak üzere 6 ayrı konvansiyonel silah operasyonunun tespit edildiği belirtildi. Kuzey Yemen’deki hücrenin yapay zekâyı gerçek bir roket testine kadar götürmesi, aynı imkanın terör örgütlerinin eline geçmesi halinde ortaya çıkabilecek küresel güvenlik tehdidini gündeme getirdi. Ayrıca tehdidin füze ve insansız sistemlerle sınırlı kalmadığı, yapay zekânın virüslerin bulaşıcılığını arttırmaya ve toksinleri yeniden tasarlamaya yönelik biyolojik çalışmalarda da kullanıldığı görüldü.
HİPERSONİK FÜZE DENEMESİ
Kuzey Yemen’de faaliyet gösteren kimliği açıklanmayan hücre, güdümlü roket, 2 bin kilometrenin üzerinde menzil hedeflenen çok kademeli balistik füze ve hipersonik araç içeren “R2000” füze ailesi olmak üzere 3 ayrı program yürüttü. Telefon teknolojisi kullanan bir uçuş bilgisayarına otomatik pilot sistemi kurulurken, yapay zekâ modeli Claude, yazılımı hazırladı, gerekli bilgileri araştırdı ve hataları kontrol ederek 3 ayrı mühendisin işini tek başına yaptı. Hücre, başarısız olduğu değerlendirilen gerçek roket testinden birkaç saat sonra uçuş verilerini inceletmek ve hatanın kaynağını bulmak için yeniden Claude’a başvurdu. Anthropic hesapları kapatsa da grubun Claude veya MATLAB’a ihtiyaç duymadan çalışan çevrim dışı bir simülasyon sistemi kurduğu ve böylece silah geliştirme çalışmalarını platformdan bağımsız sürdürebilecek altyapıya ulaştığı tespit edildi.
DOST-DÜŞMAN BELİRLEYEN DRON SÜRÜSÜ
Rusya merkezli küçük ve devlet dışı bir ekip, Claude kullanarak insan müdahalesi olmadan saldırı düzenleyebilecek otonom kamikaze dron sürüsü tasarladı. Yapay zekânın hazırladığı kodlar gerçek dron geliştirme kartlarına yüklenirken, sistem internetten toplanan Ukrayna savaş görüntüleriyle eğitildi. Hedefler “dost”, “düşman” ve “insan” olarak sınıflandırıldı. Dron sürüsünün kendi hedefini seçerek patlatma komutu verebilmesi, yapay zekâ destekli silah çalışmalarının sohbet ekranından çıkarak gerçek donanıma taşındığını gösterdi. Rusya merkezli başka bir aktörün ise çift kullanımlı askeri parçaları üçüncü ülkelerden bulmak, gerçek alıcıyı gizleyen belgeler hazırlamak ve yaptırımları aşacak tedarik güzergahları oluşturmak için Claude’dan faydalandığı tespit edildi.
PATRIOT VE THAAD’IN AÇIKLARINI ARADI
Çin merkezli bir aktör, radarları, hava savunma sistemlerini, komuta merkezlerini ve haberleşme noktalarını inceleyerek hedefleri önem ve kırılganlık sırasına koyan 16 modüllü elektronik harp yazılımı geliştirdi. 12 kez güncellenen sistem, Patriot ve THAAD sınıfı hava savunma sistemlerinin menzillerini modelleyerek hangi hedefin önce etkisiz hale getirileceğini hesapladı. Başka bir Çinli aktör ise Claude’a denizaltı savaşında kullanılacak anti-torpido ateş kontrol yazılımı ile 200 sayfayı aşan teknik teklif hazırlattı. Yapay zekâyı “düşmanca davranan uzman” rolüne sokarak kendi projesindeki açıkları buldurdu. Üçüncü operasyonda, hedefleri mermi veya füze yerine lazer ve yüksek güçlü mikrodalga dalgalarıyla etkisiz hale getiren yönlendirilmiş enerji silahları mercek altına alındı. Bu silahları üreten şirketler ile parça tedarikçileri açık kaynaklardan araştırılarak, sistemlerin nasıl çalıştığı çözülmeye ve bunlara karşı savunma yöntemleri geliştirilmeye çalışıldı.
Biyolojik silah alarmı
- Raporda, Claude’un biyolojik silah geliştirmeyi destekleyebilecek çalışmalarda kullanıldığı 5 ayrı vaka da yer aldı. Askeri bir araştırma enstitüsünde yürütülmesi planlanan çalışmada Chikungunya virüsünün bulaşıcılığını ve bağışıklıktan kaçma kabiliyetini arttırabilecek değişiklikler araştırılırken, başka bir araştırmacının memelilere uyum ve hayvan modellerinde havadan bulaşma kabiliyeti kazandırabilecek kuş gribi deneylerini planlamak için yapay zekâyla haftalar boyunca binlerce mesaj paylaştığı belirlendi. Çiçek hastalığı etkeni ile mpox’u da kapsayan orthopoxvirus ailesine ilişkin bir araştırma başvurusu yapay zekâya yaklaşık 1 saatte hazırlatılırken, diğer vakalarda zehirli peptitlerin haritalandırılması ve bazı toksinlerin bilgisayar ortamında yeniden tasarlanması üzerinde çalışıldı.
Tehdit büyüyor
- Anthropic, yapay zekânın devletler ile devlet dışı aktörler arasındaki teknik kapasite farkını azalttığını, daha önce uzman ekipler gerektiren çalışmaların küçük gruplar, hatta tek kişi tarafından yürütülebildiğini bildirdi. Raporda ortaya konulan kabiliyetlerin, bunları kullanmaya kararlı bütün aktörlerin erişimine açık kabul edilmesi gerektiği uyarısı yapıldı. Aktörlerin amaçlarını gizleyip çalışmaları farklı oturumlara bölerek VPN, aracı servis ve sahte hesaplarla güvenlik önlemlerini aşması ise yalnızca hesap kapatmanın tehdidi ortadan kaldırmadığını gösterdi.