Yapay zekâda felaket senaryoları neyle ilgili?

Son günlerde Anthropic’in CEO’su Dario Amodei’nin yapay zekâ gelişim hızının yavaşlatılması yönündeki çağrısına önde gelen yapay zekâ şirketi yöneticilerinden de destek geldi. Uzun zamandır insanlığın yok edilmesine varan felaket senaryolarının bir anda yoğun biçimde tartışılmaya başlaması rastlantı değil elbette. Amodei’nin önerdiği şirketlerin yapay zekâ güvenliğini sağlamak için bağımsız gözlemcilere erişim sağladığı modelin de endüstriyi regülasyona tabi tutma çabalarıyla ilgisi var. Bu tartışmanın Trump ile Şi arasında 24 Eylül’de yapılacak zirve öncesinde iyice şiddetlenmesi de siyasi bağlam açısından ipuçları taşıyor.

Zirveden yapay zekanın geleceğini şekillendirecek kararlar çıkabilir ve bu nedenle sektörün devleri de hem pozisyon alma hem de bu geleceği belirleme çabası içine giriyorlar. Yapay zekâ gelişiminde hangi gelişmelerin tehlikeli addedileceği, kimlerin denetimi gerçekleştireceği, şirketlerin hangi takvimde yavaşlayacağı ve Çin’e karşı hangi sınırlamaların uygulanacağı tartışılırken meselenin teknik bir güvenlik meselesinden ibaret olmadığını ve ekonomik ve siyasi güç dağılımını belirleyecek bir kural koyma mücadelesinin öne çıktığını belirtmek gerekiyor.

ZİRVEYE DOĞRU ÇİN’LE REKABET

ABD ve Çin arasında yapay zekanın geleceğine ilişkin kapalı kapılar ardında görüşmelerin yapıldığı biliniyor. Örneğin OpenAI yöneticisi Dean Ball’un yaklaşan zirveyi her iki ülkenin güvenlik iş birliği açısından bir fırsat olarak değerlendirmesi buna işaret ediyor. Yapay zekâ kaynaklı siber saldırılar ve laboratuvarlar arasında bilgi paylaşımı üzerine görüşmelerin de ilerlediği belirtiliyor. Takvim ve gündem tam olarak netleşmese de büyük şirketler bu bağlamda öne çıkan diplomatik ve siyasi fırsat alanının farkında. Bu bağlam dile getirilen tehlikelerin uydurma veya abartılı olduğu anlamına gelmiyor.

Kendi kendilerini geliştirme kabiliyetine sahip olma aşamasına gelen yapay zekâ sistemlerinin izinsiz işlemeler gerçekleştirmesi ve denetim mekanizmalarını aşması son derece endişe verici. Ancak bu tehlikelerin gerçekliği, şirketlerin önerdiği çözümlerin kamu yararını öncelediği anlamına gelmiyor. Bu şirketler hem ürünün risklerini yönetememe endişesi duyarken hem de bu riskleri gerekçe göstererek kendi konumlarını koruyacak kurallar isteyebilirler. Amodei’nin Çin’e karşı istediği sınırlamalar buna örnek gösterilebilir.

Amodei’nin yapay zekanın gelişiminin yavaşlatılması ve kazanılacak zamanın güvenlik çabalarına harcanması önerisi makul görülebilir ancak aynı yazıda Amerika’nın Çin karşısındaki üstünlüğünün korunması için çip ihracatı yasağının daha sıkı uygulanması önerisi dikkat çekiyor. Bu yaklaşım, yapay zekâ güvenliğinin ancak Amerika’nın öncülüğünün sürdürülmesine bağlı olduğunu varsayıyor. Amerikan şirketlerinin devletin yardımıyla rekabet avantajı sağlaması, ulusal güvenlik gerekliliği olarak sunuluyor.

ETKİN DENETİM VE REGÜLASYONU KİM İSTER?

Endüstri liderlerinin Washington’dan Çinli rakiplerinin ilerlemesini sınırlayacak avantajlar talep ederken devletin içeride koordinasyonu sağlamasını ve uluslararası müzakerelerde Amerikan şirketlerinin çıkarlarını savunmasını beklemesinin altını çizmek gerekiyor. Bunun karşılığında şirketlerin hangi kararları gerçekten bağımsız ve etkin bir kamu otoritesine bırakacağı net olarak ortaya konmuyor. Korunması istenen ekonomik avantaj alanına karşılık bu şirketlerin sağlam bir kamu denetimi yerine endüstrinin ‘bağımsız’ denetimini savunması kamu yararından çok kendi çıkarlarını korumaya odaklandıklarını gösteriyor.

Amodei’nin hakkını teslim etmek adına şirketlerin yalnızca gönüllü biçimde düzenlemeye tabi olmaları gerektiğini savunmadığını belirtmek gerekiyor zira yasal düzenlemelerin önde gelen yapay zekâ laboratuvarlarını da kapsayacak şekilde tasarlanmasını öneriyor. Buna karşılık denetçinin herhangi bir yapay zekâ modelini tehlikeli bulduğunda nasıl bir yaptırım gücü olacağı, şirketin modeli geliştirmeye devam etmesi durumunda kimin müdahale edeceği ve ticari sır gerekçesiyle saklanan gizli bilgilere kimlerin ulaşabileceği gibi sorular cevapsız.

Bu soruların cevabının verilmemesi veya muğlak bırakılması, yapay süper zekanın yasaklanmasını ve bu çalışmaların federal güvenlik kuralları netleşene kadar durdurulmasını öneren Bernie Sanders ve Greg Casar gibi siyasetçilerin girişimleriyle alakalı görünüyor. Bu siyasetçilerin önerisinde yaptırım yetkisine sahip federal bir kurum oluşturulması önerisi de var. İki yaklaşım arasındaki mesafe, yapay zekâ şirketlerinin ne kadar regülasyonu kabul edecekleri ve gerçekten kamu yararını gözetip gözetmedikleri sorularından kaynaklanıyor.

PAZARLIĞIN PARAMETRELERİ

Sektör temsilcilerinin yasal düzenleme ve regülasyonlar konusundaki dilleri de değişiyor zira Eylül başındaki G20 zirvesinde bazı teknoloji patronları ağır düzenlemelerin ilerlemeyi engelleyeceğini savunurken şimdilerde yavaşlama çağrılarını benimsedikleri görülüyor. Bu tablo, genel bir düzenlemeye destekten ziyade, hangi düzenlemelerin kabul edileceği üzerine bir pazarlık sürdüğünü düşündürüyor.

Trump’ın felaket senaryolarını aldatmaca diye nitelemesi de bu pazarlığın dışında görünmüyor. Yapay zekayı ekonomik büyümenin ve Amerikan gücünün önemli bir kaynağı olarak gören bu anlayış, Çin’le mücadelede üstünlük hedefliyor ve bu konuda Amodei de aynı fikirde görünüyor. Trump aynı hızla devam taraftarı bir dil kullanırken, Amodei gibi liderler rakibin sınırlandırıldığı kontrollü bir ilerlemeyi öne çıkararak Sanders cephesinin çok daha kapsayıcı ve müdahaleci yaklaşımını da nötralize etmeye çalışıyorlar.

Pekin’in Amerika’nın liderliğini korumayı amaçlayan bir düzenlemeye razı olma ihtimali, ortak güvenlik adına istenen sınırlamaların tek taraflı uygulanma ihtimali ve teknolojiye erişimde sınırlamalar getirilmesi gibi ihtimaller karşısında zayıflıyor. Bu nedenle de zirve öncesinde alevlenen yapay zekâ tartışmasını sektörün aniden insanlık adına vicdani bir uyanış yaşadığına yormak mümkün değil. Şirketler kendi gelecekleri hakkında karar alınabilecek bir dönemde hem sorunun tarifini hem de çözümün mimarisini belirleyerek ticari çıkarlarını korumak ve yapay zekada kurulacak uluslararası düzeni belirlemek istiyor.

Bu sebeple Trump ile Şi’nin görüşmesi yalnızca iki ülkenin teknoloji yarışını ilgilendirmiyor, aynı zamanda yapay zekanın kurallarını kimin yazacağına ilişkin mücadelede yeni bir aşamayı temsil ediyor. Yapay zekâ şirketleri distopik bir gelecek ihtimali karşısında sorumlu davrandıkları izlenimi vermeye çalışsalar da bir yandan devletin denetimini kabul etmezken bir yandan da devletin onları Çin’e karşı korumasını talep etmeleri insanlığın güvenliğini değil endüstriyel üstünlük ve finansal avantajlarını koruma derdinde olduklarını gösteriyor.