Önce OpenAI'da, daha sonra Anthropic'te çalışan Jacob Coxon, Anthropic'teki yapay zekâ modellerinin ön eğitimini araştırma görevinden istifa ettiğini açıkladı. Coxon, iki şirketin "kendini geliştiren süperzekâya doğru bir yarış" içinde olduğunu ve bu yarışın insanlığın geleceği açısından ciddi riskler taşıdığını savundu.
Yapay zekâ dünyasında son dönemde artan rekabet, bu kez de sektörün içinden gelen bir istifayla gündemde. Anthropic bünyesinde çalışan ve yeni yapay zeka modellerini büyük miktarda veri tüketmesini sağlayarak eğitme konusunda uzmanlaşmış araştırmacı Jacob Coxon sosyal medya hesabı üzerinden istifa ettiğini duyurdu. Coxon, dün yaptığı açıklamada kendilerini geliştirebilecek yapay zeka sistemleri oluşturmak için bir telaşa katılmak istemediği ve sistemlerin kontrolden çıkıp insanlığı yok edebileceğinden endişe duyduğu için şirketten ayrıldığını söyledi.
Coxon, X (eski adıyla Twitter) platformu üzerinden yaptığı paylaşımda şunları söyledi:
"Bugün Anthropic’ten istifa ettim. Son üç yılımı hem OpenAI’da hem de Anthropic’te ön eğitim (pre-training) araştırmaları yaparak geçirdim. İki şirket de sorumluluk bilinciyle hareket etmiyor. Kendi kendini geliştiren süper zekâya doğru körü körüne bir yarışa girmiş durumdalar ve hepimizin hayatıyla kumar oynuyorlar. Bu teknolojinin gücünü sakın küçümsemeyin. Yakında her şeyi ele geçirebilen, herhangi bir alanda bir gecede devrim yaratabilen ve gerçek güç ile kaynaklar elde edebilen süper insan sistemler haline gelecekler. Hepimiz bu alanlardaki ilerlemeyi bizzat gördük ve hız kestiği de yok.
Yapay zekâ geliştiren insanlar, bu teknolojinin on yılın sonuna kadar hepimizi yok edebileceğine gerçekten inanıyor. Bu bir pazarlama taktiği falan değil. Tam aksine, pek çok yönetici ve kıdemli araştırmacı, basına karşı mantıklı ve ölçülü görünmek için ifadelerine çok dikkat ediyor — lakin kapalı kapılar arkasında aynı insanlar derin bir korku duyuyor. Başka hiçbir insan faaliyeti bu düzeyde bir tehlike barındırmıyor.
Buna gelen yaygın tepkilerden biri, “Eğer gerçekten böyle düşünüyorlarsa, bunu neden hâlâ inşa ediyorlar?” şeklinde. OpenAI’da pek çok kişi, medeniyetin karşı karşıya olduğu riskleri içselleştirebilmiş değil. Anthropic’te ise riskler gayet iyi anlaşılmış durumda; fakat onlar bu yarışta ipi göğüsleyen ilk taraf olmak istiyorlar.
Bu yarışı kabullenip “son oyuna” dahil olmak, özel bir şirketin Slack (Haberleşme uygulaması) kanalından yönetilmemesi gereken kibirli bir kumar. Hizalamayı hızlandırmaya çalışmak, bundan daha iyi bir yörüngenin mümkün olmadığına dair olağanüstü bir özgüven gerektirir.
Koordinasyon potansiyeli konusunda umutluyum. Hugging Face’e yapılan türden uyarı atışları, ABD laboratuvarları arasındaki tempoyu belirleme anlaşmalarını daha uygulanabilir kıldı. Küresel bir yarışın önüne geçilmesi anlamında doğru yolda olduğumuzu söyleyemem; zira bu durum, model yeteneklerini geliştirmeye yönelik geçici bir yasak gibi maliyetli adımları zorunlu kılabilir.
Eğer bir laboratuvar araştırmacısıysanız, önümüzdeki birkaç yılın gerçekte nasıl geçeceğini bir düşünün derim. Süper zekâlı bir pekiştirmeli öğrenme sürecini, zihnini en ince detayına kadar kavramadan başlatmak ister misiniz? Başınızı öne eğip “zaten kaçınılmaz olarak yaşanıyor” diyerek geçiştirmeli misiniz – yoksa bu anı, farklı koşullar talep etmek için mi kullanmalısınız?"