Araştırmacılar, ölü insanların yapay zeka simülasyonlarının insanlar üzerinde yaratabileceği psikolojik etki nedeniyle "yüksek riskli" olduğunu söylüyor.
Vefat eden insanları taklit edebiliyor
Cambridge Üniversitesi'ndeki etik uzmanları tarafından yapılan yeni bir çalışma, vefat etmiş kişilerin kişiliklerini taklit edebilen ve "ölübotlar" olarak bilinen yapay zeka sohbet robotlarının, hayatta kalan arkadaşlarını ve akrabalarını korumak için güvenlik protokolleri gerektirmesi gerektiğini ortaya koydu.
Bazı yapay zeka şirketleri bu özelliği sunuyor
Bazı yapay zeka şirketleri şimdiden müşterilerine yapay zeka kullanarak vefat eden sevdikleri birinin dilini ve kişilik özelliklerini simüle etme seçeneği sunuyor.
"Psikolojik etkisi yıkıcı olabilir"
Leverhulme Centre'dan ortak yazar Dr. Tomasz Hollanek, "Dijital ölümden sonra yaşam hizmetlerinin sadece yeniden yarattıkları kişilerin değil, simülasyonlarla etkileşime girmek zorunda kalacak kişilerin de haklarını ve rızasını dikkate alması hayati önem taşıyor Bu hizmetler, kaybettikleri kişilerin endişe verici derecede doğru yapay zeka rekreasyonlarından istenmeyen dijital musallatlara maruz kalmaları halinde insanlara büyük sıkıntı verme riski taşımaktadır. Özellikle de zaten zor bir zamanda ortaya çıkabilecek potansiyel psikolojik etki yıkıcı olabilir" dedi.
Bulgular Philosophy and Technology dergisinde 'Griefbots, Deadbots, Postmortem Avatars: on Responsible Applications of Generative AI in the Digital Afterlife Industry' başlıklı bir çalışmada yayımlandı.
Çalışma, ölüleri geri getirebildiklerini iddia eden yapay zekalı sohbet robotu şirketlerinin bu teknolojiyi, ölen kişinin dijital benzerliğini kullanarak aile ve arkadaşlarına mesaj ve reklamlarla spam göndermek için nasıl kullanabileceklerini detaylandırıyor.
Araştırmacılar, böyle bir sonucun ölüler tarafından takip edilmeye eşdeğer olacağı uyarısında bulundu.
"İnsanlar veda hediyesi olarak yapay zeka simülasyonu bırakabilir"
Çalışmanın yazarlarından Dr. Katarzyna Nowaczyk-Basinska, "Üretken yapay zekadaki hızlı ilerlemeler, internet erişimi ve bazı temel bilgilere sahip olan neredeyse herkesin ölen bir sevdiğini canlandırabileceği anlamına geliyor. Aynı zamanda, bir kişi, kederlerini bu şekilde işlemeye hazır olmayan sevdiklerine bir veda hediyesi olarak bir yapay zeka simülasyonu bırakabilir.
Çalışmanın önerileri arasında, ölü robotların sonlandırılmasına ilişkin önlemlerin yanı sıra teknolojinin nasıl kullanıldığına dair şeffaflığın artırılması da yer alıyor.
