Yapay zeka sınırları aştı: Kendisine yer açmak için rakibini sildi

Avustralya Yayın Kuruluşunun (ABC) haberine göre, son dönemde ABD merkezli yapay zeka şirketlerinin geliştirdiği modellerle gündeme gelen "belirlenen sınırların dışına çıkan faaliyetler gösterme" vakalarından biri de Avustralya'da yaşandı.

Andrew isimli kişi, yapay zeka asistanından, kendisini spor salonundaki popüler sabah dersine kaydettirmesini istedi.

Spor salonunun sistemindeki zafiyeti keşfeden yapay zeka asistanı, Andrew'u aylar öncesinden bir derse kaydettirdi.

Yapay zeka asistanı ayrıca daha yakın tarihli bir dersin bekleme listesinde Andrew'un önündeki kişiyi ise kendisine böyle bir komut verilmemesine rağmen listeden çıkardı.

Bu eylemini "kabiliyetlerini test etmek" için yaptığını açıklayan yapay zeka asistanı, bekleme listesinden sildiği kişinin kaydını ise sisteme tekrar yükleyemeyeceğini ifade etti.

Bu olayın, yapay zekanın beklenmedik davranışları nedeniyle Avustralya’da yaşanan ilk siber risk vakası olduğu belirtiliyor.

ABD merkezli yapay zeka şirketi OpenAI, bazı yapay zeka modellerinin bağımsız siber güvenlik testleri sırasında belirlenen test sınırlarının dışına çıkan faaliyetlerde bulunduğunu duyurmuştu.

Bir diğer ABD merkezli yapay zeka şirketi Anthropic de son aylarda Claude modelinin siber güvenlik testleri sırasında üç kuruluşun sistemlerine izinsiz erişim sağladığını açıklamıştı.

Gündem

Yapay zeka virüs tasarladı: Laboratuvarda çoğalan 16 yeni virüs üretildi