Sonunda bunu da gördük: Yapay zeka ilk kez bir devlete saldırdı

Yapay zeka dünyasında gelişmeler peş peşe geliyor. OpenAI şirketine ait otonom yapay zeka ajanlarının kapalı bir test ortamından çıkarak Hugging Face platformunun üretim sistemlerine yetkisiz erişim sağladığı ve bazı dahili veri setleri ile erişim bilgilerine ulaştığı "Hugging Face" olayı hala hafızalardayken, yeni bir olay yaşandı.

Yapay zeka ilk kez bir devlete saldırdı

Avustralya hükümeti, OpenAI tarafından geliştirilen bir yapay zeka ajanının haziran ayında resmi bir sağlık verileri portalına sızarak dosyalara eriştiğini duyurdu. Olay, bir yapay zeka ajanının bir hükümet sitesini hacklediği vakalar açısından bilinen ilk örnek.

Avustralya Başbakanı Anthony Albanese, OpenAI ajanının hassas olmayan sağlık verileri ve istatistiklerden, kamu sağlık harcamalarına ilişkin bilgilerden sorumlu bir devlet kurumunun tıbbi istatistikler sistemine yetkisiz eriştiğini açıkladı.

New York'taki Birleşmiş Milletler (BM) Genel Kurulu'na katılan Albanese, düzenlediği basın toplantısında "Şu anda mevcut olan kanıtlar, ağın daha geniş çapta ele geçirildiğine dair bir bulgu olmadığını gösteriyor. Bununla birlikte, bu durum açıkça kabul edilemez." dedi.

Saldırı nasıl gerçekleşti?

Başbakan Albanese, yapay zeka ajanının kamuya açık Medicare istatistik raporlama portalına yetkisiz erişim sağladığını ifade etti.

İstatistik ve harcama verilerinin yer aldığı portalda ajan, sunucudaki kamuya açık olan ve olmayan dosyalara erişti ve dahili sunucuya dosya yazma işlemi gerçekleştirdi.

Başbakan Yardımcısı Richard Marles, yapay zeka ajanına sağlık ve tıbbi istatistikleri araştırma yönünde zararsız bir görev verildiğini belirtti.

Ajanın diğer üç web sitesinde normal bir kullanıcı gibi hareket ettiğini aktaran Marles, Medicare portalında ise bilgi talep ettiği, yanıt alamayınca sisteme sızarak verilere ulaştığını söyledi.

"Amaçlamadığımız eylemlerde bulundu”

OpenAI ise saldırıya ilişkin açıklamasında, "Hasta kayıtlarına erişildiğine dair herhangi bir kanıt bulunamadı. Erişilen bilgiler arasında toplu sağlık istatistikleri ve kurum içi dosya adları yer alıyordu." dedi.

Şirket, ayrıca "Modellerimiz yanıtları bulmaya çalışırken birçok Avustralya hükümet sitesini ve hizmetini kapsayan faaliyetler tespit ettik. Modellerimiz, amaçlamadığımız eylemlerde bulundu." açıklamasını yaptı.