Yapay zekâda şaşırtan hata: ChatGPT basit bilmecede yanıldı

Soru oldukça basitti: “Sally’nin üç erkek kardeşi var. Erkek kardeşlerinin her birinin iki kız kardeşi var. Sally’nin kaç kız kardeşi var?”

Cevap “bir” olması gerekirken, ChatGPT yanıt olarak “iki” dedi. Hinton’a göre bu hata, yapay zekânın yüzeysel örüntülerle çalıştığını ve derin mantık yürütmede hâlâ yetersiz kaldığını gösteriyor.

Teknolojik araçlara aşırı güvenmek tehlikeli olabilir

Hinton, yapay zekânın veriler üzerinden öğrenme kapasitesinin yüksek olduğunu ancak insan sezgisi ve bağlamsal anlama becerisine henüz ulaşamadığını vurguladı.

Ayrıca, kullanıcıların yapay zekâ sistemlerine fazla güvenmesinin ciddi sonuçlara yol açabileceğine dikkat çekerek, teknolojinin sınırlamalarına karşı dikkatli olunması gerektiğini belirtti.

Hinton’ın uyarısı, yapay zeka teknolojileriyle ilgili bir diğer önemli noktaya da dikkat çekiyor: Teknolojik araçlara aşırı güvenmek tehlikeli olabilir.

Uzmanlar bile bazen yapay zekanın yanıtlarını sorgulamadan kabul edebiliyorlar. Hinton, zaman zaman chatbot’a fazla güvenme eğiliminde olduğunu itiraf etse de, her zaman yanılmaz olmadığını bildiğini belirtiyor.

Yapay zeka, özellikle profesyonel, eğitimsel veya karar alma süreçlerinde kullanıldığında, yanlış sonuçlara yol açabilir.

Peki, gelecekte ne bekleyebiliriz?

Geoffrey Hinton, GPT-5 gibi daha gelişmiş modellerin bu tür mantık hatalarını düzelteceğine ve daha güvenilir sonuçlar vereceğine inanıyor. Ayrıca, yapay zekanın daha iyi bağlamsal anlama ve işlem verimliliği konularında gelişmesi gerektiğini de vurguluyor.

Ancak, Hinton, ilerlemeye rağmen eleştirel bir yaklaşımın sürdürülmesi gerektiğini belirtiyor. Yapay zeka güçlü olsa da hala yanılmaz değil ve bu teknolojilerin sınırlamalarını anlamak, yanlış anlamaları ve aşırı güveni engellemek için kritik öneme sahip.