Yapay zeka akıllandıkça gerçeği unutuyor! Yanlış bilgi üretimi arttı

Yapay zeka her geçen gün daha zeki hale geliyor; ancak bu zekâ, gerçeği söyleme konusunda pek de muteber değil. Yeni nesil dil modelleri, bilgi üretiminde insanüstü bir performans sergilese de, bu bilgilerin doğruluğu giderek daha çok sorgulanır hale geliyor.

OpenAI’ın “o3” ve “o4-mini” modelleriyle yapılan son testler, yapay zekanın gerçekle bağını ne kadar sık kopardığını gözler önüne serdi. Modellerin yüzde33 ila yüzde 48 oranında yanlış bilgi üretmesi, “akıllandıkça yanılıyor mu?” sorusunu akıllara getirdi.

Bu yalnızca OpenAI ile hudutlu değil. Google, DeepSeek üzere devlerin yapay zeka tahlilleri de birebir tuzağa düşüyor. Üstelik bu kusurlar, teknolojinin en gelişmiş sürümlerinde bile azalmak yerine artıyor.

“HALÜSİNASYONLAR SİLİNMEZ BİR KUSUR OLABİLİR”

Vectara CEO’su Amr Awadallah’a nazaran yapay zekadan büsbütün doğru bilgi beklemek, bugünkü sistemlerle mümkün değil. Awadallah, “Halüsinasyonları sıfırlamak hayalperestlik olur” diyor ve bu teknolojilere yatırım yapan şirketlerin bu gerçekle yüzleşmesi gerektiğini vurguluyor.

Gerçeğe dayanmayan içerikler yalnızca kullanıcı itimadını sarsmakla kalmıyor, birebir vakitte iş dünyasında kusurlu kararların temelini de atabiliyor. Bilhassa son periyotta model eğitimi için giderek daha fazla kullanılan sentetik datalar, yapay zekaların kendi uydurmalarını referans almasına sebep oluyor. Bu da, yanlışın yine üretilip doğrulaştırılması manasına geliyor.

Tüm bu gelişmeler, yapay zeka çağında bilginin niteliğini ve güvenilirliğini tekrar sorgulamamıza sebep oluyor. Teknoloji büyüyor ancak ona olan inanç birebir süratle artıyor mu, yoksa azalmaya mı başladı?