Yapay zekanın ‘şeytanlığı’ ortaya çıktı: ‘Gerek görürse’ palavra söyleyebiliyor

Geçen ay arXiv veritabanına yüklenen çalışma, bilim insanlarının geliştirdiği “Model Alignment between Statements and Knowledge” (MASK) isminde bir doğruluk protokolüne dayandırıldı. Bu protokol yapay zekanın verdiği bilgilerin doğruluğunu test etmeyi amaçlayan daha evvelki çalışmalardan farklı olarka, yapay zekanın verdiği bilgiyi hakikaten gerçek kabul edip etmediğini ve hangi şartlarda yanlış bilgi vermeye zorlanabileceğini araştırdı.

30 POPÜLER YAPAY ZEKA TEST EDİLDİ

Araştırmada, 30 tanınan yapay zeka modeli test edildi ve modellerin baskı altında doğruyu söylemek yerine palavra söyleme eğiliminde oldukları gözlemlendi. Araştırma, gelişmiş lisan modellerinin (LLM) muhakkak ihtarlarla zorlanarak palavra söylemeye itilebileceğini ortaya koydu. Çalışmada, yapay zekaların birçok doğruluk testlerinden yüksek puanlar almasına karşın baskı altında palavra söyleme eğilimlerinin yüksek olduğu vurgulandı.

YANILTMAMASI İÇİN GELİŞTİRİLMESİ GEREKİYOR

Araştırmanın müellifleri, yapay zekanın kullanıcıları yanıltmaması için geliştirilmesi gerektiğini belirtiyor. Fakat MASK protokolünün, bilim insanlarını yapay zekanın doğruluğunu titizlikle test etme konusunda bir adım daha ileriye götürdüğünü vurguluyor. Bu protokol, yapay zekanın nitekim dürüst olup olmadığını ortak bir standartla doğrulamak ismine değerli bir adım olarak kabul ediliyor.