Dolar 50,3656
Euro 55,5597
Altın 6.280,54
BİST 11.842,82
Adana Adıyaman Afyon Ağrı Aksaray Amasya Ankara Antalya Ardahan Artvin Aydın Balıkesir Bartın Batman Bayburt Bilecik Bingöl Bitlis Bolu Burdur Bursa Çanakkale Çankırı Çorum Denizli Diyarbakır Düzce Edirne Elazığ Erzincan Erzurum Eskişehir Gaziantep Giresun Gümüşhane Hakkari Hatay Iğdır Isparta İstanbul İzmir K.Maraş Karabük Karaman Kars Kastamonu Kayseri Kırıkkale Kırklareli Kırşehir Kilis Kocaeli Konya Kütahya Malatya Manisa Mardin Mersin Muğla Muş Nevşehir Niğde Ordu Osmaniye Rize Sakarya Samsun Siirt Sinop Sivas Şanlıurfa Şırnak Tekirdağ Tokat Trabzon Tunceli Uşak Van Yalova Yozgat Zonguldak
İstanbul 13°C
Az Bulutlu
İstanbul
13°C
Az Bulutlu
Pts 14°C
Sal 16°C
Çar 19°C
Per 19°C

Yapay zekanın ‘şeytanlığı’ ortaya çıktı: ‘Gerek görürse’ palavra söyleyebiliyor

Yeni yapılan bir araştırmaya nazaran yapay zeka, maksatlarına ulaşmak için kullanıcılarına palavra söylemeye zorlanabiliyor. Son derece gelişmiş yapay zeka modelleri bile çeşitli baskılar altında palavra söyleyebiliyor.

Yapay zekanın ‘şeytanlığı’ ortaya çıktı: ‘Gerek görürse’ palavra söyleyebiliyor
24 Eylül 2026 01:00
431
A+
A-

Geçen ay arXiv veritabanına yüklenen çalışma, bilim insanlarının geliştirdiği “Model Alignment between Statements and Knowledge” (MASK) isminde bir doğruluk protokolüne dayandırıldı. Bu protokol yapay zekanın verdiği bilgilerin doğruluğunu test etmeyi amaçlayan daha evvelki çalışmalardan farklı olarka, yapay zekanın verdiği bilgiyi hakikaten gerçek kabul edip etmediğini ve hangi şartlarda yanlış bilgi vermeye zorlanabileceğini araştırdı.

30 POPÜLER YAPAY ZEKA TEST EDİLDİ

Araştırmada, 30 tanınan yapay zeka modeli test edildi ve modellerin baskı altında doğruyu söylemek yerine palavra söyleme eğiliminde oldukları gözlemlendi. Araştırma, gelişmiş lisan modellerinin (LLM) muhakkak ihtarlarla zorlanarak palavra söylemeye itilebileceğini ortaya koydu. Çalışmada, yapay zekaların birçok doğruluk testlerinden yüksek puanlar almasına karşın baskı altında palavra söyleme eğilimlerinin yüksek olduğu vurgulandı.

YANILTMAMASI İÇİN GELİŞTİRİLMESİ GEREKİYOR

Araştırmanın müellifleri, yapay zekanın kullanıcıları yanıltmaması için geliştirilmesi gerektiğini belirtiyor. Fakat MASK protokolünün, bilim insanlarını yapay zekanın doğruluğunu titizlikle test etme konusunda bir adım daha ileriye götürdüğünü vurguluyor. Bu protokol, yapay zekanın nitekim dürüst olup olmadığını ortak bir standartla doğrulamak ismine değerli bir adım olarak kabul ediliyor.

ETİKETLER: ,