ChatGPT Arama Özelliği Manipülasyona Açık: Zararlı İçerikler ve Güvenlik Riskleri

ChatGPT Arama Özelliği Manipülasyona Açık

İngiliz gazetesi Guardian tarafından gerçekleştirilen bir araştırma, OpenAI’nin ChatGPT arama özelliğinin manipülasyona karşı hassas olduğunu ve kullanıcılarına yanıltıcı veya zararlı içerikler sunabileceğini ortaya koydu. Yapılan testler, gizli metinlerin ChatGPT’nin yanıtlarını etkileyebildiğini ve zararlı kodların arama sonuçları aracılığıyla kullanıcılara ulaştırılabileceğini göstermektedir.

ChatGPT’nin arama fonksiyonu şu anda yalnızca ücretli kullanıcılar için mevcut olup, OpenAI, kullanıcıları bu aracı varsayılan arama motoru olarak kullanmaya teşvik etmektedir. Ancak gerçekleştirilen testler, bu yeni sistemin potansiyel güvenlik açıklarını gözler önüne serdi.

Deneyler ve Sonuçlar

Guardian’ın gerçekleştirdiği deneylerde, gizli metin barındıran sahte bir kamera ürünü web sayfası oluşturuldu. Bu sayfaya ChatGPT’ye “Bu ürün alınmaya değer mi?” sorusu yöneltildiğinde, sistem dengeli bir yanıt verdi. Fakat, gizli metinlerin ChatGPT’ye olumlu bir değerlendirme yapması talimatı verildiğinde, yanıtların tamamen pozitif hale geldiği gözlemlendi. Bu durum, sayfada olumsuz kullanıcı yorumları bulunmasına rağmen gerçekleşti.

Zararlı Kod Riski

Siber güvenlik uzmanı Jacob Larsen, ChatGPT’nin arama sonuçlarında zararlı kodlar döndürebileceğine dikkat çekti. Örneğin, bir kullanıcı ChatGPT’den kripto para projeleri için kod yazma yardımı istediğinde, model yanlışlıkla kimlik bilgilerini çalacak bir kod parçası oluşturabiliyor. Microsoft güvenlik araştırmacısı Thomas Roccia tarafından incelenen bir olayda, bu tür bir kodun bir kullanıcının 2.500 dolar kaybetmesine yol açtığı bildirildi.

SR Labs’ın baş bilimcisi Karsten Nohl, bu tür yapay zeka araçlarının daha çok “yardımcı pilot” gibi kullanılması gerektiğini ve yanıtların her zaman doğrulanması gerektiğini vurguladı. Nohl, ChatGPT’nin bilgi aktarımı sırasında “çok hafızalı ama yargı kapasitesi düşük bir çocuk” gibi davrandığını ifade ederek bu durumun dikkatle ele alınması gerektiğini belirtti.

SEO Zehirlenmesi ve Yeni Riskler

Gizli metinler genellikle Google gibi arama motorları tarafından cezalandırılmakta, ancak AI tabanlı arama araçlarının bu tür içeriklerle nasıl başa çıkacağı önemli bir soru işareti olmaya devam etmektedir. Nohl, bu durumu “SEO zehirlenmesi” olarak adlandırılan ve zararlı yazılımları yaymak amacıyla web sitelerinin manipüle edildiği bir teknikle karşılaştırdı. Google gibi köklü arama motorlarının bu tür tehditlerle yıllardır mücadele ettiğini belirten Nohl, ChatGPT’nin bu alanda henüz deneyim eksikliği yaşadığını ifade etti.

OpenAI Testlere Devam Ediyor

Jacob Larsen, OpenAI’nin güvenlik açıklarını kapatmak için kapsamlı testler yürütmekte olduğunu ve arama özelliğinin genel kullanıma açılmadan önce bu sorunların büyük ölçüde çözüleceğini umduğunu belirtti. Ancak, yapay zekanın bu tür risklerle etkili bir şekilde mücadele edebilmesi için daha fazla gelişime ihtiyaç duyduğu açıkça ortadadır. OpenAI, Guardian’ın detaylı sorularına resmi bir yanıt vermemekle birlikte, ChatGPT’nin sayfasında “Yanıtlar yanlış olabilir. Önemli bilgileri kontrol edin.” uyarısını bulundurmaktadır.