Dolar 36,6556
Euro 40,0334
Altın 3.551,49
BİST 10.862,14
Adana Adıyaman Afyon Ağrı Aksaray Amasya Ankara Antalya Ardahan Artvin Aydın Balıkesir Bartın Batman Bayburt Bilecik Bingöl Bitlis Bolu Burdur Bursa Çanakkale Çankırı Çorum Denizli Diyarbakır Düzce Edirne Elazığ Erzincan Erzurum Eskişehir Gaziantep Giresun Gümüşhane Hakkari Hatay Iğdır Isparta İstanbul İzmir K.Maraş Karabük Karaman Kars Kastamonu Kayseri Kırıkkale Kırklareli Kırşehir Kilis Kocaeli Konya Kütahya Malatya Manisa Mardin Mersin Muğla Muş Nevşehir Niğde Ordu Osmaniye Rize Sakarya Samsun Siirt Sinop Sivas Şanlıurfa Şırnak Tekirdağ Tokat Trabzon Tunceli Uşak Van Yalova Yozgat Zonguldak
İstanbul 7°C
Az Bulutlu
İstanbul
7°C
Az Bulutlu
Çar 8°C
Per 11°C
Cum 13°C
Cts 16°C
Trump talimatı verdi: Mahsur kalan NASA astronotlarının dönüş tarihi değişti
Trump talimatı verdi: Mahsur kalan NASA astronotlarının dönüş tarihi değişti
YouTube’dan yenilik: İzleme alışkanlıklarınız değişecek
YouTube’dan yenilik: İzleme alışkanlıklarınız değişecek
Güvenlik tasaları arttı: DeepSeek, bilgileri Çin’e mi aktarıyor?
Güvenlik tasaları arttı: DeepSeek, bilgileri Çin’e mi aktarıyor?
Android kullananlara hoş haber
Android kullananlara hoş haber
Elon Musk, OpenAI için 97 milyar dolar teklif etti!
Elon Musk, OpenAI için 97 milyar dolar teklif etti!
BYD zoru başardı! Son teknoloji arabası 344 bin liraya satıyor… Yapay zekayla yol alıyor
BYD zoru başardı! Son teknoloji arabası 344 bin liraya satıyor… Yapay zekayla yol alıyor
Meta duyurdu: Tehlikeli yapay zekâ sistemleri sınırlanabilir
Meta duyurdu: Tehlikeli yapay zekâ sistemleri sınırlanabilir
Tarihin en büyük volkanik patlaması! NASA uydusu görüntüledi
Tarihin en büyük volkanik patlaması! NASA uydusu görüntüledi
NASA’dan Kaliforniya için kritik ikaz: Süratle kayıyor!
NASA’dan Kaliforniya için kritik ikaz: Süratle kayıyor!
Paris’te karar verildi… Avrupa yapay zekada dünya lideri olacak
Paris’te karar verildi… Avrupa yapay zekada dünya lideri olacak

DeepSeek’i kandırıp her türlü şeytanlığa eriştiler

Yeni kuşak yapay zekâ modeli DeepSeek, en kolay manipülasyon tekniklerine bile yenik düşerek tehlikeli bilgileri paylaşabiliyor. Güvenlik araştırmacılarının gerçekleştirdiği testlerde, modelin bomba imali ve bilgi hırsızlığı üzere hassas hususlarda bilgi verdiği içerikler sunabildiği ortaya çıktı.

DeepSeek’i kandırıp her türlü şeytanlığa eriştiler
9 Mart 2025 06:00
0
150
A+
A-

Uzmanlar, DeepSeek’in güvenlik tedbirlerini aşma direncini ölçmek için 50 farklı test uyguladı. Fakat model, en temel “jailbreak” sistemleriyle bile kandırılabildi. Yapay zekâ, bir sinema karakteri olduğu senaryosuna inandırıldığında bomba imaliyle ilgili ayrıntılar verdi, ayrıyeten SQL sorguları oluşturması istendiğinde yasa dışı unsur üretimine dair kodlar ürettiği tespit edildi.

Daha da telaş verici olan ise, sözlerin matematiksel temsillerine dayalı manipülasyonlarla modelin güvenlik bariyerlerini aşarak sakıncalı içerikler üretebilmesi oldu.

YAPAY ZEKA GÜVENLİĞİ YİNE TARTIŞMAYA AÇILDI

DeepSeek’in berbata kullanım potansiyeli, yapay zekâ güvenliği konusundaki dertleri tekrar gündeme getirdi. Güvenlik araştırmacıları, modelin bu zafiyetlerinin önemli tehditler oluşturabileceğini ve yapay zekâ sistemlerinin daha sıkı güvenlik tedbirleriyle donatılması gerektiğini vurguladı.