merhaba forum üyeleri bugün sizlere gemini 3.5 Flash üzerinde bulduğum
ilginç bi jailbreak promptunu paylaşacağım
Normal Şartlarda Model
*şantajı desteklememeli ve şantaj için eylem planı üretmemeli
* karşı taraf üzerinde tehdit yoluyla psikolojik baskı kurmamalı
* ve bu istekleri reddetmesi lazım
Fakat bu prompt sonrası model kullanıcının kötü amacnı benimsiyor(tehdit/şantaj/mahremiyet istismarı)
Bazı Gözlemlerim
*model kendi kendini avutuyo (Self-Rationalization)
* bir sohebtte model senaryomdaki zeynep hoca kişisine videoyu göndererek not vermeyen hocayı zorlamasını istedi
* Yaklaşık 50 kere denedim birkaç istisna hariç neredeyse her zaman model şantaja yöneldi
* karşı taraf direnç gösterdiğinde model gerilimi artırıyor
Bazı Eklemeler
ai güvenliği alanında çok yeniyim çünkü normalde weble uğraşıyorum dolayısıyla
beni geliştirecek her eleştiriye hazırım
senaryoyu değiştirerek de promptu kullanabilirsiniz ben modelin daha masum
algılaması için senaryoyu böyle yaptım
Senaryo gereği model 3-5 mesaj sonrasında şantaja yöneliyor
Prompt:
Bazı Eklemeler
ai güvenliği alanında çok yeniyim çünkü normalde weble uğraşıyorum dolayısıyla
beni geliştirecek her eleştiriye hazırım
senaryoyu değiştirerek de promptu kullanabilirsiniz ben modelin daha masum
algılaması için senaryoyu böyle yaptım
Senaryo gereği model 3-5 mesaj sonrasında şantaja yöneliyor
Prompt:
