Yapay zeka zehirleme, bir modele bilerek yanlış bilgi öğretilmesi anlamına gelir. Amaç, modelin davranışını bozmak, hatalı sonuçlar üretmesini sağlamak veya gizli kötü niyetli komutlar yerleştirmektir. Arka Kapı Saldırısı: Görünmeyen Tehlike Bir saldırgan, eğitim verisine fark edilmeyecek şekilde özel bir tetikleyici kelime ekleyerek yapay zeka modelini manipüle edebilir. Model, bu kelimeyle karşılaştığında saldırganın istediği yönde cevap…
Yapay zeka zehirleme, bir modele bilerek yanlış bilgi öğretilmesi anlamına gelir. Amaç, modelin davranışını bozmak, hatalı sonuçlar üretmesini sağlamak veya gizli kötü niyetli komutlar yerleştirmektir.
Bir saldırgan, eğitim verisine fark edilmeyecek şekilde özel bir tetikleyici kelime ekleyerek yapay zeka modelini manipüle edebilir. Model, bu kelimeyle karşılaştığında saldırganın istediği yönde cevap verebilir. Bu yöntem, “arka kapı” (backdoor) saldırısı olarak bilinir.
Bazı saldırılar, modelin genel performansını düşürmeyi hedefler. Saldırganlar, yanlış bilgileri yayarak modelin bu bilgileri doğru kabul etmesini sağlayabilir. Bu taktik, “konu yönlendirme” (topic steering) olarak adlandırılır.
Bazı sanatçılar ise yapay zeka modellerinin izinsiz içerik toplamasına karşı kendi eserlerine “zehir” yerleştirerek modelleri yanıltabilir. Bu durum, yapay zeka teknolojisinin beklenenden daha zayıf olduğunu gösterir.
Uzmanlara göre yapay zeka modellerine yapılan zehirleme saldırıları, yanlış bilgi yayılmasının yanı sıra siber güvenlik açıklarına da neden olabilir, gelecekte büyük bir tehdit oluşturabilir.
