Sanatçıları, Yapay Zekadan Koruyan Araç: Nightshade

Yapay zeka geliştirme çılgınlığını ateşleyen sanatçılar, ChatGPT’nin 2022 sonlarında piyasaya sürülmesinden bu yana zorlu bir ikilemle karşı karşıyalar.

Çalışmalarını bir hedef kitleye ulaştırmak için çevrimiçi platformları kullanmak zorunda kalmalarına rağmen, bunu yaparken yapay zeka modellerinin sanatçının izni olmadan ve tazminat ödemeden eserlerini eğitmesi riskini taşıyorlar.

AI şirketlerine karşı açılan birçok dava, bu endişeleri yansıtıyor. Şirketler, sanatçıların telif hakkıyla korunan eserlerini kullanarak modellerini eğitiyor ve bu da Midjourney, Stability AI, DeviantArt ve Runway AI gibi platformlara karşı toplu davalara yol açıyor. OpenAI, telif hakkıyla korunan materyallerin olmadan yapay zeka modellerini eğitmenin günümüzde mümkün olmadığını kabul ederek bu tartışmalara katkıda bulunuyor.

Güç dengesini sıfırlamak amacıyla geliştirilen Nightshade, Ekim 2023’te piyasaya sürüldü. Bu araç, sanatçıların çalışmalarını çevrimiçi platformlarda silinmeye karşı korumasına yardımcı oluyor. Nightshade, yapay zeka modellerini yanlış verilerle eğitmek için tasarlanmış bir “zehirleyici” ajan olarak işlev görüyor.

Nightshade’in kökeni, Chicago Üniversitesi’ndeki bir ekip tarafından geliştirilen Glaze adlı bir araca dayanıyor. Glaze, sanatçıların eserlerine uygulayabilecekleri ve yapay zeka modellerinin bir sanatçının tarzını taklit etmesini engelleyen bir araçtır. Ancak, pek çok sanatçı tutarlı bir imza stiline sahip olmadığı için bu tür araçlarla defansı zor olabilir.

Nightshade, daha aktif bir yaklaşım benimseyerek sanatçıları savunmaktan öteye geçiyor. Yapay zeka şirketlerini telif hakkıyla korunan eserler konusunda eğitmekten aktif olarak caydırıyor. Bu, görüntülerdeki verileri silah haline getirerek ve yapay zeka modellerinin çıktılarını hatalı hale getirecek değişiklikler ekleyerek yapılıyor.

Shan, “Verilerimi test ederseniz, sadece hiçbir şey öğrenmezsiniz, aynı zamanda modelin performansı da zarar görür” diyor.