Merkezi Birleşik Krallık’ta bulunan Internet Watch Foundation (IWF), pedofililerin çocuklara yönelik cinsel istismar materyalleri (CSAM) üretmek için açık kaynaklı yapay zeka (AI) yazılımlarından yararlandıkları konusunda uyardı. Tanınmış veya ünlü çocukların yayınlanmamış yasa dışı içerik ürettikleri fotoğraflarının değiştirilmesi yoluyla.
Açık kaynaklı yapay zeka ile OpenAI’nin Dall-E veya Google Image’ı gibi kapalı model araçları arasındaki temel fark, kullanıcıların ilkinin yazılımını indirebilmesi, değiştirebilmesi ve ayarlayabilmesi, ikincisinin temel modellerinin ise kamuya açık olmamasıdır. organizasyon belirtilmiştir.
“Bu teknoloji dark web forumlarında tartışılıyor. Görselleri, yapay zeka modellerini ve kılavuzları paylaşıyorlar”Dan Sexton, IWF Baş Teknoloji Sorumlusu
IWF’nin baş teknoloji sorumlusu Dan Sexton şunları söyledi: “Suç alanında teknik bir topluluk var, özellikle de karanlık web forumlarında, bu teknolojinin tartışıldığı yer. “Görüntüleri, yapay zeka modellerini ve kılavuzları paylaşıyorlar.”
The Guardian gazetesine konuşan Sexton, açık kaynaklı yazılımla oluşturulan içeriğin “insanların bilgisayarlarına yerel olarak indirilip çalıştırılması” nedeniyle sorunu çözmenin zorluğunu vurguladı.
Bir salgın
Uyarı, suçluların temel bir imaj oluşturma modeliyle başladığını ve bunun daha sonra çocukların cinsel istismarına ilişkin görsellerle ayarlandığını vurguluyor. daha gerçekçi ve rahatsız edici içerikler oluşturmanıza olanak tanır daha az bilgi işlem gereksinimiyle.
Sexton, yapay zeka tarafından oluşturulan çocuk istismarı içeriğindeki olası artışla ilgili olarak, “Çevrimiçi çocuk cinsel istismarı halihazırda bir halk sağlığı salgınıdır. Bu, potansiyel olarak işleri daha da kötüleştirecektir.” dedi.
Uzmanlar ayrıca yasa dışı yapay zeka tarafından oluşturulan içeriğin gerçek mağdurların tespit edilmesini ve onlara yardım edilmesini zorlaştıracağından da endişe duyuyor. Ayrıca, gerçekçi görüntülerin devasa yaratımı, bunların tüketimini artırabilir.
Çevrimiçi güvenlik
İngiltere, yaklaşan çevrimiçi güvenlik tasarısında yapay zeka kaynaklı çocuk cinsel istismarını ele almayı planlıyor, yayılmasını önlemek için sosyal medya platformlarını zorlamak.
Britanya Hükümeti’nin Yapay Zeka çalışma grubunun başkanı Ian Hogarth, açık kaynak modellerinin zorluklarından endişe duyuyordu; onları kontrol etmek zordur.
