The New Stack’ten bir makalede, siber güvenlik firması WithSecure’un Baş Araştırma Görevlisi Mikko Hypponen, açık kaynak yapay zekanın potansiyel tehlikeleri hakkında uyarılarda bulundu.
Bu uyarılar, kötü niyetli aktörler tarafından kötüye kullanılmayı önlemek için sağlam güvenlik önlemlerinin gerekliliğini vurgulayan kritik bir tartışmayı başlattı.
Açık Kaynak Yapay Zekanın Riskleri
Hypponen’in temel endişesi, açık kaynak yapay zeka modellerinde yerleşik güvenlik önlemlerinin eksikliği etrafında dönüyor.
Kapalı kaynaklı muadillerinin aksine, bu modeller genellikle kötüye kullanımı önlemek için gerekli korumalardan yoksun oluyor. Bu güvenlik önlemlerinin eksikliği, onları özellikle istismara karşı savunmasız hale getiriyor.
Fakat Hypponen, açık kaynak “dogmatistlerinin” — açık kaynak ilkelerine sıkı sıkıya bağlı olanların — bu tür güvenlik önlemlerinin uygulanmasına direneceğini ve sorunu daha da karmaşık hale getireceğini belirtiyor.
Deepfake ve Kötü Amaçlı Yazılımlar: Büyüyen Tehdit
Mevcut deepfake korkusunun abartılmış olabileceği düşünülse de, büyük dil modelleri (LLM’ler) ve deepfake teknolojisinin kötü amaçlı yazılımlar tarafından kullanıldığı önemli örnekler mevcut.
Hypponen, ünlüleri içeren deepfake dolandırıcılıklarına dikkat çekiyor. Bu tür dolandırıcılıkların sadece itibarları zedelemekle kalmayacağını, aynı zamanda önemli güvenlik risklerini de gündeme getireceğini vurguluyor.
Romantik Dolandırıcılık İkilemi
Hypponen’in OpenAI’ye sunduğu ilginç önerilerden biri, platformlarında romantik konuşmaları yasaklamaktı.Amacı, romantik dolandırıcılıkların endüstriyelleşmesini engellemekti.
Ancak, OpenAI’nin “romantik kitaplar” ve sanal kız/erkek arkadaş uygulamaları üreten ve ödeme yapan müşterileri bulunuyor. Bu karmaşık sorun, dolandırıcılıkları önlemekle meşru kullanım durumlarına hizmet etmek arasındaki dengeyi sağlamanın kolay olmadığını kanıtlar nitelikte
