Geçtiğimiz hafta, sosyal medyada yandaki fotoğraf dolanıyordu. Gördüğünüz gibi yapay zeka Barrack Obama’yı, otuzlu yaşlarının başında genç bir beyazla eşleştirmiş. 

Yapılan yorumlarda bu hatanın ileride takviye öğrenme (AI reinforcement Learning) ile düzeleceğinden bahsediliyordu…

Yapay zeka ve yüz tanıma teknolojisinin kat ettiği mesafeyi küçümseyecek değilim elbette. Ancak bana göre, bu fotoğraf yapay zekanın ırkçı sonuçlar üreten veri tabanına güzel bir örnek.

Yüz tanıma teknolojisi bu gün bir çok alanda kullanılıyor. Bence başarısı tartışmalı bir teknoloji. Zira bir yandan, şiddeti önlemeye veya tespit etmeye yardımcı olurken, diğer yandan insanların mahremiyetini etkiliyor. 

Yüz tanıma sistemlerinin bir çok güvenlik açığı bulunuyor. Ama önce, hazır şu Obama fotoğrafı güncelliğini korurken, son günlerde dikkatimi çeken bir konuyu sizinle paylaşmak istiyorum

Geçen günlerde Forbes’da yayınlanan bir yazıda, IBM, Microsoft ve Amazon’un yüz tanıma işinden çıktıklarından bahsedilmiş ve bu tutum akıllıca bir tepki olarak değerlendirilmişti. Çünkü yüz tanıma teknolojisinin kullanımı ile ilgili yasal düzenlemeler çok yetersiz ve bu şirketler yüz tanıma programının içerdiği ön yargı potansiyelinin kolluk kuvvetlerince yanlış değerlendirilmesini istemiyorlar.

Yapay Zeka’nın Irkçı Önyargısı

Bir yüz tanıma programının “önyargılı” olması demek, toplumdaki tüm azınlık gruplarına ait bireyleri doğru tanıyamaması demektir.

Yüz tanıma programına hizmet eden yapay zeka, son derece büyük ve yüksek kaliteli veri setleri ile eğitilir. Özellikle ABD’deki yazılımı eğitmek için kullanılan fotoğraf veri tabanı ezici bir şekilde beyaz yüzlerden oluşur.

Bu durum, azınlıkların yüzlerinin tanınmasını zorlaştırır. Yani Hispanikler’in, Afroamerikanlar’ın ya da Asyalılar’ın yeterli resmi yoksa, yazılım bir yüzü doğru bir şekilde tanımlamakta zorlanır ve Barrack Obama’yı beyaz bir borsacıyla(?) karıştırır.

Ne yazık ki bu karışıklık, eğlenceli sosyal medya gönderilerinden daha önemli sonuçlar doğurabilir. Eğer güvenlik kamerasına yakalanmış bir kişi, azınlık veri kümesine aitse, yanlış tanımlanması ve kolluk kuvvetlerince haksız yere suçlanma olasılığı artar ve o kişinin hayatı kararabilir.

Bu tür bir durum yaşandığında da, kaçınılmaz olarak açılacak bir davada tek hedef zengin teknoloji şirketleri olacaktır. Bu da şirketlerin, yasal olarak sorumlulukları üzerinden atabilecekleri bir yasal düzenleme çıkana kadar, bu işten çekilmelerine yeterli sebeptir.

Güvenlik Açıkları

Yüz tanıma teknolojisiyle ilgili tek problemli taraf, fotoğraf veri tabanının kısırlığı da değil bana göre. Çünkü, yüz tanıma uygulamanın çoğunda bulunduğu iddia edilen derin öğrenme algoritmaları(?) da farklı saldırı türlerine karşı oldukça savunmasız.

Bugün, yüz tanıma sistemleri en yaygın olarak iki uygulamayı içeriyor:

• Bir kişiyi tespit etmeyi amaçlayan ve şu anda CCTV kameralar gibi çeşitli gözetim uygulamalarında kullanılanlar 
• Bir kişinin cep telefonları veya akıllı ev kilitleri gibi biyometrik uygulamalara atıfta bulunarak başarıyla tanınmasını sağlayanlar

Buna bağlı olarak da, iki farklı tür saldırı gerçekleştiriliyor:

• Çeşitli kamuflaj formlarını kullanarak kameraları atlatmaya izin verenler 
• Yüz değişikliklerine, biyometrik sistemlerle ilgili tanıma yazılımının baypasına neden olanlar.

Bu saldırılar sonunda, bilgisayar korsanları elde ettikleri bilgileri, pratik hack araçları geliştirmek, casusluk, sabotaj veya sahtekarlık saldırıları başlatmak için kullanabilirler.

Saldırının nasıl olacağı hedef uygulamayla ilişkilidir. Mesela, hedef uygulama sosyal ağlara yüklenen çevrimiçi fotoğraflar olsun. Saldırganlar, saç rengi veya makyaj değişiklikleri gibi sorumlu piksellerde algılanamaz değişiklikler yapmak için çeşitli teknikler kullanabilir.

Ya da bir saldırganın hedefi fiziksel bir yüz tanıma sistemini kırmaksa, bazı yüzlere yama koymaya çalışabilir. Bu yamalar, güneş gözlüğü, bandana ve yara bandı gibi oldukça gerçekçi de görünebilir. Ve bunları Hongkong gösterilerindeki gibi bir yüzün başka bir yüz gibi görünmesi amacıyla da yapabilirler.

Sosyal Ağ’lara Fotoğraf Yüklerken İki Kere Düşünün

Facebook’un ödediği 550 milyon Dolar’lık ceza, yerleşkelerinin bulunduğu Illinois’deki Biyometrik Bilgi Gizliliği Yasasını ihlal etmekle ilgiliydi. Zira milyonlarca kişiye ait bilgiyi Cambridge Analytica adlı şirkete satıp, Trump’un seçimlerde kazanmasını sağlamışlardı. Buna da “Hilesiz, Algı yönetimi” adı verilmişti.

Yani birisi,

“Çocuğumun fotoğraflarını sadece benim ve ailemin görünümüne açtım. Gizli hesabım var, herşey güvende!” dediğinde,

İçimden şunu söylerken buluyorum kendimi:

“Sen öyle san! Çocuklarının biyometrik gelişim algoritmalarına veri hediye ettin. Onların gelişimini, zaman içinde nasıl insanlar olacağını ve ilerde neler yapabileceklerine ait tahminler yapılabilsin diye gerekli olan verileri her gün ellerinle teslim ediyorsun. Üniversiteye 2049 senesinde kabul edilemeyecek torununun sorumlusu sen olacaksın!”

Birisi,

“Facebook hesabım yok, ama Whatsapp kullanıyorum. Ne yapabilirim, herkes kullanıyor.” dediğinde,

“Sen öyle san, Facebook senin olduğun yüzlerce fotoğraftan seni tanıyor, şimdi kendi bilgisayarından başkasının adına bir Facebook hesabı aç, ve gör bakalım sana önerilen “Bu Kişiyi tanıyor musun?” önermelerindeki kaç kişi tanıyorsun?” demek istiyorum.

Facebook bu bilgileri şans eseri vermiyor elbette. Cep telefonundaki her konuşmamız, her yazışmamız, tüm reaksiyonlarımız kayıt altına alınıyor. Odaları dinlemiyorlar belki, evet. Ama dinlemelerine gerek de yok zaten. “Pattern” dinliyorlar. Yani, odadaki ses yüksekliği ve arada bir 1-2 saniyelik ses kayıtları alıyorlar. Böylece sesinin dokusunu öğreniyorlar.

Herşeyi Facebook üzerinden örneklendirdim ama sizin de bildiğiniz gibi anlattığım mevzular tüm sosyal ağlar ve çevrim içi kullanılan tüm cihazlar ile ilgili. Yoksa hiçbir şirket telefon ve bilgisayar satarak, dijital satış platformu kurarak veya sadece fotoğraf yüklenen ücretsiz bir uygulama yazarak bu kadar büyüyemez!

Elinizdeki akıllı telefonla fotoğraf çekerken yüzümüzü çevreleyen o sarı/yeşil kareyi bilirsiniz. İşte o kare, sizin yüzünüzün vektör datası. Bu data önce telefonunuza, sonra da “istatistik bilgisi” adı altında Google veya Apple’nin sunucularına kaydoluyor.

Bu konu elbette bu kadar değil, gerisi başka bir yazının konusu. Ama söylemek istediğim, belki bu cihazları ve teknolojileri kullanmayı bırakamayız ama en azından, “Anı biriktiriyorum” yalanına sığınıp, başka insanlarda hayranlık uyandırmak için tüm özelimizi sosyal ağlara yüklemekten vazgeçebiliriz.