Google, insan yüzleri üreten yapay zeka uygulaması Gemini’yi geçici olarak durdurdu. Bu karar, uygulamanın bazı ırk ve cinsiyet gruplarını doğru bir şekilde yansıtmadığı için eleştirilmesinin ardından geldi.
Gemini, Google’ın yapay zeka araştırma ekibi Google Brain tarafından geliştirilen bir uygulama. Uygulama, kullanıcıların istedikleri özelliklere sahip insan yüzleri oluşturmasına olanak tanıyor. Örneğin, kullanıcılar, saç rengi, göz rengi, cilt tonu, yaş, cinsiyet gibi kriterleri seçerek, gerçek olmayan ama gerçekçi görünen insan yüzleri elde edebiliyorlar.
We're already working to address recent issues with Gemini's image generation feature. While we do this, we're going to pause the image generation of people and will re-release an improved version soon. https://t.co/SLxYPGoqOZ
— Google Communications (@Google_Comms) February 22, 2024
Uygulama, yapay zeka teknolojisi olan Generative Adversarial Networks (GAN) kullanıyor. GAN, iki ayrı yapay zeka modelinin birbirleriyle rekabet etmesine dayanıyor. Bir model, veri setinden öğrendiği bilgilerle yeni veriler üretiyor. Diğer model ise, üretilen verilerin gerçek mi yoksa sahte mi olduğunu anlamaya çalışıyor. Bu süreç, üretilen verilerin kalitesini artırmaya yardımcı oluyor.
Gemini, insan yüzlerini nasıl üretiyor?
Gemini, insan yüzleri üretmek için, internetten toplanan yaklaşık 70 bin yüz fotoğrafından oluşan bir veri seti kullanıyor. Ancak, bu veri setinin çeşitliliği ve temsiliyeti konusunda sorunlar var. Uygulama, bazı ırk ve cinsiyet gruplarını, diğerlerine göre daha az veya daha kötü bir şekilde üretiyor. Örneğin, uygulama, Asyalı veya siyahi kadın yüzleri üretmekte zorlanıyor. Ayrıca, uygulama, cinsiyet kavramını ikili bir şekilde ele alıyor. Hem de interseks, trans veya non-binary gibi farklı cinsiyet kimliklerini göz ardı ediyor.
Bu durum, uygulamanın, ırkçı, cinsiyetçi ve transfobik önyargıları pekiştirdiği ve yapay zekanın etik sorunlarına dikkat çektiği eleştirilerine yol açtı. Google, bu eleştirileri dikkate alarak, uygulamayı iyileştirmek için çalışmalar yaptığını duyurdu. Ayrıca bu süre zarfında uygulamayı kullanıma kapattığını belirtti. Google, uygulamanın ne zaman tekrar kullanıma açılacağı konusunda ise bir bilgi vermedi.
