Geçtiğimiz Mayıs ayındaki yazımda yapay zekâ teknolojisini, yapay zekânın tarihçesini, gelişimini ve bize sunduğu fırsatları sizlerle paylaşmıştım. Gelen yorumlar ve sorular üzerine bu ayki yazımda ise yapay zekâ etiği ve bu konudaki hukuki düzenlemeleri ele almak istedim. Tam da bu arada Avrupa Birliği’nde yeni yürürlüğe giren Yapay Zekâ Yasası, bu alandaki ilk örnek olması açısından hepimize temel oluşturdu ve üzerine daha net konuşabileceğimiz doneler verdi.
Daha önceki yazımda da belirttiğim üzere, yapay zekâ sistemleri kurumları; verimlilik, kârlılık, yaratıcılık, müşteri deneyimini geliştirme ve rekabette fark yaratmak gibi alanlarda yeni politikalar geliştirmeye itiyor. Gartner’ın bu alandaki raporu, 2023 yılında YZ uygulamaları kullanan işletmelerin oranının %5’in altında olduğunu vurgularken, 2026 yılına kadar bu oranın %80’in üzerinde olacağını belirtiyor. Ayrıca 2027 yılına kadar temel modellerin doğal dil işleme kullanımlarının %60’ını destekleyeceği tahmin edilirken, 2021 yılında bu oranın yine %5’in altında kaldığını görüyoruz. Bir diğer araştırma ise Goldman Sachs’dan. Araştırmada; YZ’nin yaygın kullanımının, küresel gayrisafi hasılada %7’lik (yaklaşık 7 trilyon ABD Doları) artışa neden olabileceği ve on yıllık dönemde verimlilikte yıllık %1,5’lik bir iyileşme yaratacağı belirtiliyor.
Sunduğu bu fayda ve fırsatlar, YZ’nin popülaritesini her geçen gün daha da artırırken öte yandan, yıkıcı bir teknoloji olmasından kaynaklanan riskleri göz ardı etmemek gerekiyor. Bu noktada teknolojiyi sadece benimsemek yeterli olmazken, ortaya çıkabilecek risklere yönelik önlemleri almak en büyük önceliklerden biri haline geliyor. Aksi takdirde, büyük maddi zararlar yanında gelecekte telafisi mümkün olmayan güven ve itibar kayıplarıyla karşı karşıya kalınabileceğini unutmamak gerekiyor.
Yapay zekâ uygulayıcısı, geliştiricisi ve kullanıcısı olan her işletme, elindeki bu teknolojiyi toplumun faydasına sunma ve kullanma sorumluluğunu taşımalı. Bu sebeplerle, işletmelerin YZ sistemlerini de bu sorumluluk çerçevesinde geliştiilrmesini ve kullanılmasını yöneten ilke, politika ve yasaların oluşturulması insanlığın sürdürülebilir geleceği için büyük önem arz ediyor.
Etik ilkeler, adil ve sorumlu YZ kullanımının temelini oluştururken, YZ’ye güven oluşturmada ve bu güvenin devamlılığını sağlamada kurumlar için belirleyici ve fark yaratan bir unsur olarak kendini gösteriyor.
Avrupa Birliği’nin oluşturduğu ve bu alanda bir ilk olma özelliği taşıyan YZ Yasası’nda belirtildiği üzere, yapay zekânın güvenilir ve etik olmasına yardımcı olacak, bağlayıcı olmayan ancak uygulamada özellikle dikkate alınması önerilen yedi etik ilkenin olduğunu görüyoruz: İnsan kontrolü ve gözetimi; teknik sağlamlık ve güvenlik; gizlilik ve veri yönetişimi; şeffaflık; çeşitliliği gözetme, ayrımcılık yapmama ve adalet; toplumsal ve çevresel refah ve hesap verebilirlik.
Son yayınlanan YZ Yasası ile Avrupa Birliği, YZ teknolojisinin geliştirilmesi ve kullanımı için daha iyi koşullar sağlamayı, YZ sistemlerinin zararlı etkilerine karşı demokrasi, hukukun üstünlüğü dâhil sağlık, güvenlik ve temel hakların korunmasını, şeffaf, izlenebilir, ayrımcılık yapmayan bir yapıda ve çevre dostu olmasını sağlamayı, insan merkezli ve güvenilir bir YZ’nin benimsenmesini teşvik ederken yenilikçiliği de desteklemeyi amaçlıyor. Ayrıca zarar veren sonuçları önlemek için otomasyon yerine insan gözetimini devreye sokmak da yasa ile altı çizilen önemli amaçlardan biri olarak karşımıza çıkıyor.
Yasaya yönelik yayınlanan tüzükte ise dört ana alanda düzenlemeye gidildiğini görüyoruz:
1- YZ sistemlerinin AB içinde pazara sunulması veya hizmete sokulmasına dair uyumlu kuralların oluşturulması,
2- Belirli YZ sistemlerinin yasaklanması,
3- Gerçek kişilerle etkileşimde olması amaçlanan YZ sistemleri, duygu tanıma sistemleri, biyometrik kategorizasyon sistemleri ve görüntü, ses ve video içeriklerinin üretilmesi veya manipülasyonu için kullanılan YZ sistemlerine dair uyumlu şeffaflık kuralları getirilmesi,
4- Pazar izlenmesi ve gözetimine dair kurallar oluşturulması.
Bu dört ana grupta ele alınan düzenlemelerde YZ kaynaklı risklerin “kabul edilemez risk, yüksek risk, spesifik şeffaflık riski ve düşük risk” olarak tanımlandığını görüyoruz.
Kabul edilemez risk: İnsanların temel haklarına yönelik açık bir tehdit olarak değerlendirilen yapay zekâ sistemleri yasaklanacak. Bu kapsamda, insanları davranışlarından dolayı ödüllendiren ya da cezalandıran vatandaş takip sistemleri ya da insan davranışlarını manipüle etmeye çalışan yapay zekâ sistemlerine izin verilmeyecek.Dini, siyasi ya da cinsel kimliklere dayalı bazı biyometrik tanımlama biçimleri ile iş yerlerinde ya da okullarda duygu tespit sistemlerinin kullanılması de yasak kapsamında olacak.Kamuya açık alanlarda (zorunlu yasal gereklilikler hariç) kolluk kuvvetlerinin amaçları doğrultusunda gerçek zamanlı uzaktan biyometrik tanımlama gibi biyometrik sistemleri kullanmaları yasaklanacak. Ancak, örneğin ciddi bir suçtan aranan biri veya bir kaçırma olayı için hedefli bir arama yapılıyorsa, insanları tanımak için yapay zekânın kullanılmasına izin verilebilecek.
Yüksek risk: Su, enerji, yargı, güvenlik, sağlık ve biyometri gibi yaşamsal öneme sahip alanları yönetmek için kullanılan yapay zekâ sistemleri bu kapsamda yer alıyor. Bu alanlarda kullanılan yapay zekâ uygulamaları için risk azaltma sistemleri, yüksek kalitede veri kümeleri, faaliyet günlüğü tutma, ayrıntılı belgeler, net kullanıcı bilgileri, insan gözetimi gibi katı koşullar getirilecek.
Spesifik şeffaflık riski: Kullanıcıların, sohbet robotları gibi yapay zekâ sistemlerini kullanırken bir makineyle etkileşimde bulunduklarının farkında olmaları sağlanacak. Biyometrik sınıflandırma veya duygu tanıma sistemleri içeren uygulamalar konusunda kullanıcıların bilgilendirilmesi gerekecek.
Düşük risk: İnsan hakları ve güvenliği açısından daha düşük düzeyde riske sahip olan yapay zekâ destekli öneri sistemleri veya spam filtreleri gibi uygulamalar, daha esnek kurallara sahip olacak.
1 Ağustos 2024 itibarıyla yürürlüğe giren YZ Yasası’nın kademeli olarak, 2026 yılından itibaren de bütün AB genelinde yürürlüğe girmesi bekleniyor. Dünyada bir ilk olan bu yeni yasal düzenleme; yapay zekâ uygulamalarına karşı “temel hak ve özgürlükleri, demokrasiyi, hukukun üstünlüğünü ve çevreyi” korumayı hedefliyor. Bu çerçevede yasanın uygulanmasının aşamalı olarak gerçekleştirileceğini görüyoruz. Buna göre; 2 Şubat 2025 tarihinde AB devletleri yasaklanmış YZ sistemlerini kaldıracak. 2 Ağustos 2025’te genel amaçlı YZ modelleri için yasada belirlenen yükümlülüklerin yürürlüğe girecek. 2 Ağustos 2026’da yüksek riskli YZ sistemleri için yasada belirlenen yükümlülüklerin devreye alınacak. 2 Ağustos 2027’de ise diğer AB mevzuatına tabi olan yüksek riskli YZ sistemleri için belirlenen yükümlülükler yürürlüğe girecek.
Avrupa Birliği ülkelerinde faaliyet gösteren, YZ uygulamaları geliştiren/piyasaya süren tüm kurumları bağlayan bu düzenlemeler Türkiye’de yerleşik olan, YZ alanında çalışmalar üreten ve bunları AB’de piyasa sunmak isteyen kurum ve kişileri de bağlıyor.
Ülkemizde henüz YZ’ye ilişkin hukuki bir düzenleme bulunmuyor ancak, 2021 yılında yayınlanan ülkemizin ilk ulusal yapay zekâ stratejisinde 2025 yılına kadar ulaşılması hedeflenen, 24 amaç ve 119 tedbir ile desteklenen 6 stratejik öncelikli alan belirlenmiş bulunuyor. Bunları; YZ alanında yetişmiş insan sayısını artırmak, araştırma, girişim ve projeyi desteklemek, kaliteli veriye ve teknik altyapıya ulaşmak, stratejik yapısal ve iş gücü dönüşümünü hızlandırmak, uluslararası iş birlikteliklerini güçlendirmek ve son olarak sosyo ekonomik uyumu hızlandıracak düzenlemeler yapmak olarak sıralayabiliriz.
Umuyorum ki AB’nin yürürlüğe koyduğu bu yasa bizim için de yol gösterici olacak ve kanun koyucular ülkemiz için de en kısa zamanda bir yasa ile yapay zekâ stratejimizi destekleyeceklerdir.
*Ref. TRAI -Kurt&Partners
