Reçete ile aldığımız birçok ilaç gerçekten sadece hasarlı bölgeyi mi tamir eder, o sırada başka yerlerde hasar yapmaz mı? Yaptığı hasar zamanla mı ortaya çıkar?
İlaçlar piyasaya sürülmeden önce düzenleyici kurumların onayından geçer. Birçoğumuz bu süreçten habersizdir. Binlerce molekül piyasada farklı adlarla sunumlarla pazarlanır. Her sene yeni moleküller onaylanır, kimi hastalıkların yeteri kadar varlıklı müşterisi olmadığından (birey, ırk, toplum, devlet) o konuda ilaç piyasada olmaz. İlaçların neye nasıl iyi geldikleri kısa bir dönem içinde anlaşılabildiği gibi, onlarca sene sonrasında da anlaşılabilir. İlacın ilk kullanıcısı olmak da son kullanıcısı olmak da içinde riskler taşır. Her derda deva olduğu söylenen Aspirin’in 1897’de bulunmasına karşın 1995 tam nasıl çalıştığının anlaşıldığı söylenir.
Bu çeşit buluşların (çözüm önce, teorisi ve açıklaması sonra) neden-sonuç ilişkisinin daha sonra açıklaması zekanın borcunu ödemesi diye adlandırılabilir mi? Neden olduğunu bilmediğimiz ama sorunu çözen çözümlerin nasıl işe yaradığını daha sonra anlarız. Kimi vakalarda zeka bu borcu kısa vadede öder, çözümün altında yatan mekanizmayı açıklar, kiminde ise onlarca yıl alır.
Deneme-Yanılma çözümleri rezervuar mühendisliği problemlerinin çözümünde çok kullandığımız bir yöntemdi, tıbbi çalışmalarda da tedavilerde başvurulan bir yöntem olduğunu da daha sonra dolaylı yollardan öğrendim. Günümüzde ise Yapay Zeka özelinde de makine dili zekamıza yardımcı bir element olarak araştırma dünyasında yerini alıyor. Veri uzayında örüntülerin farkedilmesi ve detaylı irdelenmesi yapay zeka sayesinde hızla gerçekleştirilebiliyor. Bulanık ve ucu açık sorulara bu örüntülerle yanıt aranıyor, bir insanın tıbbi kayıtları üzerinde çalışılarak bu insanın hangi hastalıklara yakalanabileceği, neden ölebileceği tahmin edilmeye çalışılıyor. Bütün bunlar genellikle istatiksel yöntemleri kullanan uygulamalar ile gerçekleştiriyor. Bu uygulamalar neden bazı hastaların daha önce ölebileceğini şimdilik açıklayamıyor, çıkarımları kendilerine verilen veri setleri üzerinden, düşünmüyorlar, sadece bu kişi ne zaman ölebilir sorusuna cevap veriyorlar. Arkasındaki algortimalar ticari gizli olmasa, bu nedenden şu zamanda hastalanacağı saptanmıştır diye açıklama yapılabilir mi? Asprinin hayat kurtaran bir ilaç olduğu konusunda neredeyse herkes hemfikir ama gerçekten tam olarak neler yapar?
İlaçlar insanlar üzerinde denenmesinin ardından piyasaya sürülür ve bir süre sonra bu ilaçların başka etkileri (olumlu-olumsuz) olduğu görülür, ya ilaç terkedilir ya da üretene çok ciddi hukuki ve maddi yaptırımlar gelir. Çözümlerin neyi nasıl sağladıklarının teorisi ile piyasaya geldikleri halde yine de teoriler zaman içinde çökebilir.
Teorisi olmayan her çözüm dünyamızı daha da karmaşıklaştırıyor. Bizden sonra gelen nesillerde ortaya çıkacak bir sorunu da beraberinde getiriyorsa, ya birkaç nesil sonra anomaliler görünürse? Deneme yanılma yöntemleri AI sistemlerine göre daha yavaş ilerler, istatistik gerçekleri saptırma biçimi olarak kullanılabilir. Eğer AI programına istenilen data seti verilirse, olşması istenen sonuçlar da programın pekala çıktısı olabilir.
Örneğin; görüntü işleme programları bundan yıllar önce Sovyetler Birliği üzerinden alınan havalaanı görüntülerinden gerçek uçaklar ile maketleri ayırt etmesi zordu. Günümüzde görüntü işleme programları insan gözünün algılayamadığı sahtecilikleri bile anlar hale geldi. MIT nin LabSix de insan gözüne kedi olarak görünen aslında meyve resmi olan bir çalışmayı gerçekleştirmiş. Google, sinir ağları üzerinde çalışan “Inception” ı görüntü işleme için kullanmaya başlamış. Cilt kanserlerini tanıma konusunda AI epey yol aldı. Bu kadar ilerlemenin ardından mahkemelerdeki hakimlerin yerini de AI alabilir mi diye düşünülse de “hacker” ların bu dünyada hayli faal olduğunu düşününce şimdilik mahkemelere AI giremeyecek gibi görünüyor.
Eğer AI bize yemek mönüsü hazırlarsa deneyebiliriz ama iş sağlığa, teşhise ve tedaviye gelirse izahat olmadan bedenimizi teslim edebilir miyiz?
Bir binaya ek yapmak isterseniz, binanın planlarını belediye götürür onlardan izin alır ve o şekilde binada değişiklik yaparsınız. Orada ticari sır diye bir şey söz konusu değildir, bina kamuyu ilgilendirir. Ya insan ve topluluk analizinde çalışan ticari AI sistemlerine ek yapıldığında?
Sürekli artan AI araştırmaları dünyanın datasını toplayıp sonrasında bunlardan kendileri de data üretiyor, tüm bu data setleri kamuya açılabilir ve herkes üzerinde çalışabilir mi? Bunların birbiri ile bağlantısını makineler araştırarak neden-sonuç ilişkilerini açıklayabilir mi? Binlerce sistemin birbiri ile kontrolsüz ilişkili çalışmaları tahmin edilemez sonuçları da doğurur mu? Geçmiş dönemin finansal çöküşünde robotların nasıl rol aldığını biliyoruz, benzeri durum sağlık sistemlerinde de oluşur mu? İnternet şirketlerinin elindeki veri setleri üniversitelerin araştırmasına açık olandan çok daha fazlası olabilir mi, iş dünyası cevapların arkasında yatan teoriyi bilmeyi ne kadar arzu eder? Zeka borcu akademik midir yoksa iş dünyasını da ilgilendirmeli midir?
AI sistemlerine sağlanmış geniş veri setleri üzerinden kök nedeni anlaşılmadan alınan cevaplar, sebep-sonuç ilişkisi bilinmeden deneme-yanılma ile elde edilen değerler, arkasında birçok bilinmezi de getirir mi? Hayli olgunlaşmış ve nokta atışı yapan AI sistemleri olunca da kaygılanmamız gerekir mi? Yapay zekanın bize verdiği sağladığı yanıtlardan, yönlendirmelerden dolayı kamunun teori ve izah alacağı oluşur mu? Olursa bu borçtan kim sorumlu olur?
AI’ın maliyeti olduğu kadar topluma açıklama borcu da olmalı. Bu borcun bir de kefili olmalı.
