OpenAI, doğruluk endişelerini gerekçe göstererek AI tarafından üretilen metni tespit eden AI Tespit aracını kapatma kararı aldı. 31 Ocak’ta kullanıma sunulan bu araç, kullanıcıların insan tarafından yazılmış metinleri yapay zeka tarafından üretilmiş metinlerden ayırt etmelerine yardımcı olmayı hedeflemişti.
Ancak AI Tespit aracı, insanlar tarafından yazılan metinleri AI tarafından üretilmiş olarak tanımlayabildiği için önemli doğruluk sorunları nedeniyle beklenen performansı gösteremedi.
Yeni bir doğrulama aracı üzerinde çalışılıyor
Şirket, aracı kullanım dışı bıraktıktan sonra daha etkili tespit yöntemleri geliştirme çalışmalarına odaklanıyor. Kullanıcı geri bildirimleri dikkate alınarak ve metin provenansı için daha güvenilir çözümler araştırılarak yeni yaklaşımlar üzerinde çalışılıyor. Ayrıca, kullanıcıların sesli ve görsel içerikleri AI tarafından üretilmiş olup olmadığını belirleyebilecek mekanizmalar geliştirmeyi de hedefliyor.
OpenAI’nin AI Tespit aracı ile yaşadığı zorluklar, yapay zeka teknolojisinin gelişim sürecinde yaşanan sıkıntıları gösteriyor. Bu nedenle, sürekli iyileştirme ve sıkı testlerin yapılması gerekiyor.
