Havayolu şirketi, chatbotunun yolcuya kötü tavsiyeler vermesinden sorumlu tutuldu
Yapay zeka seyahatleri yeniden şekillendiriyor, ancak Air Canada’nın chatbotuyla ilgili yakın tarihli bir vaka, yapay zeka destekli müşteri hizmetlerinin potansiyel tehlikelerini gözler önüne seriyor. 2022 yılında Air Canada’nın chatbotu, yolcu Jake Moffatt’a hatalı bir şekilde indirim sözü vererek, büyükannesinin cenazesi için tam ücretli bir uçuş rezervasyonu yapabileceğini ve daha sonra yas ücreti için başvurabileceğini söyledi.
British Columbia Sivil Çözüm Mahkemesi tarafından verilen karara göre, Moffatt daha sonra indirim için başvurduğunda, havayolu şirketi talebin uçuştan önce yapılması gerektiğini belirterek reddetti. Air Canada ayrıca chatbot’un “kendi eylemlerinden sorumlu ayrı bir tüzel kişilik” olduğunu savundu. Havayolu, Moffatt’ın doğru uygulamayı görmek için chatbot tarafından sağlanan bağlantıyı takip etmesi gerektiğini savundu.
Mahkeme Air Canada’nın savunmasını reddederek, havayolunun Moffatt’a 812,02 $ (642,64 £) tazminat ve ücret ödemesi gerektiğine karar verdi. Mahkeme üyesi Christopher Rivers, “Air Canada’nın ister statik bir sayfadan ister bir chatbottan olsun, web sitesindeki tüm bilgilerden sorumlu olduğu açık olmalıdır” dedi.
Hava Yolcu Hakları savunma grubu başkanı Gabor Lukacs, davayı şirketlerin yapay zekalarının eylemlerinden sorumlu olduğunun altını çizen dönüm noktası niteliğinde bir karar olarak nitelendirdi. Lukacs, “Eğer işinizin bir bölümünü yapay zekaya devrediyorsanız, onun yaptıklarından siz sorumlusunuz” dedi.
Air Canada yapay zeka ile ilgili sorunlarla karşılaşan tek şirket değil. 2018 yılında WestJet’e ait bir chatbot, bir yolcuyu yanlışlıkla intihar önleme hattına yönlendirmişti. YZ’nin yanlış veya saçma bilgiler verdiği bu tür hatalar “YZ halüsinasyonları” olarak adlandırılıyor. Havayollarının ötesinde, Expedia’nın 2023’te seyahat planlaması için bir ChatGPT eklentisi başlatması gibi büyük seyahat şirketleri de YZ’yi giderek daha fazla entegre ediyor.
Lukacs, bu kararın havayolu hesap verebilirliği ve YZ’ye güven için geniş etkileri olacağına inanıyor. Havacılık uzmanı Marisa Garcia, chatbot bilgilerine tam olarak güvenemeyecekleri için yolculara temkinli olmalarını tavsiye ediyor. Havayollarının müşteri hizmetleri aksaklıklarını önlemek için YZ araçlarını iyileştirmesi gerektiğini vurguluyor.
