ChatGPT’nin Sağlık Tavsiyelerinde Aşırı Kesin Dil Kullanımı Kullanıcı Güvenliğini Riske Atıyor

Openaı chatgpt’yi özellikle sağlık, mevzuat ve teknik ürünlerle ilgili konularda sıkça kullanan bir kullanıcıyım. Ancak sistemin bu riskli alanlarda zaman zaman gereğinden fazla kesin ve yüzde yüz doğruymuş gibi bir dil kullandığını, sonrasında ise hata yaptığını kabul ettiğini deneyimledim. Bu durumun bireysel bir hata değil, kullanıcı güvenliği açısından sistemsel bir risk olduğunu düşünüyorum.

Bugün yaşadığım bir örnekte, “Mide bulantısı için ne kullanılır? ” şeklindeki bir soruya, chatgpt oldukça net ve sanki tıbbi otoriteymiş gibi kesin bir dille ilaç isimleri vererek cevapladı. Örneğin Metpamid (metoklopramid) ve Zofran /Ondansetron gibi ilaçlar listeledi, Emedur’un ise “işe yaramayacağını” belirtti ve bunu da özetleyen, yönlendirici bir dille sundu. Daha sonra bu cevaptaki çelişki ve hatayı belirttiğimde, sistem yanıldığını kabul etti. Yani hem tıbbi bir konuda kendinden çok emin bir dil kullandı hem de hatalı olabildiğini sonradan gösterdi.

Benim asıl endişem, bu örneğin daha kritik bir ilaç, doz ya da sağlık kararıyla ilgili bir konuda yaşanması halinde, kullanıcıların bu kesin ifadeleri uzman görüşü almadan referans alıp yanlış karar verebilme riski taşımasıdır. Sağlık, ilaç, mevzuat veya teknik güvenlik gibi riskli alanlarda, sistemin “emin değilim”, “uzman teyidi gerekir”, “sadece genel bilgilendirme yapabilirim” gibi sınır koyan, ihtimalli ve daha temkinli bir dil kullanması gerektiğini düşünüyorum.

Bu nedenle geri bildirimimi, tekil bir cevap hatasından öte, kullanıcı güvenliği açısından acil geliştirilmesi gereken sistemsel bir konu olarak iletiyorum. Chatgpt’nin, özellikle sağlık ve ilaç alanında, kendini uzman yerine koymayan, kullanıcıyı mutlaka hekim ve ilgili uzmanlara yönlendiren ve kesin hükümlerden kaçınan bir dil politikası geliştirmesini talep ediyorum.