Sağlıkta Yapay Zekânın Kullanımı ve Riskleri

Sağlıkla ilgili birçok tartışma artık çevrimiçi ortamlarda gerçekleşiyor. Belirli belirtileri araştırmaktan hangi tedavinin daha iyi olduğunu kontrol etmeye, deneyimleri paylaşmaya ve benzer sağlık sorunları olan kişilerden destek bulmaya kadar birçok farklı konuda çevrimiçi platformlar oldukça etkin kullanılıyor.

Yapılan yeni bir araştırma, sağlık alanında giderek artan bir şekilde kullanılan büyük dil modelleri (LLM’ler) kullanılarak cevaplanabilecek soruların olduğunu ancak hala bu sistemlerin tıbbi yanlış bilgilere karşı savunmasız olduğunu gösterdi.

The Lancet Digital Health dergisinde yayımlanan bulgulara göre, önde gelen yapay zekâ sistemleri, gerçek tıbbi dil kullanıldığında yanlış sağlık bilgilerini yanlışlıkla tekrarlayabiliyor.

Araştırma, bu sistemlerin hala yanlış bilgi yayabileceğini gösterirken, sağlık hizmetlerinde kullanılmadan önce güvenlik önlemlerinin güçlendirilmesi gerektiğine işaret etti.

Araştırmacılar, yapay zekânın kullanıcılarına hızlı bir şekilde bilgi sağlayabileceğini ve destek olabileceğini ancak tıbbi iddiaların doğruluğunu kontrol etmeden önce güvenlik önlemlerinin alınması gerektiğini belirtti. Araştırmacılar, “Model yerleşik güvenlik önlemlerine ihtiyaç duyar, aksi takdirde yanlış bilgiler yayılabilir” dedi.