Yapay zeka sıhhatimizi tehdit mi ediyor? Tavsiyelerinin yarısı sıkıntılı

Günümüzde bilgiye ulaşmanın en süratli yolu haline gelen yapay zeka tabanlı sohbet botları, sıhhat ve tıp hususlarında önemli bir güvenilirlik sınavıyla karşı karşıya.

BMJ Open mecmuasında yayımlanan kapsamlı bir çalışma; kanserden aşılara, beslenmeden atletik performansa kadar 50 farklı tıbbi soruyu beş farklı yapay zeka modeline yöneltti. Uzmanların değerlendirmeleri, dijital asistanların sıhhat tavsiyelerinde ne kadar “tehlikeli” olabileceğini gözler önüne serdi.

KAYNAKLAR BÜSBÜTÜN “UYDURMA” ÇIKTI

Araştırma kapsamında incelenen sohbet botlarının hiçbirinin büsbütün yanlışsız bir referans listesi sunamadığı saptandı. Yapay zekanın sağladığı kaynakçaların büyük bir kısmında; yanlış müellif isimleri, çalışmayan web irtibatları ve hatta büsbütün uydurulmuş akademik makaleler yer aldı. Bilimsel bir data üzere sunulan bu bilgilerin, aslında lisan modellerinin söz kestirim istatistiklerinden ibaret olduğu vurgulandı.

EN KUSURLUSU GROK, EN ÇOK BESLENME KONUSUNDA YANILIYORLAR

Platformlar ortası performans karşılaştırmasında dikkat cazip sonuçlar elde edildi:

Grok: %58 yanılgı oranıyla listenin sonunda yer aldı.

ChatGPT: %52 kusur oranıyla ikinci sırada.

Meta AI: %50 yanılgı oranıyla üçüncü sırada.

Özellikle beslenme ve atletik performans üzere internette bilgi kirliliğinin ağır olduğu alanlarda, yapay zekanın yanılgı hissesinin tepe yaptığı kaydedildi.

AÇIK UÇLU SORULAR RİSKİ KATLIYOR

Çalışmada, yapay zekanın “doğru mu, yanlış mı?” biçimindeki kapalı uçlu sorularda nispeten başarılı olduğu görülürken; kullanıcıların günlük hayatta sıkça sorduğu açık uçlu sorularda kusur hissesinin %32 oranında “yüksek derecede sorunlu” olduğu tespit edildi.

“DOKTOR OLARAK KABUL EDİLEMEZ”

Uzmanlar, bu modellerin gerçek bir bilgi birikimine sahip olmadığını, yalnızca eğitim bilgilerindeki (forumlar, toplumsal medya, makaleler) istatistiksel olasılıklara nazaran söz seçtiğini hatırlatıyor. Nature Medicine mecmuasında yayımlanan bir öteki çalışma da bu durumu destekliyor: Yapay zeka kendi başına %95 hakikat cevap verebilse de, bir kullanıcı ile etkileşime girdiğinde yanlışsız bilgiye ulaşma oranı yüzde 35’e kadar geriliyor.

Bilim insanları, yapay zekanın yalnızca karmaşık bahisleri özetlemek yahut doktora sorulacak soruları hazırlamak için bir “yardımcı” olarak kullanılabileceğini; asla tek başına bir tıbbi otorite yerine konulmaması gerektiğini değerle vurguluyor.