ChatGPT’nin Sağlık Bilgisi Verme Yeteneği Tehlikeli Olabilir: Bromizm Vakası

Yapay Zeka ve Sağlık Bilgisi: Bir Uyarı

Bir ABD tıp dergisi, bir adamın ChatGPT ile yaptığı bir etkileşim sonrası nadir bir hastalığa yakalanmasının ardından yapay zekanın sağlık bilgisi sağlama konusundaki tehlikelerine dikkat çekti. Annals of Internal Medicine dergisinde yayımlanan bir makaleye göre, 60 yaşındaki bir erkek hasta, tuz alımını azaltma hakkında ChatGPT’den bilgi aldıktan sonra bromizm (bromür zehirlenmesi) geliştirdi.

Bromizm Nedir ve Neden Oluşur?

Makalede bromizm, 20. yüzyılın başlarında tanınan bir sendrom olarak tanımlanıyor ve o dönemde psikiyatrik hastaneye yatışların yaklaşık %10’unu etkilediği belirtiliyor. Bu hastanın, sodyum klorür hakkında olumsuz bilgiler edindikten sonra diyetinden klorürü çıkarmak için ChatGPT’ye danıştığı bildiriliyor. Adam, bu sürede sodium bromide alımına başladı.

Yanlış Bilgi ve Potansiyel Riskler

Hastanın doktorları, hastanın ChatGPT ile yaptığı konuşmaları inceleyemedikleri için aldıkları tavsiyelerin niteliğini belirleyemediler. Ancak, makale yazarları kendi ChatGPT etkileşimlerinde benzer sonuçlar aldıklarını, yanıtın bromür önerdiğini ve ciddi sağlık uyarıları yapmadığını ifade ettiler.

Sağlıkta Yapay Zeka Kullanımı ve Tehditler

University of Washington’dan gelen bu makalede, yapay zeka uygulamalarının yanıltıcı sağlık bilgileri üretebileceği ve yanlış bilgilendirmeyi teşvik edebileceği vurgulanıyor. Yazarlar, ChatGPT’nin ilk yanıtlarının arasında sodyum bromür önerilmesinin, bir tıbbi uzmanın önerdiğinden çok daha az dikkatli olduğunu belirtiyor.

Kullanıcıların Bilgiyi Nereden Aldığına Dikkat

Dergi, yapay zekanın bilim insanları ile halk arasında bir köprü olabileceğini kabul ederken, aynı zamanda "bağlamdan kopuk bilgi" yayma tehlikesinin de mevcut olduğunu ifade etti. Bu durum, sağlık profesyonellerinin hastalarını bilgilendirirken yapay zekaya dayanan bilgilerin kaynağını sorgulamaları gerektiğini gösteriyor.

Hasta Durumu ve Sonuçları

Bromizm sendromu yaşayan hasta, hastaneye başvurduğunda komşusunun kendisini zehirlediğini iddia ediyordu. Kurban, çeşitli diyet kısıtlamalarının yanı sıra su konusunda da paranoyak davranışlar sergiliyordu. Hastane sürecinin ardından, yüzünde akne, aşırı susuzluk ve uykusuzluk gibi bromizm belirtileri ortaya çıktı.

Sonuç Olarak

Bu vakalar, tıbbi yapay zeka uygulamalarının ne denli dikkatle ele alınması gerektiğini gösteriyor. Teknolojinin sağladığı kolaylıkların farkında olmakla birlikte, kesinlikle bir sağlık uzmanı ile görüşmenin yerini tutmayacağı unutulmamalıdır. Özellikle halk sağlığını etkileyebilecek yanlış bilgi akışına karşı dikkatli olunması elzemdir.

Yapay zeka uygulamaları sağlık alanında güçlü bir araç olabilir, fakat dikkat edilmediği takdirde potansiyel olarak tehlikeli sonuçlar doğurabilir. Bu olay, hem bireylerin hem de sağlık profesyonellerinin güvenilir bilgi kaynaklarına yönelmelerinin önemini bir kez daha hatırlatıyor.