Vdekja e një 31-vjeçareje në Shtetet e Bashkuara ka rikthyer debatin mbi rreziqet e përdorimit të inteligjencës artificiale për këshilla mjekësore. Bowen Wan u gjet e pajetë në shtëpinë e saj në Seattle, në shkurt të këtij viti, ndërsa familja pretendon se ajo kishte ndjekur udhëzimet e ChatGPT për të ndërprerë gradualisht ilaçet kundër epilepsisë, pa u konsultuar me mjekun.
Prindërit e saj kanë ngritur një padi kundër kompanisë OpenAI, duke pretenduar se këshillat e dhëna nga sistemi i inteligjencës artificiale kanë ndikuar në vendimin e vajzës së tyre. Megjithatë, përgjegjësia e kompanisë dhe lidhja shkakësore mes këshillave dhe vdekjes mbeten pretendime që duhet të shqyrtohen në procesin gjyqësor.
Rasti ka nxitur reagimin e ekspertëve, të cilët paralajmërojnë se përgjigjet e inteligjencës artificiale, edhe kur duken bindëse, nuk mund të zëvendësojnë vlerësimin e një mjeku.
Një studim i Universitetit të Oksfordit, i publikuar në revistën shkencore Nature Medicine, tregoi se modelet e inteligjencës artificiale identifikonin saktë gjendjet mjekësore në 94.9% të rasteve kur testoheshin drejtpërdrejt. Por kur 1,298 qytetarë përdorën këto mjete për të vlerësuar skenarë shëndetësorë, saktësia ra nën 34.5%.
Sipas studiuesve, problemi qëndron te fakti se përdoruesit shpesh nuk dinë çfarë informacioni duhet të japin dhe nuk janë gjithmonë në gjendje të dallojnë një përgjigje të saktë nga një e gabuar.
Neurologu grek Stergios Gatzonis thekson se inteligjenca artificiale mund të ofrojë informacion, por nuk mund të kryejë ekzaminime apo të marrë parasysh të gjithë historinë klinike të pacientit. Ai paralajmëron se vetëdiagnostikimi mund të shkaktojë ankth të panevojshëm ose, në të kundërt, të krijojë një ndjenjë të rreme sigurie, duke vonuar trajtimin mjekësor.
Ekspertët kërkojnë kontrolle më të forta sigurie për sistemet e inteligjencës artificiale, veçanërisht kur përdoruesit kërkojnë udhëzime për ndryshimin e dozave apo ndërprerjen e barnave.
