Sköterskans varning: AI-svar kan bli ett slukhål för patienter

Det var under sommaren som Maria Wahlström Norlin, cancersjuksköterska vid Cancerrådgivningen, först reagerade. En patient vägrade ta sin ordinerade cancermedicin efter att ha läst om en påstådd biverkning på nätet.

“Jag hade aldrig hört talas om den biverkan han pratade om. Han var rädd”, säger hon till Svenska Dagbladet.

Det visade sig att informationen var felaktig och kom från Googles AI-översikt, den sammanfattning som ofta visas högst upp i sökresultaten. Sedan dess har hon och hennes kollegor mött allt fler patienter som blivit felinformerade efter att ha använt AI-baserade söktjänster.

“Det är ett slukhål som underminerar trovärdiga källor, mycket oroande”, säger hon.

Chat GPT för hälsa lanseras

Hon beskriver hur patienter lätt fastnar i de automatiskt genererade följdfrågorna och svaren. Klickar man sig vidare kan informationen bli allt mer osäker, ibland baserad på svårtolkade eller AI-översatta utländska källor.

Utvecklingen stannar inte vid sökmotorer. Open AI har nyligen aviserat att bolaget ska lansera Chat GPT Health, en särskild tjänst för hälsofrågor där användare även kan dela data från hälsoappar och, i USA, medicinska journaler. Det gör Maria Wahlström Norlin skeptisk.

“Man kan hamna snett. Människor kanske inte söker vård fast de borde, de tror att de kan lösa problemet själv, med följd att de söker sig till vården för sent.”