Nieuws

AI-systemen van artsen hallucineren niet-bestaande medische problemen tijdens consulten

De auditor-generaal van Ontario waarschuwt dat AI-schrijfsystemen voor medische notities niet adequaat zijn geëvalueerd en verzonnen informatie kunnen bevatten. Uit een audit van 20 goedgekeurde leveranciers bleken alle systemen onnauwkeurigheden te vertonen, zoals hallucinaties en ontbrekende of foutieve informatie. Hoewel de hallucinaties tijdens testen zijn waargenomen, worden de systemen al gebruikt door zo'n 5.000 artsen. Ook in de VS staat het AI-systeem OpenEvidence onder vuur vanwege hallucinaties en onvolledige antwoorden.