Nieuws

Fundatiemodellen begrijpen biologie niet, met risico's voor medische AI

Multimodale LLM's kunnen indrukwekkende medische rapporten genereren, maar begrijpen geen biologie en hallucineren soms biologisch onmogelijke diagnoses. Het artikel waarschuwt voor de gevaren van onbeperkt gebruik van deze modellen in de diagnostiek en introduceert NTD-Assist, een systeem met deterministische morfologiebewakers dat fouten opvangt. De nadruk ligt op het verschil tussen gewone hallucinaties en klinische hallucinaties die patiënten kunnen schaden.