Nieuws

Hoe AI kan leiden tot ongegronde arrestaties en onschuldige veroordelingen

In Baltimore en Tennessee zijn er recente gevallen waarin AI-systeemen leidden tot ongegronde arrestaties en veroordelingen. Een AI-gebaseerd surveillancecamera identificeerde verkeerd een Doritos zak als een wapen, wat leidde tot een gewapende arrestatie. In Tennessee werd een oma onschuldig vrijgelaten na vijf maanden gevangenschap vanwege een fout in het gezichtsherkenningssysteem. Deze gevallen tonen aan dat AI-systeemen waarschijnlijkheden genereren, maar vaak worden deze als zekerheden behandeld, wat leidt tot ernstige gevolgen voor individuen.