Nieuws

Amerikaanse leger gebruikte AI om duizenden doelen te selecteren, maar miste een notitie dat een ervan een school was

Een onderzoek naar een raketaanval op een Iraanse school legt ernstige tekortkomingen bloot in de targeting-infrastructuur van het Amerikaanse leger. Een analist had de verandering van militair object naar school al in 2019 gemarkeerd, maar het systeem was niet gekoppeld aan de centrale doeldatabase. AI, waaronder Anthropic's Claude via Palantir's Maven Smart System, werd gebruikt om duizenden doelen te selecteren, maar de menselijke controle faalde. De gepensioneerde generaal Jack Shanahan, een pionier van AI in het leger, noemt de fout onvergeeflijk.