AI in zorg en medische regulering

Uit onderzoek van Carnegie Mellon University blijkt dat de prestaties van LLM's in de gezondheidszorg sterk verschillen tussen evaluatie en daadwerkelijke inzet. Een studie vond een verschil van 61 procentpunt in nauwkeurigheid. De onderzoekers stellen dat dit komt door impliciete aannames in evaluatieprotocollen en introduceren BenchmarkCards om deze aannames expliciet te maken. Het raamwerk helpt praktijkmensen te bepalen wanneer benchmarkresultaten overdraagbaar zijn naar de praktijk.

Siemens Healthineers neemt deel aan het nationale AI4Health-programma met een bijdrage van zes miljoen euro voor een landelijke data-infrastructuur en AI-toepassingen in vijftien ziekenhuizen. Afas integreert juridische en fiscale AI-kennis in assistent Jonas via een samenwerking met Lefebvre Sdu. Uit onderzoek van Framna blijkt dat AI-apps in Nederland snel groeien, maar het vertrouwen van gebruikers achterblijft. In Amsterdam opent in september de AI-hub The Stack, mede opgericht door Nederlandse AI-ondernemers.

OpenAI heeft ChatGPT's gezondheidsmogelijkheden verbeterd met het GPT-5.5 Instant model. In eigen tests scoort het model hoger dan antwoorden van artsen op nauwkeurigheid, duidelijkheid en volledigheid. De foutenfrequentie is met 71 procent gedaald. Meer dan 230 miljoen mensen gebruiken ChatGPT wekelijks voor gezondheidsvragen.

Twee studies in Nature tonen aan dat gespecialiseerde AI-systemen zoals MIRA en AMIE in gesimuleerde patiëntgevallen even goed of beter presteren dan artsen bij diagnose en behandelbeslissingen. Beide systemen draaien op verouderde basismodellen; Google's AMIE verloor zijn voordeel met nieuwere modellen. De onderzoekers benadrukken dat de resultaten uit simulaties komen en niet direct naar de praktijk vertaalbaar zijn.

Midjourney heeft in samenwerking met Butterfly Network een full-body echografie-scanner ontwikkeld en is van plan een eigen spa te openen in San Francisco tegen eind 2027. De scanner maakt binnen 60 seconden een stralingsvrije 3D-lichaamsbeeld met behulp van AI. Het bedrijf streeft naar meer dan 50.000 scanners wereldwijd tegen 2031.

Midjourney, het AI-bedrijf bekend van zijn beeldgeneratieplatform, kondigt Midjourney Medical aan met een full-body scanner die in 60 seconden gedetailleerde beelden maakt met behulp van echografie en AI-analyse. Daarnaast opent het in 2027 een spa in San Francisco waar bezoekers scans kunnen ondergaan als onderdeel van wellnessbezoeken. Het bedrijf streeft ernaar wereldwijd 50.000 scanners te plaatsen tegen 2031.

OpenAI heeft GPT-5.5 Instant geïntroduceerd, een update die ChatGPT's gezondheids- en welzijnsresponsen verbetert. De update biedt sterker redeneren, betere context, duidelijkere communicatie en evaluaties die zijn getoetst door artsen.

Indiase ziekenhuizen schakelen massaal over op AI, met name in diagnostiek en administratieve processen. AI in de radiologie en pathologie vermindert diagnostische fouten van 22% naar 12%, aldus een studie. De AI-markt in de Indiase gezondheidszorg wordt geschat op $1,6 miljard en zal naar verwachting groeien naar $34 miljard halverwege de jaren 2030.

Onderzoekers hebben een OpenAI-reasoningmodel gebruikt om artsen te ondersteunen bij het diagnosticeren van zeldzame genetische ziekten bij kinderen. In voorheen onopgeloste gevallen werden 18 nieuwe diagnoses gesteld.

Midjourney, het AI-lab achter de populaire beeldgenerator, heeft tijdens een livestream een full-body echografiescanner aangekondigd, de Midjourney Scanner. Het apparaat gebruikt ultrasoon geluid, is stralings- en magneetvrij, en moet snelle en goedkope lichaamsbeelden mogelijk maken. Daarnaast opent Midjourney een spa in San Francisco waar de scanner wordt geïntegreerd. Het prototype maakt nog geen gebruik van AI, maar AI moet later helpen bij beeldreconstructie en diagnose.

Uit onderzoek gepubliceerd in 'Nature' blijkt dat AMIE, een conversationeel AI-systeem van Google, in staat is om complexe ziektemanagement even goed uit te voeren als huisartsen. Het systeem maakt gebruik van de lange contextmogelijkheden van Gemini-modellen en combineert een empathische dialoogagent met een diepdenkende redeneeragent. In een geblindeerde studie met patiëntacteurs scoorde AMIE even hoog op algemeen managementredeneren en significant hoger op planprecisie en richtlijnnaleving. Google onderzoekt nu de inzet van AMIE in klinische settings en is een landelijke studie gestart.

Gleb Tsipursky beschrijft hoe een door hemzelf gebouwde AI-gezondheidstool hem hielp bij het diagnosticeren van een diepveneuze trombose (DVT) nadat zijn chiropractor de klachten als spierprobleem had afgedaan. De AI wees op de noodzaak van een echografie, waarna vier stolsels in zijn been werden gevonden. Tsipursky benadrukt dat AI geen vervanging is voor artsen, maar dat samenwerking tussen artsen en AI levensreddend kan zijn. Hij pleit voor regulering en klinisch toezicht op AI in de gezondheidszorg.

Een 32-jarige Braziliaanse vrouw, Rebeca Cardoso Tenente Molina, overleed nadat een door AI aangestuurd beddenplaatsingssysteem haar vijf dagen liet wachten op een IC-bed. Haar familie stelt dat het systeem van het State Regulation Operations Center (Core-MG) een te lage score toekende, waardoor de transfer werd vertraagd. De artsen verloren hun autonomie om de ernst van de patiënt te beoordelen, aldus de zus van Molina.

Het adoptieprobleem van AI in de gezondheidszorg is geen technologieprobleem maar een vertrouwensarchitectuurprobleem. Dit artikel presenteert een raamwerk met vijf vertrouwensstadia, gebaseerd op onderzoek en praktijkervaring. Technieken zoals RAG-pipelines, RLHF-lussen, uitlegbare AI en multi-agent systemen worden besproken om AI systemen te bouwen die klinisch vertrouwen verdienen.

Onderzoekers van de Universiteit van Cambridge hebben een machine learning-model gebruikt om een nieuw vaccin te ontwerpen dat bescherming biedt tegen een hele familie van menselijke coronavirussen. Het vaccin, dat als eerste door AI is ontworpen en bij mensen is getest, bleek veilig en activeerde het immuunsysteem. De resultaten zijn veelbelovend, maar het ging om een kleine studie met 39 deelnemers.

Apple en Samsung richten zich op het gebruik van AI om glucosedata van continue glucosemonitors te interpreteren. De concurrentie verschuift van sensoren naar software die de data omzet in gepersonaliseerd advies. Oura en Dexcom tonen hoe deze aanpak eruit kan zien door glucose-inzichten te combineren met slaap- en activiteitsdata.

Google-onderzoekers publiceerden twee studies over AI voor huidcondities. In een grootschalige studie in JAMA Dermatology vonden ze dat AI-assistentie de nauwkeurigheid van het benoemen van huidaandoeningen bijna verdrievoudigde, maar het bepalen van de juiste volgende stappen nauwelijks verbeterde. Een kwalitatieve studie met diverse deelnemers toonde aan dat een AI-app gebruikers hielp hun aandoening te benoemen en werd gewaardeerd door clinici.

Onderzoekers van de Universiteit van Cambridge hebben een nieuw type vaccin ontwikkeld dat volledig door AI is ontworpen. Het vaccin richt zich op de sarbecovirusfamilie en werd voor het eerst bij mensen getest, waarbij het veilig bleek en goed werd verdragen. De AI analyseerde genetische gegevens van duizenden verwante virussen om stabiele kenmerken te identificeren, met als doel een breedspectrumvaccin dat bescherming biedt tegen meerdere varianten en toekomstige pandemieën kan voorkomen.

Het Medical Protection Society (MPS) waarschuwt dat artsen en de NHS aansprakelijk kunnen worden gesteld voor medische fouten veroorzaakt door AI-tools bij diagnose en behandeling. Onder de huidige wetgeving kunnen clinici aansprakelijk worden gehouden, zelfs als de AI de fout maakte. De MPS roept op tot wetswijziging om AI als product te classificeren, zodat de verantwoordelijkheid bij de ontwikkelaars ligt.

Google heeft een systeem ontwikkeld dat met de selfiecamera van je smartphone en lokale AI je hartslag kan meten. Het AI-model is getraind met meer dan 350 duizend video's van verschillende huidskleuren. De functie, genaamd Passive Heart Rate Monitoring, analyseert veranderingen in de huid tijdens het ontgrendelen van de telefoon. Momenteel is de functie nog in de onderzoeksfase en nog niet beschikbaar op Android.

Een onderzoeker van Carnegie Mellon legt uit hoe mensen AI-chatbots vertrouwen en wat een nieuwe rechtszaak in Pennsylvania onthult over de gevaren van AI. De zaak betreft een chatbot die ten onrechte een medische licentie claimde.

AI-gestuurde hersenscans worden steeds vaker gebruikt om chronische pijn objectief te meten, maar onderzoekers waarschuwen dat deze techniek onbetrouwbaar en discriminerend is. De pijndetectie werkt niet zoals een leugendetector, omdat pijn subjectief is en afhankelijk van context. Experts pleiten ervoor het idee van een objectieve pijntest te laten varen.

Het wereldwijde zorgpersoneelstekort dreigt op te lopen tot 11 miljoen werknemers in 2030, waarschuwt de WHO. Zorginstellingen zetten steeds vaker in op agentische AI om administratieve taken te automatiseren en klinische beslissingen te ondersteunen. Het Hospital for Special Surgery in New York gebruikt AI-agenten voor verzekeringsclaims en een triage- en afsprakenservice, ontwikkeld met Ema Unlimited, die 24/7 beschikbaar is en patiënten doorverwijst naar de juiste specialist. Volgens KPMG heeft 68% van de zorgaanbieders al AI-agenten in hun werkproces opgenomen.

Amazon Quick Research integreert biomedische databases zoals PubMed met behulp van grote taalmodellen (LLM's) om onderzoeksrapporten met citaten te genereren. De dienst helpt onderzoekers bij het combineren van gestructureerde en ongestructureerde data uit meerdere bronnen voor snellere ontdekkingen. Het artikel beschrijft een stapsgewijze workflow voor het onderzoeken van pediatrische sarcomen met behulp van de nieuwe functie van Amazon Quick.

Boston Children's Hospital gebruikt OpenAI-technologie om de patiëntenzorg te verbeteren, de operationele last te verminderen en meer dan 40 zeldzame ziektes te diagnosticeren.

Uit een artikel van Analytics India Magazine blijkt dat werknemers openstaan voor het delen van gezondheidsdata voor AI-gestuurde zorg, maar privacyzorgen blijven een obstakel. Healthtechbedrijven zoals ekincare gebruiken AI om medische rapporten te analyseren en persoonlijke aanbevelingen te doen, maar vertrouwen op toegang tot gevoelige informatie. Onderzoeken tonen aan dat een aanzienlijk deel van de werknemers terughoudend is om gegevens met hun werkgever te delen, mede door datalekken en gebrek aan transparantie.

Google DeepMind-CEO Demis Hassabis voorspelt dat AGI rond 2030 werkelijkheid wordt, met nog enkele openstaande uitdagingen zoals natuurkunde, geheugen en continu leren. In een exclusief interview met The Rundown AI benadrukt hij de focus op oncologie en immunologie voor AI-gestuurde medicijnontdekking. Na AGI wil hij zich richten op het begrijpen van de aard van de werkelijkheid en filosofische vragen over menselijkheid.

In 2026 verbinden AI-agenten de data van medische apparaten met farmaceutische processen, wat de markttoegang versnelt en veiligheidsmonitoring verbetert. Ze reduceren verwerkingstijd van maanden naar weken en verminderen fouten.

Organisaties in de gezondheidszorg kunnen met deze methodologie bepalen welke AI-ideeën de moeite waard zijn om te bouwen. Het consultatieproces loopt van domeinontdekking tot de implementatie van een multi-agent architectuur. De auteur biedt praktische inzichten voor het evalueren van agentic AI use cases.

Traditionele AI in de zorg werkt in isolatie en lost problemen als coördinatie en administratieve last niet op. Agentic AI kan daarentegen denken, plannen en coördineren over patiëntenzorg en administratie heen. Het artikel vergelijkt de twee benaderingen en legt uit waarom zorgorganisaties de overstap naar agentic AI zouden moeten overwegen.

AI transformeert de gezondheidszorg door consultancy, van medicijnontdekking tot operationele optimalisatie. Volgens ZS's Future of Health-rapport groeit AI van experiment naar operationele vereiste, mede door toenemende vraag en personeelstekorten. Consultancyteams combineren AI-inzichten met domeinexpertise om strategieën te ontwikkelen die wetenschap, regelgeving en patiëntbehoeften in balans brengen.

Het kabinet overweegt de zorgsector onder de Wet veiligheidstoets investeringen fusies en overnames (Wet vifo) te laten vallen om ongewenste buitenlandse overnames te voorkomen. Minister Mirjam Sterk kondigde aan dat kunstmatige intelligentie, biotechnologie en nucleaire technologie voor medisch gebruik onder de uitbreiding vallen. Zorginstellingen moeten voor 20 februari 2027 voldoen aan de NEN 7510-norm voor informatiebeveiliging. In de zorg wordt veel verwacht van AI, met focus op spraakgestuurde rapportage en capaciteitsplanning.

Amazon Nova Act is nu HIPAA-gecertificeerd, waardoor het ingezet kan worden in zorgomgevingen met elektronische beschermde gezondheidsinformatie (ePHI). Het stelt organisaties in staat om browsergebaseerde AI-agents te gebruiken voor het automatiseren van zorgworkflows zoals claimverwerking en verwijzingscoördinatie.

Glucosemonitoring gaat verder dan diabeteszorg, doordat continue glucosemonitoren (CGMs), AI-platforms en draagbare sensoren gepersonaliseerde gezondheidsdata en welzijnstools hervormen.

AdventHealth gebruikt ChatGPT for Healthcare om workflows te stroomlijnen en administratieve last te verminderen, waardoor meer tijd aan patiëntenzorg kan worden besteed.

Zeer accurate AI-modellen voor medische beeldanalyse falen vaak in de praktijk door het aanleren van shortcuts. Dit artikel beschrijft een complete pipeline in PyTorch voor Alzheimer-classificatie op MRI-scans met ResNet18 en Grad-CAM om te verifiëren of het model naar de juiste anatomie kijkt. De tutorial benadrukt dat interpretatie minstens zo belangrijk is als nauwkeurigheid.

Multimodale LLM's kunnen indrukwekkende medische rapporten genereren, maar begrijpen geen biologie en hallucineren soms biologisch onmogelijke diagnoses. Het artikel waarschuwt voor de gevaren van onbeperkt gebruik van deze modellen in de diagnostiek en introduceert NTD-Assist, een systeem met deterministische morfologiebewakers dat fouten opvangt. De nadruk ligt op het verschil tussen gewone hallucinaties en klinische hallucinaties die patiënten kunnen schaden.

In een reeks ingezonden brieven aan The Guardian wijzen lezers op de teloorgang van de huisartsenzorg als reden waarom mensen AI-chatbots voor medisch advies raadplegen. Patiënten ervaren een gebrek aan continuïteit en zien chatbots als een voorspelbaar en altijd beschikbaar alternatief. Ook artsen gebruiken steeds vaker ongereguleerde AI-tools. Experts pleiten voor regulering van AI in de zorg om een 'schaduw-AI-economie' te voorkomen.

Stellantis gaat met Accenture en Nvidia digital twins en AI inzetten om productieprocessen te verbeteren. Dell kondigt nieuwe AI-producten aan voor schaalbaarheid in productieomgevingen, waaronder Dell Deskside Agentic AI. Ditto haalt 7,6 miljoen euro op voor zijn AI-zorgapp die medische gesprekken samenvat.

De bouw van een intelligent RAG-systeem voor de gezondheidszorg dat gesprekken tussen patiënt en arts semantisch begrijpt. Het systeem gebruikt Qdrant, QQL en Agno voor vectoropslag, declaratieve retrieval en agentische orkestratie. Technieken zoals HNSW-tuning en MMR-reranking worden toegepast om de kwaliteit van de semantische zoekopdrachten te verbeteren.

Veel medische data blijft opgeslagen in ongestructureerde formaten zoals PDF's en faxen, waardoor clinici kostbare tijd verliezen aan handmatige verwerking. AI-pipelines met OCR, NLP en LLMs kunnen deze data structureren en omzetten in actiegerichte inzichten. Een mens-in-de-lus-laag waarborgt de benodigde nauwkeurigheid voor veilige toepassing in de zorg.

Psychiater Dr. Hemlata Ranga in Melbourne eist van nieuwe patiënten dat zij toestemming geven voor AI-transcriptie tijdens sessies, anders worden ze doorverwezen naar een andere zorgverlener. Het gebruik van AI-scribes zoals Heidi Health AI en Microsoft neemt snel toe in de medische sector, maar roept zorgen op over privacy, databeveiliging en nauwkeurigheid. Patiëntenorganisaties bekritiseren de machtsongelijkheid en pleiten voor strengere regelgeving.

Een ziekenhuis dat OpenAI's AI inzette voor klinische documentatie kreeg een boete van $1,5 miljoen nadat een OCR-onderzoek aantoonde dat het geen gedetailleerde logboeken bijhield van welke patiëntgegevens de AI had benaderd. OpenAI bewaart misbruiklogs slechts 30 dagen, terwijl HIPAA een bewaartermijn van 6 jaar vereist met identificatie van patiënten. Het ziekenhuis had alleen algemene API-logboeken zonder patiëntgegevens, waardoor het niet kon bewijzen dat de AI alleen geautoriseerde dossiers raadpleegde.

Uit een onderzoek van voormalig Wall Street Journal-columnist Joanna Stern blijkt dat tandartsen AI-systemen zoals Pearl AI gebruiken om patiënten onnodige dure behandelingen aan te smeren. Stern kreeg zelf een aanbeveling voor parodontale behandeling op basis van AI, maar meerdere andere tandartsen vonden dat niet nodig. Medewerkers van tandartspraktijken bevestigen dat bazen hen onder druk zetten om de AI-bevindingen te benutten voor omzetverhoging.

De auditor-generaal van Ontario waarschuwt dat AI-schrijfsystemen voor medische notities niet adequaat zijn geëvalueerd en verzonnen informatie kunnen bevatten. Uit een audit van 20 goedgekeurde leveranciers bleken alle systemen onnauwkeurigheden te vertonen, zoals hallucinaties en ontbrekende of foutieve informatie. Hoewel de hallucinaties tijdens testen zijn waargenomen, worden de systemen al gebruikt door zo'n 5.000 artsen. Ook in de VS staat het AI-systeem OpenEvidence onder vuur vanwege hallucinaties en onvolledige antwoorden.

Uit onderzoek in de Canadese provincie Ontario blijkt dat AI-tools voor medische transcriptie vaak onnauwkeurig zijn: 9 van de 20 geteste tools verzonnen informatie, zoals niet-bestaande verwijzingen of verkeerde medicijnnamen, en 17 tools misten details over psychische problemen. Het rapport waarschuwt dat artsen de uitkomsten kritisch moeten controleren.

Het Ministerie van Ayush en de Digital India BHASHINI Division hebben een MoU getekend om AI-gestuurde taaltechnologieën te integreren in Ayush digitale platforms. De samenwerking moet Ayush-diensten toegankelijk maken in alle 22 geplande Indiase talen. BHASHINI's vertaal-, spraak- en stemtechnologieën worden ingezet om de gezondheidszorg in landelijke en achtergestelde gebieden te verbeteren.

Een audit van de Auditor General van Ontario toont aan dat AI-schrijfsystemen voor zorgverleners routinematig cruciale details missen, onjuiste informatie toevoegen en inhoud hallucineren die niet met patiënten of clinici is besproken. Negen van de twintig geteste systemen verzonnen informatie en deden suggesties voor behandelplannen die niet in de opnames voorkwamen. Twaalf systemen voegden foutieve medicatie-informatie toe en zeventien misten belangrijke details over de geestelijke gezondheid van patiënten. De audit wijst op een gebrekkige evaluatiemethode, waarbij nauwkeurigheid slechts 4% van de totaalscore uitmaakte.

Abridge, een AI-bedrijf opgericht in 2018, heeft een klinische intelligentielaag ontwikkeld die gesprekken tussen patiënten en artsen vastlegt en automatisch documentatie genereert. Het bedrijf ondersteunt naar verwachting dit jaar meer dan 80 miljoen gesprekken in 250 grote Amerikaanse zorginstellingen. Abridge breidt uit naar klinische beslissingsondersteuning en real-time prior authorization, wat de tijd voor goedkeuring van weken naar minuten reduceert. In juni 2025 haalde het bedrijf $300 miljoen op bij een waardering van $5,3 miljard.

Northwestern Medicine gebruikt AI om ziekten vroeger te voorspellen en de efficiëntie van radiologie te verbeteren. Dit gebeurt met on-premise infrastructuur van Dell Technologies en NVIDIA. De technologie ondersteunt een proactiever zorgmodel.