Wanneer AI-oplossingen in de gezondheidszorg zijn getraind op data uit rijke landen, presteren ze mogelijk minder goed in landen met lage of middelmatige inkomens. Dat zegt de WHO in een nieuw adviesrapport.
Het WHO-rapport is het resultaat van 18 maanden aan overleg door een panel bestaande uit experts in ethiek, digitale technologie, rechten en mensenrechten. De WHO ziet een enorm potentieel in het gebruik van artificiële intelligentie voor het verbeteren van de wereldwijde gezondheidszorg. Mits dit op een ethische manier gebeurt en mensenrechten centraal blijven staan.
Volgens het WHO-rapport kan AI helpen om betere diagnoses te stellen, klinische zorg verbeteren, bijdragen aan onderzoek naar gezondheid en de ontwikkeling van medicijnen. Ook kan AI bijdragen een verschillende wereldwijde gezondheidsinterventies, zoals het controleren van ziektes, reageren op uitbraken en het beheren van gezondheidssystemen.
Risico’s van artificiële intelligentie in de gezondheidszorg
“AI-systemen moeten nauwkeurig worden ontwikkeld om een diversiteit aan sociaaleconomische situaties te vertegenwoordigen. Ook moeten ze vergezeld worden van training in digitale vaardigheden, maatschappelijke inzet en voorlichting. Systemen die vooral gebaseerd zijn op data uit landen met hoge inkomens, presteren mogelijk niet goed voor mensen met een lager of gemiddeld inkomen”, schrijft de WHO in zijn ‘Ethics and governance of artificial intelligence for health’-rapport.
Ook waarschuwt de WHO dat we niet te afhankelijk mogen worden van artificiële intelligentie in de gezondheidszorg. Als beslissingen die eigenlijk genomen moeten worden door zorgverleners en patiënten worden overgelaten aan machines, druist dat in tegen de menselijke autonomie. Wanneer we de gezondheidszorg overlaten aan machines in plaats van mensen, wordt het moeilijk om de zorg te reguleren, wat leidt tot uitdagingen voor overheden.
Andere risico’s van het gebruik van artificiële intelligentie in de gezondheidszorg die de WHO aankaart, zijn het onethisch verzamelen van gezondheidsdata, vertekende algoritmes en risico’s voor de veiligheid van patiënten en cybersecurity.
Zes principes voor het ontwikkelen van AI
In zijn rapport komt de WHO met zes principes die overheden, ontwikkelaars en bedrijven moeten toepassen bij het ontwikkelen van AI voor de gezondheidszorg:
- Sta mensen toe om autonomie te hebben over hun zorg en medische beslissingen en zorg dat hun privacy beschermd wordt
- Zorg dat het welzijn en de veiligheid van mensen wordt onderhouden
- Behoud transparantie tijdens de ontwikkeling, het ontwerp en de toepassing van AI-technologie
- AI voor gezondheid is ontwikkeld op basis van inclusiviteit en gelijkheid
- AI-applicaties zijn responsive en duurzaam
- Betrokkenen bij het ontwerp, de ontwikkeling en toepassing van AI-technologieën blijven verantwoordelijk voor hun technologie