<b>Bijsluiter</b>. De hyperlink naar het originele document werkt niet meer. Daarom laat Woogle de tekst zien die in dat document stond. Deze tekst kan vreemde foutieve woorden of zinnen bevatten en de opmaak kan verdwenen of veranderd zijn. Dit komt door het zwartlakken van vertrouwelijke informatie of doordat de tekst niet digitaal beschikbaar was en dus ingescand en vervolgens via OCR weer ingelezen is. Voor het originele document, neem contact op met de Woo-contactpersoon van het bestuursorgaan.<br><br>====================================================================== Pagina 1 ======================================================================

<pre> Waarde(n)volle
zorgtechnologie
      Een verkennend advies over de
   kansen en risico’s van kunstmatige
               intelligentie in de zorg
</pre>

====================================================================== Einde pagina 1 =================================================================

<br><br>====================================================================== Pagina 2 ======================================================================

<pre></pre>

====================================================================== Einde pagina 2 =================================================================

<br><br>====================================================================== Pagina 3 ======================================================================

<pre> Waarde(n)volle
zorgtechnologie
       Een verkennend advies over de
    kansen en risico’s van kunstmatige
                intelligentie in de zorg
                         Den Haag, februari 2019
</pre>

====================================================================== Einde pagina 3 =================================================================

<br><br>====================================================================== Pagina 4 ======================================================================

<pre></pre>

====================================================================== Einde pagina 4 =================================================================

<br><br>====================================================================== Pagina 5 ======================================================================

<pre>                                                                                5
Voorwoord
Als de toekomst van de gezondheidszorg ter sprake komt - of het nu in de kroeg
is, tijdens een verjaardag of in een debat met experts - duurt het niet lang voordat
de technologische veranderingen en de invloed van kunstmatige intelligentie
in stelling worden gebracht. En dan gelden werkelijk alle smaken: het zal zo’n
vaart niet lopen, het zal de inrichting van de zorg en de machtsverhoudingen
fundamenteel veranderen - sterker nog het is al gaande. En ook treffen we
verschillende opvattingen en overtuigingen over de kansen en bedreigingen van
nieuwe technologie. Van juichverhalen tot doemscenario’s.
De Raad heeft ervoor gekozen een verkennend advies uit te brengen over deze
thematiek. Verkennend omdat zoveel nog niet bekend en onzeker is, maar wel een
advies omdat wij van oordeel zijn dat afwachten hoe het zich gaat ontwikkelen
geen optie is. De gevolgen voor de zorg, de mogelijkheden en de risico’s van
nieuwe technologie zijn weliswaar nu niet precies in kaart te brengen, een zeker-
heid is wel dat reeds nu kunstmatige intelligentie volop wordt gebruikt en dat er
al veel toepassingen in concrete praktijken worden ingezet. In dit advies laten we
verschillende voorbeelden zien, niet alleen in de ziekenhuiszorg maar juist ook in
de zorg voor ouderen dan wel voor mensen met een (verstandelijke) beperking.
Waarden die in de Nederlandse gezondheidszorg gekoesterd worden vormen het
vertrekpunt voor dit advies. Bijvoorbeeld, kan kunstmatige intelligentie de toe-
gankelijkheid van zorg bevorderen of is het juist ondermijnend voor die waarde?
Ook vragen we aandacht voor het feit dat technologie nooit neutraal is en dat in
het ontwerp belangrijke keuzes worden gemaakt. Deze keuzes kunnen gewild en
ongewild bepaalde waarden onderstrepen en andere aantasten. De Raad laat ook
in dit advies zien hoeveel nieuwe mogelijkheden er al zijn en verder uitgewerkt
kunnen worden: van medische beslissystemen, tot zorg ondersteunende robots
thuis. Volop kansen om de zorg beter te maken en beter toegesneden op de
mogelijkheden en wensen van individuele personen.
Dit advies bevat enkele concrete aanbevelingen voor de korte termijn. Een
van die aanbevelingen betreft de borging van de kwaliteit van AI-systemen.
Kwaliteitseisen moeten opgesteld en afgedwongen gaan worden. Technologie
behoort ook een belangrijke plaats in te nemen in de opleidingen van zorgpro-
fessionals. Voor de lange termijn is het zaak om een gestructureerd en geïnfor-
meerd debat te voeren. De Raad hoopt dat dit advies daaraan kan bijdragen.
Pauline Meurs
Voorzitter RVS
</pre>

====================================================================== Einde pagina 5 =================================================================

<br><br>====================================================================== Pagina 6 ======================================================================

<pre>De Raad voor Volksgezondheid en Samenleving (RVS)
is een onafhankelijk strategisch adviesorgaan.
De RVS heeft tot taak de regering en de Eerste en
Tweede Kamer van de Staten-Generaal te adviseren
over hoofdlijnen van beide beleidsterreinen.
Samenstelling Raad
Voorzitter: Pauline Meurs
Raadsleden: Daan Dohmen, Pieter Hilhorst, Jan
Kremer, Bas Leerink, Liesbeth Noordegraaf-Eelens,
Jeannette Pols en Greet Prins.
Directeur: Stannie Driessen
Adjunct-directeur: Marieke ten Have
Raad voor Volksgezondheid en Samenleving
Parnassusplein 5
Postbus 19404
2500 CK Den Haag
T +31 (0)70 340 5060
mail@raadrvs.nl
www.raadrvs.nl
Twitter: @raadRVS
Publicatie 19-01
ISBN: 978-90-5732279-2
Grafisch ontwerp: Studio Duel
Illustraties: Flatland Agency
Fotografie: Adobe Stock, iStock
Redactie: Ellen Segeren
Druk: Xerox/OBT
© Raad voor Volksgezondheid en Samenleving,
Den Haag, 2019
Niets in deze uitgave mag worden openbaar gemaakt
of verveelvoudigd, opgeslagen in een dataverwerkend
systeem of uitgezonden in enige vorm door middel
van druk, fotokopie, microfilm of op welke wijze dan
ook zonder toestemming van de RVS.
U kunt deze publicatie ook downloaden via onze
website www.raadrvs.nl
De websites in de noten en de literatuurlijst zijn,
tenzij anders vermeld, voor het laatst geraadpleegd
op 7 januari 2019.
</pre>

====================================================================== Einde pagina 6 =================================================================

<br><br>====================================================================== Pagina 7 ======================================================================

<pre>                                                                      7
Voorwoord                                                                 5
Samenvatting                                                              9
1	Inleiding                                                             11
	1.1     Waarom een verkennend advies over kunstmatige intelligentie
		        in de zorg?                                                    11
    1.2   Leeswijzer                                                    12
2   Ontwikkeling van AI in de zorg                                      13
    2.1   AI in de zorg                                                 13
    2.2 AI in de praktijk van de zorg                                   14
    2.3 AI in de zorg en veranderende machtsverhoudingen                15
3   Zorgverlening in de toekomst                                        17
    3.1   Hoe kan de zorg eruit gaan zien?                              17
4	Een verkenning van de kansen en risico’s voor de publieke belangen
    van de zorg                                                         21
    4.1   Inleiding                                                     21
    4.2 AI is waardengeladen                                            21
    4.3 AI en kwaliteit van de zorg                                     22
    4.4 Slimme zorgtechnologie en toegankelijkheid van de zorg          24
    4.5 Slimme zorgtechnologie en pluriformiteit                        26
    4.6 Slimme zorgtechnologie en betaalbaarheid/solidariteit           27
    4.7 Samenvattende conclusie                                         30
5   Een tweesporenbenadering                                            31
    5.1   Het eerste spoor                                              31
    5.2 Het tweede spoor                                                32
6   Literatuur                                                          37
Voorbereiding                                                           39
Afkortingen                                                             40
Publicaties                                                             41
Bijlage 1		                                                             43
</pre>

====================================================================== Einde pagina 7 =================================================================

<br><br>====================================================================== Pagina 8 ======================================================================

<pre>8 RVS – Waarde(n)volle zorgtechnologie</pre>

====================================================================== Einde pagina 8 =================================================================

<br><br>====================================================================== Pagina 9 ======================================================================

<pre>                                                                                 9
Samenvatting
Kunstmatige intelligentie, AI, doet zijn intrede in de zorg. Dit gebeurt veelal
buiten het reguliere zorgstelsel om, maar heeft er wel invloed op en zal zich
ermee vermengen en uiteindelijk het stelsel ingrijpend veranderen.
De Raad is van mening dat AI de zorg veel te bieden heeft. Het kan zowel de
kwaliteit, de toegankelijkheid en de pluriformiteit als de betaalbaarheid en
solidariteit van de zorg doen toenemen. Niettemin zijn er ook risico’s. AI is niet
waardenvrij en kan deze publieke belangen ondermijnen. Wanneer de overheid
deze ontwikkelingen helemaal vrij laat, lopen we het risico dat we afhankelijk
worden van dominante private partijen.
Het is daarom van belang tijdig maatregelen te nemen om de ontwikkelingen
in goede banen te leiden. Dit is geen gemakkelijke opgave. In deze verkenning
zijn mogelijke effecten van AI in de zorg in kaart gebracht. Het beeld is echter
zeker niet volledig. Of de gesignaleerde effecten metterdaad zullen optreden en
wanneer, is niet op voorhand te zeggen. De Raad stelt daarom een tweesporen-
benadering voor: een spoor voor de lange(re) termijn en een spoor om morgen
mee te beginnen.
Het eerste spoor omvat drie onderdelen:
1. Een programmatische aanpak, waarbij ontwikkelingen op de voet worden
    gevolgd en ervaringen bijeen worden gebracht. Op basis daarvan moet regel-
    matig gekeken worden wat de effecten zijn op de publieke belangen en welke
    maatregelen nodig zijn om deze belangen te kunnen blijven borgen.
2. Kennis genereren en delen, burgers informeren. De overheid moet inhoudelijke
    kennis, debat en opinievorming over de rol van AI in de gezondheidszorg en de
    veranderingen die dit met zich meebrengt voor patiënten en burgers, werken-
    den in de sector, ontwikkelaars, financiers enzovoorts stimuleren.
3. Opleiden. In de verschillende zorgopleidingen is specifieke aandacht nodig
    voor AI, zowel voor het leren doorgronden van algoritmen als voor de interactie
    tussen mens en technologie. Zorgverleners en patiënten van de toekomst
    zullen met AI moeten kunnen omgaan. Hun rol zal wijzigen, niet alleen in
    vaardigheden, maar ook in de plek die ze innemen in het systeem waarin ze
    samen zullen werken met technologie.
</pre>

====================================================================== Einde pagina 9 =================================================================

<br><br>====================================================================== Pagina 10 ======================================================================

<pre>10                                                  RVS – Waarde(n)volle zorgtechnologie
Het tweede spoor omvat vier onderdelen:
1. Kwaliteitseisen stellen. De CE-markering voor toelating tot de (Europese) markt
    van AI-toepassingen is ontoereikend. De overheid moet nadere kwaliteitseisen
    stellen voor toelating tot de (Nederlandse) markt. Hiertoe moet de overheid
    een set van uitgangspunten, te ontlenen aan de zogenoemde Asilomar AI
    principles 1, opstellen waaraan nieuwe AI-toepassingen in de zorg moeten
   voldoen. Het is van belang hiertoe samen te werken en waar nodig initiatief te
   nemen op Europees niveau, waar ook gewerkt wordt aan het ontwikkelen van
   uitgangspunten en principes voor AI.
2. Kwaliteitseisen afdwingen. Aanbieders van AI-technologie opereren voor een
    belangrijk deel (in eerste instantie) buiten het collectieve systeem om. Er
    is voor hen dan ook geen noodzaak om een toelating op grond van de Wet
    Toelating Zorginstellingen (WTZi) aan te vragen. Zij hoeven dan niet te
    voldoen aan de daaruit voortvloeiende regels die tot doel hebben de kwaliteit,
    de toegankelijkheid en de betaalbaarheid van de zorg te borgen. De overheid
    moet een ander juridisch instrument inzetten, namelijk ‘Dienst van algemeen
    (economisch) belang’. De overheid kan hiermee voorwaarden stellen voor de
    kwaliteit en de betrouwbaarheid van de dienst en de dienstverlening, de wijze
    waarop de overeenkomst tot stand komt, zekerheden omtrent levering en
    herstel, en de prijsstelling (betaalbare prijs).
3. Datacontinuïteit garanderen. Bedrijven kunnen failliet gaan. In dat geval moeten
    patiënten over hun gegevens kunnen blijven beschikken. Een verplichte
    (gratis) downloadmogelijkheid voor patiënten van hun gegevens in zorgsyste-
    men – eventueel gecombineerd met een van overheidswege opgelegde ‘health
    data escrow’ of een erkenning voor bedrijven die een dergelijke escrow-rege-
    ling hebben waarmee patiënten kunnen zien dat zij altijd hun gegevens terug
    kunnen krijgen – kan dit garanderen en de continuïteit van zorg waarborgen.
4. Traceerbaarheid voor burgers realiseren. Burgers moeten kunnen zien waar
    hun medische gegevens zijn opgeslagen en met wie deze gegevens worden
    gedeeld: er moet een ‘verwijsindex’ voor de burger beschikbaar komen.
1     Zie bijlage 1.
</pre>

====================================================================== Einde pagina 10 =================================================================

<br><br>====================================================================== Pagina 11 ======================================================================

<pre>                                                                                                  11
1 Inleiding
1.1     Waarom een verkennend advies over kunstmatige intelligentie in
        de zorg?
Aandacht voor digitaal ondersteunde zorg en e-health is er al geruime tijd, zowel
in de praktijk als in de beleidsarena en de advieswereld. Zo heeft het kabinet
recentelijk zijn digitaliseringsstrategie voor maatschappelijke sectoren zoals
onderwijs, mobiliteit, energie en gezondheidszorg uitgebracht (EZK 2018), en heeft
de minister van Volksgezondheid, Welzijn en Sport (VWS) in mei 2018 de Kamer
geïnformeerd over de voortgang van de activiteiten die het ministerie van VWS
inzet om met behulp van e-health en digitale ondersteuning betere, toegankelijke
en betaalbare zorg te kunnen bieden (TK 2018/2019a). En in november 2018 nog
heeft de minister van Medische Zorg en Sport een brief aan de Tweede Kamer
gestuurd met daarin maatregelen om data te laten werken voor gezondheid (TK
2018/2019b). Nictiz, het expertisecentrum voor e-health, bracht medio januari
2019 het rapport AI in de zorg. Begrippen, praktijkvoorbeelden en vraagstukken uit.
Meerdere adviesorganen hebben in de afgelopen jaren de overheid en betrokken
ministeries geadviseerd over de toepassing en de effecten van digitalisering en
e-health. Zo ook de RVS en zijn rechtsvoorgangers. In 2015 adviseerde de Raad
voor de Volksgezondheid en Zorg (RVZ) de minister van VWS over de opkomst van
consumenten-e-health. Begin 2017 bracht de RVS zijn briefadvies Implementatie
van e-health vraagt om durf en ruimte uit. In mei 2017 organiseerde de Raad de
conferentie ‘Mens en Machine: wie maakt wie?’, waarin hij deelnemers uitnodigde
mee te praten over de vraag welke thema’s voorrang verdienen bij een nadere
verkenning van de gevolgen van technologische ontwikkelingen voor zorg en
samenleving. Het thema Artificial Intelligence (AI) 2 in de zorg is hierin veelvuldig
genoemd als onderwerp dat voorrang verdient, vooral in relatie tot de macht van
grote technologiebedrijven. In juni 2018 publiceerde het Centrum voor Ethiek
en Gezondheid (CEG) het signalement Digitale dokters. Een ethische verkenning van
medische expertsystemen.
Veel van deze adviezen en aanbevelingen zijn nog altijd actueel. Waarom dan nu
dit verkennende advies?
AI doet snel zijn intrede in de zorg en is fundamenteel anders dan veel digitalise-
ring en e-health-toepassingen die we nu kennen. In het denken heerst nog te veel
het idee dat e-health-toepassingen goed af te bakenen, herleidbaar en ‘grijpbaar’
2   Artificial Intelligence, ofwel kunstmatige intelligentie, wordt in dit advies soms aangeduid als
    ‘slimme zorgtechnologie’.
</pre>

====================================================================== Einde pagina 11 =================================================================

<br><br>====================================================================== Pagina 12 ======================================================================

<pre>12                                               RVS – Waarde(n)volle zorgtechnologie
zijn en daarmee goed in te bedden zijn in de wijze waarop we nu zorg verlenen
en zorgverlening georganiseerd hebben. De opmars van AI maakt duidelijk dat de
werkelijkheid eerder andersom zal zijn: onze zorg en zorgverlening zullen door
de toepassing van AI ingrijpend veranderen, op een manier die we nu (nog) niet
kunnen overzien of voorzien.
Wat we wel weten, is dat er waarden zijn verbonden aan zorg die we belangrijk
vinden en willen behouden, de publieke belangen: kwaliteit, toegankelijkheid,
betaalbaarheid/solidariteit en pluriformiteit van de zorg. Deze publieke belangen
kunnen met AI gediend zijn, maar kunnen door AI ook bedreigd of uitgehold
worden. Als we een optimaal klimaat weten te creëren, kan slimme, waarde(n)-
volle zorgtechnologie in Nederland tot bloei komen en bijdragen aan de opgaven
in onze samenleving, waaronder die in de gezondheidszorg. Tegelijk moeten we
ervoor zorgen dat onze kernwaarden op het gebied van toegankelijkheid, kwaliteit,
betaalbaarheid/solidariteit en pluriformiteit gewaarborgd blijven.
De vraag is dus hoe we de kansen van AI kunnen benutten en de risico’s voor
deze publieke belangen kunnen beperken. De Raad heeft ervoor gekozen om
een verkennend advies uit te brengen, omdat nog zo veel onduidelijk is rond de
betekenis en impact van AI voor de zorg. Tegelijkertijd is de Raad van oordeel dat
afwachten geen optie is; er staat te veel op het spel. In dit verkennende advies
oppert de Raad een aantal voorzorgsmaatregelen die kunnen bijdragen aan de
ontwikkeling van AI én die de publieke belangen die in de zorg van grote waarde
zijn, kunnen beschermen.
1.2    Leeswijzer
In hoofdstuk 2 geven we een beeld van de ontwikkeling van AI-technologie in de
zorg en de veranderende machtsverhoudingen die daarvan het gevolg zijn. Aan de
hand van een fictief voorbeeld schetsen we in hoofdstuk 3 wat de inzet van AI zou
kunnen betekenen in de nabije toekomst en welke dilemma’s nu al aan de orde
zijn. Hoofdstuk 4 biedt een verkenning van de gevolgen van AI voor de kwaliteit,
de toegankelijkheid, de betaalbaarheid/solidariteit en de pluriformiteit van zorg.
De analyse beperkt zich tot zorgspecifieke aspecten. Privacy is in de zorg welis-
waar zeer belangrijk, maar speelt op tal van terreinen waar AI wordt ingezet (denk
aan het domein van het recht). Hetzelfde geldt voor de eis dat er een betrouwbare
digitale infrastructuur beschikbaar moet zijn waar elke burger gebruik van moet
kunnen maken. Deze onderwerpen worden in deze verkenning buiten beschou-
wing gelaten. In het laatste hoofdstuk beschrijft de Raad twee sporen – één voor
de langere termijn en één voor de korte termijn – die de overheid kan volgen om
de kansen van AI in de zorg te benutten en de risico’s te beperken.
</pre>

====================================================================== Einde pagina 12 =================================================================

<br><br>====================================================================== Pagina 13 ======================================================================

<pre>                                                                                     13
2 Ontwikkeling van AI in de
        zorg
2.1 AI in de zorg
Technologie heeft de medische zorg (de cure) al veel gebracht. Tal van uitvin-
dingen maken het steeds beter mogelijk om afwijkingen op een voor patiënten
minder belastende manier op te sporen en te behandelen. Ook in de verpleging
en verzorging (de care) heeft technologie haar intrede gedaan. Denk bijvoorbeeld
aan verbeterd incontinentiemateriaal waarbij een ingebouwde sensor een
signaal aan een mobiele telefoon geeft als de inco verwisseld moet worden, of
een inlegzool met GPS-systeem waarmee verwarde mensen met dwaalgedrag
gelokaliseerd kunnen worden, of een OV-app waarmee mensen met een verstan-
delijke beperking zelfstandig kunnen reizen.
Deze technologieën hebben de kwaliteit van de zorg sterk verbeterd. Veel
zorghandelingen moeten echter nog steeds door mensen worden verricht en
ook het denkwerk moet nog steeds door mensen worden gedaan. AI brengt hier
verandering in.
AI is op zichzelf niet nieuw; in de jaren vijftig van de vorige eeuw waren weten-
schappers er al mee bezig. Door de exponentieel toegenomen rekenkracht en
opslagcapaciteit van computers en de snelle gegevensoverdracht, vooral via
internet, is het evenwel in een stroomversnelling geraakt. Apparaten worden
steeds intelligenter. Toepassingen als zelfrijdende auto’s werden tot voor kort
als sciencefiction afgedaan, maar zijn inmiddels een realiteit. In het verleden
vormde de inspanning die nodig was om een computer dingen ‘te leren’ een bot-
tleneck, omdat dit handmatig moest gebeuren. Inmiddels kunnen AI-systemen
zelfstandig leren en uit grote hoeveelheden gegevens zelf verbanden ontdekken.
Gecombineerd met mechanica maakt dit zelfrijdende auto’s en autonome robots
mogelijk.
Met de ‘inbouw’ van kunstmatige intelligentie kan de technologie taken van de
mens gaan overnemen, ook in de zorg. De technologie wordt ‘slim’. Deze slimme
zorgtechnologie waarbij gebruik wordt gemaakt van AI kan dan ook omschreven
worden als technologie die gericht is op de directe zorgverlening aan de patiënt/cliënt
en die de zorgverlening door een menselijke zorgverlener (deels) kan vervangen. De
inzet van slimme zorgtechnologie zal ook de zorg(verlening) zelf veranderen, net
</pre>

====================================================================== Einde pagina 13 =================================================================

<br><br>====================================================================== Pagina 14 ======================================================================

<pre>14                                               RVS – Waarde(n)volle zorgtechnologie
zoals de smartphone niet alleen het ouderwetse telefoongesprek ten dele heeft
vervangen, maar ook onze sociale omgang. AI is niet een statisch instrument
dat aan de bestaande zorgpraktijk ter beschikking staat, maar een dynamisch
proces, waarbij bijvoorbeeld opvattingen over kwaliteit van zorg en ook de
relaties tussen zorgverlener en zorgontvanger zullen veranderen. Daarom wordt
AI ook wel de ‘vijfde revolutie’ genoemd. AI is meer dan een doorontwikkeling
van bestaande technologie: het luidt een nieuwe fase in onze samenleving in.
2.2 AI in de praktijk van de zorg
AI bestrijkt in het kader van onderhavig advies een breed terrein: van eenvou-
dige systemen in de care die bijvoorbeeld een dementerende patiënt structuur
of een geheugensteuntje geven tot systemen in de cure die diagnosen stellen,
aanvullend onderzoek aanvragen, uitvoeren en beoordelen, therapieën voorstel-
len en geneesmiddelen voorschrijven. Dit lijkt verre-toekomstmuziek, maar is
dichterbij dan vaak gedacht.
In feite bestaat het al op een heel specifiek terrein: de automatische externe
defibrillator (AED). Dit apparaat kan gevaarlijke hartritmestoornissen herkennen
en zelfstandig ingrijpen. Het neemt zelfstandig beslissingen over leven en dood.
Naast dit voorbeeld zijn er al expertsystemen die op bredere kennisdomeinen
(bijna) net zo goed een diagnose kunnen stellen als een medisch specialist.
Nadat in 2017 een Chinese robot als eerste slaagde voor het artsexamen (Rawson
2017), claimde het bedrijf Babylon Health onlangs dat zijn chatbot even goede
diagnosen stelt als een huisarts (Copestake 2018). De verwachting is dat deze
systemen zelfstandig kunnen leren en steeds nauwkeuriger zullen zijn naar-
mate ze meer toegang hebben tot de enorme hoeveelheid medische gegevens
van patiënten en ze klachten en symptomen kunnen koppelen aan diagnosen
en uitkomsten. Artsen die diagnosen stellen, maken onvermijdelijk fouten, maar
gebruiken meer dan alleen hun formele kennis; ook ervaring en een klinische
blik zijn bepalend voor het uiteindelijke oordeel. De belofte van AI is dat het
nauwkeurig diagnosen kan stellen en in sommige gevallen het foutpercentage
kan verlagen. Hier heeft de patiënt baat bij. Daarnaast is een van de verwach-
tingen dat AI-systemen een deel van het werk uit handen van zorgverleners
kunnen nemen, waardoor zij meer tijd beschikbaar hebben voor zaken als
duiding, morele overwegingen en ‘er zijn’ voor de patiënt. Zo kan de toepassing
van AI ook indirect een bijdrage leveren aan de kwaliteit van het medisch en
verpleegkundig handelen in brede zin. Daarmee zal het ook onze opvattingen
over wat kwaliteit van zorg is doen evolueren.
AI kan ook een belangrijke bijdrage leveren aan de kwaliteit van leven. De inzet
</pre>

====================================================================== Einde pagina 14 =================================================================

<br><br>====================================================================== Pagina 15 ======================================================================

<pre> 2 — Ontwikkeling van AI in de zorg                                             15
van robotica kan de zelfstandigheid van mensen vergroten, zowel op emotioneel
als fysiek vlak. Zo kan de in Nederland ontwikkelde robot-rollator Lea ouderen
begeleiden om zelfstandig veilig over straat te gaan of zelfs beweegoefeningen
te doen. En robotontwikkelingen in de gehandicaptenzorg – zoals de robot Phi
– laten zien hoe mensen met een verstandelijke beperking al relatief snel een
menselijke robot in vertrouwen nemen of deze als gezellig maatje ervaren.
In de care hebben sociale robots reeds hun intrede gedaan, zoals de robots
Pepper3 en Furhat4. Deze laatste robot heeft een meer menselijk gezicht en kan
emoties tonen en oogcontact onderhouden. Sociale robots kunnen de cliënt aan-
spraak en directe ondersteuning bieden en de inzet van de begeleider aanvullen
of deels vervangen.
Autonome robots die verzorgende taken overnemen, bijvoorbeeld patiënten
wassen, haren kammen of operaties veilig uitvoeren, zijn er vooralsnog niet.
Wel wordt er op meerdere plaatsen in de wereld, met name in Japan, onderzoek
gedaan naar robots die verpleegkundige handelingen kunnen overnemen.
Er is nog relatief weinig bekend over hoe de inzet van robotica de zorg zelf en
de aard van de relatie tussen zorgaanbieder en -ontvanger gaat beïnvloeden.
Daarvoor is meer onderzoek nodig, niet alleen naar de feitelijke inzet van de
technologie, maar vooral naar de manier waarop op de korte en langere termijn
nieuwe patronen in de zorgrelatie ontstaan en naar de wijze waarop de zorgver-
lener en de zorgontvanger zich tot de nieuwe technologie verhouden. Het ligt in
de lijn der verwachtingen dat ook hier neveneffecten zullen optreden die niet
voorzien waren.
2.3 AI in de zorg en veranderende machtsverhoudingen
Nieuwe technologieën worden in de zorg vaak traag ingevoerd, omdat ze moeten
passen in de huidige structuur en werkwijze. Voorbeelden hiervan zijn e-health
en persoonlijke gezondheidsomgevingen (PGO’s).
Ook hier komt verandering in. Ontwikkelingen in de informatie- en communi-
catietechnologie hebben de afgelopen decennia al tot ingrijpende maatschappe-
lijke veranderingen geleid. Het heeft de wijze waarop we met elkaar communi-
ceren, hoe we werken, hoe we leven, danig veranderd. Het heeft geleid tot nieuwe
machtsverhoudingen met een verregaande wereldwijde economische, politieke
3    https://robots.nu/nl/robot/Pepper
4    https://www.furhatrobotics.com/furhat
</pre>

====================================================================== Einde pagina 15 =================================================================

<br><br>====================================================================== Pagina 16 ======================================================================

<pre>16                                               RVS – Waarde(n)volle zorgtechnologie
en culturele vervlechting. De ‘digitale’ industrie genereert steeds grotere
kapitaalstromen in vergelijking tot de ‘oude’ industrie. De 187 grootste technolo-
giebedrijven ter wereld waren in augustus 2018 gezamenlijk ruim 7000 miljard
dollar waard. Daaronder zijn weinig Europese bedrijven. Bijna 70% van de markt-
waarde is in handen van zeven spelers: Apple, Amazon, Microsoft, Facebook,
Alphabet (Google), Alibaba en Tencent (Betlem 2018). Ze zijn een machtsfactor
van betekenis geworden. Ze zijn in staat om in korte tijd technologie en diensten
op grote schaal wereldwijd te introduceren. Waar we in Nederland nog aan de
implementatie van PGO moeten beginnen, kan elke iPhone-gebruiker in de
Verenigde Staten in principe al beschikken over een eigen medisch dossier in
de vorm van de Healthkit-app die standaard op de telefoon is meegeleverd. Zo’n
600 ziekenhuizen in de Verenigde Staten leveren daar al medische gegevens aan
als de patiënt dit wenst. Het is niet ondenkbaar dat de PGO-markt in Nederland
binnenkort grotendeels door de grote techbedrijven wordt overgenomen en
beheerst. Diezelfde sector heeft haar ogen en investeringen nu gericht op de
ontwikkeling van AI-systemen. De techbedrijven zien de zorgsector als een
aantrekkelijke markt; het achterblijven van de zorgsector op het vlak van ICT
biedt een enorme winstpotentie. Ze zullen waarschijnlijk de gangmaker van de
ontwikkeling van AI in de zorg worden.
</pre>

====================================================================== Einde pagina 16 =================================================================

<br><br>====================================================================== Pagina 17 ======================================================================

<pre>                                                                                 17
3 Zorgverlening in de toekomst
3.1    Hoe kan de zorg eruit gaan zien?
Zoals eerder aangegeven zijn de gevolgen van de opkomst van AI in de zorg niet
precies in kaart te brengen. Toch is het wel degelijk mogelijk een beeld te schet-
sen van wat er gaande is. Aan de hand van een gefingeerde casus met daarin
reële technologieën geeft de Raad een indruk van de wijze waarop AI de zorg kan
veranderen en welke discussiepunten hieruit voortvloeien. Enige vergelijking
van de genoemde technologieën met echte mensen, bestaande bedrijven of
techniek is onbewust en onbedoeld. Het gaat erom dat we aan de hand van deze
casus illustreren wat de impact van technologie kan zijn.
De volgende dialoog speelt zich af in de familie Jansen:
   “Alstublieft mevrouw, wilt u hier even tekenen?” De pakketbezorger
   overhandigt Claire Jansen een klein pakketje en duwt een apparaatje
   onder haar neus. Ze heeft geen idee wat het is, maar zet
   haar handtekening. Het pakketje is geadresseerd aan
   Rik, haar 20-jarige zoon.
   Rik zit met zijn drie jaar jongere zus Marije te ontbijten.
   “Dit is voor jou Rik,” zegt Claire.
   Rik, als altijd gebogen over zijn tablet, kijkt op: “Ah,
   geweldig! Het werkt.” Hij opent het pakketje en haalt
   triomfantelijk een doosje medicijnen tevoorschijn.
   Claire kijkt hem vragend aan: “Wat is dat nou?”
        Rik vertelt: “Nou kijk mam, laatst stuitte ik op een website waarop
               medische dienstverlening wordt aangeboden, gratis! Het
                werkt heel simpel: als je iets mankeert, meld je je aan en vul
                je een vragenlijst in. In no time krijg je dan een diagnose met
                 een behandeladvies. En als het nodig is, kun je zelfs online
                 een arts raadplegen. Ideaal toch? Alleen voor de medicijnen
                  moet ik wat betalen, maar dat is niet veel; ze komen uit het
                   buitenland. En ik heb ook niet vaak iets nodig. Handig! Nooit
                   meer naar de huisarts. Nu ik er zo over nadenk: ik kan m’n
                   zorgverzekering wel opzeggen.”
   Rik woont nog thuis; hij werkt sinds kort in het garagebedrijf van zijn
   vader en volgt daarnaast aanvullende cursussen, die hij zelf betaalt. Sinds
   hij 18 jaar is, draait hij ook zelf op voor de zorgverzekeringspremie.
</pre>

====================================================================== Einde pagina 17 =================================================================

<br><br>====================================================================== Pagina 18 ======================================================================

<pre>18                                                RVS – Waarde(n)volle zorgtechnologie
   Claire heeft zo haar bedenkingen. “Dat klinkt mooi Rik, maar het is
   misschien wel te mooi om waar te zijn. Want wat weet je nou eigenlijk van
                       het bedrijf dat die diensten aanbiedt? Hoe weet je of die
                       adviezen deugen?”
                       Vader Ton vult aan: “En je verzekering opzeggen? Dat
                       kan helemaal niet. Maar zelfs als het wel zou kunnen,
                       dan zou dat niet verstandig zijn. Wat als je echt ziek
                       wordt of een ongeluk krijgt en naar het ziekenhuis
                       moet?”
                      Rik haalt zijn schouders op. “Waarom zou ik me niet
                     apart voor ziekenhuisopname kunnen verzekeren? Ik hoef
                    toch niet te betalen voor dingen waar ik geen gebruik van
   maak? Ik snap niet dat zorgverzekeraars daar niet op inspringen.”
   ”Tsja Rik,” zegt Claire, “we betalen met zijn allen voor de gezondheidszorg;
   alleen zo houden we de kosten voor iedereen binnen de perken. Dat is
   eigenlijk een mooi systeem, we zijn solidair met elkaar, of je nu jong,
   oud, gezond of ziek bent. Dat voelt misschien niet eerlijk, maar er komt
   misschien een dag dat je zelf dure zorg nodig hebt. Dat verandert de zaak.”
   Vader Ton: “Ja, en dan nog iets: hoezo gratis? Dat moet toch ergens van
   betaald worden? Misschien gebruiken ze je gegevens wel om die door te
   verkopen en dat kan altijd tegen je gebruikt worden.
   Stel dat je later een levensverzekering wilt
   afsluiten en je blijkt inmiddels een chroni-
   sche aandoening te hebben, dan kun je dat
   wel vergeten.”
   Rik zucht eens diep en mompelt: “Nou, dat
   zal zo’n vaart niet lopen. Bovendien komen
   ze daar toch wel achter, want daar wordt naar
   gevraagd en je mag zoiets niet verzwijgen.”
   Marije valt hem bij. “Het lijkt mij eigenlijk ook
   wel wat. Ik las dat er een horloge op de markt
   komt dat tien ziekten kan voorspellen, gewoon door het te dragen. Dat is
   toch ideaal, dan ben je er nooit meer te laat bij! En laatst vertelde Meike
   dat ze een derma-app gebruikt. In haar familie komt veel huidkanker
   voor. Een kind kan de was doen: ze maakt met haar smartphone een foto
   van een moedervlek en stuurt die op, en in no time heeft ze de uitslag
   binnen. Dan is ze weer gerustgesteld.”
   Claire: “Ja, maar ik hoorde van haar moeder dat ze ook al een paar keer
</pre>

====================================================================== Einde pagina 18 =================================================================

<br><br>====================================================================== Pagina 19 ======================================================================

<pre>3 — Zorgverlening in de toekomst                                                     19
   voor niks naar de dermatoloog is gegaan.
   Gelukkig bleek het loos alarm te zijn, maar
   ze was wel dagenlang van slag. Dat heeft ze
   je vast niet verteld.”
   Marije: “Dat is misschien wel zo, maar toch:
   better safe than sorry, ma.”
   Ton: “En je zult wel zeggen, daar heb je hem
   weer, hij heeft het altijd over geld, maar laten
   we wel wezen, Marije. Die onnodige bezoekjes aan de dokter
   zijn wel extra kosten die we met zijn allen moeten betalen.”
   Marije: “Nou, die kosten vallen wel mee en zijn veel minder dan wanneer
   je het te laat ontdekt, dus tel uit je winst!”
   Rik: “Ik begrijp jullie weerzin niet. Dit is de toekomst! Die systemen leren
   zelf bij; hoe meer mensen er gebruik van maken hoe beter ze worden.
   Laatst was nog in het nieuws dat AI-systemen betere diagnosen stellen
   dan artsen. En de toepassingen zijn eindeloos. Zo zijn er chatbots voor
   mensen met bijvoorbeeld diabetes of hartziekten die veel baat hebben bij
   regelmatig contact met een virtuele assistent. Die kan aan de hand van de
   gesprekken met patiënten op eigen houtje bepalen of het nodig is om door
   te verbinden met een ‘echte’ specialist. Maar de vraag is of dat nodig is,
               want het is wetenschappelijk aangetoond dat het systeem betere
                 diagnosen stelt dan de specialist. Of de chatbot die vooral
                   gericht is op jongeren die kampen met stress of depressie,
                     die koppelt de gebruiker aan een andere gebruiker in het
                           netwerk. Bovendien ma, je vindt het toch ook gewel-
                               dig dat oma nu een snoezelrobot heeft? Daar was
                               je eerst ook huiverig voor, maar je ziet hoe ze is
                               opgefleurd. Die robot is gewoon een maatje voor
                                haar.”
                                Claire: “Dat is waar, maar dat is toch anders dan
                                waar we het nu over hebben. Het tehuis waar
                                oma verblijft houdt het goed in de gaten en als er
                               iets mis is met de robot, zijn zij er snel bij om het
                      te verhelpen. Ik vind het gewoon een ongemakkelijk idee
   dat jij je toevertrouwt aan een systeem of zorgverlener die je niet kent en
   niet kunt zien.”
   Rik haalt nogmaals zijn schouders op: “Ik zie het al, jullie gaan niet met je
   tijd mee. Oma is wat dat betreft verder dan jullie.” Hij loopt de kamer uit.
</pre>

====================================================================== Einde pagina 19 =================================================================

<br><br>====================================================================== Pagina 20 ======================================================================

<pre>20                                                 RVS – Waarde(n)volle zorgtechnologie
In dit voorbeeld zien we een aantal toepassingen van AI-technologie, namelijk:
1. Een medisch diagnosenysteem gekoppeld aan een persoonlijk gezondheidssysteem
     Het gaat hierbij om een technologiebedrijf dat diensten aan een groot publiek
     (initieel) gratis aanbiedt: gratis medisch advies en ‘wereldwijd’ PGO. Met
     behulp van AI worden diagnosen gesteld. De aangeleverde data worden
     gebruikt om het AI-systeem te voeden en kennis te genereren waarmee het
     systeem zichzelf verbetert. De dienstverlening voorziet in dit geval ook in de
     mogelijkheid om online een arts te consulteren en medicijnen en hulpmidde-
     len te bestellen, die per pakketdienst worden geleverd. De klant betaalt deze
     middelen zelf.
2. Smartphoneapp om moedervlekken te beoordelen
     Een bedrijf biedt gebruikers de mogelijkheid om tegen betaling een foto van
     een plekje op de huid te laten beoordelen door een AI-systeem. De gebruiker
     maakt foto’s van verdachte plekjes. De app verdeelt de plekjes in drie catego-
     rieën: hoge, licht verhoogde of lage kans. In geval van een hoge kans wordt
     aanbevolen een arts te raadplegen en bij een verhoogde kans om het plekje in
     de gaten te houden.
3. E  en horloge dat ziekten voorspelt
     Bij de drager van dit horloge kunnen ziekten worden voorspeld en zo kan
     er eerder worden ingegrepen of zelfs een bepaalde aandoening worden
     voorkomen.
4. S  ociale robot
     Sociale robots, bijvoorbeeld in de vorm van snoezelrobots, kunnen ingezet
     worden om het welzijn van cliënten met dementie te verhogen en eenzaam-
     heid bij ouderen te verminderen. Ook kunnen sociale robots therapeutisch
     ingezet worden, bijvoorbeeld bij autisme, of als aanvullende dan wel deels
     vervangende begeleiding bij mensen met een verstandelijke beperking. Ze
     hebben voordelen ten opzichte van huisdieren, zoals dat ze voorspelbaar
     reageren. Ook behoeven ze geen verzorging, maar dit kan ook juist opzettelijk
     ingebouwd worden als therapie.
De casus, met daarin reeds bestaande toepassingen van AI in de zorg, laat zien
hoe de nieuwe technologie raakt aan de publieke belangen in de zorg die we
in Nederland hoog willen houden: kwaliteit, toegankelijkheid, betaalbaarheid/
solidariteit en pluriformiteit. In het volgende hoofdstuk werpen we nader licht op
de kansen en risico’s voor deze publieke belangen.
</pre>

====================================================================== Einde pagina 20 =================================================================

<br><br>====================================================================== Pagina 21 ======================================================================

<pre>                                                                               21
4 Een verkenning van de kansen
         en risico’s voor de publieke
         belangen van de zorg
4.1    Inleiding
De casus uit het vorige hoofdstuk laat zien dat AI vragen oproept over de invloed
of impact op de publieke belangen van de zorg: kwaliteit, toegankelijkheid,
betaalbaarheid/solidariteit en pluriformiteit. In dit hoofdstuk worden de moge-
lijke consequenties van AI voor elk van de vier publieke belangen van de zorg
nader bezien.
De Raad kiest hier voor een verkenning, omdat de wijze waarop AI wordt ingebed
in de samenleving – hoe het gebruikt zal worden, op basis van welke aannames
en ontwerpkeuzes – nog lang niet is uitgekristalliseerd. We staan aan het begin
van de ontwikkeling en de komende jaren zal blijken hoe AI in concrete praktij-
ken wordt gebruikt en die praktijken ook weer zal veranderen.
Het gegeven dat er nog zo veel onbekend is, ontslaat overheden, ontwerpers,
bedrijven en gebruikers niet van de verantwoordelijkheid om de publieke
belangen die in het geding zijn te beschermen.
4.2 AI is waardengeladen
Net zoals andere technologieën is AI niet neutraal. Het ontwerp van de techno-
logie is waardengeladen. Soms gebeurt dat expliciet, maar veel vaker is het een
impliciet proces en worden de effecten van de morele keuzes van het ontwerp
pas zichtbaar bij de concrete toepassing. De ontwikkeling van AI vindt boven-
dien op het wereldtoneel plaats; de ingebouwde morele aannames zijn cultureel
bepaald. Een klein voorbeeld ter illustratie: een verkennend onderzoek van het
Massachusetts Institute of Technology (MIT) naar de zelfrijdende auto laat zien
dat in de verschillende landen andere keuzes worden gemaakt bij het bekende
speltheoretische dilemma (Awad et al. 2018). Wat moet een zelfrijdende auto als
een ongeluk niet vermeden kan worden: de jongen aanrijden die de weg op rent,
of dit vermijden en de stoep oprijden waar een oudere vrouw loopt? In verschil-
lende landen worden verschillende voorkeuren uitgesproken.
</pre>

====================================================================== Einde pagina 21 =================================================================

<br><br>====================================================================== Pagina 22 ======================================================================

<pre>22                                               RVS – Waarde(n)volle zorgtechnologie
Behalve de onduidelijkheid over ingebouwde morele aannames is vaak niet hel-
der hoe een bepaalde keuze zal uitpakken. Het ontwerp en de inzet van nieuwe
technologie vinden vaak plaats in wat door ethici wordt aangeduid als moral fog,
morele mist. Dat wil zeggen dat de stem van de beschermende instituties zwak
is, dat de afweging van waarden niet centraal staat in het ontwerpproces en dat
de uiteindelijke gebruikers er niet bij zijn betrokken.
Als het gaat om de gezondheidszorg is de verwachting dat AI diep zal ingrijpen
in de zorg zelf en in de aard van het zorgproces. Het is daarom essentieel om zo
vroeg mogelijk inzicht te krijgen in welke invloed AI kan hebben op de publieke
belangen die in de Nederlandse gezondheidszorg centraal staan. Deze publieke
belangen representeren immers waarden die in Nederland gekoesterd moeten
worden.
4.3 AI en kwaliteit van de zorg
Kwaliteit van zorg is een breed begrip, dat door ontwikkelingen zoals AI ook
aan verandering onderhevig is. In deze paragraaf richten we ons op enkele
kwaliteitsaspecten in het huidige kwaliteitsconcept: de deugdelijkheid en de
betrouwbaarheid van de dienst of het product dat geleverd wordt en de leverings-
condities, waaronder de continuïteit van de levering.
Betrouwbaarheid
Zoals uit voorgaande hoofdstukken blijkt, biedt AI vele mogelijkheden om de
kwaliteit van zorg te verbeteren. Of deze verwachtingen worden waargemaakt,
hangt uiteraard in de eerste plaats af van de deugdelijkheid en de betrouw-
baarheid van de concrete diensten of producten. Kunnen we cruciale medische
beslissingen, zoals het stellen van een diagnose, wel overlaten aan AI-systemen?
Dat zijn immers black boxes. In tegenstelling tot bij klassieke software kun je
de logica van de genomen beslissing niet eenvoudig terugvolgen wanneer je
de programmacode kent. Bij lerende systemen is dit nog moeilijker. Daar staat
tegenover dat artsen eigenlijk ook black boxes zijn en regelmatig fouten maken.
Toch zijn we huiverig om beslissingen aan een machine over te laten, vooral ook
omdat een fout veel mensen kan treffen.
Dat de verbanden die algoritmen vinden niet meteen te begrijpen zijn, is nog
acceptabel, maar de algoritmen zelf moeten uit te leggen en wetenschappelijk
verantwoord zijn. Het lijkt dan ook wenselijk om maximale transparantie te
betrachten over de onderliggende werking van de algoritmen en eventueel
de data die ze gebruiken. Zo zijn accountants bezig hiervoor een assurance
</pre>

====================================================================== Einde pagina 22 =================================================================

<br><br>====================================================================== Pagina 23 ======================================================================

<pre> 4 — Een verkenning van de kansen en risico’s voor de publieke belangen van de zorg         23
te ontwikkelen, vergelijkbaar met de controle voor financiële jaarrekeningen
(Accountant.nl 2018). Zo’n instrument kan helpen bij het beheren en beschermen
van de integriteit, de kwaliteit en de nauwkeurigheid van beslissingen die op
basis van AI-technologieën worden gegenereerd.
Dit is op zichzelf niet nieuw; auditors controleren al tientallen jaren software,
alleen hadden ze tot nog toe te maken met statische programmatuur, die niet
verandert tenzij een mens die aanpast. Dat verandert nu, want bij machine learn-
ing evolueert de software zonder menselijke tussenkomst. Het heeft een eigen
feedback loop en leert doorlopend van nieuwe data. Hoe weet je dan nog of de
algoritmes doen wat ze horen te doen? Het lijkt van belang hiervoor een frame-
work te ontwikkelen voor zelflerende algoritmen, dat handvatten biedt om na te
gaan hoe een zelflerend algoritme de fout in kan gaan of bespeeld kan worden.
Het framework kan daarnaast inzicht geven in welke algoritmen controleerbaar
zijn en welke niet. En als we het algoritme niet kunnen controleren, wat vinden
wij daar dan maatschappelijk gezien van? Het is de vraag of er bijvoorbeeld altijd
menselijke tussenkomst moet zijn. Dit zijn fundamentele vragen waar momen-
teel nog geen pasklaar antwoord op is en waar ook het Europees Economisch en
Sociaal Comité (EESC) zich mee bezighoudt5.
Bij kwaliteit speelt ook de medisch inhoudelijke normering een belangrijke rol.
Zo worden in medische beslissystemen grenswaarden ingebouwd bij de diagno-
sentelling om te kunnen bepalen welk samenstel van factoren tot een diagnose
leidt. Voor kwaliteit van zorg is het van belang te weten hoe de grenswaarden
tot stand komen en wie daarover beslist, en hoe het systeem weer leert van het
gebruik in de praktijk. Een klein voorbeeld kan dit illustreren.
De derma-app maakt het mogelijk om in een vroeg stadium huidkanker op
te sporen, waardoor de overlevingskans toeneemt. De kans dat een diagnose
gemist wordt is klein, aangezien de app ‘zeer voorzichtig’ zal zijn afgesteld. De
kans dat de app een plekje ten onrechte als (licht) verhoogde kans op kwaadaar-
digheid aanmerkt, is daarmee relatief groot. De patiënt wordt (te) vaak aange-
spoord om het plekje in de gaten te houden en regelmatig een foto in te sturen
(hetgeen inkomsten voor het bedrijf genereert) of wordt (te) vaak naar een arts
verwezen. Overbehandeling kan de kwaliteit van leven verlagen. Ook kan de app
tot een preoccupatie met de gezondheid leiden of de angst voor kanker verhogen,
hetgeen eveneens tot een lagere kwaliteit van leven kan leiden.
5    https://cio.nl/big-data/105063-wat-als-een-zelflerend-algoritme-niet-te-controleren-is
</pre>

====================================================================== Einde pagina 23 =================================================================

<br><br>====================================================================== Pagina 24 ======================================================================

<pre>24                                               RVS – Waarde(n)volle zorgtechnologie
Leveringscondities en datacontinuïteit
De kwaliteit van een AI-systeem valt of staat met ‘het leermateriaal’ dat het
systeem wordt aangeboden. Vooral grote technologiebedrijven zijn in staat om
snel en door grootschalige opzet zeer efficiënt zorgdiensten zoals in de casus
beschreven in de markt te zetten. Dit heeft evenwel een keerzijde. Naarmate het
AI-systeem van een bedrijf beter is – beter dan dat van concurrenten – zullen
gebruikers eerder voor dit systeem kiezen, zeker als de dienst (initieel) gratis
wordt aangeboden. Dit leidt tot een vicieuze cirkel: het hebben van meer klanten
levert meer data op om het systeem te kunnen verbeteren, een beter systeem
levert meer klanten op, enzovoorts. Dit resulteert gemakkelijk in het ontstaan
van monopolies, zoals het (korte) verleden van de ICT-industrie al heeft laten
zien.
Een ander, meer praktisch probleem dat in de casus genoemd werd, is dat er
(buitenlandse) aanbieders actief kunnen zijn die – als je eenmaal klant bij ze
bent – niet thuis geven, niet leveren wat is afgesproken. Bedrijven kunnen
klanten ook ‘in de tang nemen’ (vendor lock-in), bijvoorbeeld medische gegevens
niet vrijgeven als de klant daarom vraagt of gaandeweg meer eisen gaan stellen
of extra betalingen eisen. Of ze komen afspraken niet na en sluiten elke vorm
van aansprakelijkheid uit.
En wat als de aanbieder van het medisch diagnosenysteem met de daaraan
gekoppelde PGO failliet gaat? Welke zekerheid hebben burgers dat ze nog bij
hun medische gegevens kunnen? Dit is een lastig probleem, dat niet alleen voor
medische gegevens speelt, maar voor bijna alle clouddiensten. De kans dat grote
technologiebedrijven zoals Alphabet (o.a. Google), Apple, Amazon, Microsoft,
Facebook failliet gaan is zeer klein, maar er zijn legio kleinere bedrijven die
enorm aan de weg timmeren en mede dankzij stevige financiering snel kunnen
groeien en veel in marketing kunnen investeren. Bij deze bedrijven is het veel
reëler dat faillissement op de loer ligt, en dan zal het toch een hele klus zijn om
bij een (Amerikaanse of Chinese) curator foto’s, mail en documenten te pakken
te krijgen als de servers niet meer bereikbaar zijn. Voor kleinere PGO-aanbieders
is zo’n rampscenario wel degelijk denkbaar, vooral wanneer ze al maanden hun
rekeningen voor hun hostingleverancier niet hebben betaald. Recent nog gingen
twee van dergelijke bedrijven in Nederland kort na elkaar failliet toen ze in
geldproblemen kwamen (Skipr 2018).
4.4 Slimme zorgtechnologie en toegankelijkheid van de zorg
Toegankelijkheid van zorg omvat verschillende aspecten. Wij onderscheiden
hier fysieke en sociale toegankelijkheid, waarbij het in het eerste geval gaat om
</pre>

====================================================================== Einde pagina 24 =================================================================

<br><br>====================================================================== Pagina 25 ======================================================================

<pre> 4 — Een verkenning van de kansen en risico’s voor de publieke belangen van de zorg 25
de nabijheid en de bereikbaarheid van een voorziening. Bij sociale toeganke-
lijkheid gaat het meer om de vaardigheden die nodig zijn, het kunnen omgaan
met de systemen en procedures, en het kunnen verwoorden van eigen vragen
en het vinden van het juiste ‘loket’. Er zijn ook financiële barrières. Dit laatste
aspect komt aan de orde als we het publieke belang betaalbaarheid/solidariteit
bespreken.
Fysieke bereikbaarheid
Nederland kent, zoals zo veel westerse landen, een hoge dekkingsgraad van
internet en de smartphone. Digitale diensten zijn dan ook voor een groot deel
van de bevolking beschikbaar. Zorg die via deze diensten wordt geleverd is zo
bezien altijd dichtbij, ook al kan de aanbieder in een ver buitenland gevestigd
zijn. De diensten zijn in de regel 24/7 beschikbaar en daarmee veelal sneller
en beter bereikbaar dan de meeste traditionele zorgaanbieders. Dit heeft grote
impact op de toegankelijkheid van de zorg.
Het voorgaande is al werkelijkheid in verschillende delen van de wereld.
Bedrijven als Babylon Health6, actief in het Verenigd Koninkrijk, of KRY7, actief in
Zweden en een aantal andere landen, bieden al eenvoudige eerstelijnszorg aan,
onafhankelijk van plaats of tijd. Ook in Nederland worden er digitale diensten
aangeboden. Zo biedt Disofa van GGZ Noord-Holland Noord een digitale behande-
lingsomgeving. De patiënt zit daarbij niet in de spreekkamer, maar praat vanuit
huis of elders met een ggz-psycholoog via een videoverbinding (Oosterom 2018).
Hiermee kunnen drempels, zoals wachttijden, opgeheven worden. Dit is het
geval bij Disofa: in tegenstelling tot de klassieke zorgverlening is daar, althans
op dit moment, geen wachtlijst (Oosterom 2018). Een consequentie kan ook zijn
dat traditionele toegangsdrempels, zoals de huisarts als poortwachter voor de
tweede lijn, gepasseerd worden. Dat kan de toegankelijkheid van de tweedelijns-
zorg vergroten, maar kan ook leiden tot onnodig beroep op deze zorg. De Raad
buigt zich over dit vraagstuk in zijn advies over toegangsdrempels in de zorg, dat
voor de zomer van 2019 verschijnt.
De fysieke toegankelijkheid van de zorg zal door de toepassing van slimme
zorgtechnologie dus (aanzienlijk) kunnen verbeteren. Er kunnen zich echter
problemen voordoen op het snijvlak tussen deze technologie en de reguliere
zorg. Zo laat het voorbeeld van de derma-app zien dat de beslissing over de
grenswaarden ook van invloed is op de toegankelijkheid van de zorg. De uitein-
delijke toegankelijkheid van de zorg wordt dan ook bepaald door het samenspel
van slimme technologie met het reguliere systeem van de zorgverlening.
6    https://www.babylonhealth.com/
7    https://www.kry.se/en/about/
</pre>

====================================================================== Einde pagina 25 =================================================================

<br><br>====================================================================== Pagina 26 ======================================================================

<pre>26                                              RVS – Waarde(n)volle zorgtechnologie
Vaardigheden en middelen
De toegankelijkheid van slimme zorgtechnologie kan een probleem vormen voor
mensen die niet vertrouwd zijn met digitale communicatiemiddelen. Deze groep
mensen wordt weliswaar snel kleiner, maar het gaat op dit moment nog om een
aanzienlijk aantal: circa 1,6 miljoen mensen in Nederland. Ook kunnen oplei-
dingsniveau en inkomen tot verschillen in toegankelijkheid leiden. Sommige
apps vereisen een goede beheersing van de Engelse taal, en mensen met ruimere
financiële middelen kunnen gemakkelijker apps aanschaffen en behandelingen
zelf betalen.
Anderzijds kan de toegankelijkheid juist verbeteren voor mensen die een
drempel ervaren bij het vragen van hulp voor een gezondheidsprobleem aan een
(bekende) huisarts, uit schaamte of angst. Zo laat het voorbeeld van Difosa zien
dat juist het kunnen gebruiken van digitale hulp thuis, in de eigen omgeving
en onzichtbaar voor de buitenwereld, stigmatisering voorkomt, maar wel de
mogelijkheid biedt om een hulverlener te raadplegen.
4.5 Slimme zorgtechnologie en pluriformiteit
Bij pluriformiteit gaat het erom in hoeverre slimme zorgtechnologie aansluit bij
de diversiteit in de samenleving. In het RVS-advies Verlangen naar samenhang
(2016) staat vooral de mogelijkheid centraal die mensen hebben om individuele
keuzes te maken en particulier initiatief te ontwikkelen.
Individuele keuzes
Private partijen die bijvoorbeeld sociale robots ontwikkelen voor de private
markt zullen zich uiteraard richten op een doelgroep die het betreffende product
kan en wil kopen. Dit kan betekenen dat niet alle groepen in de samenleving
gelijkelijk bediend worden. Het is te vergelijken met de ontwikkeling van
geneesmiddelen. Er worden maar weinig middelen ontwikkeld voor tropische
ziekten, omdat de koopkracht in de landen waar deze ziekten voorkomen ont-
breekt. Anderzijds, als de producten grootschalig, wereldwijd, worden uitgerold,
is het wellicht commercieel haalbaar om met verschillende versies te komen
voor verschillende deelmarkten, aangepast aan de lokale wensen.
Particulier initiatief
Het gegeven dat er een dynamische wisselwerking is tussen slimme zorg-
technologie en samenleving brengt met zich mee dat er meer ruimte ontstaat
voor particuliere initiatieven. Een voorbeeld hiervan is crowdfunding, waarbij
burgers initiatieven die zij waardevol vinden financieel steunen. Dit kan tot
opmerkelijke initiatieven leiden. Een goed voorbeeld hiervan is een café in Tokio,
</pre>

====================================================================== Einde pagina 26 =================================================================

<br><br>====================================================================== Pagina 27 ======================================================================

<pre> 4 — Een verkenning van de kansen en risico’s voor de publieke belangen van de zorg           27
Japan, met de naam Dawn ver.β 8. In dit café worden de klanten bediend door
robots die vanuit huis worden aangestuurd door patiënten die door een verlam-
ming of andere ruggenmergaandoening getroffen zijn. Zij krijgen 1000 yen per
uur betaald, het standaardloon voor parttime werk in Japan. Zo kunnen mensen
met een beperking op afstand, vanuit hun eigen omgeving, betrokken blijven bij
de samenleving. Dit is een goed voorbeeld van de wijze waarop slimme technolo-
gie op een vernieuwende wijze ingezet wordt en daarmee een bijdrage levert aan
het vergroten van de pluriformiteit binnen de samenleving.
Gepersonaliseerde zorg
Goede zorgverlening vraagt steeds meer dat er wordt ingespeeld op de indi-
viduele wensen en mogelijkheden van de persoon. Maar dat niet alleen. De
context van de patiënt is zeer relevant bij het bepalen van de behandeling of
bij het afzien van een bepaalde behandeling. In de gezondheidszorg neemt de
complexiteit van de zorgvraag toe; patiënten hebben vaak meerdere aandoenin-
gen tegelijkertijd. Naast medische factoren spelen ook sociale en psychische
factoren een belangrijke rol. Het gebruik van AI biedt mogelijkheden om deze
grote hoeveelheid informatie te verwerken en om te zetten in meer gepersonali-
seerde adviezen (Mesko 2017).
4.6 Slimme zorgtechnologie en betaalbaarheid/solidariteit
Bij betaalbaarheid/solidariteit gaat het om de vraag in welke mate zorg in
financiële zin beschikbaar is, zowel voor het individu dat zorg uit eigen zak
betaalt, als voor de samenleving als geheel via de collectief verzekerde zorg. Dit
laatste, de collectieve betaalbaarheid, duiden we aan met het begrip solidariteit.
Dit behelst zowel wat we bijdragen aan de collectief (verzekerde) zorg als het
beslag dat we op die zorg leggen.
De betaalbaarheid van een medisch diagnosenysteem met daaraan gekoppeld
een PGO is voor de individuele burger uitstekend als de dienst gratis ter beschik-
king wordt gesteld. Maar dit kan veranderen. Zoals eerder aangegeven zit er
een privaat verdienmodel achter, dat verschillende vormen kan aannemen. Als
eenmaal een grote marktmacht is verkregen, kan geld voor de dienst gevraagd
worden of kunnen de aangeleverde data worden verkocht aan aanbieders van
andere diensten. Een individu kan afhankelijk worden van de dienst doordat
het lastig of zelfs onmogelijk blijkt om over te stappen naar een andere dienst
(vendor lock-in).
8    Zie https://soranews24.com/2018/11/29/cafe-opens-in-tokyo-staffed-by-robots-controlled-by-
     paralyzed-people/
</pre>

====================================================================== Einde pagina 27 =================================================================

<br><br>====================================================================== Pagina 28 ======================================================================

<pre>28                                              RVS – Waarde(n)volle zorgtechnologie
Een ander probleem kan ontstaan als PGO’s zo succesvol worden dat ze een
belangrijke informatiebron voor zorgverleners of andere services worden en op
deze wijze grote marktmacht verwerven. Ze kunnen dan hoge vergoedingen
bedingen bij professionele partijen die baat hebben bij de patiëntgegevens.
Een oplossing zou kunnen zijn dat er, net zoals het verboden is om organen
te verhandelen, een verbod komt op de handel in gezondheidsgegevens
(Hooghiemstra 2018).
    De derma-app uit de casus vormt op dit moment geen onderdeel van
    het collectief verzekerde pakket. Burgers betalen die zelf. Op het eerste
    gezicht ontlast dit het solidaire zorgstelsel; er ontstaat een systeem
    naast het collectieve systeem. Een risico kan zijn – zeker als de aanbie-
    der een monopolist is – dat de kosten voor individuele burgers oplopen
    en daarmee niet (meer) voor iedereen op te brengen zijn. In dat geval
    zal het voor mensen een belemmering zijn om van deze zorgdiensten
    gebruik te maken, zeker als de betreffende zorg (ook) in het basispak-
    ket zit. Tegelijkertijd kan dit systeem ook zo worden ingezet dat een
    huisartsconsult overbodig wordt, waarmee het collectieve systeem kan
    worden ontlast.
Preventie en vroegdiagnostiek
In de toekomst zal, met name door big data en genetische informatie in com-
binatie met AI, de diagnostiek steeds verder naar voren schuiven: primaire
preventie op basis van voorspellende geneeskunde. Hierbij kunnen de kansen op
het krijgen van ziekten en aandoeningen in kaart gebracht worden. Op basis van
deze informatie kunnen preventieve maatregelen genomen worden, zodat het
optreden van de ziekte of aandoening wordt voorkomen of uitgesteld. Behalve
dat dit leed kan voorkomen, bespaart het behandelkosten. Dit moet afgewogen
worden tegen de kosten van deze preventie. Het huidige zorgstelsel is hier even-
wel in het geheel niet op ingericht. Primaire preventie of voorspellende genees-
kunde maakt op dit moment geen deel uit van de collectieve zorgverzekering.
    In de ouderenzorg is de problematiek van vroegdiagnostiek al realiteit.
    Er zijn op dit moment bijvoorbeeld sensor-alarmsystemen die op basis
    van de analyse van het leefpatroon, zoals de loopsnelheid en de mate van
    beweging, voorspellingen kunnen doen over het risico dat een oudere
    binnen een bepaalde periode ten val komt en mogelijk een heup breekt.
    Maar als we weten dat mevrouw Jansen een kans van 80% heeft om
</pre>

====================================================================== Einde pagina 28 =================================================================

<br><br>====================================================================== Pagina 29 ======================================================================

<pre> 4 — Een verkenning van de kansen en risico’s voor de publieke belangen van de zorg 29
    binnen vier weken in het ziekenhuis te worden opgenomen vanwege een
    mogelijke val, wat doen we dan? Gaan we dan een interventie vergoeden
    om die val die zich (nog) niet heeft voorgedaan te voorkomen?
Pakketdiscussie
Het kan zijn dat mensen die graag gebruik maken van de online dienstverlening
niet langer bereid zijn hiervoor (ook) premiegeld te betalen. Er zal dan druk
ontstaan om minder premie voor de zorgverzekering te betalen of een aparte
verzekeringspolis te ontwerpen (en bijgevolg het collectieve pakket uit te
dunnen).
Daarnaast is er het risico van cherrypicking. Als jonge, relatief gezonde
patiënten kiezen voor een ‘smarthpone-huisarts’, nemen zij abonnementsgelden
mee wanneer zij van huisarts wisselen (ervan uitgaande dat de smartphone-
huisarts officieel als huisarts erkend wordt, zoals nu het geval is in een groot
project in Londen van de National Health Services (NHS) 9). De smartphone-
huisarts krijgt inkomsten waar relatief gezonde patiënten tegenover staan,
terwijl de traditionele huisarts met minder inkomsten en zwaardere patiënten
achterblijft. De patiëntenmix van huisartsen en specialisten kan hierdoor
verschuiven, waarbij de reguliere zorg de ‘zwaardere’ patiënten krijgt.
Het gebruik van slimme zorgtechnologie kan ook als zodanig leiden tot extra
kosten in de collectief verzekerde zorg, zoals het voorbeeld van de derma-app in
paragraaf 4.3 laat zien.
Sociale robots worden ingezet in een zorgomgeving die collectief wordt
bekostigd op basis van een aantal wetten: de Wet langdurige zorg (Wlz), de Wet
maatschappelijke ondersteuning (Wmo) en de Zorgverzekeringswet. Kosten van
arbeid in de (collectieve) zorg zijn hoog en er is schaarste aan arbeidskrachten.
Dit betekent dat de aanschafkosten van een robot, enkele duizenden euro’s,
al snel terugverdiend kunnen worden. Wel zijn er implementatiekosten. Het
invoeren van een nieuwe technologie vraagt veel inspanningen van een
organisatie en dus geld. Dit kan een drempel vormen voor het invoeren van
kosteneffectieve technologie. Voorts geldt ook hier dat de (menselijke) begeleider
steeds meer de ‘moeilijke’ of zwaardere gesprekken moet gaan voeren, dus een
verzwaring van het werk ondervindt.
Een ander probleem kan zijn dat de kwaliteit van slimme zorgtechnologie zo
hoog blijkt dat dit mensen niet onthouden mag worden en onderdeel van het
9    https://www.bbc.com/news/health-41884142
</pre>

====================================================================== Einde pagina 29 =================================================================

<br><br>====================================================================== Pagina 30 ======================================================================

<pre>30                                               RVS – Waarde(n)volle zorgtechnologie
verzekerde pakket zou moeten zijn. Stel dat er een medisch diagnosesysteem
beschikbaar komt dat veel betere diagnosen stelt dan de arts en daardoor
levens redt. Als de aanbieder een monopolist is, kan deze een (zeer) hoge prijs
bedingen. Er ontstaat dan een situatie die vergelijkbaar is met die van de dure
geneesmiddelen.
4.7 Samenvattende conclusie
AI biedt enorme kansen om de kwaliteit van zorg te verbeteren: snellere en
doeltreffender diagnostiek en behandeling, ondersteuning en begeleiding van
patiënten en cliënten, en het overnemen van gerichte taken van zorgverleners.
De grootste risico’s voor de kwaliteit van zorg zijn de ingebouwde morele
aannames in AI-systemen die niet goed zichtbaar en zelfs moeilijk te herleiden
zijn. Dat kan tot onverwachte en ongewilde uitkomsten leiden. Ook is er een
reëel risico op monopolievorming door enkele grote spelers op de internationale
markt, die niet vanzelfsprekend dezelfde waarden en normen hanteren als wij in
Europa. Ten slotte ligt juist bij kleinere aanbieders het risico van faillissement op
de loer, waardoor medische gegevens van klanten verloren dreigen te gaan.
De fysieke bereikbaarheid van de zorg kan door AI enorm verbeteren. Een
aandachtspunt is wel dat niet alle mensen in staat zullen zijn om van deze
technologieën gebruik te maken vanwege gebrek aan vaardigheden en finan-
ciële middelen. Een risico is ook dat aanbieders van AI zich vooral richten op
aandoeningen die grote groepen mensen treffen en dat ze de in omvang kleinere
ziektebeelden vergeten.
AI kan bijdragen aan de pluriformiteit in de samenleving door slim gebruik te
maken van de enorme hoeveelheid data en deze om te zetten in meer gepersona-
liseerde adviezen. Anderzijds is er het risico dat juist de verschillen verdwijnen
en de grootste gemene deler de norm wordt.
AI kan het reguliere medische systeem ontlasten en zo indirect de betaalbaar-
heid en solidariteit bevorderen. Maar ook het tegenovergestelde is mogelijk,
namelijk dat zij die het kunnen betalen sneller gediagnosticeerd worden, om
vervolgens binnen het collectief gefinancierde systeem verder gediagnosticeerd
en behandeld te worden. Privaat en collectief gefinancierde zorg kunnen dan ook
niet los van elkaar gezien worden. Het is belangrijk om de impact van de private
initiatieven op het collectieve systeem te monitoren en te bewaken, en in te
grijpen als deze initiatieven negatieve gevolgen hebben voor de betaalbaarheid
en solidariteit.
</pre>

====================================================================== Einde pagina 30 =================================================================

<br><br>====================================================================== Pagina 31 ======================================================================

<pre>                                                                                  31
5 Een tweesporenbenadering
AI doet zijn intrede in de zorg. Dit gebeurt veelal buiten de kaders van de
reguliere zorg om, maar heeft onmiskenbaar invloed op deze zorg; de technologie
infiltreert in en vermengt zich met het stelsel van collectief gereguleerde zorg en
zal dit stelsel ingrijpend veranderen.
De Raad is van mening dat AI de zorg veel te bieden heeft. Het kan zowel de kwa-
liteit, de toegankelijkheid en de pluriformiteit als de betaalbaarheid en solidari-
teit van de zorg doen toenemen. Niettemin zijn er ook risico’s die deze publieke
belangen kunnen ondermijnen. Wanneer de overheid deze ontwikkelingen
helemaal vrij laat, lopen we het risico dat we afhankelijk worden van dominante
private partijen. Meestal merken we dat pas als het te laat is, zo leerde ons het
recente Facebook-schandaal met Cambridge Analytics (Cadwalladr en Graham-
Harrison 2018). Het is daarom van belang tijdig maatregelen te nemen om de
ontwikkelingen in goede banen te leiden.
Maar dit is geen gemakkelijke opgave. In deze verkenning zijn mogelijke effec-
ten van AI in de zorg in kaart gebracht. Het beeld is echter zeker niet volledig.
Of de gesignaleerde effecten metterdaad zullen optreden en wanneer, is niet op
voorhand te zeggen.
De Raad stelt daarom een tweesporenbenadering voor: een spoor voor de
lange(re) termijn en een spoor om morgen mee te beginnen.
5.1     Het eerste spoor
Een programmatische aanpak
Er zijn geen pasklare oplossingen te geven die kwesties eens en voor altijd
afdoende kunnen regelen. Dit betekent dat er een langdurige, adaptieve aanpak
nodig is, waarbij ontwikkelingen op de voet worden gevolgd en ervaringen bijeen
worden gebracht. Op basis daarvan moet steeds geanalyseerd worden wat de
effecten zijn op de publieke belangen en welke maatregelen nodig zijn om deze
belangen te kunnen blijven borgen. Daarbij moet niet uit het oog worden verloren
dat zich ook nieuwe publieke belangen kunnen aandienen, die aan de bestaande
moeten worden toegevoegd. Deze aanpak vergt dan ook een benadering vanuit
meerdere invalshoeken en disciplines, van zorgprofessionals, ethici, juristen,
verzekeraars, beleidsmakers en technici. De adviesaanvraag van de regering aan
de Wetenschappelijke Raad voor het Regeringsbeleid (WRR) om meer zicht te
</pre>

====================================================================== Einde pagina 31 =================================================================

<br><br>====================================================================== Pagina 32 ======================================================================

<pre>32                                                      RVS – Waarde(n)volle zorgtechnologie
krijgen op de kansen en de gevolgen van AI voor de (Nederlandse) samenleving
en economie door middel van een overkoepelend, multidisciplinair onderzoek,
sluit hierop aan. De Raad beveelt daarom aan dat gezondheidszorg ook hierin
expliciet wordt meegenomen als belangrijk te onderzoeken maatschappelijk
terrein en dat het perspectief van de publieke belangen centraal wordt gesteld.
Kennis genereren en delen, burgers informeren
Onlosmakelijk hiermee verbonden is de noodzaak om kennis te genereren en te
delen. De overheid moet inhoudelijke kennis, debat en opinievorming over de rol
van AI in de gezondheidszorg en de veranderingen die dit met zich meebrengt
voor patiënten en burgers, de mensen die in de sector werken, ontwikkelaars,
financiers enzovoorts stimuleren.10
Opleiden
In de verschillende zorgopleidingen is specifieke aandacht nodig voor AI, zowel
voor het leren doorgronden van algoritmen als voor de interactie tussen mens en
technologie. Zorgverleners en patiënten van de toekomst zullen met AI moeten
kunnen omgaan. Hun rol zal wijzigen, niet alleen in vaardigheden, maar ook
in de plek die ze innemen in het systeem waarin ze samen zullen werken met
technologie.
5.2 Het tweede spoor
Hoewel bij de ontwikkeling van AI in de zorg niet alles vooraf te bedenken en op
te lossen is, meent de Raad dat er een aantal kwesties is die de overheid meteen
zou moeten oppakken. Ze vormen zeker niet het antwoord op alle vragen, maar
het zijn zaken die helpen de impact van AI in goede banen te leiden. Het betreft
de volgende concrete punten.
Kwaliteitseisen stellen
Rond het publieke belang kwaliteit van zorg spelen vraagstukken omtrent de
(technische en morele) betrouwbaarheid van AI-toepassingen. Toelating tot de
(Europese) markt via een CE-markering is hiervoor ontoereikend. Hier zal de
overheid nadere kwaliteitseisen moeten stellen.
Ontwikkelen set van uitgangspunten
De Raad adviseert om uitgangspunten op te stellen waaraan nieuwe
10   Hieraan kan alvast op simpele schaal gewerkt worden met de nationale AI-cursus, die ook als
     app beschikbaar is en waaraan Nederlandse experts van verschillende universiteiten hebben
     meegewerkt. Het doel van deze cursus is om zo veel mogelijk Nederlanders op de hoogte te
     brengen van de basisprincipes van AI.
</pre>

====================================================================== Einde pagina 32 =================================================================

<br><br>====================================================================== Pagina 33 ======================================================================

<pre> 5 — Een tweesporenbenadering                                                     33
AI-toepassingen in de zorg moeten voldoen om toegelaten kunnen worden tot de
(Nederlandse) markt. Deze uitgangspunten zijn te ontlenen aan de zogenoemde
Asilomar AI principles 11. Deze principes zijn in 2017 opgesteld en inmiddels
ondertekend door een groot aantal computerwetenschappers en vooraanstaande
denkers. Ze vormen een pleidooi om te voorkomen dat de ontwikkeling van AI
negatieve toepassingen of gevolgen op de lange termijn zal hebben. Principe
10 verwoordt dit aldus: “Highly autonomous AI systems should be designed so that
their goals and behaviors can be assured to align with human values throughout their
operation.” De principes zijn zodanig algemeen geformuleerd dat ze brede onder-
steuning genieten van partijen met uiteenlopende belangen in AI. De principes
zullen in de praktijk geconcretiseerd moeten worden.
Europese samenwerking
Het is van belang hiertoe samen te werken op Europees niveau, waar ook
gewerkt wordt aan het ontwikkelen van uitgangspunten en principes voor AI.
Het Europees Economisch en Sociaal Comité (EESC) heeft in zijn recente advies
Kunstmatige intelligentie voor Europa (2018) de Europese commissie en de lidstaten
aanbevolen om gezamenlijk ethische richtsnoeren voor AI uit te werken en een
duidelijk, geharmoniseerd en bindend rechtskader voor AI op te stellen. Volgens
de planning zijn de ethische richtsnoeren in de eerste helft van 2019 gereed.
Ook binnen Europa kunnen er verschillen in opvatting zijn over uitgangspunten
of principes waaraan AI-toepassingen moeten voldoen. De Nederlandse regering
en het parlement zullen dus actief moeten deelnemen aan deze ontwikkeling in
Europees verband en waar nodig initiatief moeten nemen om ervoor te zorgen
dat de Nederlandse opvattingen worden gehoord en een plaats krijgen in de op te
stellen richtsnoeren en het rechtskader.
Kwaliteitseisen afdwingen
Hoewel nog veel onzeker is over welke vormen van AI in welk tempo en met
welke intensiteit op ons afkomen, dient zich nu al een probleem aan (in ieder
geval in landen om ons heen zoals het VK): de gebruikelijke mechanismen
om nieuwe toetreders tot de zorgmarkt te reguleren zullen hier niet werken.
Aanbieders van AI-technologie opereren immers voor een belangrijk deel (in
eerste instantie) buiten het collectieve systeem om. Ze richten zich direct tot de
consument en hanteren andere verdienmodellen waardoor ze niet afhankelijk
zijn van collectieve financiering uit publieke middelen. Er is voor hen dan ook
geen noodzaak om een toelating op grond van de Wet Toelating Zorginstellingen
(WTZi) aan te vragen, waarmee zij onderworpen zouden worden aan een complex
11   Zie bijlage 1.
</pre>

====================================================================== Einde pagina 33 =================================================================

<br><br>====================================================================== Pagina 34 ======================================================================

<pre>34                                               RVS – Waarde(n)volle zorgtechnologie
van regels die beogen de kwaliteit, de toegankelijkheid en de betaalbaarheid van
de zorg te borgen.
In dergelijke situaties staat de overheid het juridische instrument ter beschik-
king van aanmerken als ‘Dienst van algemeen (economisch) belang’. Dit is
bestaande Europese regelgeving. Het gaat hierbij om diensten die zo belangrijk
worden geacht voor de samenleving dat de overheid wil garanderen dat die
voor iedereen permanent en tegen redelijke voorwaarden beschikbaar zijn.
Aanbieders van dergelijke diensten kunnen door de (nationale) overheid worden
beschermd, maar moeten er dan wel voor zorgen dat de dienst voor iedereen
beschikbaar is. De overheid kan hiertoe voorwaarden stellen voor de kwaliteit
en de betrouwbaarheid van de dienst en de dienstverlening, de wijze waarop
de overeenkomst tot stand komt, zekerheden omtrent levering en herstel, en de
prijsstelling (betaalbare prijs).
Door AI-toepassingen in de zorg aan te merken als diensten van algemeen
economisch belang kan de Nederlandse overheid dus eisen stellen aan de
leveringsplicht, de continuïteit van levering en de prijsstelling, maar bijvoor-
beeld ook aan de grenswaarden. Hiermee kan tevens monopolievorming worden
tegengegaan en kunnen ook aan Nederlandse bedrijven kansen worden geboden
om zich op deze markt te profileren.
Het is aan de Nederlandse overheid om dit soort diensten, zoals medische
diagnosenystemen en PGO’s, als zodanig aan te wijzen. Hiervoor is geen nieuwe
wetgeving nodig; de juridische infrastructuur is al beschikbaar.
Datacontinuïteit garanderen
Rond kwaliteit van zorg speelt ook de problematiek rond datacontinuïteit.
Bedrijven kunnen failliet gaan. In dat geval moeten patiënten over hun gegevens
kunnen blijven beschikken.
Bij computerprogrammatuur is er vaak een broncode-escrow-regeling. Dit is
een overeenkomst tussen een softwareleverancier en een gebruiker waarbij
de leverancier de broncode van zijn computerprogramma deponeert bij een
zogenoemde escrow-agent. Als de leverancier de in de overeenkomst vastge-
legde voorwaarden niet nakomt of als die failliet gaat, dan stelt de escrow-agent
de broncode ter beschikking van de gebruiker zodat die zelf de software kan
(laten) onderhouden. Er bestaan ook andere typen escrow, zoals data-escrow en
cloud-escrow.
</pre>

====================================================================== Einde pagina 34 =================================================================

<br><br>====================================================================== Pagina 35 ======================================================================

<pre> 5 — Een tweesporenbenadering                                                  35
De Algemene verordening gegevensbescherming (AVG) regelt dat patiënten altijd
hun gegevens moeten kunnen opvragen en verstrekt krijgen. Ook in de MedMij-
afspraken is dit geregeld. Maar dan moeten die gegevens er nog wel zijn, en de
patiënt moet weten waar er allemaal zorggegevens van hem of haar zijn opge-
slagen. Een verplichte (gratis) downloadmogelijkheid van data voor patiënten in
zorgsystemen – eventueel gecombineerd met een van overheidswege opgelegde
‘health data escrow’ voor slimme zorgtechnologie of een erkenning voor bedrij-
ven die een dergelijke escrow-regeling hebben waarmee patiënten kunnen zien
dat zij altijd hun gegevens terug kunnen krijgen – kan dit garanderen en de
continuïteit van zorg waarborgen.
Traceerbaarheid voor burgers realiseren
Burgers moeten kunnen zien waar hun medische gegevens zijn opgeslagen en
met wie deze gegevens worden gedeeld. Hiervoor zijn al verschillende struc-
turen beschikbaar, zoals het online 'overzicht Uitgewisselde informatie' van
het Landelijk Schakelpunt (LSP), het afsprakenstelsel van MedMij en de meer
recent in de Tweede Kamer geopperde ‘digitale kluis voor elke Nederlander’. Het
strekt te ver om voor dit advies exact uit te werken hoe dit inzicht technisch
gerealiseerd dient te worden, maar de Raad wil er in elk geval voor pleiten dat
een dergelijke ‘verwijsindex’ voor de burger beschikbaar komt.
Als de overheid voorzieningen zoals hiervoor genoemd wil ‘verplichten’, kan
gebruik gemaakt worden van de mogelijkheid om diensten aan te merken als
‘diensten van algemeen (economisch) belang’, zoals hiervoor beschreven.
</pre>

====================================================================== Einde pagina 35 =================================================================

<br><br>====================================================================== Pagina 36 ======================================================================

<pre>36 RVS – Waarde(n)volle zorgtechnologie</pre>

====================================================================== Einde pagina 36 =================================================================

<br><br>====================================================================== Pagina 37 ======================================================================

<pre> 6 — Literatuur                                                                      37
6 Literatuur
Accountant.nl, 2018. KPMG ontwikkelt tool om gebruik algoritmen te toetsen.
17 december 2018. Geraadpleegd via https://www.accountant.nl/nieuws/2018/12/
kpmg-ontwikkelt-tool-om-gebruik-algoritmen-te-toetsen/
Awad, E, S. Dsouza,R. Kim, J. Schulz, J. Henrich, A. Shariff, J.F. Bonnefon en I.
Rahwan, 2018. The Moral Machine experiment. In: Nature, nov.1, vol. 563, p. 59-64.
Betlem, R., 2018. Europa op grote achterstand in strijd om digitale hegemonie. In:
Het Financieele Dagblad, 23 november 2018. Geraadpleegd via
https://fd.nl/ondernemen/1279302/europa-op-grote-achterstand-in-strijd-om-
digitale-hegemonie
Cadwalladr, C. en E. Graham-Harrison, 2018. Revealed: 50 million Facebook pro-
files harvested for Cambridge Analytica in major data breach. In: The Guardian, 17
maart 2018. Geraadpleegd via https://www.theguardian.com/news/2018/mar/17/
cambridge-analytica-facebook-influence-us-election
CEG, 2018. Digitale dokters. Een ethische verkenning van medische expertsystemen.
Den Haag: Centrum voor Ethiek en Gezondheid.
Copestake, B., 2018. Babylon claims its chatbot beats GPs at medical exam. BBC News,
27 juni 2018. Geraadpleegd via https://www.bbc.com/news/technology-44635134
EESC, 2018. Kunstmatige intelligentie voor Europa. Brussel: Europees Economisch en
Sociaal Comité.
EZK, 2018. Nederlandse Digitaliseringsstrategie: Nederland digitaal. Hier kan het. Hier
gebeurt het. Den Haag: Ministerie van Economische Zaken en Klimaat, juni 2018.
Hooghiemstra, T., 2018. Informationele zelfbeschikking in de zorg. Proefschrift, juli
2018, Tilburg University.
Mesko, B., (2017) The role of artificial intelligence in precision Medicine. Expert
Review of Precision Medicine and Drug Development, 2:5, 239-241, DOI:
10.1080/23808993.2017.1380516
</pre>

====================================================================== Einde pagina 37 =================================================================

<br><br>====================================================================== Pagina 38 ======================================================================

<pre>38                                                  RVS – Waarde(n)volle zorgtechnologie
Nictiz, 2019. Al in de zorg. Begrippen, praktijkvoorbeelden en vraagstukken. Den Haag:
Nictiz.
Oosterom, R., 2018. Deze ggz-instellingen hebben geen wachtlijst. Hoe doen
ze dat? In: Trouw, 21 december 2018. Geraadpleegd via https://www.trouw.nl/
samenleving/deze-ggz-instellingen-hebben-geen-wachtlijst-hoe-doen-ze-
dat-~a1b1dc9e/
Rawson, N., 2017. Chinese robot becomes world's first machine to pass medical
exam. Robot Watch, 28 november 2017. Geraadpleegd via http://robotwatch.co/
robot-passes-chinas-medical-licensing-exam
RVS, 2017. Implementatie van e-health vraagt om durf en ruimte. Den Haag: Raad voor
Volksgezondheid en Samenleving.
RVS, 2016. Verlangen naar samenhang. Over systeemverantwoordelijkheid en plurifor-
miteit. Den Haag: Raad voor Volksgezondheid en Samenleving.
RVZ, 2015. Consumenten-eHealth. Den Haag: Raad voor de Volksgezondheid en
Zorg.
Skipr, 2018. Medische dossiers HMC niet in te zien door bankroet Meddex. 22 novem-
ber 2018. Geraadpleegd via https://www.skipr.nl/index.php/actueel/id36662-me-
dische-dossiers-hmc-niet-in-te-zien-door-bankroet-meddex.html
TK 2018/2019a. Voortgangsrapportage e-health en zorgvernieuwing. Brief van de
minister van Volksgezondheid, Welzijn en Sport. Tweede Kamer, vergaderjaar
2018/2019, 27 529, nr. 156.
TK 2018/2019b. Data laten werken voor gezondheid. Brief van de minister voor
Medische Zorg. Tweede Kamer, vergaderjaar 2018/2019, 27 529, nr. 164.
</pre>

====================================================================== Einde pagina 38 =================================================================

<br><br>====================================================================== Pagina 39 ======================================================================

<pre>                                                                           39
Voorbereiding
De commissie die dit advies heeft voorbereid bestond uit Greet Prins
(commissievoorzitter), Daan Dohmen (raadslid), Marina de Lint en Leo Ottes
(adviseurs).
</pre>

====================================================================== Einde pagina 39 =================================================================

<br><br>====================================================================== Pagina 40 ======================================================================

<pre>40                                        RVS – Waarde(n)volle zorgtechnologie
Afkortingen
AED  Automatische externe defibrillator
AI   Artificial Intelligence (kunstmatige intelligentie)
AVG  Algemene verordening gegevensbescherming
CE   Conformité Européenne
CEG  Centrum voor Ethiek en Gezondheid
EESC Europees Economisch en Sociaal Comité
GGZ  Geestelijke gezondheidszorg
ICT  Informatie- en communicatietechnologie
LSP  Landelijk Schakelpunt
MIT  Massachusetts Institute of Technology
NHS  National Health Service
PGO  Persoonlijke gezondheidsomgeving
RVS  Raad voor Volksgezondheid en Samenleving
RVZ  Raad voor de Volksgezondheid en Zorg
VK   Verenigd Koninkrijk
VWS  Volksgezondheid, Welzijn en Sport
WMO  Wet maatschappelijke ondersteuning (Wmo)
Wlz  Wet langdurige zorg
WRR  Wetenschappelijke Raad voor het Regeringsbeleid
WTZi Wet Toelating Zorginstellingen
</pre>

====================================================================== Einde pagina 40 =================================================================

<br><br>====================================================================== Pagina 41 ======================================================================

<pre>                                                                                  41
Publicaties
Waarde(n)volle zorgtechnologie. Een verkennend advies over de kansen en risico’s van
kunstmatige intelligentie in de zorg.
Advies, nummer 19-01, februari 2019.
Goed leven.
Bundel, nummer 18-05, december 2018.
Over bezorgd. Maatschappelijke verwachtingen en mentale druk onder
jongvolwassenen.
Essay, nummer 18-04, juli 2018.
Leeftijdsgrenzen. Betere kansen voor kwetsbare jongeren.
Advies, nummer 18-03, juni 2018.
WHO CARES. Ontwerpprijsvraag voor nieuwe vormen van wonen, zorg en
ondersteuning.
Briefadvies, nummer 18-02, maart 2018.
Gezien en gehoord. 17.000 ervaringen met zorg en hulp.
Essay, nummer 18-01, februari 2018.
De wereld thuis. Zeven beeldverhalen.
Bundel, nummer 17-12, december 2017.
Ontwikkeling nieuwe geneesmiddelen. Beter, sneller, goedkoper.
Advies, nummer 17-10, november 2017.
Heft in eigen hand. Zorg en ondersteuning voor mensen met meervoudige problemen.
Advies, nummer 17-09, oktober 2017.
Zorgrelatie centraal. Partnerschap leidend voor zorginkoop.
Advies, nummer 17-08, oktober 2017.
De vele kanten van eenzaamheid.
Verkenning, nummer 17-07, juli 2017.
</pre>

====================================================================== Einde pagina 41 =================================================================

<br><br>====================================================================== Pagina 42 ======================================================================

<pre>42                                                RVS – Waarde(n)volle zorgtechnologie
Eenvoud loont. Oplossingen om schulden te voorkomen.
Advies, nummer 17-06, juni 2017.
Zonder context geen bewijs. Over de illusie van evidence-based practice in de zorg.
Advies, nummer 17-05, juni 2017.
De Zorgagenda voor een gezonde samenleving.
Publicatie, nummer 17-04, april 2017.
Recept voor maatschappelijk probleem. Medicalisering van levensfasen.
Advies, nummer 17-03, maart 2017.
Inkoopsafari. Verkenning van de praktijk van zorginkoop.
Verkenning, nummer 17-02, februari 2017.
Implementatie van e-health vraagt om durf en ruimte.
Briefadvies, nummer 17-01, januari 2017.
Wat ik met Kerst mis. Een bundel met wisselende perspectieven over eenzaamheid.
Bundel, nummer 16-04, december 2016.
Grensconflicten. Toegang tot sociale voorzieningen voor vluchtelingen.
Essay, nummer 16-03, oktober 2016.
Een gedurfde ambitie. Veelzijdig samenwerken met kind en gezin.
Advies, nummer 16-02, mei 2016.
Verlangen naar samenhang. Over systeemverantwoordelijkheid en pluriformiteit.
Advies, nummer 16-01, april 2016.
Wisseling van perspectief. De werkagenda van de RVS.
Publicatie, nummer 15-01, december 2015.
</pre>

====================================================================== Einde pagina 42 =================================================================

<br><br>====================================================================== Pagina 43 ======================================================================

<pre>                                                                                        43
Bijlage 1
De Asilomar AI principles zijn onderverdeeld in drie categorieën: onderzoeksas-
pecten, ethiek en waarden, en langetermijnaspecten. De tekst luidt:
“Artificial intelligence has already provided beneficial tools that are used every day by
people around the world. Its continued development, guided by the following principles,
will offer amazing opportunities to help and empower people in the decades and
centuries ahead.
Research Issues
1) R
    esearch Goal: The goal of AI research should be to create not undirected
   intelligence, but beneficial intelligence.
2) R esearch Funding: Investments in AI should be accompanied by funding for
    research on ensuring its beneficial use, including thorny questions in compu-
    ter science, economics, law, ethics, and social studies, such as:
    How can we make future AI systems highly robust, so that they do what we
    want without malfunctioning or getting hacked?
    How can we grow our prosperity through automation while maintaining
    people’s resources and purpose?
    How can we update our legal systems to be more fair and efficient, to keep
    pace with AI, and to manage the risks associated with AI?
    What set of values should AI be aligned with, and what legal and ethical status
    should it have?
3) Science-Policy Link: There should be constructive and healthy exchange
    between AI researchers and policy-makers.
4) R esearch Culture: A culture of cooperation, trust, and transparency should be
    fostered among researchers and developers of AI.
5) Race Avoidance: Teams developing AI systems should actively cooperate to
    avoid corner-cutting on safety standards.
Ethics and Values
6) Safety: AI systems should be safe and secure throughout their operational
    lifetime, and verifiably so where applicable and feasible.
7) F ailure Transparency: If an AI system causes harm, it should be possible to
    ascertain why.
8) Judicial Transparency: Any involvement by an autonomous system in judicial
    decision-making should provide a satisfactory explanation auditable by a
    competent human authority.
</pre>

====================================================================== Einde pagina 43 =================================================================

<br><br>====================================================================== Pagina 44 ======================================================================

<pre>44                                                RVS – Waarde(n)volle zorgtechnologie
9) Responsibility: Designers and builders of advanced AI systems are stake-
    holders in the moral implications of their use, misuse, and actions, with a
    responsibility and opportunity to shape those implications.
10) V alue Alignment: Highly autonomous AI systems should be designed so that
     their goals and behaviors can be assured to align with human values throug-
     hout their operation.
11) Human Values: AI systems should be designed and operated so as to be com-
     patible with ideals of human dignity, rights, freedoms, and cultural diversity.
12) Personal Privacy: People should have the right to access, manage and control
     the data they generate, given AI systems’ power to analyze and utilize that
     data.
13) L iberty and Privacy: The application of AI to personal data must not unreaso-
     nably curtail people’s real or perceived liberty.
14) S hared Benefit: AI technologies should benefit and empower as many people
     as possible.
15) Shared Prosperity: The economic prosperity created by AI should be shared
     broadly, to benefit all of humanity.
16) H uman Control: Humans should choose how and whether to delegate
     decisions to AI systems, to accomplish human-chosen objectives.
17) Non-subversion: The power conferred by control of highly advanced AI
     systems should respect and improve, rather than subvert, the social and civic
     processes on which the health of society depends.
18) A I Arms Race: An arms race in lethal autonomous weapons should be
     avoided.
Longer-term Issues
19) Capability Caution: There being no consensus, we should avoid strong
     assumptions regarding upper limits on future AI capabilities.
20) Importance: Advanced AI could represent a profound change in the history
      of life on Earth, and should be planned for and managed with commensurate
      care and resources.
21) Risks: Risks posed by AI systems, especially catastrophic or existential risks,
     must be subject to planning and mitigation efforts commensurate with their
     expected impact.
22) Recursive Self-Improvement: AI systems designed to recursively self-improve
      or self-replicate in a manner that could lead to rapidly increasing quality or
      quantity must be subject to strict safety and control measures.
23) C ommon Good: Superintelligence should only be developed in the service of
     widely shared ethical ideals, and for the benefit of all humanity rather than
     one state or organization.”
</pre>

====================================================================== Einde pagina 44 =================================================================

<br><br>====================================================================== Pagina 45 ======================================================================

<pre></pre>

====================================================================== Einde pagina 45 =================================================================

<br><br>====================================================================== Pagina 46 ======================================================================

<pre>Parnassusplein 5
Postbus 19404
2500 CK Den Haag
T +31 (0)70 340 5060
mail@raadrvs.nl
www.raadrvs.nl       @raadRVS
</pre>

====================================================================== Einde pagina 46 =================================================================

<br><br>