Dagelijks opinie, nieuws en achtergronden

Inloggen
Lezersverhalen
Hubert Oostenbroek
26 juni 2019 1 minuut leestijd
Lezersverhalen

Levensgevaarlijk

1 reactie
Getty Images
Getty Images

Vooralsnog is het hetzelfde als 2001: A Space Odyssey. Toekomstmuziek, een hype, hoogstens een hulpmiddel, en niet realistisch dat robots ons werk overbodig maken. Zie de vliegerij.

Veiligheid is iets wat wij van hen hebben geleerd. Computers kunnen in principe van A naar B vliegen, maar onvoorziene omstandigheden en falen van zulke systemen zijn met die slimme technologie niet op te vangen.

Er is berekend dat op de 10 duizend momenten dat de techniek faalde, de mens in ongeveer 9998 situaties een oplossing kon aanreiken die een crash kon voorkomen. Twee van die crashes kennen we maar al te goed: die met de Boeing 737 Max. De eerste vond pas plaats nadat de bemanning er 28 keer (!) in was geslaagd het weerbarstige systeem om de tuin te leiden en vliegend te blijven; de 29ste keer dat het systeem het vliegtuig de grond in wilde boren was het systeem succesvol.

I rest my case: AI is hoogstens een hulpmiddel en in potentie een levensgevaarlijk hulpmiddel. Laten we dus vooral terughoudend zijn, want we benadrukken maar al te graag de positieve kanten, maar de negatieve kanten zijn in potentie kennelijk levensgevaarlijk.

We herkennen allemaal de casus van een patiënt bij wie een intra-oesofageale intubatie wordt gedaan. Vervolgens wordt een ‘normaal’ CO2 gemeten in de ‘uitgeademde’ lucht, als ‘bewijs’ dat de intubatie in de trachea is verricht. Als er dan niet meer wordt opgelet, kan het voorkomen dat de maag wordt beademd en loopt de patiënt risico op hypoxie of erger.

Het is dus zaak heel bescheiden verwachtingen te hebben en voorzichtig te zijn. Het belangrijkste is dat we het kunnen begrijpen en volgen. Als dat niet mogelijk is: niet aan beginnen.

dr. Hubert Oostenbroek, orthopedisch chirurg, Wassenaar
meer over kunstmatige intelligentie
Lezersverhalen
Dit artikel delen
Op dit artikel reageren inloggen
Reacties
  • Atta van Westreenen , co-assistent , Tilburg 01-07-2019 19:46

    "De angst voor AI is niet zelden onterecht. Een ontzettend leuk boek daarover is "the glass cage". Die angst volledig onderschrijvend echter, wil ik ook wel stelling nemen tegen het nemen van dit soort incidenten tegen AI. Waar we ons nu bevinden met betrekking tot computerondersteuning is ergens op het continuüm tussen "volledig mens" en "volledig autonoom", waarbij we nog niet goed gebalanceerd hebben tussen die twee uitersten. Dat is een zoektocht, zeker. Die gaat slachtoffers kosten, gegarandeerd. Maar als we deze zoektocht wel aangaan in plaats van niet, kunnen we daarmee nog heel veel meer slachtoffers van menselijke hand uitsparen. "

 

Cookies op Medisch Contact

Medisch Contact vraagt u om cookies te accepteren voor optimale werking van de site, kwaliteitsverbetering door geanonimiseerde analyse van het gebruik van de site en het tonen van relevante advertenties, video’s en andere multimediale inhoud. Meer informatie vindt u in onze privacy- en cookieverklaring.