Elon Musk is ervan overtuigd dat zelfsturende computers auto’s veel veiliger zullen maken. Maar tijdens hun leerproces zijn slachtoffers onvermijdelijk.
Op de laatste dag van zijn leven stond Jeremy Banner voor zonsopkomst op om naar zijn werk te rijden. Hij stapte in zijn rode Tesla Model 3 en begaf zich zuidwaarts langs de oevers van de Everglades in de Amerikaanse staat Florida . Moerassen en landbouwgebieden zoefden als een groene waas aan hem voorbij. Banner haalde een hendeltje over op het stuurwiel, en er klonk een zachte toon. Hij had het meest complexe en controversiële veiligheidsproduct voor auto’s aangezet: Tesla Autopilot, een computersysteem dat alle functies van het gewone snelwegverkeer uitvoert zonder dat de bestuurder zich ermee hoeft te bemoeien. Als de computer de auto bestuurt, kan de auto sneller gaan rijden, van rijbaan verwisselen, een afrit nemen en, als hij een obstakel voor zich ziet, op de rem trappen.
Het doel van Tesla is om de mondiale automarkt te beheersen door ’s werelds eerste zelfrijdende auto te maken, en volgens Tesla is Autopilot daarvoor de essentiële eerste stap. Klanten vinden het prachtig. Ze hebben samen al bijna 2,5 miljard kilometer met Autopilot afgelegd en daarbij de grenzen van de software vaak opgezocht. Hoewel de handleiding bestuurders waarschuwt om de auto voortdurend in de gaten te houden, zijn er toch bestuurders die boeken lezen, een dutje doen, op hun ukelele tokkelen of seks hebben. Meestal brengt de auto ze wel waar ze willen zijn.
Tractor met oplegger
Maar op die ochtend in maart had Banners sedan niet in de gaten dat voor hem een tractor met oplegger de vierbaansweg overstak. En ook Banner zag het niet; blijkbaar was hij afgeleid geweest. Hij raakte de oplegger vol in het midden met een snelheid van 110 km/u. Het dak van zijn auto wipte eraf alsof het om een sardineblikje ging. De man, 50 jaar oud en vader van drie kinderen, was op slag dood.
Computerfouten zien er anders uit dan menselijke fouten. De automatische piloot heeft een bliksemsnelle reflex en is nooit afgeleid, maar een gevaar voor hem ziet hij soms niet. In vier van de vijf bekende dodelijke ongelukken sinds de introductie van Autopilot in 2015 lijkt het erop dat er iets aan de waarneming is ontsnapt. Het ongeluk waar Banner het slachtoffer van werd leek ook onwaarschijnlijk veel op een eerder ongeluk. In augustus eisten de nabestaanden op grond van de wet op dood door schuld van de staat Florida een schadevergoeding van Tesla. De claim van de nabestaanden is gewoon op productaansprakelijkheid gebaseerd: Tesla beloofde een veilige auto en leverde er een met gevaarlijke tekortkomingen.
Gigantisch experiment
Maar Autopilot is anders dan bijna alle andere consumentengoederen die er ooit zijn geweest. Wat hier gebeurt, is een voorproefje van de ongemakkelijke vragen die in het dagende robottijdperk op ons af zullen komen. De flamboyante ceo van Tesla, Elon Musk, zegt dat de technologie levens redt, en er zijn legio Teslarijders die getuigen van bespeurde gevaren en vermeden botsingen.
Het is mogelijk dat beide kanten gelijk hebben, dat er door de computers een paar mensen zijn omgekomen die anders hadden geleefd, maar dat door hen eveneens de levens van veel meer mensen zijn gered. In de komende jaren zal door de maatschappij, en in het bijzonder door de autoriteiten en justitie, moeten worden besloten of het een het andere waard is. Dat is geen academische vraag meer. De beslissing van Musk om Autopilot aan zo veel mogelijk mensen beschikbaar te stellen komt neer op een gigantisch experiment op alle autowegen ter wereld.
(Bron: FD)