Verkeersbeeld chaotische weg

Zich aan mensen aanpassende machines

‘Kunstmatig intelligente systemen moeten zich aanpassen aan de mens, niet andersom.’ Dat is het uitgangspunt van het NWA-project ‘Hersenen en AI voor veilige slimme machines’. Projectleider Sander Bohté wil het gedrag van zelfdenkende machines voorspelbaarder maken.

Tekst: Sonja Knols-Jacobs | Foto in banner: auto's op een rijbaan, Shutterstock, Peter Gudella

‘Het hoofddoel van ons project is om machines te leren omgaan met de onzekerheden van menselijk gedrag,’ vertelt Sander Bohté, bijzonder hoogleraar Cognitieve Neurobiologie aan de Universiteit van Amsterdam en senior-onderzoeker aan het Centrum Wiskunde & Informatica. ‘Je kunt de verkeersregels wel programmeren in een zelfrijdende auto, maar hoe bereid je zo’n autonoom systeem voor op het chaotische Amsterdamse fietsverkeer? En hoe weet je als medeweggebruiker wat een zelfrijdende auto gaat doen op het moment dat er iemand anders door rood rijdt? De huidige generatie algoritmes voor autonome voertuigen besluit in geval van onzekerheid vaak tot een noodstop om ongelukken te voorkomen. Maar als een mens dat onder dezelfde omstandigheden nooit zou doen, verwacht je dat als verkeersdeelnemer niet en klap je er zo achterop. Met ons project willen we meetbaar maken in hoeverre een autonoom systeem voorspelbaar reageert.’

Voorspelbaarheid is cruciaal

‘Die voorspelbaarheid van gedrag is een heel belangrijk criterium,’ zegt Ilse Harms, senior adviseur Human Factors & Vehicle Automation bij de RDW. ‘Als voertuigautoriteit toetsen wij of een nieuw type voertuig voldoet aan de wet- en regelgeving voordat we besluiten of het voertuig de openbare weg op mag. Binnen het NWA-project ‘Hersenen en AI voor veilige slimme machines’ neemt RDW deel als maatschappelijke partner. Enerzijds als klankbord voor de wetenschap, anderzijds om kennis op te doen die we in de praktijk en bij verdere ontwikkelingen kunnen toepassen. De ontwikkelingen richting volledig autonome voertuigen gaan enorm hard. Sinds september vorig jaar is het mogelijk gemaakt voor fabrikanten om het eerste systeem voor geautomatiseerd rijden te laten beoordelen voor Europese wegen. Dit systeem heet ALKS, wat staat voor Automated Lane Keeping System, en mag op bepaalde wegen en binnen vooraf gedefinieerde omstandigheden de controle over het voertuig van de bestuurder overnemen. De omstandigheden waaronder dit eerste systeem mag rijden zijn nog zeer beperkt. De technologie om voertuigen (delen) zelf te laten rijden ontwikkelt zich verder. Op mondiaal niveau wordt nagedacht over regelgeving voor uitbreiding van systemen voor geautomatiseerd rijden. Nederland heeft daar ook een rol in. Dat betekent dat we continu behoefte hebben aan nieuwe kennis om deze ontwikkelingen beheerst te laten plaatsvinden.’

Portret Ilse Harms

Hoe kan een auto de intenties van andere verkeersdeelnemers lezen en hoe kan hij zijn eigen intentie aan die omgeving duidelijk maken? Feitelijk zijn dit ook de aspecten waarop je als mens beoordeeld wordt als je rijexamen doet.

Ilse Harms

Harms hoopt dat het NWA-project handvaten gaat bieden om de rijvaardigheid van geautomatiseerde en volledig autonome voertuigen te kunnen beoordelen. ‘Er zijn nog veel onderzoeksvragen als: Hoe gaat zo’n voertuig om met medeweggebruikers, en hoe gedraagt het zich in situaties die afwijken van het normale? Stel dat er tijdens het rijden een systeem faalt. Hoe gaat het voertuig dat oplossen op een veilige manier? Hoe kan een auto de intenties van andere verkeersdeelnemers lezen en hoe kan hij zijn eigen intentie aan die omgeving duidelijk maken? Feitelijk zijn dit ook de aspecten waarop je als mens beoordeeld wordt als je rijexamen doet.’

Gedrag vangen in algoritmen

Om deze vragen te kunnen beantwoorden, is onderzoek nodig op verschillende terreinen. Het vijfjarige project steunt dan ook op een aantal pijlers, legt Bohté uit. ‘We onderzoeken bijvoorbeeld hoe mensen zich gedragen wanneer zich onzekerheden voordoen. Om te kunnen dienen als input voor nieuwe beslissingsalgoritmen, gaan we kwantificeren hoe waarschijnlijk bepaald gedrag is in een specifieke situatie. Daarnaast inventariseren we wat voor soort situaties je zoal tegenkomt in het dagelijks verkeer en welke interacties er dan plaatsvinden tussen fietsers, auto’s, en voetgangers. Daarbij hebben we specifiek aandacht voor situaties die afwijken van de normale gang van zaken, dus bijvoorbeeld een auto die een stukje achteruit rijdt, een vrachtwagen die afslaat en daarbij een fietspad kruist, of een fietser die door rood rijdt.’

Daarnaast is een flink deel van het project ook gericht op de technische implementatie van de bevindingen uit deze studies naar menselijk gedrag, legt hij uit. ‘De neurale netwerken die de ruggengraat vormen van autonome systemen kunnen op verschillende manieren tot een besluit komen. Ze kunnen bijvoorbeeld alle mogelijke situaties afgaan en daarvan uitrekenen hoe waarschijnlijk die zijn. Maar dat kost tijd. We willen proberen de manier waarop menselijke hersenen informatie verwerken na te bootsen in onze algoritmen, bijvoorbeeld door te bepalen wat de cruciale details zijn op basis waarvan we als mensen een besluit nemen.’

Rijden en vliegen

Binnen het project wordt niet alleen gekeken naar zelfrijdende auto’s. Ook autonoom opererende drones zijn onderwerp van studie. Bohté: ‘Mensen die met drones werken, willen kunnen voorspellen wat die drone gaat doen als er iets misgaat. In feite willen ze zeker weten dat zo’n drone dan doet wat je als mens ook zou doen.’ Zeker als je met zwermen van drones werkt, is het van belang om te begrijpen hoe ze bijvoorbeeld obstakels vermijden. ‘Je kunt dan wel regels inprogrammeren dat ze altijd naar stuurboord uitwijken als ze op elkaar dreigen te botsen, maar wat doe je als zo’n drone niet voldoende data heeft om zeker te weten welke koers de ander vliegt?’

Een hieraan verwante toepassing die de onderzoekers bestuderen betreft lichtgewicht drones. Omdat deze geen grote, energie slurpende processoren en grote hoeveelheden sensoren bevatten, is de uitdaging om te komen tot een systeem waarmee je op basis van weinig informatie en met weinig rekenkracht wel tot voorspelbare beslissingen kunt komen. ‘Die energiezuinige invalshoek is niet alleen interessant voor minidrones,’ benadrukt Bohté. ‘Ook in auto’s is de energieconsumptie van alle elektronica een belangrijk aandachtspunt.’

Sociale verkeersdeelnemers

We hebben dringend behoefte aan objectieve maten om te kunnen bepalen of een zelfdenkend systeem wel of niet samengaat met mensen, concludeert Bohté. ‘Op dit moment gedragen autonoom rijdende auto’s zich nog asocialer dan de spreekwoordelijke taxichauffeurs.’ Harms stelt echter dat voertuigen zich dienen te gedragen zoals de wetgeving ze toestaat, en het voor de hand liggender is dat voertuigen zich aan kunnen passen aan de omgeving waarin ze zich bevinden en dus aan het vertrouwde verkeersbeeld. Zij vult aan: ‘Want je hebt niet alleen te maken met onverwachte gebeurtenissen. Er zijn ook veel ongeschreven culturele verschillen tussen landen. Neem inhalen. In Nederland kijk je eerst. Als er ruimte is zet je je knipperlicht aan en dan verwissel je van baan. Mijn Italiaanse collega vindt dat heel onbeleefd. Want in Italië gebruik je je richtingaanwijzer juist om andere weggebruikers te laten weten dat je gaat kijken wanneer je er tussen kunt. En mijn collega uit India doet dat weer heel anders. Daar vertrouwt men minder op techniek, zegt hij, dus steken automobilisten gewoon een hand uit het raam als ze willen afslaan. Geautomatiseerde en autonome auto’s moeten dat allemaal herkennen, en daar afhankelijk van de context zo mee omgaan dat ze zich netjes gedragen in het verkeer. Hiervoor hebben we snel veel nieuwe kennis nodig. Daarom zijn organisaties als de RDW ook erg blij dat de NWA dit onderzoeksproject mogelijk maakt.’

Deelnemers aan het consortium zijn: Centrum Wiskunde & Informatica (CWI), Radboud Universiteit, Donders Institute, TNO, Technische Universiteit Eindhoven, Technische Universiteit Delft, Universiteit van Amsterdam, NLR, IMEC, 2getthere, Instituut voor Wetenschappelijk Onderzoek Verkeersveiligheid (SWOV), Veilig Verkeer Nederland VVN, AI in motion, NXP Semiconductors, RDW, Luchtverkeersleiding Nederland LVNL, Thales, Ministerie van Justitie en Veiligheid, Rijkswaterstaat

NWO wees in het kader van de Nationale Wetenschap agenda 3,5 miljoen euro toe. Het onderzoek loopt van 2021 tot 2026. Projectleider van het consortium is prof. dr. S.M. Bohté.