ROBUST: Trustworthy AI-based Systems for Sustainable Growth

Het consortium ROBUST wil meerjarig onderzoek uitvoeren naar betrouwbare kunstmatige intelligentie. In het onderzoek werken in totaal 54 partners, waarvan 21 afkomstig van kennisinstellingen waaronder 4 hogescholen, 23 partners zijn afkomstig van bedrijven en 10 van maatschappelijke organisaties. Het onderzoek tracht doorbraken te realiseren in vijf kerndimensies van robuuste kunstmatige intelligentie (AI): nauwkeurigheid, betrouwbaarheid, herhaalbaarheid, veerkracht, en veiligheid. De betrouwbaarheid van een AI-gebaseerd systeem wordt geformaliseerd aan de hand van zogenaamde contracten, dat wil zeggen, expliciete garanties over het beoogde gedrag van het systeem. Uitleg kan intrinsiek vertrouwen brengen voor algemene gebruikers. Daarom is de ontwikkeling van uitleg- en evaluatiemethoden een essentieel onderdeel van dit onderzoek.
 

  • Publiekssamenvatting

    Om de belofte waar te maken dat kunstmatige intelligentie bijdraagt aan de huidige maatschappelijke uitdagingen, is vertrouwen in de interactie tussen mensen en systemen op basis van kunstmatige intelligentie, een centrale component. Het langetermijnprogramma ROBUST is gericht op de bevordering van de technologische onderbouwing van betrouwbare systemen, in termen van nauwkeurigheid, betrouwbaarheid, herhaalbaarheid, veerkracht en veiligheid. ROBUST beoogt economische impact te hebben en bij te dragen aan de doelstellingen voor duurzame ontwikkeling. We doen dit als een netwerk van labs waarin kennisinstellingen en industriële stakeholders gezamenlijk onderzoeksagenda's nastreven.

  • Programmaleider

    Prof. dr. Maarten de Rijke (Universiteit van Amsterdam en ICAI)

  • Partners consortium

    ROBUST is een consortium van 21 kennisinstellingen, 23 industriële partners en 10 maatschappelijke
    organisaties in 17 publiek-private laboratoria in Nederland.

  • Partners kennisinstellingen

    Universiteit van Amsterdam
    Amsterdam UMC
    TU Delft
    TU Eindhoven
    Erasmus UMC
    Erasmus Universiteit
    JADS
    LUMC
    Universiteit Leiden
    Universiteit Maastricht
    Radboudumc
    Radboud Universiteit
    UMC Groningen
    Universiteit Twente
    UMC Utrecht
    Universiteit Utrecht

    Hogescholen

    Avans Hogeschool
    Fontys Hogeschool
    HAN
    Saxion
    University of Curaçao
     

  • Publieke partners

    Laurens Revalidatie
    Ministerie van Economische Zaken Curaçao
    NLAIC
    Partnership on AI
    Patiëntenorganisaties
    Revalidatiecentra
    Rijndam Revalidatie
    Rotterdam Stroke Service
    SDG Nederland
    TTT.AI

  • Private partners

    Abbott
    Alliander
    ASM Pacific Technology
    BioMax
    Delft Imaging Systems
    Deloitte
    DPGMedia
    DSM
    General Electric Healthcare
    GN Hearing
    Integrated Utility Holding
    LaNubia Consulting
    MeVis Medical Solutions
    NS
    NXP
    N.V. GEBE (St. Maarten)
    Philips
    ProRail
    Siemens Healthineers
    Thirona
    Verily
    Water- en Energiebedrijf Aruba
    24
    Water- en Energiebedrijf Bonaire

  • Begroting

    De begroting voor dit onderzoek bedraagt 95 miljoen euro, waarvan minimaal 14 miljoen toegezegde private cash cofinanciering. De begroting kan nog wijzigen, afhankelijk van de financiering van publieke en private partijen en de NWO-bijdrage. Na de definitieve toekenning van het voorstel zal blijken wat de totale budgetomvang is.

  • Uitgebreide samenvatting

    Kunstmatige intelligentie (AI) heeft het potentieel om economische impact te creëren en bij te dragen tot duurzame groei, gedefinieerd als economische impact die bijdraagt tot de doelstellingen inzake duurzame ontwikkeling. Het langetermijndoel van het ROBUST-programma is om dat potentieel te verwezenlijken door de ontwikkeling van betrouwbare AI. De ROBUST-visie is om (a) een beter begrip te krijgen van de principes die ten grondslag liggen aan betrouwbare AI en machinaal leren, (b) het versterken van ons vertrouwen in wetenschappelijke bevindingen op het gebied van AI, en (c) het bijdragen aan instrumenten en
    mechanismen voor de ontwikkeling en bevordering van de toepassing van op AI gebaseerde, en in het bijzonder op machinaal leren gebaseerde oplossingen in de samenleving en de industrie.

    Met een focus op technologische aspecten van betrouwbare AI-gebaseerde systemen, volgt ROBUST een belangrijk hoofdstuk van de AIREA-NL agenda door te streven naar doorbraken in vijf kerndimensies van robuuste AI: nauwkeurigheid, betrouwbaarheid, herhaalbaarheid, veerkracht, en veiligheid. We formaliseren de betrouwbaarheid van een AI-gebaseerd systeem in termen van zogenaamde contracten, dat wil zeggen, expliciete garanties over het beoogde gedrag van het systeem langs deze dimensies. AI wordt vaak beschouwd als een zwarte doos. Uitleg kan intrinsiek vertrouwen brengen voor algemene gebruikers, terwijl empirische evaluatie de sleutel is om te bepalen of een op AI gebaseerd systeem in staat is een contract te handhaven. Daarom is de ontwikkeling van verklarings- en evaluatiemethoden een essentieel ingrediënt van dit programma. 

    Dit programma bouwt voort op het bloeiende ICAI-netwerk van academisch-industriële samenwerkingsverbanden. Onder de paraplu van het ROBUST-programma zullen 17 nieuwe publiek-private samenwerkingslaboratoria worden opgestart. ROBUST verenigt 21 kennisinstellingen, 23 medefinancierende industriële partners, en 10 maatschappelijke organisaties. Samen streven we er naar het Nederlandse AI-ecosysteem te versterken. Ten eerste streven we naar een ambitieuze, technologiegerichte onderzoeksagenda in betrouwbare AI. Ten tweede creëren we economische impact en dragen we bij aan duurzame groei door onderzoek in hechte publiek-private samenwerkingsverbanden. Ten derde zullen we ons op een groot aantal maatschappelijke kansen richten, via het delen en overdragen van kennis door open publicaties, via kennisdeling door community-evenementen en -uitdagingen, en via speciale AI-clinics gericht op het mkb en startende ondernemingen.
     

Over een Langetermijnprogramma (LTP) in ontwikkeling

In de eerste ronde van Langetermijnprogramma’s (KIC 2020-2023) zijn twee strategiegedreven consortia geselecteerd: zij mogen hun onderzoeksplannen voor de komende tien jaar verder uitwerken. De definitieve voorstellen doorlopen het reguliere beoordelingsproces met referenten en een beoordelingscommissie. Voor beide voorstellen is opgeteld maximaal 40 miljoen NWO-financiering beschikbaar.