Terugblik Kenniscafé AI in Brabant

Tijdens kenniscafe ‘de maatschappelijke impact van AI in Brabant’ gingen in het Klassetheater in Tilburg ruim 60 beleidsmakers, bestuurders, ontwerpers en ondernemers met elkaar in gesprek over vragen zoals: wat is AI precies? Wat betekent het voor Brabant en Brabantse burgers, ondernemers en bestuurders?

Hoe kunnen we ons het beste voorbereiden op de mogelijkheden en uitdagingen die AI in de toekomst zal brengen?

Deep fake, gezichtsherkenning, vertaalapps, medische diagnoses, fraudebestrijding, online beïnvloeding, virtuele assistenten en zelfrijdende auto’s. Artificial Intelligence (AI) is nu al niet meer weg te denken uit onze samenleving. Bedrijven, kennisinstellingen en overheden in Brabant werken al jaren aan de ontwikkeling en toepassing van AI. Initiatieven zoals JADS en Mindlabs bieden goede uitgangspunten om economisch en technologisch de vruchten van AI te plukken. Maar, nemen we ook de verantwoordelijkheid voor de sociaal-maatschappelijke inbedding? Daar kunnen de technologische en sociale innovatiekracht van Brabant bij elkaar komen.

BrabantKennis en de Brabantse Ontwikkelings Maatschappij (BOM) organiseerden daarom een kenniscafé over de maatschappelijke impact van AI voor zowel bedrijven als beleidsmakers. In het Klassetheater in Tilburg luisterden en spraken we samen over de impact van AI, tijdens deze inspirerende middag onder leiding van dagvoorzitter Anne-Marie Fokkens.

Anne-Marie opent de middag met een vragenronde in het publiek. “We gaan het hebben over AI, maar wat is dat volgens jou eigenlijk?” De gasten in de zaal zijn verdeeld in hun voorkennis: ondernemers uit het vakgebied die kennis willen delen, studenten die zich willen laten informeren over de toekomst van AI en bestuurders die zich willen verdiepen in de gevolgen van AI in hun dagelijks werk. Een greep uit de reacties: “Ik weet er eigenlijk te weinig van, daarom ben ik hier.” “Ik denk dat we met AI veel kennis kunnen samenbrengen.” “Volgens mij zijn we ons er te weinig van bewust, maar AI is overal. Van online reclame tot gezichtsherkenning op je telefoon.”   

Anne-Marie: “Omdat ik het zelf ook een ingewikkelde materie vind heb ik een en ander opgezocht. Want wanneer is iets nou eigenlijk ‘gewoon techniek’ en wanneer is het AI? Ik kwam deze definitie tegen die ik met jullie wil delen.

‘AI is de mogelijkheid van machines om mensachtige vaardigheden te ontwikkelen.’

Dat geeft al wat kader, toch? Wat fijn dat we vandaag samen kunnen gaan luisteren naar en praten over AI. We gaan het onderwerp breed aanvliegen met sprekers die vanuit allerlei vakgebieden en sectoren te maken hebben met AI.” 

Thijs Pepping is co-auteur van het boek Echt Nep . Hij trapt af met een inleiding over deep fake in de dagelijkse realiteit. “Bijna alle media zijn gemodificeerde media, dus gemanipuleerd door AI. De techniek wordt steeds beter en is inmiddels doorgedrongen in muziek, film, fotografie en kunst. Commerciële bedrijven zien hier een goed verdienmodel in, ze bieden zelfs services aan zoals face swap en etniciteitsswitch.” Tot plezier van het publiek kondigt Thijs aan straks een echt-of-nep-quiz te gaan spelen, op zoek naar een realiteiten-detective!  

We vervolgen met Haroon Sheikh, senior wetenschapper bij de Wetenschappelijke Raad voor het Regeringsbeleid (WRR). AI is volgens de WRR een systeemtechnologie met verstrekkende gevolgen voor de samenleving en de publieke waarden. Daarom publiceerde de WRR recent het rapport Opgave AI waarin zij vijf opgaven voor de overheid en samenleving identificeert als gevolg van de overstap van AI van het lab naar de samenleving. Dit deden zij op verzoek van maar liefst 13 ministeries. “AI is overal. In je telefoon, in deepfakes, maar ook bij politie en defensie. Er zijn talloze voorbeelden. AI kun je zien als de eigenschap van machines om menselijke vaardigheden te ontwikkelen.”

“AI is de nieuwe systeemtechnologie. De impact op de samenleving is enorm. Hoe help je dan de regering om een lijn uit te zetten? Door te begrijpen waar het mee te vergelijken is. AI is te begrijpen als je het ziet als systeemtechnologie. Met een systematisch effect op de samenleving. “AI is een manier van werken en niet iets wat je koopt. Het is geen neveneffect.”

De WRR benoemt in het rapport vijf opgaven om AI maatschappelijk in te bedden: demystificatie, contextualisering, engagement, regulering en positionering.

Demystificatie is het eerste aspect van de maatschappelijke inbedding. “Wat is AI? Het kan fantastisch zijn, het kan verschrikkelijk worden. Utopieën en dystopieën moeten worden vermeden. Realistische beelden helpen om te kijken naar de werkelijke effecten. Positief en negatief.”

Naast het demystificeren van de technologie is contextualisering belangrijk. “Net zoals met de auto moeten zowel de technische als sociale omgeving worden aangepast, denk o.a. aan weginfrastructuur en autorijlessen.”

De opgave Engagement benadrukt dat bij AI systemen nu al vaak vrouwen en minderheden worden uitgesloten. “AI moet niet alleen commerciële en overheidsbelangen dienen, we moeten naast de ontwerpers en de inhoudelijke experts ook altijd de eindgebruikers betrekken bij de ontwikkeling van een nieuw systeem.”

Dan regulering. “Er zijn kaders nodig. De juiste regels stellen. Initieel gaat dat over technologie zelf. Gaandeweg moet het gaan over gebruik van de technologie. Reguleer ook digitale wereld net als de echte wereld.”

“Het gaat niet om instrumenten, het gaat om een beleidsinfrastructuur,” zo sluit Haroon af met het laatste advies van de raad.

We gaan door naar een praktijkvoorbeeld, met Joep van den Tillaart van Pipple. Joep studeerde econometrie aan de Universiteit van Maastricht en verbreedde zich daarna in finance en commercie. Zijn passie voor data analytics gaat verder dan pure cijfers en analyses; Joep wil de totaaldoelstellingen van een bedrijf of de klant begrijpen en daarvoor oplossingen ontwikkelen.

Pipple ontwikkelt praktische oplossingen voor complexe problemen aan de hand van artificial intelligence, machine learning, wiskunde en statistiek. Bijvoorbeeld voor Jumbo, G-star en Vanderlande. “Pipple bedenkt en maakt slimme AI software. De kunst is het combineren van data van meerdere bronnen en daar wiskundige oplossingen op toepassen. Een computer keuzes laten maken die normaal een mens maakt. Uiteindelijk kunnen we van alles maken, maar je wilt wel iets maken waar mensen wat aan hebben. Wij zijn veel bezig met het doorgronden van vraagstukken.”

“Het is heel belangrijk dat we zelf snappen wat we maken,” zegt Joep. “Er mag niks gebeuren in ons systeem dat wij niet begrijpen. Daarom steken we veel tijd in het doorgronden van de vraag en de relevante bedrijfsprocessen. Dat is vaak de grootste uitdaging bij het leveren van een goede AI oplossing.”

Pipple is daarnaast een van de initiatiefnemers van het initiatief Bits of Help, een stichting die NGO’s wil helpen om de VN ontwikkelingsdoelen te halen door AI toe te passen.

En dan gaan we op zoek naar de ‘realiteitsdetective van de dag’ met de mentimeter-quiz van Thijs Pepping. Van een Mozart-muziekstuk tot een AI-componist. De echte Tom Cruise en de echt neppe. Fotoportretten, computergestuurde fake wereldberoemde schilderkunst en video’s met Zelenski en Poetin. Wat is echt en wat is nep?

Aan de hand van deze voorbeelden van deep fakes legt Thijs uit hoe makkelijk we nu al misleid worden door wat echt is en wat nep. Met recente mediavoorbeelden uit Oekraïne laat hij zien hoe krachtig en invloedrijk de onderliggende technieken zijn. “Tegelijkertijd is het goed je te beseffen dat kwalitatief goede deep fakes – filmpjes van 1 minuut – die gebruik maken van de meest geavanceerde technieken, nog vaak weken kosten om te maken.”

Piera Fehres wint de quiz en krijgt van Thijs het enige echte ‘ datadetective vergrootglas’ uitgereikt. En als kers op de taart krijgt iedere bezoeker van het event het boek van Thijs, ‘Echt Nep’ , mee naar huis!

Na de pauze komt Marcel Thaens aan het woord. Marcel is sinds twee jaar CIO (Chief Information Officer) van de provincie Noord-Brabant. Zijn opdracht is de organisatie en de provincie meer datagedreven te laten werken. Marcel neemt ons mee in de worsteling met de technologie: “Je wilt er goed gebruik van maken, maar niet naïef zijn. We kunnen niet meer zonder maar hoe doen we het goed, efficiënt, effectief en veilig? Dat zijn vraagstukken die op bord van de publieke sector liggen.”

Marcel heeft als doel de beleidswereld en de datawereld bij elkaar te brengen, bijvoorbeeld met een opleiding AI voor beleidsmakers aan JADS . “Die werelden bij elkaar brengen is een hele uitdaging. En wat mij betreft hoeven beleidsmakers niet te kunnen programmeren, als ze maar begrijpen wat programmeurs doen. Awareness creëren is de eerste stap. Je hoeft het niet te kunnen, met data werken, maar je moet het wel gaan snappen.”

De tweede worsteling is ethiek. “We hebben een gids en workshop ontwikkeld om te komen tot vragen en afwegingskaders. Er zijn geen goede of foute antwoorden wel politieke keuzes.”

“Binnen de provincie werken we aan een algoritmeregister om in kaart te brengen op welke manieren we AI nu al gebruiken. Gesprekken hierover verhogen het bewustzijn van wat algoritmes en systemen zijn, dat is een belangrijke eerste stap.”

Daarna een warm welkom aan Esther Keymolen, universitair hoofddocent filosofie van datagedreven technologie. Esther werkt bij Tilburg Institute for Law, Technology, and Society (Tilburg University). Zij onderwijst daar aankomende data science ondernemers op ethiek. Binnen Taisig werken sociale wetenschappers en techneuten samen om betere AI te maken. “Om een duurzaam bedrijf te starten, moeten ondernemers verantwoordelijkheid nemen voor de belangen van klanten en eindgebruikers in nieuwe applicaties. Dat gaat verder dan privacy en transparantie, werknemers hebben techno-morele skills nodig en de hele organisatie moet erop ingericht worden.”

“Een cruciale vraag bij data-ethiek is: ben je daadwerkelijk de vraag van een burger, klant of eindgebruiker aan het oplossen of het zo aan het herdefiniëren dat je het kunt oplossen, maar eigenlijk de vraag geheel hebt verdraaid."

Data kan ons niet alles vertellen, daar moeten we eerlijk over durven zijn.

Als afsluiter werden alle sprekers op het podium uitgenodigd voor het panelgesprek. Aan de vele vragen uit het publiek werd wel duidelijk dat AI iedereen, in alle sectoren en in alle functies, raakt in het dagelijks werk en leven.

Tijdens de paneldiscussie kwamen er veel vragen op, die door de sprekers enthousiast beantwoord werden:

Joep: ”Je moet een AI systeem altijd voeden, met een vraag op weg sturen. Dat doen mensen, met hun eigen normen en (voor)oordelen.”

Esther: “We moeten ons realiseren dat een AI systeem nooit 100% kloppend wordt, omdat we nooit de hele maatschappij - alle belangen en meningen - kunnen meenemen.”

Marcel: “Niet alles is een dataprobleem.”

Haroon: “Hoewel AI systemen met steeds betere oplossingen zullen komen en beter kunnen redeneren en overtuigen, moeten we oppassen er te veel menselijke eigenschappen aan toe te kennen. Zie het liever als een nieuwe entiteit, een orakel dat je adviseert.”

Thijs: "TikTok maakt nu al gebruik van zeer geavanceerde AI, kinderen worden daar nu al mee geconfronteerd. Dat is niet erg. Aan ouders taak om het te proberen te snappen en te begeleiden."

Hartelijk dank aan alle sprekers en gasten voor deze inspirerende middag.

Was je erbij en wil je ergens over doorpraten? Of was je er niet bij en wil je meer informatie over een bepaald onderwerp of spreker? Neem vooral contact met ons op, we beantwoorden graag al je vragen of koppelen je met plezier aan de juiste persoon.