AI speelt inmiddels een belangrijke rol in het dagelijkse werk van Finance en Control. AI biedt op dit gebied veel voordelen. Of het nu gaat om het doorrekenen van complex en omvangrijk cijfermatig materiaal, het snel genereren van een gewenste tekst of het maken van een samenvatting van een uitgebreid document: AI kan dit over het algemeen sneller dan een mens.

Maar het gaat verder. Nieuwe algoritmen kunnen een bijdrage leveren aan de volledige administratieve organisatie van een bedrijf, of zelfs ondersteuning bieden bij het voeren van het management.

Risico's op een rij

Naast dit optimistisch perspectief over de functie van AI binnen Finance brengt het gebruik van AI ook een aantal mogelijke risico’s met zich mee.

Risico’s rond dataprivacy en beveiliging
Dit betreft vooral het ongecontroleerde gebruik dat AI kan maken van persoonlijke informatie.
Bias en discriminatie
Dit risico speelt vooral wanneer de trainingsdata niet representatief zijn voor de gehele populatie. Dat kan leiden tot oneerlijke of discriminerende uitkomsten.
Compliance aan bestaande regelgeving
Omdat de ontwikkeling en het aanbod van AI-tools veel sneller gaan dan de geldende regelgeving, kan het gebruik ervan leiden tot non-compliance. Dit is een afzonderlijke vorm van 'flooding the zone': de ontwikkelingen gaan zo snel dat wet- en regelgeving moeite heeft om bij te blijven.
Operationele risico’s
Hierbij valt te denken aan cyberdreigingen en het uitvallen van systemen. Dit risico neemt toe naarmate de AI-markt in handen is van een kleiner aantal grote aanbieders.
Kwaliteit en betrouwbaarheid
Algoritmen kunnen fouten maken. Dit staat bekend als het 'hallucineren' van AI. Het risico daarop neemt toe wanneer een tool is gebaseerd op beperkte of gebrekkige data. Doordat een algoritme vaak een black box is, kan het bovendien moeilijk zijn om zo’n fout te achterhalen. Daardoor kan de tijdswinst die AI oplevert deels weer teniet worden gedaan.
Ethische afwegingen
Hoewel een chatbot als ChatGPT soms output kan leveren die lijkt op een ethisch betoog, is AI zelf niet in staat tot ethiek. AI is een rationeel systeem dat geen emoties ervaart en dus geen emotionele afwegingen kan maken. Tegelijkertijd is AI wel goed in het gebruiken van emotioneel geladen taal.

Emoties spelen vrijwel altijd een rol in ethische afwegingen, zeker wanneer sprake is van een ethisch dilemma. Het is daarom belangrijk om te blijven beseffen dat AI geen emotie kent. De gebruiker kan daardoor de rationele waarde van een AI-antwoord overschatten, terwijl hij de emotionele lading ervan juist te serieus neemt.

De EU AI Act

Dit alles roept de vraag op op welke manier de controller, als kernspeler binnen Finance, grip kan krijgen op AI. Meer specifiek gaat het om de vraag hoe de controller optimaal gebruik kan maken van de kansen die AI biedt, en tegelijkertijd de bijbehorende risico’s kan beperken.

Een belangrijke steun daarbij is de EU AI Act. Deze omvangrijke Europese verordening is op 1 augustus 2024 in werking getreden en wordt gefaseerd van toepassing. De wet heeft een duidelijk risicogebaseerd karakter.

Op hoofdlijnen behandelt de AI Act de volgende onderwerpen:

• Risicoclassificatie
  Een classificatie van 4 risiconiveaus, variërend van verboden toepassingen tot toepassingen met een aanvaardbaar risico. Voor elke categorie geeft de verordening een nadere beschrijving.
• Verantwoordelijkheden van AI-ontwikkelaars
  De meeste aandacht gaat uit naar de verplichtingen van ontwikkelaars en aanbieders van AI-systemen. Deze verantwoordelijkheden worden op vrij gedetailleerd niveau beschreven.
• Verantwoordelijkheden van AI-gebruikers
  Daarnaast besteedt de verordening aandacht aan de verantwoordelijkheden van gebruikers van AI-systemen. Daarbij gaat het met name om professioneel gebruik.

AI-geletterdheid

Een centraal concept bij het professionele gebruik van AI is 'AI-geletterdheid'. Dit is een verplichting uit de AI-verordening die al van toepassing is.

Volgens de Autoriteit Persoonsgegevens moet iedereen die binnen of namens een organisatie met AI-systemen werkt, beschikken over voldoende vaardigheden, kennis en begrip van de technische werking van AI-systemen. Daarbij gaat het niet alleen om techniek, maar ook om de sociale, ethische en praktische aspecten van het gebruik van AI. De Autoriteit Persoonsgegevens biedt hierover veel informatie en handvatten voor organisaties die AI-geletterdheid verder willen ontwikkelen.

AI-geletterdheid omvat daarmee de volgende terreinen:

• Technisch begrip
  Inzicht in de werking van algoritmen en modellen.
• Sociaal inzicht
  Bewustzijn van de impact van AI op sociale verhoudingen binnen en buiten de organisatie.
• Ethisch inzicht
  Gevoel voor de morele risico’s van de inzet AI, waaronder mogelijke bias in algoritmen en een gebrek aan transparantie.
• Praktische toepassing
  Inzicht in de praktische mogelijkheden van AI en aandacht voor verbetering van AI processen.

De vereiste diepgang van AI-geletterdheid hangt af van de rol die iemand binnen de organisatie vervult. Wel is het wenselijk dat gebruikers ten minste enig inzicht hebben in de werking van AI-systemen: zij moeten als het ware een blik onder de motorkap hebben geworpen.

Onder de motorkap van AI

AI kan op volgende niveaus worden bekeken:

Tools

Tools vormen de directe interface tussen de gebruiker en AI. Veel tools zijn door ontwikkelaars zo ingericht dat de gebruiker alleen de gevraagde stappen hoeft te volgen. Een tool als ChatGPT is in dit opzicht zeer gebruiksvriendelijk: de gebruiker stelt een vraag en krijgt vervolgens een antwoord.

Die gebruiksvriendelijkheid wordt versterkt doordat veel AI-tools als app worden aangeboden. Toch werkt een tool vaak het beste wanneer de vraag zorgvuldig wordt geformuleerd in de vorm van een prompt. Een prompt is een gerichte opdracht of vraag waarmee de kans op een bruikbaar antwoord wordt vergroot.

Naarmate algoritmen beter worden getraind, zal het belang van prompts waarschijnlijk afnemen. Toch blijft het onderliggende principe gelden: hoe specifieker de vraag, hoe specifieker het resultaat.

Algoritmen

Een algoritme is in essentie een reeks instructies om een bepaald doel te bereiken. In die zin is een recept voor stamppot boerenkool ook een algoritme. Algoritmen binnen AI zijn echter veel complexer en meestal wiskundig van aard. Door de toegenomen rekenkracht van computers is het belang van algoritmen sterk gegroeid.

In de context van AI wordt met een algoritme vaak een procedure bedoeld die leren, beslissen en omgaan met onzekerheid mogelijk maakt. Dat wijkt af van de meer klassieke opvatting van een algoritme als een soort receptenboek..

Leermodellen

Leermodellen zijn onmisbaar bij de ontwikkeling van AI. De Nederlandse hoogleraar Antal van den Bosch heeft belangrijk onderzoek gedaan naar onder meer memory-based learning en taaltechnologie. Daarbij staat het idee centraal dat taalmodellen op basis van voorbeelden, patronen en gelijkenissen effectieve datagedreven beslissingen kunnen nemen. Zijn publicatielijst laat zien dat dit werk onder meer raakt aan taalmodellen, morfologische analyse, part-of-speech tagging en andere vormen van computationele taalverwerking.

Lange tijd werd bij taaltechnologie sterk vertrouwd op vooraf geformuleerde regels en statistische modellen. In datagedreven benaderingen kwamen de data zelf centraler te staan. Dit denken heeft bijgedragen aan toepassingen zoals spraaktechnologie, tekstverwerking in meerdere talen en spellingcontrole.

Er worden verschillende leermodellen onderscheiden op basis van de bron en het doel van het leerproces.

• Supervised leren
  Bij supervised learning wordt het model gevoed met data waarbij de juiste antwoorden al bekend zijn. Een voorbeeld is een algoritme dat wordt getraind om spam van niet-spam te onderscheiden in e-mails. Het doel is om op basis van door mensen aangebrachte labels correcte voorspellingen te doen.
• Unsupervised leren
  Bij unsupervised learning leert het model zonder vooraf aangebrachte labels. Een algoritme kan bijvoorbeeld zelf zoeken naar patronen in een klantenbestand. Het doel is dan niet zozeer het voorspellen van een juist antwoord, maar het ontdekken van patronen en structuren.
• Self-supervised learning
  Bij self-supervised learning genereert het model als het ware zelf leerdoelen uit grote hoeveelheden data. Het model leert bijvoorbeeld ontbrekende woorden, zinsdelen of verbanden te voorspellen en verfijnt zichzelf op basis daarvan steeds verder. Dit type leerproces speelt een belangrijke rol bij grote taalmodellen, oftewel Large Language Models (LLM’s).
• Reinforcement learning
  Bij reinforcement learning leert een algoritme op basis van signalen uit de omgeving, bijvoorbeeld via beloning en straf. Daarmee lijkt het leerproces op bepaalde vormen van leren bij biologische wezens. In de leerpsychologie is conditionering een bekend begrip. Toch is er een belangrijk verschil: AI voelt geen beloning of straf. Deze signalen worden omgezet in cijfermatige waarden. Een beloning kan bijvoorbeeld worden uitgedrukt als +10 en een straf als -10. Het algoritme wordt vervolgens getraind om acties te kiezen die de kans op een positieve uitkomst vergroten en de kans op een negatieve uitkomst verkleinen.

Reinforcement learning in de praktijk

Een belangrijke naam in de ontwikkeling van reinforcement learning is Demis Hassabis, neurowetenschapper, onderzoeker op het gebied van kunstmatige intelligentie en ondernemer. Hij is de CEO en medeoprichter van Google DeepMind.

Over deze ontwikkeling is de documentaire The Thinking Game gemaakt. Die laat zien hoe AI-onderzoek zich heeft ontwikkeld van spelomgevingen tot wetenschappelijke doorbraken. Een bekend voorbeeld daarvan is AlphaFold, het AI-systeem waarmee de driedimensionale structuur van eiwitten kan worden voorspeld. Voor dit werk ontvingen Demis Hassabis en John Jumper, samen met David Baker, de Nobelprijs voor Scheikunde 2024.

Te prijzen is dat deze oplossingen vrij beschikbaar zijn gesteld. Daarmee kunnen chemici, biologen en medici wereldwijd gebruikmaken van deze technologie.

De controller als bewaker van AI-output

Na deze korte blik onder de motorkap blijft de vraag hoe de verdere ontwikkeling van AI de rol en functie van de controller zal beïnvloeden. De klassieke standaardtaken van de controller, zoals analyseren en rapporteren, zullen waarschijnlijk steeds vaker door AI worden ondersteund of overgenomen. Dat proces is al gaande.

Voor een professionele activiteit als forecasting geldt bovendien dat AI in een oogwenk veel meer scenario’s kan doorrekenen dan een mens in dagen. Daarbij wordt vaak gezegd dat de controller eindverantwoordelijk blijft. En dat is ook zo.

De rol van de controller zal daardoor niet minder belangrijk worden, maar juist veranderen en mogelijk aan belang winnen. Dat geldt met name voor het bewaken van de kwaliteit van de AI-output, met bijzondere aandacht voor bestuurlijke sensitiviteit en context. Ook moet de controller zicht houden op onbekende of moeilijk kwantificeerbare risico’s waar AI minder goed mee overweg kan.

De kernvraag is hoe je gefundeerd verantwoordelijkheid kunt dragen voor een blackboxproces. AI-geletterdheid wordt bij het beantwoorden van die vraag een belangrijke competentie.