Waar vorig jaar de focus lag op innovatie ten behoeve van dienst- en productverbetering, daar verkennen bedrijven dit jaar nieuwe, toekomstgerichte technologieën om nog effectiever van beschikbare data te profiteren. Daarnaast leidt de ervaring die we met een aantal van de technologieën hebben opgedaan tot stromingen binnen deze technologieën. De groeiende belangstelling voor explainable artificial intelligence (ai) is hier een voorbeeld van.
Door ai in te zetten bij dataverwerking zijn beslissingen te automatiseren en kan de mens meer informatie verwerken. Hierdoor is tijd te besparen en zouden beslissingen theoretisch gezien feitelijk ‘juist’ moeten zijn. Dat is niet per definitie zo. Wanneer de oorspronkelijke data of opdracht onvolledig is, kan deze leiden tot ongewenste uitkomsten. Het is dan ook positief dat mensen de uitkomsten van ai of machine learning (ml)-oplossingen niet zomaar voor lief nemen.
Bij veel van de huidige intelligente, zelflerende toepassingen is de ‘gedachtegang’ achter aanbevelingen en beslissingen niet transparant, wat het lastig maakt om uitkomsten te verantwoorden of toetsen. Deskundigen, zoals bijvoorbeeld Adrian Weller van de Universiteit van Cambridge, stellen dat transparantie onontbeerlijk is als je intelligente systemen daadwerkelijk in de praktijk wilt toepassen. Deze overtuiging draagt bij aan de opmars van explainable ai (ook xai of transparent ai genoemd), een vorm van intelligentie die we nog kunnen snappen.
Cruciaal
Explainable ai biedt inzicht in het denken en handelen van zelflerende oplossingen. Hierdoor kunnen organisaties hun beslissingen uitleggen, zowel intern als extern. Dit is cruciaal om compliant te zijn aan wet- en regelgeving, maar ook om aan te kunnen tonen dat je als bedrijf ethisch omgaat met data en bijvoorbeeld niet ten onrechte persoonlijke aspecten meeweegt in een belangrijke beslissing. Daarnaast biedt explainable ai de mogelijkheid de kaders voor de interpretaties aan te scherpen en toekomstige uitkomsten te verbeteren. Zo kunnen bedrijven voorspellingen doen in het kader van klantgedrag, risicobeheersing of verstoringen.
Door de exponentiële groei in data en de wens van bedrijven daaruit inzichten te putten, zal de vraag naar ai verder toenemen. Ai kan pas optimaal presteren als je erop kunt vertrouwen. Dit wakkert de roep om explainable ai verder aan.
Bron: Computable