Op woensdag 10 januari gaven Paula Lambregts en Thomas Stolp van HKV een online technische sessie over het DigiShape Seedmoney project Explainable AI. Het project is nu klaar en in deze demo kun je zien hoe het werkt.
Waarom Explainable AI?
Machine learning modellen worden steeds vaker gebouwd en ingezet voor allerlei toepassingen in de watersector.Vaak geven ze betere resultaten door hun flexibiliteit en voorspellende kracht.Dit gaat echter ten koste van het begrip van het systeem door de black box aard van deze algoritmen. Daarom hebben gebruikers van AI-(voorspellings-)modellen vaak een beperkt vertrouwen in de modeloutput. Zelfs als ze beter presteren dan hun op fysica gebaseerde tegenhangers. De projectpartners HKV en Rijkswaterstaat ondervonden dit tijdens een project waarbij een Machine Learning model werd gebouwd om het zoutgehalte op het Amsterdam Rijnkanaal te voorspellen.
XAI Tool
Met behulp van DigiShape seedmoney hebben ze in 2023 een Explainable AI (XAI) tool opgezet, die gebruikers in de watersector meer inzicht en vertrouwen kan geven in voorspellingen die gegenereerd worden met Machine Learning modellen. Dit is gedaan op basis van bovenstaande voorbeeldcase voor de voorspelling van zoutconcentraties op het Amsterdam-Rijnkanaal (ARK).Terwijl het neurale netwerk van het Machine Learning model op de achtergrond draait, kunnen gebruikers spelen met de invoerinstellingen (zoals wind en afvoer) en zien hoeveel effect dit heeft.Op deze manier kunnen ze controleren of het model doet wat ze verwachten, zoals ze ook zouden doen met een lineair model.
Toekomstige ontwikkelingen: naar een meer algemene toepassing voor Explainable AI
In de presentatie gaven Paula Lambregts en Thomas Stolp een inleiding over het project, de context van het gebied waar ze naar kijken, het voorspellende model dat ze hebben opgezet en hoe ze Explainable AI hebben toegepast. Daarna was er een discussie (die niet in de video zit). Paula: “Vanaf nu willen we graag van deze zeer specifieke case over zoutindringing gaan naar een meer algemene toepassing van Explainable AI voor datagedreven modellen.” We houden je op de hoogte!
