Een initiatief van HKV lijn in water en Rijkswaterstaat
Het gebruik van machine learning in de watersector is de afgelopen jaren aanzienlijk toegenomen en biedt kansen om belangrijke vragen in de watersector op te lossen. Tegelijkertijd zetten veel mensen hun vraagtekens bij de betrouwbaarheid van de uitkomsten. Hoe moet je een model vertrouwen dat niet transparant is in hoe het berekeningen maakt? Het DigiShape seedmoney 2023 project ‘Explainable AI’ wil hier verandering in brengen.
Bij een project over zoutintrusie dat wordt uitgevoerd bij Rijkswaterstaat, zijn een aantal manieren ontdekt om de uitkomst van een machine learning model inzichtelijker te maken. Zo is het belangrijk om niet alleen de uitkomsten, maar ook de manier van rekenen te visualiseren.
Wij gebruiken Explainable AI technieken zodat je kan zien welke sleutelfactoren het belangrijkst zijn. Dat kan bijvoorbeeld door steeds één variabele te veranderen en te kijken wat voor invloed dit op de uitkomsten heeft. Zo ontdek je hoe groot en in welke richting een sleutelfactor invloed heeft op de uitkomsten van het model, en of die relatie in bepaalde periodes kan afwijken. Door dit in grafieken weer te geven, krijg je meer inzicht in wat er in de black box gebeurt.
In dit seedmoney project wordt er gekeken of er nog meer methoden zijn om inzicht te geven, bijvoorbeeld voor situaties met sterk gecorreleerde factoren waar Explainable AI-technieken complexer worden. Op basis van deze technieken is een tool ontwikkeld, waarmee je als gebruiker snel en interactief van complexe modeluitkomsten naar directe inzichten kan gaan. Daarvoor heb je zelf dan geen kennis van AI nodig.
Meer informatie in het interview met Paula Lambregts en Thomas Stolp van HKV.
Rapport en code
- De interactieve tool uit Salty Solutions is op aanvraag beschikbaar voor expertsessies.
