In de gezondheidszorg zijn datasets van klinische onderzoeken vaak hoogdimensionaal en hebben ze een kleine steekproefomvang, wat het risico op overfitting vergroot. Bovendien richt onderzoek in deze context zich doorgaans niet alleen op de nauwkeurigheid van de resulterende modellen, maar ook op de …

Explainability of AI systems is branded as a solution to the black box problem. The EU AI Act introduces AI explainability as a requirement for high-risk AI systems, including a right to explanation. However, understanding the wording of the requirements and the related provider and deployer obligations …

Presentatie van het onderzoek

Het is inmiddels breed geaccepteerd dat beslissingen die door AI-systemen worden genomen, uitlegbaar moeten zijn aan hun gebruikers. Toch blijft het in de praktijk vaak onduidelijk hoe die uitlegbaarheid concreet vorm moet krijgen. Vooral voor niet-technische gebruikers, zoals scha-debeoordelaars bij …

Deze handreiking is ontwikkeld voor designers en ontwikkelaars van AI-systemen, met als doel om te zorgen dat deze systemen voldoende uitlegbaar zijn. Voldoende betekent hier dat het vol doet aan de wettelijke eisen vanuit AI Act en AVG en dat gebruikers het systeem goed kunnen gebruiken. In deze handreiking …

De versmelting van mens en machine zal door ontwikkelingen als AR, VR, Robotica en AI steeds groter worden. Daarnaast zien we dat het risico dat vooroordelen (veelal onbewust) in onze systemen terecht komen groter wordt met de komst van meer datagedreven systemen. Deze twee ontwikkelingen maken dat we …