De Immigratie- en Naturalisatiedienst (IND) blijkt al geruime tijd twee AI-systemen te gebruiken waarmee medewerkers asielaanvragen sneller kunnen afhandelen. Dat kan tijdwinst opleveren, maar brengt volgens experts ook risico’s met zich mee: „We weten dat AI geregeld de verkeerde conclusies trekt.”
Zo’n 230 IND’ers werken al driekwart jaar met de twee chatbots, zonder dat de dienst hun bestaan heeft aangemeld bij het landelijk register voor AI-systemen. Iets wat volgens de eigen AI-principes van de IND wél had gemoeten.
Ongeregistreerd: Robin en ChatIND
Robin en ChatIND zijn onmiskenbaar AI-systemen. Maar anders dan bij Case Matcher heeft de IND ze niet laten opnemen in de Nederlandse database voor algoritmes, en ook niet aangemeld bij het Europese register. Volgens de immigratiedienst is dat „niet nodig”, omdat uit een risicotoets zou zijn gebleken dat de AI-assistenten „geen hoog risico” met zich meebrengen.
Daarmee spreekt de dienst zijn eigen beleid tegen. In een vrijgegeven beleidsstuk uit 2023 schrijft de IND namelijk dat zij al haar algoritmesystemen zal publiceren — zowel de systemen met een hoog als met een laag risico.
Twee assistenten, twee taken
Robin is volgens de IND „niet geschikt” voor de meeste taken, zoals het doorzoeken van beleidsdocumenten of jurisprudentie. Daarom is ernaast ChatIND ontwikkeld, aldus een woordvoerder. Die extra beveiligde assistent mag, in tegenstelling tot Robin, wél worden gevoed met vertrouwelijke gegevens van asielzoekers.
bron: NRC en Claude