Geautomatiseerde systemen worden steeds slimmer. Hoe zorgen we er voor dat dergelijke systemen zich netjes gedragen? Of wellicht beter: hoe zorgen we ervoor dat we meer mens kunnen zijn met behulp van deze systemen? Wat hebben we daarvoor nodig? In het NRC artikel van 18 september geeft professor Catholijn Jonker een bijdrage aan de discussie.
Het artikel neemt onder andere de menselijke wens om zich te verplaatsen als vertrekpunt. Met paard en wagen kon de mens zich sneller verplaatsen. Het vertrouwen in het paard is daarbij groot. De mens kan ingrijpen en sturen, maar veel vermogen ligt bij het paard om zelfstandig beslissing te nemen. Ook in de luchtvaart zie je dat de automatische piloot veel taken overneemt van de piloot. Elektronische auto’s nemen steeds meer besturing over. Toch blijft de mens in controle.
Bij het toepassen van AI lijkt deze controle niet altijd aanwezig te zijn. Niet geheel duidelijk is welke verantwoordelijkheid bij het geautomatiseerde systeem is gelegd, en welke controle de gebruiker heeft. En hoe hij kan ingrijpen als het mis dreigt te gaan.
Het artikel pleit om betekenisvolle controle op te nemen bij het ontwerp van dergelijke systemen. Niet omdat dit ethisch verantwoord is, maar omdat alleen op deze wijze dergelijke systemen daadwerkelijk kunnen bijdragen aan hun functie: als bruikbaar hulpmiddel.
Voeg opmerking toe