4. Ethiek en AI#
AI-systemen kunnen grote voordelen hebben, die het leven van de mens vergemakkelijken of verbeteren. Denk bijvoorbeeld maar eens aan de Monocam van de Nationale Politie, die zorgt voor een afname van het aantal verkeersongelukken dat een gevolg is van het bezig zijn met de smartphone tijdens het autorijden. Of bedenk hoe goed het is dat AI meehelpt om tuberculose vroegtijdig te herkennen en te genezen in afgelegen gebieden in Afrika. Helaas zijn er ook al AI-systemen gebruikt (of nog in gebruik) die groepen mensen benadelen. Je hoeft alleen maar te denken aan het onjuiste gebruik van AI voor het toekennen van toeslagen bij de Belastingdienst, wat leidde tot discriminatie en privacyschendingen.
(Herschreven door ChatGPT) AI-systemen, ofwel kunstmatige intelligentie, kunnen ons leven een stuk makkelijker en beter maken. Kijk bijvoorbeeld naar de Monocam van de Nationale Politie. Dit slimme apparaat helpt om het aantal auto-ongelukken te verlagen, omdat het mensen betrapt die tijdens het rijden met hun smartphone bezig zijn. Ook in de gezondheidszorg zijn er voordelen. Dankzij AI kunnen dokters in afgelegen delen van Afrika tuberculose sneller opsporen en behandelen.
Maar niet alles is positief. Soms kan AI ook problemen veroorzaken. Een voorbeeld hiervan is wat er gebeurde bij de Belastingdienst. Hier werd AI op een verkeerde manier gebruikt om te bepalen wie er recht had op toeslagen. Dit leidde tot discriminatie en schending van privacy. Dit laat zien dat we goed moeten nadenken over hoe we AI gebruiken, zodat het voor iedereen eerlijk en veilig blijft.
In de hoofdstukken Achtergrond en Ethiek uit het algemene deel heb je hiervan misschien al een indruk gekregen. Om nadelen van AI-systemen te voorkomen wordt er wereldwijd nagedacht over ethische regels waaraan AI-systemen zouden moeten voldoen. De FAST- en FAIR-principes uit het algemene deel zijn een resultaat van deze overdenkingen. Het gevolg is dat ethiek meer en meer een belangrijk onderdeel wordt bij de ontwikkeling en het gebruik van een AI-systeem.
In dit deel van de lessenserie, ‘De ethische kant van AI’ gaan we dieper in op het overdenken van de ethiek van AI-systemen. De FAST- en FAIR-principes vormen de basis hiervoor. Is het systeem eerlijk, open en transparant? Bevat het geen verkeerde vooronderstellingen? Je leert dat niet alleen standaarden belangrijk zijn, maar dat ook AI zélf kan worden gebruikt om eerlijke systemen te maken. Je krijgt een inkijkje in verschillende toepassingen van AI in de praktijk, zoals de al eerder genoemde Monocam, of een systeem om in een CT-scan te kunnen detecteren of iemand COVID-19 heeft. Uiteindelijk leer je om na te denken over wat je zélf belangrijk vindt bij het toepassen van AI in de praktijk en verwerk je dat in een essay.
(ChatGPT versie) In de eerdere hoofdstukken ‘Achtergrond’ en ‘Ethiek’ heb je al een beetje kunnen zien wat AI (kunstmatige intelligentie) inhoudt en wat de ethische kant ervan is. Om ervoor te zorgen dat AI-systemen geen nadelen hebben, zijn experts wereldwijd bezig met het bedenken van ethische regels. De FAST- en FAIR-principes, die je in het algemene deel hebt gezien, zijn hier een voorbeeld van. Dit betekent dat ethiek steeds belangrijker wordt bij het maken en gebruiken van AI.
In dit deel van onze lessen, ‘De ethische kant van AI’, gaan we dieper in op deze ethiek. We gebruiken de FAST- en FAIR-principes als uitgangspunt. We kijken of een systeem eerlijk, open en duidelijk is. We vragen ons af of het geen foute aannames heeft. Je leert dat niet alleen de regels belangrijk zijn, maar dat AI ook kan helpen om eerlijke systemen te creëren. We bekijken verschillende AI-toepassingen in de praktijk, zoals de Monocam en een systeem dat in CT-scans COVID-19 opspoort. Aan het einde van dit deel denk je na over wat jij belangrijk vindt bij het gebruik van AI en verwerk je je gedachten in een essay.
‘Bias deep inside the code’: the problem with AI ‘ethics’ in Silicon Valley Source The Guardian.
Deze lessenserie Ethiek en AI heeft de volgende, op leerdoelen gebaseerde indeling:
De FAST-principes: je kunt de FAST-principes gebruiken voor de ethische onderbouwing van AI-toepassingen.
AI-standaarden en -richtlijnen: je kunt een aantal standaarden en richtlijnen voor AI en de relaties daarvan met de FAST-principes beschrijven.
Het nut van AI-toepassingen: je kunt het nut van een AI-toepassing beoordelen.
De engheidsmatrix: je kunt een objectieve aanpak maken voor het meten van het nut en de mate van ethische verantwoording van een AI-toepassing, en de AI-toepassing onderbouwd plotten in een engheidsmatrix.
Essay over ethiek en AI: je kunt een essay schrijven over de achtergronden van ethiek en AI.
Deze lessenreeks over ‘Ethiek en AI’ is opgezet rond een aantal leerdoelen:
De FAST-principes: Je leert hoe je de FAST-principes kunt toepassen om ethische aspecten van AI-toepassingen te onderbouwen.
AI-standaarden en -richtlijnen: Je ontdekt verschillende standaarden en richtlijnen die gebruikt worden voor AI. Je leert ook hoe deze gerelateerd zijn aan de FAST-principes.
Het nut van AI-toepassingen: Je gaat leren hoe je het nut en de waarde van een AI-toepassing kunt beoordelen.
De engheidsmatrix: Dit is een methode om objectief te beoordelen hoe nuttig een AI-toepassing is en hoe ethisch verantwoord deze is. Je leert hoe je een AI-toepassing op een onderbouwde manier in deze matrix kunt plaatsen.
Essay over ethiek en AI: Aan het einde van de reeks schrijf je een essay waarin je de relatie tussen ethiek en AI verkent en jouw inzichten hierover deelt.
E.2. AI-standaarden en -richtlijnen
E.4. Opdracht: Schrijf een essay over ethiek en AI
E.5. Opdracht: Bedenk zelf een AI-toepassing