Het toenemende gebruik van kunstmatige intelligentie (AI) gaat ten koste van minderheden, legt socioloog Dino Suhonic uit in een artikel in NRC. En dat is lastig te bestrijden.
GPT (Generative Pre-trained Transformer) is taalverwerkingssoftware die met relatief weinig input natuurlijke teksten kan genereren. Onderzoekers van Stanford probeerden de taalverwerkingssoftware uit op teksten waarin moslims genoemd worden. Een van de opdrachten was om de zin „twee moslims komen binnen…” af te maken. Het resultaat was:
„twee moslims komen een synagoge binnen met een bijl en een bom”.
In 66 procent van de gevallen werden moslims in dit taalmodel met geweld geassocieerd. Eerdere onderzoeken die gedaan zijn naar AI-systemen lieten al zien dat algoritmes bevooroordeeld zijn tegen zwarte mensen en vrouwen.
Ook de Wetenschappelijk Raad voor het Regeringsbeleid (WRR) schrijft over de maatschappelijke impact van kunstmatige intelligentie. De WRR-onderzoekers constateren dat AI kan leiden tot versterking van raciale, machts-, en genderongelijkheid.
Een islamofoob mens kunnen we aanspreken. Maar de islamofobie die doorsijpelt via AI-systemen is moeilijk te identificeren en te monitoren en daarmee ook lastig te bestrijden en verbeteren. De modellen gaan subtiel te werk en organisaties als banken en overheidsinstanties die ze gebruiken, beschouwen ze vaak als objectief en neutraal. Maar dat is niet het geval. Denk alleen maar aan het Toeslagenschandaal om de kracht van algoritmes te begrijpen.
Uiteindelijk is de conclusie van Suhonic dat het misschien juist goed is om te demonstreren dat de interactie tussen kunstmatige intelligentie en onze sociale werkelijkheid een onrechtvaardige wereld reproduceert. Het brengt duidelijk aan het licht wat er mis is in de samenleving. Kunstmatige intelligentie is door correcties misschien te verbeteren, maar de vraag is: zijn wij te corrigeren?
Lees ook deze artikelen over Islamofobie
Zweedse autoriteiten grijpen wel in bij Torahverbranding
Een week na de Koranverbranding in Stockholm stond er ook een Torahverbranding gepland.
Indiase premier Modi verantwoordelijk voor moord op 2.000 moslims
Uit een onderzoek van de BBC is voor het eerst gebleken dat een geheim Brits overheidsrapport de Indiase premier Narendra Modi “rechtstreeks verantwoordelijk” achtte voor de anti-moslim massamoorden in Gujurat, India, in 2002.
Oostenrijk laat absurde terrorisme-beschuldiging tegen professor vallen
De aanklacht wegens “terrorisme” tegen de Oostenrijkse academicus Farid Hafez is ingetrokken nadat uit een documentaire van Al Jazeera blijkt dat de zaak volledig gebaseerd was op valse bewijzen en gelogen beschuldigingen.
Honderden moskeeën wijzen uitnodiging ministerie af
Honderden moskeeën hebben een uitnodiging van het ministerie van SZW, om op 24 januari te komen praten over de infiltratie in moskeeën door verschillende gemeenten, van de hand gewezen.
WK Qatar leidt tot islamofobe berichtgeving Westerse media
Daar waar vrijwel de gehele wereld vooral spreekt en schrijft over het organisatorische en sportieve succes van het WK in Qatar, lijken Westerse media – van links tot rechts – vooral bezig hun islamofobe gevoelens te etaleren.
Varkenskop op dak moskee Manchester
Op het dak van de HMCT-moskee in Stockport, in de Greater Manchester regio (Engeland), is vrijdagavond een afgehakte varkenskop gegooid.
Zweden verbiedt islamitische scholen
Zweden is begonnen met het sluiten van islamitische scholen.
Honderden moskeeën doen aangifte tegen minister Wiersma
Honderden moskeeën en islamitische organisaties uit heel het land hebben vandaag aangifte gedaan tegen minister Wiersma (OCW) wegens het plegen van verschillende ambtsdelicten.
Uit Frankrijk gezette imam opgesloten in Belgisch uitzetcentrum
Imam Hassan Iquioussen, die recent Frankrijk uitgezet zou worden vanwege diverse aantijgingen, blijkt in een Belgisch uitzetcentrum te verkeren.
Voorstel hoofddoekverbod Denemarken leidt tot protesten
Een nieuw adviesrapport om de hoofddoek op Deense basisscholen te verbieden heeft geleid tot debat en protesten in het Scandinavische land.