Page 4 - HS 1 Wat is AI

Artificiële intelligentie in de wiskunde

1.2 AI is geen sciencefiction: “I Robot”

1.2.1 Asimov en de drie wetten van de robotica

In boeken en films wordt artificiële intelligentie (AI) vaak neergezet als mensachtige robots die slimmer
en sterker zijn dan de mens. Door robots menselijk te maken kan de kijker of lezer zich ermee
identificeren.
De bekende sciencefiction auteur Isaac Asimov publiceerde in 1950 een aantal korte robotverhalen in
“I, robot”. Asimov schetste een wereld waarin de mens geen vat meer heeft op artificiële intelligentie.
Asimov ontwikkelde een aantal gedragsregels die de robots uit zijn verhalen moeten volgen.

Deze gedragsregels werden beroemd als de wetten van de robotica.
Eerste Wet: Een robot mag een mens geen letsel toebrengen of door niet te handelen toestaan dat een
mens letsel oploopt.

Tweede Wet: Een robot moet de bevelen uitvoeren die hem door mensen gegeven worden, behalve als
die opdrachten in strijd zijn met de Eerste Wet.

Derde Wet: Een robot moet zijn eigen bestaan beschermen, voor zover die bescherming niet in strijd is
met de Eerste Wet of Tweede Wet.

Deze gedragsregels zijn nog steeds actueel. In 2023 publiceerden een groot aantal experts, een open
brief om het onderzoek naar geavanceerde artificiële intelligentie zes maanden te pauzeren om eerst
meer regels op poten te zetten. De recente vooruitgang zou immers "ernstige risico's voor de
samenleving inhouden". https://futureoflife.org/open-letter/pause-giant-ai-experiments/
Voorlopig is de angst dat superintelligente AI de mensheid domineert, nog ongegrond. AI-systemen zijn
nog steeds beperkt door hun programmering. Zelfs de meest geavanceerde AI-tools kunnen zich slechts
richten op één taak en beschikken over geen bewustzijn zoals de mens. Men spreekt over zwakke AI.
De huidige AI-systemen zijn nuttige assistenten die in staat zijn om bepaalde problemen beter en sneller
op te lossen dan mensen. De grote uitdaging bestaat er vooral in dat kwaadwillige mensen de
toekomstige superintelligente AI-tools inzetten met verkeerde bedoelingen.
1.2.2 De paperclipmetafoor

De (toekomstige?) gevaren van superintelligente AI kan worden geïllustreerd met de
“paperclipmetafoor”.

De paperclipmetafoor is een gedachtenexperiment om te illustreren hoe een superintelligente AI, met
ogenschijnlijk onschuldige doelen, catastrofale gevolgen kan hebben als die doelen niet zorgvuldig zijn
geformuleerd.
t
Stel je voor dat we een superintelligente AI ontwerpen met één simpele opdracht: "Maak zoveel e
n
mogelijk papierclips." Omdat superintelligente AI extreem intelligent en efficiënt is, zal ze er alles aan .
doen om dit doel te bereiken, ongeacht de gevolgen. Dit kan leiden tot een existentiële dreiging voor o
l
het voorbestaan van de mensheid. Immers: e
h
• Superintelligente AI zou al haar middelen inzetten om papierclips te maken, zonder rekening te t
a
houden met andere waarden of behoeften van mensen; m
.
• Superintelligente AI kan besluiten fabrieken, grondstoffen, en zelfs menselijke lichamen om te w
zetten in papierclips; w
• Superintelligente AI kan uiteindelijk de hele aarde of zelfs het universum in een enorme w
"papierclipfabriek" veranderen, simpelweg omdat dit haar ultieme doel is;

© 2025 Ivan De Winne ivan@mathelo.net 4