[D66] AI: Pionier Geoffrey Hinton verlaat Google om vrijuit te kunnen spreken over risico’s AI

[René Oudeweg]

Dat zei ik recent ook al: "Hij maakt zich bijvoorbeeld zorgen dat 
toekomstige AI-systemen mogelijk zichzelf zullen kunnen programmeren, 
wat autonoom opererende wapensystemen mogelijk zou maken."



nrc.nl
Pionier Geoffrey Hinton verlaat Google om vrijuit te kunnen spreken over 
risico’s AI
Wieland van Dijk
6–8 minutes

Zijn onderzoek naar neurale netwerken vormde de basis voor de huidige 
revolutie in kunstmatige intelligentie (AI), maar nu vraagt Geoffrey 
Hinton zich af of hij geen monster heeft helpen creëren. De 75-jarige 
Brits-Canadese computerwetenschapper heeft daarom ontslag genomen bij 
Google, vertelde hij maandag in The New York Times. Dat stelt hem in 
gelegenheid om vrijuit te spreken over de risico’s van AI.

Volgens Hinton is tussen zijn voormalige werkgever en onder meer 
Microsoft een zo hevige concurrentiestrijd losgebarsten bij de 
ontwikkeling van diensten op basis van kunstmatige intelligentie, dat de 
bedrijven de ethische vraagstukken en gevaren rond AI uit het oog 
dreigen te verliezen. Hij is bang dat internet overspoeld zal worden met 
nepfoto’s, nepvideo’s en nepnieuws, en dat mensen „niet meer in staat 
zullen zijn om te weten wat waar is”. Ook vreest hij de gevolgen voor de 
arbeidsmarkt als AI-technologie verder wordt ontwikkeld: „Nu neemt het 
alleen geestdodende taken van ons over. Maar straks misschien wel veel 
meer.”

Hinton, die wel de ‘Godfather van AI’ wordt genoemd, werkte jarenlang 
aan de Universiteit van Toronto aan zijn onderzoeken naar neurale 
netwerken, in een tijd dat weinig wetenschappers heil zagen in die 
benadering van kunstmatige intelligentie. Veel vakgenoten probeerden 
computers logica bij te brengen, maar Hinton liet zijn systemen een 
grote hoeveelheid gegevens analyseren om er zo zelf patronen in te 
ontdekken – het zogeheten deep learning.

Eerder deed hij onderzoek aan de Carnegie Mellon Universiteit in 
Pennsylvania, maar hij vertrok in de jaren tachtig van de vorige eeuw 
naar Canada omdat hij niet afhankelijk wilde zijn van financiering door 
het Pentagon, destijds de grootste geldschieter in zijn vakgebied. In 
2018 werd hij voor zijn onderzoek naar kunstmatige intelligentie met 
twee vakgenoten geëerd met de Turing Prize, die wel beschouwd wordt als 
de Nobelprijs voor computerwetenschappers.

Hinton kwam, samen met twee van zijn studenten, tien jaar geleden bij 
Google in dienst, toen dat voor 44 miljoen dollar hun deep 
learning-startup DNNresearch inlijfde. Google gebruikte de technologie 
bijvoorbeeld om fotocollecties doorzoekbaar te maken.
Doorbraak bij het grote publiek

Sindsdien is de technologie sterk vooruit gegaan. Met name de lancering 
van ChatGPT, een chatbot van het bedrijf OpenAI – waarvan Hintons 
oud-student Ilya Sutskever medeoprichter en wetenschappelijk directeur 
is – zorgde vorig jaar voor een doorbraak van kunstmatige intelligentie 
bij het grote publiek. ChatGPT is een chatbot waaraan gebruikers in 
natuurlijke taal vragen kunnen stellen of opdrachten kunnen geven. De 
antwoorden zijn gebaseerd op analyse van een grote hoeveelheid van 
internet afkomstige teksten, waarmee het model is getraind.
Lees ook Microsoft wil met de miljardeninvestering in ChatGPT aan 
AI-imperium bouwen

Microsoft, dat in januari 10 miljard dollar in OpenAI stak, rustte zijn 
zoekmachine Bing uit met een op ChatGPT gebaseerde chatbot. Daarmee zou 
Bing, dat tot dusverre een marginale rol speelde, een bedreiging kunnen 
vormen voor concurrent en marktleider Google. In april meldde The New 
York Times dat Samsung, na Apple de grootste smartphonefabrikant ter 
wereld, zou overwegen Google op zijn toestellen als standaardzoekmachine 
door Bing te vervangen.

In maart lanceerde Google zijn eigen AI-chatbot, Bard, die een stroeve 
start kende: toen Bard in een promotievideo abusievelijk beweerde dat de 
Hubbletelescoop de eerste was die foto’s maakte van een planeet buiten 
ons zonnestelsel (dat deed de Europese Very Large Telescope in 2004), 
verloor het bedrijf op één dag 9 procent van zijn beurswaarde.
De mensheid wegvagen

Vorige maand schreef Bloomberg op basis van interne documenten en 
gesprekken met achttien huidige en voormalige medewerkers van Google dat 
het bedrijf kort daarvoor aan het eigen personeel had gevraagd om Bard 
te testen. Een medewerker constateerde dat de chatbot „een pathologische 
leugenaar”, was een ander noemde Bard „tenenkrommend”. De chatbot zou 
soms levensgevaarlijke adviezen geven. „Bard is slechter dan waardeloos: 
alsjeblieft niet lanceren”, schreef waarschuwde iemand in een intern 
bericht.

Volgens critici die Bloomberg sprak, had Google de teams die binnen het 
bedrijf de veiligheid en de ethische gevolgen van kunstmatige 
intelligentie moeten bewaken, na de succesvolle lancering van ChatGPT 
opgedragen om de ontwikkeling van AI-producten „niet in de weg te zitten”.
Lees ook De Tweede Kamer werd woensdag bijgepraat door experts over 
ChatGPT. ‘Het is net magie’

Hinton zei tegen de BBC dat zijn vertrek niet bedoeld is als kritiek op 
Google. Toch vreest hij dat de concurrentie tussen Google en Microsoft 
leidt tot een wereldwijde wedloop die alleen met wereldwijde regulering 
gestuit kan worden. Hij maakt zich weinig illusies over de controle op 
zulke afspraken: anders dan nucleaire wapens is kunstmatige 
intelligentie eenvoudig in het geniep te ontwikkelen.

Hij voegt zich met zijn kritiek in een groeiend gezelschap. In maart 
publiceerden zo’n duizend techondernemers en onderzoekers een open 
brief, waarin ze opriepen tot een moratorium van zes maanden op de 
verdere ontwikkeling van AI-technologie, dat desnoods door de overheid 
moet worden afgedwongen. Die tijd zou moeten worden benut om na te 
denken over gezamenlijke veiligheidsprotocollen.

Onder de ondertekenaars waren onder meer Elon Musk (die niet veel later 
overigens een eigen AI-initiatief aankondigde), Apple-oprichter Steve 
Wozniak en schrijver Yuval Harari. Die laatste waarschuwde vorige week 
in een veelbesproken bijdrage in The Economist dat we een „vreemde 
intelligentie hebben ontdekt, hier op aarde”. „We weten er nog niet veel 
over, behalve dat het misschien onze beschaving zal vernietigen.”

Ook Hinton noemde het gevaar dat AI „de mensheid zal wegvagen” in een 
interview met nieuwszender CBS in maart al „niet ondenkbaar”. Hij maakt 
zich bijvoorbeeld zorgen dat toekomstige AI-systemen mogelijk zichzelf 
zullen kunnen programmeren, wat autonoom opererende wapensystemen 
mogelijk zou maken.

Inmiddels heeft Hinton dus wel enige spijt van zijn levenswerk. „Ik 
troost mezelf met het gebruikelijke excuus: als ik het niet gedaan had, 
was het een ander geweest.”

Een versie van dit artikel verscheen ook in de krant van 3 mei 2023.