[D66] AI: The Mastermind... (2)

[René Oudeweg]

['k raad je aan dit interview in zn geheel te beluisteren. Niet om de 
gevaren van AI maar om een idee van de werking te krijgen. AI is een 
black box. Woorden worden in floats omgezet in en gevoed in de 
parameters van het systeem, en probeert dan het meest waarschijnlijke 
volgende woord te voorspellen. Zo'n LLM kan triljarden van parameters 
bevatten. Uiteraard is het onmogelijk de werking van zo'n black box te 
begrijpen. Ze weten niet eens hoe ze de 'alignment' moeten aanpakken. 
Vanaf de eerste learning (by design), of achteraf met een legertje 
moderatiemiepen. /RO]

https://www.youtube.com/watch?v=fZlZQCTqIEo

Eliezer Yudkowsky on the Dangers of AI 5/8/23
EconTalk
17,3K abonnees
28.913 weergaven  8 mei 2023
Eliezer Yudkowsky insists that once artificial intelligence becomes 
smarter than people, everyone on earth will die. Listen as Yudkokwsky 
speaks with EconTalk's Russ Roberts on why we should be very, very 
afraid and why we’re not prepared or able to manage the terrifying risks 
of AI