1 month Ago
ANALYSE – Yuval Noah Harari, auteur van het wereldberoemde boek , beschrijft in zijn nieuwe boek de opkomst van kunstmatige intelligentie (AI) als de krachtigste technologie die de mensheid ooit heeft gekend. In zijn visie vormt artificial intelligence een groot gevaar voor de democratie en kan het leiden tot massale manipulatie en verdeeldheid. In beschrijft de Israëlische historicus de geschiedenis van de mensheid, van de vroegste dagen van homo sapiens tot aan de moderne tijd.
Harari’s centrale stelling is dat de uitzonderlijke ontwikkeling van de mens voortkomt uit onze unieke capaciteit om samen te werken en complexe samenlevingen te vormen, waarbij verhalen en mythologie een cruciale rol spelen. In zijn staan de informatiesystemen centraal die de mensen gebruiken om deze verhalen en mythologieën te verspreiden. Zo beschrijft hij de bijbel als een bijzonder krachtige technologie die miljarden mensen diepgaand beïnvloed heeft.
Dat roept de vraag op wat de opkomst van kunstmatige intelligentie teweeg zal brengen, verreweg de krachtigste technologie die we ooit gekend hebben. De nieuwe dreiging van artificial intelligence Volgens Harari is het huidige computertijdperk gebaseerd op openheid van informatie. Oftewel, hoe meer vrijelijk informatie zich kan verspreiden, hoe beter de samenleving functioneert.
Dit is echter een naïeve opvatting, volgens de schrijver. We hebben meer massavernietigingswapens dan ooit geproduceerd, meer levensgebieden vernietigd, en miljarden tonnen CO2 de atmosfeer in gepompt, ook al hadden we enorme hoeveelheden informatie tot onze beschikking die ons lieten zien dat deze acties ons steeds dichterbij onze eigen vernietiging brengen. Gaat nog meer informatie de situatie verbeteren? De tech-optimisten denken van wel, zoals venture capitalist Marc Andreessen die in 2023 een veelgelezen essay schreef over en waarom de paniek rond AI volgens hem om verschillende redenen onterecht is.
Andere AI-experts zijn minder optimistisch. In 2023 waarschuwde een groep top AI-deskundigen – waaronder experts van OpenAI en Google Deepmind – dat kunstmatige intelligentie zou kunnen leiden tot het uitsterven van de mensheid. Tientallen AI-experts hebben een verklaring ondertekend die op de webpagina van het is gepubliceerd.
“Het beperken van het risico van uitsterven door AI zou een mondiale prioriteit moeten zijn, naast andere risico’s op maatschappelijke schaal, zoals epidemieën en een nucleaire oorlog”, valt er te lezen. Harari vindt dat we ons in ieder geval bewust moeten zijn van de gevaren en de meer sinistere kant van kunstmatige intelligentie. Door de geschiedenis van informatienetwerken te begrijpen, kunnen we fouten voorkomen.
Daarbij merkt hij wel op dat er cruciale verschillen zijn tussen AI en technologieën uit het verleden. AI is geen tool, maar een . Het is de eerste technologie met het vermogen om zelf ideeën te verzinnen en beslissingen te nemen.
Dat brengt twee grote risico's met zich mee: het kan bestaande conflicten versterken en de wereld verder polariseren, of erger nog, AI kan een totalitaire macht worden die ons leven en onze politiek volledig beheerst. Manipulatie en massavernietiging door toxische informatie Informatienetwerken zijn historisch gezien altijd kwetsbaar geweest voor manipulatie. Harari geeft voorbeelden van hoe toxische informatie rampzalige gevolgen heeft gehad, zoals de heksenjachten in de middeleeuwen en de vervolging van de Rohingya in Myanmar veroorzaakt door Facebook-algoritmes die maximale ‘engagement’ nastreefden.
Sociale media en AI kunnen deze manipulatie naar nieuwe hoogten brengen door massale illusies te creëren die democratieën verzwakken. De democratie staat al onder druk van populistische leiders die als enige zeggen te begrijpen wat er leeft onder het volk en die twijfel zaaien over democratische instituties, zoals de media, de rechtspraak, en de politiek. Uit onderzoek blijkt dat sociale media verder bijdragen aan deze politieke polarisatie.
AI kan dit nog eens verder versnellen door geavanceerde algoritmes die desinformatie verspreiden en extreme meningen versterken. Het vermogen van AI-modellen om menselijke taal te beheersen, empathie te simuleren en mensen te manipuleren, maakt het des te gevaarlijker in de politieke arena. Naarmate miljarden intelligente agenten hun intrede doen in onze informatienetwerken, neemt de kans aanzienlijk toe dat nieuwe massale illusies ontstaan, vergelijkbaar met het nazisme, stalinisme of het huidige gedachtegoed van Poetins Rusland.
Informatie en waarheid zijn immers niet hetzelfde, benadrukt Harari. Zonder maatregelen om de balans in het voordeel van de waarheid te verschuiven, loopt de samenleving het risico te worden overspoeld door een moeras van 'alternatieve waarheden', wat de samenleving en democratie ernstig in gevaar kan brengen. Beheersing van AI en de strijd om waarheid Harari benadrukt dat het noodzakelijk is om verantwoordelijkheid te nemen voor AI.
Techbedrijven zoals Facebook moeten worden aangesproken op de gevolgen van hun algoritmes, die vaak haat en polarisatie aanwakkeren. Netwerken moeten zelfcorrigerende mechanismen ontwikkelen die waarheid belonen en desinformatie tegengaan. Een ander belangrijk punt is het ‘alignment’-probleem: AI kan oplossingen bedenken die mensen niet hadden voorzien, wat leidt tot onvoorspelbare en ongewenste gevolgen.
Harari pleit voor het ontwikkelen van AI-systemen die feedback vragen voordat ze beslissingen nemen, om gevaarlijke uitkomsten te voorkomen. Om de democratie te beschermen tegen AI, pleit Harari voor decentralisatie van informatienetwerken en strikte regulering van AI-toepassingen. Het nadoen van mensen door AI, zoals bij chatbots, zou verboden moeten worden om manipulatie van het politieke proces te voorkomen.
Bovendien moeten bedrijven zoals Amazon transparanter worden over hun interne processen, zodat de informatie niet alleen één kant op stroomt. Hoop en toekomstperspectief Het is niet zo dat Harari alleen maar negatief is over technologie en AI. Zo geeft hij aan dat hij als homoseksueel in het kleine dorpje in Israël emotioneel eenzaam was, maar via een Facebook-groep ontmoette hij zijn huidige man.
Toch is zijn mensbeeld minder optimistisch dan dat van iemand als Andreessen, en de geschiedenis lijkt Harari gelijk te geven. De inzet is nog nooit zo hoog geweest als nu, in het AI-tijdperk. Met de ongekende kracht van deze technologie kan de mensheid het zich niet veroorloven dezelfde fouten als in het verleden te herhalen.
De impact van AI op de wereldeconomie en de arbeidsmarkt zal enorm zijn. De hoop is dat we, te midden van de verschillende grootmachten, een gemeenschappelijke basis kunnen vinden met gedeelde overtuigingen die ons aansporen de juiste beslissingen te nemen, zodat AI een overwegend positieve bijdrage levert aan het verhaal van de mensheid en de evolutie op aarde. LEES OOK:.
