Ineens lijken deze voorspellingen voor nog slimmere versie van AI onhaalbaar

CEO Sam Altman van OpenAI werd in een met CEO Gary Tan van durfkapitalist Y Combinator (het bedrijf waar Altman ook CEO van is geweest) gevraagd naar waar hij naar uitkeek voor 2025. Zijn antwoord? “AGI, Ja, daar kijk ik naar uit”. AGI, of , is een term die wordt gebruikt om een toekomstige vorm van AI uit te leggen.

Deze algemene kunstmatige intelligentie zou op menselijk niveau en daarboven kunnen denken en daarmee economisch waardevol werk kunnen leveren. De hype rond heeft inmiddels geleid tot dat AGI misschien wel in 2025, 2026 of behaald zal worden. Maar deze toekomstvisie lijkt verder weg dan ooit.



Afgelopen week werd namelijk duidelijk dat meerdere AI-makers tegen een figuurlijke muur aanlopen bij het ontwikkelen van hun generatieve AI’s. Het blijkt dat het inzetten van meer data en meer rekenkracht niet per se leidt naar een krachtigere versie van een generatieve AI. “Het is altijd lastig om te de toekomst te voorspellen, dat is duidelijk”, zegt hoogleraar computerwetenschappen Oren Etzioni aan het Allen Instituut voor AI.

“AGI is belangrijk. Het is ook goed dat mensen begrijpen wat realistisch is en wat hype is. Mijn favoriete regel bij dit onderwerp is: ‘Verwar een helder zicht nooit met een korte afstand’.

” Onzekerheid begint zich te vertonen Op dit moment geven bedrijven en investeerders miljarden dollars uit aan AI-ontwikkelaars, hardware en software in de verwachting dat dit de technologie beter maakt. Het algemene geloof dat de AI-hype stuwt is namelijk dit: als je meer data, rekenkracht en trainingstijd kunt gebruiken, maak je betere AI-modellen. Dat idee is gebaseerd op wat de hype überhaupt mogelijk heeft gemaakt: de snelle ontwikkeling van ChatGPT.

Onlangs begonnen de eerste scheurtjes zich in deze theorie te tonen. De ontwikkelingen gaan niet zo snel meer terwijl er nog steeds bakken data, rekenkracht en trainingstijd tegenaan gegooid worden. Opschalen op deze manier werkt niet meer, zei medeoprichter Ilya Sutskever van Safe Superintelligence en voormalig hoofdwetenschapper van OpenAI tegen persbureau Reuter.

Onderzoeker Noam Brown van OpenAI zei onlangs op een conferentie dat "op een bepaald punt, dit model van opschalen stopt met werken". Andere medewerkers van OpenAI zeiden tegen techwebsite The information dat hun bedrijf moeite heeft met het verbeteren van het volgende grote AI-model, genaamd Orion. Dat zou komen doordat de verwachtingen na het verhogen van de hoeveelheid data, rekenkracht en trainingstijd niet gehaald werden.

De verbeteringen tegenover GPT-4 zouden kleiner zijn dan de stap die tussen GPT-3 en GPT-4 is gemaakt. Ook bij Google lijkt het raak. De nieuwste variant van mag dan ogenschijnlijk beter presteren dan de concurrentie, hij haalt het niet bij de verwachtingen die het bedrijf had.

Google dacht dat er meer vooruitgang geboekt zou worden uit de hoeveelheid data, rekenkracht en trainingstijd die het in het nieuwe model had gestoken, meldde The Information. Daarop zou Google nu kijken naar hoe het de ontwikkeling van AI anders kan aanpakken. Durfkapitalisten laten weten hoe ze erover denken Durfkapitalisten en Ben Horowitz van Andreessen Horowitz bespraken bovenstaande kwestie onlangs in hun podcast.

De twee heren zijn ongelooflijke aanhangers van de AI-hype en maken regelmatig uitzonderlijke voorspellingen. Maar nu zijn deze twee zelfs een beetje terughoudend over AI-bedrijven en hun vermogen om hun modellen te blijven verbeteren op het tempo dat ze de afgelopen twee jaar hebben laten zien. "Ze zitten allemaal tegen het zelfde plafond als het aankomt op capaciteiten", zei Andreessen.

"Er zijn veel slimme mensen werkzaam in de industrie die dit plafond proberen te doorbreken, maar als je op dit moment de data bekijkt en dat vergelijkt met de groei van de afgelopen tijd, zeg je waarschijnlijk dat het maximum van de capaciteiten is behaald, tenminste op een kleine schaal." Horowitz wees enkele factoren aan die de verbeteringen van AI-modellen beperken. Daaronder vallen een gebrek aan nieuwe menselijke, hoogwaardige data en problemen met het vinden van genoeg energie om AI-datacenters draaiende te houden.

"Als ze de chips eenmaal hebben, hebben we niet genoeg energie. Als we alle energie hebben, hebben we niet genoeg mogelijkheden om te koelen", zei hij. "We zijn echt vertraagd in de hoeveelheid verbeteringen.

Het is belangrijk om te weten dat de groei in GPU's [ ] vergelijkbaar is. Het aantal GPU's stijgt op dezelfde lijn, maar we zien geen vergelijkbare verbeteringen op het gebied van intelligentie." Twijfels over AGI Nu het erop lijkt dat de huidige manier van aanpak voor het verbeteren van AI-modellen niet meer werkt, lijkt het er ook op dat we voorlopig geen AGI hoeven te verwachten.

Toch lijken de AI-makers het anders in te zien. Officieel houden OpenAI en Google zich op de vlakte en doen geen uitspraken over de ontwikkeling van AI. Anthropic, maker van AI-chatbot Claude, zegt dat het nog geen verschil heeft gemerkt.

Altman, die waarschijnlijk de afgelopen paar dagen overdonderd is door vragen over de kwestie, liet donderdag via X weten: " r". Er kan een goede reden zijn waarom de CEO van OpenAI positief blijft. Als de startup het doel van AGI behaalt, verandert de deal met Microsoft, waarschijnlijk in het voordeel van OpenAI.

“Het bestuur bepaalt wanneer we AGI hebben bereikt. Nogmaals, met AGI bedoelen we een zeer autonoom systeem dat beter presteert dan mensen in het overgrote deel van economisch waardevol werk,” legt OpenAI . "Zo'n systeem is uitgesloten van IP-licenties en andere commerciële voorwaarden overeengekomen met Microsoft, die zijn alleen van toepassing op pre-AGI technologie.

” Aan de andere kant kan Altmans uiting ook een manier zijn om zijn werknemers te motiveren. Elon Musk voorspelt al jaren dat mensen op Mars kunnen leven en heeft het over zelfrijdende auto's terwijl hij zijn zelf opgelegde deadlines hiervoor niet haalt. Maar deze krachtige toekomstvisie houdt de werknemers gemotiveerd.

Het behalen van AGI in 2025 klinkt wel beter dan iets beter bereikbaars als "we kunnen de facturatie van bedrijven automatiseren!" - al is het misschien net zo winstgevend. Trends in de tech hebben niet het eeuwige leven De AI-hype is niet de eerste trend in de techwereld en zal ook niet de laatste zijn. En voorgaande trends liepen in het verleden ook tegen hetzelfde euvel aan: na een bepaalde tijd stopten ze met werken na jaren van vooruitgang.

De gevolgen hiervan waren doorgaans niet positief voor de betrokken bedrijven. is hiervan waarschijnlijk het beste voorbeeld. Deze 'wet' voorspelde dat het aantal transistoren in een circuit elke twee jaar zou verdubbelen.

Het werd het mantra in de techindustrie en leidde tot enorme winsten in rekenkracht en daarmee ook andere voordelen, vooral voor Intel. Maar ogenschijnlijk ineens werkte niet meer, het Computer Science and Artificial Intelligence Laboratory van MIT. Intel had niet de voorspelde twee, maar vijf jaar nodig om van de 14-nanometer chiptechnologie (2014) naar de 10-nanometer chiptechnologie (2019) te komen.

Sinds deze beleggers zich dit in 2019 begonnen te realiseren, zijn de aandelen Intel de helft in waarde gedaald. Het bedrijf is die klap nog steeds niet te boven gekomen. LEES OOK:.