Ga naar de inhoud

INDIGNATIE

Onafhankelijke Bloggers geven hun opinie op het nieuws

Menu
  • Home
  • Nederland
  • Politiek
    • EU
    • Wereld
  • Long read
  • Vrijheid van Mening
  • Economie
  • Koninklijke nieuws
  • Voor haar
  • Formula 1 nieuws
  • Algemeen
    • Vreemd
    • Satirisch nieuws
    • Cultuur
  • Erich brink
  • Digitale privacy
  • donatie
  • Geschiedenis
Menu
musk

Elon Musk denkt dat we dicht bij het oplossen van AI zijn. Dat maakt het niet waar.

Geplaatst op 3 maart 2023

Wat Musk goed – en heel erg fout – heeft over AI, van zelfrijdende auto’s tot ChatGPT.

Elon Musk staat op of bijna bovenaan vrijwel elke AI-influencer-lijst die ik ooit heb gezien, ondanks het feit dat hij geen diploma in AI heeft en slechts één academisch tijdschriftartikel in het veld lijkt te hebben, dat weinig aandacht kreeg.

Daar is niet noodzakelijkerwijs iets mis mee; Yann LeCun is opgeleid in natuurkunde (hetzelfde vakgebied als een van Musk’s twee bachelordiploma’s ), maar staat terecht bekend om zijn pionierswerk op het gebied van machine learning. Ik sta ook bekend om mijn AI-werk, maar ik ben opgeleid in cognitieve wetenschap. Het belangrijkste artikel dat ik ooit voor AI heb geschreven, stond in een psychologietijdschrift . Het is prima voor mensen om invloed uit te oefenen op verschillende gebieden, en Musks werk aan zelfrijdende auto’s heeft ongetwijfeld de ontwikkeling van AI beïnvloed.

Maar ontzettend veel van wat hij zegt over AI klopte niet. Het meest berucht is dat geen van zijn voorspellingen over tijdlijnen voor zelfrijdende auto’s correct was. In oktober 2016 voorspelde hij dat een Tesla zichzelf tegen 2017 van Californië naar New York zou rijden . marketing dan de realiteit . Tesla’s kunnen nog lang niet zelf rijden ; de software is zeven jaar na de start van de uitrol van Tesla nog steeds zo buggy dat een menselijke bestuurder nog altijd moet opletten.

Ook lijkt Musk de relatie tussen natuurlijke (menselijke) intelligentie en kunstmatige intelligentie consequent verkeerd te begrijpen. Hij heeft herhaaldelijk betoogd dat Tesla’s geen Lidar nodig hebben – een sensorsysteem waarop vrijwel elk ander autonoom voertuigbedrijf vertrouwt – op basis van een misleidende vergelijking tussen menselijk zicht en camera’s in zelfrijdende auto’s. Hoewel het waar is dat mensen Lidar niet nodig hebben om te rijden, lijkt de huidige AI nergens dichtbij genoeg om zonder een volledige reeks wegomstandigheden te kunnen begrijpen en ermee om te gaan. Zelfrijdende auto’s hebben Lidar nodig, juist omdat ze geen menselijke intelligentie hebben.

Tesla’s kunnen niet eens consequent voorkomen dat ze tegen stilstaande hulpverleningsvoertuigen botsen , een probleem dat het bedrijf al meer dan vijf jaar niet heeft opgelost. Om redenen die nog steeds niet openbaar zijn gemaakt, zijn de waarnemings- en besluitvormingssystemen voor de auto’s er nog niet in geslaagd om met voldoende betrouwbaarheid te rijden, zonder menselijke tussenkomst. De bewering van Musk is hetzelfde als zeggen dat mensen niet hoeven te lopen omdat auto’s geen voeten hebben. Als mijn grootmoeder wielen had, zou ze een auto zijn.

ChatGPT is niet de diepgaande AI-vooruitgang die het lijkt

Ondanks een vlekkerige staat van dienst, blijft Musk uitspraken doen over AI, en als hij dat doet, nemen mensen het serieus. Zijn nieuwste, voor het eerst gerapporteerd door CNBC en daarna breed opgepikt, vond een paar weken geleden plaats op de World Government Summit in Dubai. Een deel van wat Musk zei is, naar mijn professionele oordeel, spot-on – en een deel ervan is er ver naast.

Wat het meest verkeerd was, was zijn implicatie dat we dicht bij het oplossen van AI zijn – of het bereiken van de zogenaamde “kunstmatige algemene intelligentie” (AGI) met de flexibiliteit van menselijke intelligentie – door te beweren dat ChatGPT “mensen heeft laten zien hoe geavanceerd AI is geworden. ”

Dat is gewoon dom. Voor sommige mensen, vooral degenen die het AI-veld niet hebben gevolgd, lijkt de mate waarin ChatGPT menselijk proza ​​kan nabootsen zeer verrassend. Maar het is ook diep gebrekkig. Een echt superintelligente AI zou in staat zijn om waar van onwaar te onderscheiden, te redeneren over mensen en objecten en wetenschap, en net zo veelzijdig en snel nieuwe dingen te leren als mensen – waartoe de huidige generatie chatbots niet in staat is. Het enige dat ChatGPT kan doen, is tekst voorspellen die plausibel kan zijn in verschillende contexten op basis van de enorme hoeveelheid geschreven werk waarop het is getraind, maar het houdt er geen rekening mee of wat het uitspuugt waar is.

Dat maakt ChatGPT ongelooflijk leuk om mee te spelen, en als het op verantwoorde wijze wordt behandeld, kan het soms zelfs nuttig zijn , maar het maakt het niet echt slim. Het systeem heeft enorme moeite met het vertellen van de waarheid, hallucineert routinematig en worstelt soms met elementaire wiskunde. Het begrijpt niet wat een getal is. In dit voorbeeld, naar mij gestuurd door de AI-onderzoeker Melanie Mitchell, kan ChatGPT de relatie tussen een pond veren en twee pond stenen niet begrijpen, verijdeld door het belachelijke vangrailsysteem dat voorkomt dat het haatdragende taal gebruikt maar ook voorkomt dat het direct veel vragen beantwoorden, waarover Musk zelf elders heeft geklaagd .

musk

Voorbeelden van dergelijke mislukkingen in ChatGPT zijn legio op internet. Samen met NYU-computerwetenschapper Ernest Davis en anderen heb ik er een hele verzameling van verzameld ; voel je vrij om je eigen steentje bij te dragen. OpenAI repareert ze vaak, maar er blijven nieuwe fouten verschijnen. Hier is een van mijn huidige favorieten:

The suspense was killing me. pic.twitter.com/7dCrfAcOUn

— DJ Strouse (@djstrouse) December 22, 2022

Deze gevallen illustreren dat, ondanks de oppervlakkige schijn van het tegendeel, ChatGPT niet kan redeneren, geen idee heeft waar het over praat en absoluut niet te vertrouwen is. Het heeft geen echt moreel kompas en moet vertrouwen op ruwe vangrails die proberen te voorkomen dat het kwaad wordt, maar die zonder veel moeite kunnen worden doorbroken . Soms klopt het omdat de tekst die je erin typt dicht genoeg in de buurt komt van iets waarop het is getraind, maar dat is bijkomstig. Soms gelijk hebben is geen goede basis voor kunstmatige intelligentie.

Musk is naar verluidt op zoek naar een ChatGPT-rivaal – “TruthGPT”, zoals hij het onlangs uitdrukte – maar hij mist ook iets belangrijks: waarheid maakt gewoon geen deel uit van GPT-achtige architecturen. Het is prima om een ​​nieuwe AI te willen bouwen die de fundamentele problemen met de huidige taalmodellen aanpakt, maar dat zou een heel ander ontwerp vereisen, en het is niet duidelijk of Musk inziet hoe radicaal de veranderingen zullen moeten zijn.

Waar er veel op het spel staat, komen bedrijven er al achter dat de waarheid en GPT niet de beste vrienden zijn. JPMorgan verbood zijn werknemers zojuist om ChatGPT zakelijk te gebruiken, en Citigroup en Goldman Sachs volgden snel. Zoals Yann LeCun het uitdrukte , in navolging van wat ik al jaren zeg , is het een afslag op de weg naar kunstmatige algemene intelligentie omdat de onderliggende technologie niets te maken heeft met de vereisten van echte intelligentie.

Afgelopen mei zei Musk dat hij “verrast zou zijn als we in 2029 geen AGI hebben” . een stel voorwaarden op. Veel mensen in het veld deelden mijn gevoel dat Musk bij voorspellingen als deze alleen maar praat en geen actie onderneemt. De volgende dag had ik, zonder dat van plan te zijn, nog eens $ 400.000 opgehaald voor de weddenschap van collega-AI-experts. Musk heeft ons nooit teruggebeld. Als hij echt geloofde wat hij zegt, had hij dat moeten doen.

We moeten ons nog steeds grote zorgen maken

Als Musk het bij het verkeerde eind heeft over wanneer auto’s zonder bestuurder komen, naïef over wat er nodig is om mensachtige robots te bouwen, en schromelijk afwijkt van de tijdlijn voor algemene intelligentie, dan heeft hij ergens gelijk in: Houston, we hebben een probleem.

Tijdens het evenement in Dubai vorige maand zei Musk tegen het publiek: “Een van de grootste risico’s voor de toekomst van de beschaving is AI.” Ik denk nog steeds dat nucleaire oorlog en klimaatverandering groter kunnen zijn, maar de afgelopen weken, vooral met de wanordelijke introducties van nieuwe AI-zoekmachines door Microsoft en Google , doen me denken dat we steeds primitievere en onbetrouwbaardere kunstmatige inlichtingenproducten kwamen met spoed op de markt.

Dat is misschien niet precies het soort AI dat Musk in gedachten had, maar het brengt wel duidelijke en actuele gevaren met zich mee. Er verschijnen schijnbaar elke dag nieuwe zorgen, variërend van onvoorziene gevolgen in het onderwijs tot de mogelijkheid van massale, geautomatiseerde desinformatiecampagnes. Extremistische organisaties, zoals het alt-right sociale netwerk Gab, zijn al begonnen met het aankondigen van intenties om hun eigen AI te bouwen.

Ga dus niet naar Musk voor specifieke tijdlijnen over AGI of zelfrijdende auto’s. Maar hij maakt nog steeds een cruciaal punt: we hebben nieuwe technologie in handen en we weten niet echt hoe dit allemaal gaat uitpakken. Toen hij deze week zei dat “we een soort regelgevende autoriteit nodig hebben of iets dat toezicht houdt op de ontwikkeling van AI”, was hij misschien niet zo welsprekend, maar hij had volkomen gelijk.

In werkelijkheid zijn we niet zo dicht bij AGI. In plaats daarvan ontketenen we een verleidelijke maar lukrake en waarheid negerende AI die misschien niemand had verwacht. Maar de afhaalmaaltijd is nog steeds hetzelfde. We moeten ons zorgen maken, hoe slim (of niet) het ook is.


Overweeg alstublieft om ons te steunen als donateur of ondersteunend lid, ook wij hebben onze inkomsten zien dalen in deze heftige tijden daarom, KLIK HIER voor IBAN of via PayPal hieronder!, wil je ook onze berichten zoveel mogelijk delen dit is voor ons van levensbelang, hartelijke dank en veel leesplezier.

Steun Indignatie via PayPal veilig en simpel.


Gerelateerd

Geef een antwoord Reactie annuleren

Je moet inloggen om een reactie te kunnen plaatsen.

Ons Nieuws

Asieltsunami: Duitsland verdrinkt
Asieltsunami: Duitsland verdrinkt

De stroom van zogenaamde vluchtelingen naar Duitsland gaat onverminderd door. De politiebond (GdP) gaat ervan uit dat het aantal illegale migranten de komende weken onmetelijk zal toenemen. Waarschuwingen als deze worden consequent… [...]

Waarom werd BBB groter dan JA21?
Waarom werd BBB groter dan JA21?

Volgens peilingen gingen de regeringspartijen VVD (rechts-liberaal) en CDA (christendemocratisch) kiezers verliezen aan de nieuwe partijen BoerBurgerBeweging (BBB) en JA21, allebei sinds 2021 voor het eerst in de Tweede Kamer.… [...]

SUKKEL!! Van Meijeren (FVD) krijgt zestig uur taakstraf voor door rood rijden zonder rijbewijs
SUKKEL!! Van Meijeren (FVD) krijgt zestig uur taakstraf voor door rood rijden zonder rijbewijs

Tweede Kamerlid Gideon van Meijeren van Forum voor Democratie is veroordeeld tot een werkstraf van 60 uur. De politierechter in Den Haag legde hem deze straf en een week voorwaardelijke… [...]

Uit de kast???? Coming out????
Uit de kast???? Coming out????

Ben je homoseksueel, dan is het de bedoeling dat je “uit de kast” komt. “Coming out” noemen ze het ook wel heel trendy. Maar er is helemaal niks trendy aan.… [...]

SDB

In de chaos die door de VVD is gecreëerd konden verschillende extreemrechtse partijen het levenslicht zien
In de chaos die door de VVD is gecreëerd konden verschillende extreemrechtse partijen het levenslicht zien

Terwijl de VVD maandenlang steeds naar de linkse wolk keek en dat aanwees als het grote gevaar konden de terroristische boeren en racistische vissers van lobbyclub BBB zich in alle… [...]

De populariteit van BBB is (groten?)deels een afspiegeling van de impopulariteit van het kabinet
De populariteit van BBB is (groten?)deels een afspiegeling van de impopulariteit van het kabinet

Afgelopen dagen waren er allerlei monocausale duidingen te vinden over de historische zege van de BoerBurgerBeweging BBB tijdens de Provinciale Statenverkiezingen. Het is de kloof tussen stad en platteland! Of… [...]

Caroline van der Plas sloopt de politieke elite
Caroline van der Plas sloopt de politieke elite

Een down-to-earth-dame rekende genadeloos af met de arrogante heersende klasse. Wat wil je: half-Iers, Caroline van der Plas. Dochter van Nuala Fitzpatrick, oftewel The Limerick Tulip. Caroline van der Plas… [...]

Donald Trump in Waco: Het is een signaal naar de donkerste elementen van extreemrechts
Donald Trump in Waco: Het is een signaal naar de donkerste elementen van extreemrechts

De belegering van Waco in 1993 was een groteske tragedie – maar voor extreemrechtse elementen is het nu een heilig symbool In augustus 1980 besloot Ronald Reagan campagne te voeren… [...]

Recente reacties

  • Hoogverraadbeleid Duitsland: de burger krijgt nu de rekening voorgeschoteld – en de media zwijgen INDIGNATIE op Duitsland wil een gemilitariseerde Europese Unie
  • Elon Musk, Twitter en de Amerikaanse oorlogsmachine INDIGNATIE op Wat gebeurt er met je Twitter-gegevens als Elon Musk het overneemt?
  • Kaag en ECB naaien ons INDIGNATIE op Kaag opent deur naar totale financiële controle en ongekende massasurveillance
  • Qatar : Gezellig voetbal kijken INDIGNATIE op Regering en koning naar Qatar? Schande! Schande! Schande!
  • De Nederlandse media hebben het monster dat Baudet heet zelf gecreëerd INDIGNATIE op De evil reptiles van Baudet
©J INDIGNATIE | Ontwerp: Krant WordPress thema