De belofte en het gevaar van AI: een discussie over AI van de redactie

Er zijn twee verschillende vragen: is AI goed of slecht, of beide? En hoe we dat ook antwoorden: zijn de onbelemmerde groei en dominantie ervan onvermijdelijk?

Zoals u ziet Indignatie.nl is nu Indignatie AI, wij hebben in overleg met de redactie onze aandacht meer naar Artificial Intellegence geschoven en niet zonder reden. AI is snel opkomend wie 5 jaar geleden dacht dat het verre toekomst was heeft nu kueze uit honderden AI apps en keuze uit verschillend Chatgpt aps zoals OpenAI.

Tijdens de redactievergadering van Indignatievan deze week werd de aandacht gevestigd op de werveling van gebeurtenissen en gevolgen rond het ontslag van Sam Altman, medeoprichter en CEO van OpenAI. Redacteuren en ondersteunend personeel bespraken de implicaties van de onrust en, meer in het algemeen, de huidige en toekomstige rol van AI in onze cultuur, de potentiële voor- en nadelen ervan, en hoe we dit als journalisten moeten benaderen. Het transcript van ons gesprek is licht bewerkt voor de duidelijkheid.

Erich: Er zijn hier twee dingen aan de hand met het ontslag van Sam Altman, medeoprichter en CEO van OpenAI. Ten eerste is het een geweldig zakelijk verhaal waar we wel of niet mee aan de slag kunnen. Maar het andere deel ervan, dat daaraan ten grondslag ligt, is eigenlijk een debat over de toekomst van AI, en een groep binnen het bestuur die vond dat het te snel ging. 

Een andere groep, geleid door Sam, vond echt dat het sneller moest gaan en sneller gecommercialiseerd moest worden. Te midden van alle onderhandelingen in de bestuurskamer die gaande zijn, en de verschrikkelijke manier waarop dit uitpakte vanwege de manier waarop het bestuur ermee omging – dat wil zeggen, het zakelijke deel ervan – is dat eigenlijk de kernkwestie die hieraan ten grondslag ligt, die, denk ik, een groter geheel heeft. betekenis voor het publiek.

Ik bedoel, er is maar een beperkt aantal van ons dat geïnteresseerd is in de details van de bordstrijd. Maar de snelheid waarmee AI beweegt en de risico’s die het met zich meebrengt, is in werkelijkheid het onderliggende probleem dat voor iedereen relevant is.

Mike: Jouw twee vormen van gebruik van het woord ‘behoefte’ vatten het verschil samen. Ik bedoel, ik neem jou als de expert op het gebied van waar het bestuur in geïnteresseerd is, en ze zeiden dat het langzamer moest omdat het gevaarlijk was. Gevaarlijk voor de mensheid. En de andere opvatting, dat het sneller moest gaan, ging over winst. Het had op de een of andere manier niets met menselijkheid te maken. Ik bedoel, dat is wat Altman wilde. Hij wilde wat winst.

Erich: Daar ben ik het – gedeeltelijk – niet mee eens, omdat winst zeker een motivatie is, dat het om die reden volgens hem sneller moest gaan; maar ook dat de ontwikkeling sneller moest gaan, dat er andere bedrijven waren die zich ermee gingen bemoeien, dat ze het pioniersvoordeel zouden verliezen, en dat er ook nog de Chinese concurrentie was. Het gaat dus om meer dan alleen het winstmotief. De behoefte is, zoals Altman en [OpenAI-mede-oprichter Greg] Brockman et al. zien, iets groter dan alleen het winstmotief.

Russ: Als ik goed begrijp wat Jeff zegt, is het dat er sprake is van een concurrentieoverweging die niet noodzakelijkerwijs primair gebaseerd is op een winstmotief. Met andere woorden, ze willen het stuur in handen hebben, de controleurs, en niet dat China daar controle over heeft, of dat het uit de hand loopt. Er is nog een reden [naast winst] waarom ze denken dat ze snel moeten handelen. Dat is wat Jeff volgens mij zegt.

Mike: Ik denk dat wat iedereen moeilijk kon begrijpen, is dat het bestuur geen relatie heeft met de investeerders. Met andere woorden: de investeerders hebben geen controle. 

Maar de andere vraag is: het lijkt er nu op dat OpenAI opnieuw wordt samengesteld binnen Microsoft. Ik bedoel, het bedrijf bestaat eigenlijk uit de mensen die ervoor werken. Ze hebben allemaal gezegd dat ze zich bij Sam Altman bij Microsoft gaan voegen. En zo zal het daar verder gaan. Dus ik denk dat wat we kunnen doen als we erover schrijven, is kijken naar wat de implicaties op de lange termijn zijn. Met andere woorden: wat zijn de gevaren die dit ding kan vertegenwoordigen? En wat gaat iemand eraan doen?

Erich: Om daar twee punten aan toe te voegen: bedenk dat, met betrekking tot Microsoft, Microsoft de grootste investeerder in OpenAI is. Ze hebben er $10 miljard aan toegezegd, ook al hebben ze niet al dat geld erin gestoken. Thrive Capital is de op een na grootste investeerder. Er is dus een reden voor de betrokkenheid van Microsoft, en [Microsoft CEO Satya] Nadella was in werkelijkheid de makelaar die dit weekend deze Humpty Dumpty weer in elkaar probeerde te zetten. 

Maar het andere deel is om in te gaan op Bill’s laatste punt over het kijken naar de gevaren. Want dat is de reflexmatige reactie. En dat bedoel ik niet pejoratief, Bill. Maar de reflexmatige vraag ‘Wat zijn de gevaren?’ Wat dacht je van: “Wat zijn de positieve dingen?” Hoe zit het met: Ja, er zijn gevaren, maar er zijn ook een gelijk aantal – en misschien meer, naar mijn mening – positieve dingen die uit AI zullen voortkomen, die echt fantastisch zullen zijn in termen van de cultuur, in termen van zaken, in termen van veel dingen? Je kunt niet zomaar beginnen met te zeggen: “Oké, laten we het gewoon over de gevaren hebben.”

Mike: Ik ben het volledig met je eens. Maar ik denk dat de gevaren enorm zijn. En een van de dingen die momenteel gebeuren in regeringen over de hele wereld – niet alleen in de Verenigde Staten of Israël of Oekraïne of Rusland of China, maar ook in Argentinië – is de vraag: “Kan democratie werken als het communicatiesysteem onbetrouwbaar is?” En wat dit [de snelle ontwikkeling van AI] dreigt te doen, is het hele communicatiesysteem opschudden. En je kunt geen democratie hebben als iedereen een ander beeld krijgt van wat er aan de hand is en het onmogelijk is om te beslissen wat goed of fout is. 

Ik bedoel, [bij wijze van analogie]: de BBC heeft zojuist iets gedaan met in het laboratorium gekweekte diamanten. U kunt nu een diamant vervaardigen die niet te onderscheiden is van een echte diamant. Dus de hele diamantmarkt gaat door de vloer. Deze dingen, deze verstoringen hebben dus een enorm effect op de hele wereld. 

En ik denk dat we zeker de goede dingen kunnen benadrukken. Maar ook een aantal zaken waar u op moet letten. Ik denk dat ChatGPT in de wetgeving en in de geneeskunde iets geweldigs zal zijn, omdat je naar een enorme hoeveelheid gegevens kunt kijken en daar een rationele analyse van kunt maken. Maar het kan ook ernstige problemen veroorzaken.

Jonathan: Er zijn hier twee zeer verschillende verhalen, en ze zijn verwant, maar zeer verschillend. Het enige verhaal is: “Is AI goed of slecht, of beide?” Maar ik denk dat het meer provocerende verhaal onvermijdelijkheid met zich meebrengt. Dat wil zeggen dat we weten dat achter dit alles het winstmotief schuilgaat, in brede zin. Dit zijn mensen die geld, roem of een soort macht willen. Groepeer dat maar onder winst. En daar is dit nieuwe speeltje, en het nieuwe speeltje is een heel krachtig speeltje, en het kan niet worden gestopt. Ik denk dat dat het interessante is. Je ontslaat Sam en 12 uur later duikt hij op bij Microsoft. Iedereen gaat met hem mee. Er zit een kracht in de technologie die bijna onmogelijk in de fles te houden is.

Erich: Je hebt volkomen gelijk. Het is alsof je probeert de oceaan tegen te houden. Je omarmt het of je omarmt het.

Mike: De Wall Street Journal had zaterdag een video van 49 minuten waarin Sam Altman en Mira Murati, Chief Technology Officer [en nu interim-CEO] van [OpenAI] werden geïnterviewd, en het is heel duidelijk dat ze meer geïnteresseerd zijn in AI [ zelf] dan dat ze winst maken. Ze hebben het idee dat dit de beschaving gaat veranderen, en ze willen dat dit idee wordt uitgevoerd. Ik denk niet dat het alleen maar winst is. Maar ik denk dat het onvermijdelijk is dat de winstoogmerk dit ding op de open markt zal aandrijven.

Ashley: Ik ben geneigd het eens te zijn met een van de recentere punten dat het onvermijdelijk is. En dat er echt geweldige dingen aan zijn, maar er ook potentieel gevaarlijke dingen aan zijn. Maar ik denk dat ik geïnteresseerd ben om te zien hoe, door te proberen op de komende golf in te spelen, er meer kan worden gedaan rond de ethiek van de ontwikkeling van AI, en hoe sommige van deze problemen kunnen worden voorkomen.  

In plaats van gewoon onze handen in de lucht te steken en te zeggen: “O, nou, het komt er gewoon aan. En het zal gewoon uit de hand lopen.” In plaats van meer zicht te hebben op hoe je doelbewust moet zijn om controles in te voeren, of ethische commissies, of bestuur, of de manier om het op een verantwoorde manier te laten groeien, of hoe je controlepunten moet instellen zodat het niet allemaal negatief of negatief wordt. potentieel negatieve dingen. Zodat gevaarlijke dingen worden ingeperkt, of op zijn minst worden beheerd op een manier dat we niet op een dag wakker worden in een soort sciencefictionfilm met enkele van de meer negatieve verwachtingen die eraan komen. 

Het is iets waar ik erg door gefascineerd ben sinds het zich heeft ontwikkeld, en in de loop van een paar maanden heb ik ChatGPT gebruikt. En als ik zie hoe het geavanceerder is geworden, denk ik dat het erom gaat het echt op een verantwoorde manier te laten groeien. Het doet me bijna denken aan de tijd dat maatschappelijk verantwoord ondernemen echt iets groots aan het worden was. Ik denk dat het een andere manier is waarop maatschappelijk verantwoord ondernemen de kans krijgt om op de voorgrond te treden.

Jyoti: Er zijn goede dingen aan AI, maar we moeten er heel voorzichtig mee omgaan.

Laura: Voor mij lijkt het erop dat toepassingen van AI die specifiek zijn gebouwd en op maat gemaakt voor specifieke banen en sectoren, om te worden gebruikt door mensen die die banen uitvoeren, veiliger en nuttiger aanvoelen dan toepassingen ervan die gewoon voor iedereen beschikbaar zijn. Ik heb niet echt informatie die dat gevoel ondersteunt, maar dat is gewoon mijn onderbuikgevoel.

Russ: Dat is een prima onderbuikgevoel dat je hebt. Laten we dat dus opmerken als onderdeel van het idee van CSR (maatschappelijk verantwoord ondernemen). Het idee van misschien: is er een manier om de verschillende toepassingen van AI op te splitsen? Weet je, AI voor werk, en dan AI als iets algemener iets, en kijk waar dat heen gaat.

Sean: Een van de dingen die ik ter sprake wilde brengen in dit gesprek over AI, en ik denk dat ik dit punt al eerder heb gemaakt over technologie, is hoe we het waardensysteem van de huidige samenleving gebruiken om oordelen te vellen. En we hebben geen idee van de waardesystemen die deze oordelen in de loop van een miljoen jaar hebben gemaakt. 

Ik denk specifiek [als voorbeeld] aan genetische veranderingen die nu via technologie beschikbaar zijn. En de meeste artsen en wetenschappers gebruiken nog steeds de term ‘junk-DNA’ omdat ze geen idee hebben wat het doet. Dus met AI zullen die beslissingen niet langer in de handen van de mensen liggen, zelfs niet met de waarden van de huidige samenleving. Die [beslissingen] zullen worden weggegeven. En dat kunnen wij niet terugnemen.

Dus wat Jeff zegt dat er goede dingen zijn: Absoluut, maar de risico’s zijn zo enorm dat het de echt goede dingen die zouden kunnen gebeuren, ondermijnt. Ja, als je naar elke afzonderlijke technologie kijkt die ooit is ontwikkeld, zijn we op dezelfde plek terechtgekomen. We zijn waar we nu zijn op de planeet vanwege het commerciële gebruik van deze technologieën. Je kunt je hoofd schudden [Jeff schudde zijn hoofd], maar de realiteit is klimaatverandering en plasticvervuiling, en dat zit in alles. We hebben geen idee wat dat de komende decennia met het leven op aarde gaat doen, want Er is geen manier om het eruit te krijgen, en het zal alleen maar toenemen. 

Nu gaat AI de dreiging exponentieel vergroten. En dat gevoel lijkt er niet te zijn. Jeff is het hier misschien niet mee eens, maar er lijkt geen gevoel van urgentie te bestaan ​​over deze kwestie, en dat is enorm.

Erich: Naar mijn mening denk ik dat we risicovolle mensen zijn, en die risico’s moeten we nemen. Dat is wat de vooruitgang en de samenleving vooruit stuwt.

Mike: Een voorbeeld is deze situatie in Argentinië. Er is zojuist een gek [de extreemrechtse libertariër Javier Milei] tot president gekozen, die feitelijk de hele economie wil overschakelen op dollars – wat uiteindelijk een witwaszaak zal worden voor drugsgeld dat uit Ecuador komt. Er zijn dus echte problemen om ons heen waar we naar moeten kijken. Het AI-ding is interessant. Maar het is echt een bijzaak. Ik bedoel, er zijn onmiddellijke dreigingen waar we mee moeten omgaan.

Jonathan: Ik wil teruggaan naar wat Ashley zei over de ethiek van de ontwikkeling, het ontwikkelingsproces, het R&D-proces. En het valt me ​​op dat dat precies is wat het bestuur van [OpenAI] probeerde te doen. Het board probeerde op de rem te trappen en de pushback was onmiddellijk en hevig. 

Dus waar gaan we deze ethische leiding en controle vandaan halen, als zelfs de geringste poging om het smeren van de wielen te stoppen, op dit soort verzet stuit? Het belooft niet veel goeds voor de manier waarop dit zal worden aangepakt, en ik denk dat dit aansluit bij de ervaring die we hebben gehad met het reguleren van al dit nieuwe speelgoed – of het nu om plastic gaat, of bepaalde soorten motoren, of kernwapens. wat dat betreft. 

Het is erg riskant en erg moeilijk, en mijn instinct, mijn intuïtieve gevoel, is dat dit het moeilijkste van allemaal zal zijn om enige vorm van commando en controle over te krijgen. 

En dan zijn er nog de problemen: als iemand commando en controle heeft, heeft een entiteit commando en controle, waardoor ze buitensporige macht krijgen, wat ook in strijd is met wat we nastreven in termen van democratie en de manier waarop we onszelf regeren. Er zijn dus echte problemen. Of AI beperkt of onbeperkt is, hangt wellicht van ons lot af. Het zou kunnen dat we ons op dat punt op de [evolutionaire] groeicurve bevinden die de asymptoot nadert. Na eeuwen van relatieve statische stabiliteit zijn we aan het versnellen, en dat zou wel eens kunnen zijn waar we nu zijn. 

Maar als we erover nadenken, denk ik dat we moeten bedenken dat de problemen van het niet beperken ervan en de problemen van het beperken ervan, zodat bevoorrechte gebruikers macht over alle anderen krijgen, beide zeer existentiële bedreigingen zijn. .

Gerry: Eén ding om naar te kijken is de geschiedenis, en het is iets dat wij kunnen doen en dat journalisten zouden moeten doen. En ik raad iedereen die hierover nadenkt het laatste nummer van The New Yorker aan : de AI-kwestie. 

Een van de directe zorgen over AI is het vervuilen van de informatiestroom en het onmogelijk maken om te zeggen wat echt is en wat niet echt. Daar zit een geschiedenis aan vast, te beginnen met de uitvinding van de fotografie. Ik zal er niet in details over treden, maar het is interessant. En het is niet helemaal wat je je voorstelt. 

En in het algemeen, als we naar de geschiedenis kijken, is het andere ding het beheersen van technologie. Het beroemde voorbeeld van de ozonlaag, die onder controle werd gebracht door overheidsingrijpen in een redelijk succesvolle onderneming. Maar kunnen we dat soort dingen ook met AI doen?