Indignatie redactie 
Neuralink heeft een chip in zijn eerste menselijke brein geïmplanteerd. Maar het dwingt tot een onnodig risicovolle aanpak, zeggen voormalige werknemers.
Van alle exploits van Elon Musk – de Tesla-auto’s, de SpaceX-raketten, de overname van Twitter, de plannen om Mars te koloniseren – is zijn geheimzinnige hersenchipbedrijf Neuralink misschien wel het gevaarlijkst.
Waar is Neuralink voor? Op de korte termijn is het bedoeld om mensen met verlamming te helpen. Maar dat is niet het hele antwoord.
Het bedrijf werd gelanceerd in 2016 en onthulde in 2019 dat het flexibele ‘draden’ had gemaakt die in de hersenen konden worden geïmplanteerd , samen met een naaimachine-achtige robot om de implantatie uit te voeren. Het idee is dat deze draden signalen uit de hersenen van een verlamde patiënt zullen lezen en die gegevens naar een iPhone of computer zullen verzenden, zodat de patiënt deze met alleen zijn gedachten kan besturen – zonder te hoeven tikken, typen of vegen.
In 2023 kondigde het bedrijf aan dat het goedkeuring van de FDA had gekregen om zijn eerste klinische proef bij mensen uit te voeren . Het begon verlamde vrijwilligers te rekruteren om te onderzoeken of het implantaat hen in staat stelt externe apparaten te bedienen.
Nu zegt Musk dat Neuralink een apparaat heeft geïmplanteerd in zijn eerste menselijke proefpersoon in het proces. Hij hypede het apparaat, genaamd Telepathy, en schreef op zijn sociale platform X : “Stel je voor dat Stephen Hawking sneller zou kunnen communiceren dan een snelheidstypist of veilingmeester. Dat is het doel.”
Als de technologie bij mensen werkt, kan dit de levenskwaliteit van miljoenen mensen verbeteren. Alleen al in de VS leven ongeveer 5,4 miljoen mensen met verlamming.
Maar het helpen van verlamde mensen is niet het einddoel van Musk. Dat is slechts een stap op weg naar het verwezenlijken van een veel wildere langetermijnambitie.
Die ambitie is, in Musk’s eigen woorden , “het tot stand brengen van een symbiose met kunstmatige intelligentie.” Zijn doel is om een technologie te ontwikkelen die mensen helpt te ‘samensmelten met AI’, zodat we niet ‘achterblijven’ naarmate AI geavanceerder wordt.
Deze fantastische visie is niet iets waarvoor de FDA menselijke proeven groen licht geeft. Maar werken aan het helpen van mensen met verlamming? Dat kan een warmere ontvangst krijgen. En dat is ook zo.
Maar het is belangrijk om te begrijpen dat deze technologie enorme risico’s met zich meebrengt. Voormalige werknemers van Neuralink en deskundigen op dit gebied hebben beweerd dat het bedrijf heeft aangedrongen op een onnodig invasieve, potentieel gevaarlijke aanpak van de implantaten die de hersenen kunnen beschadigen (en dat blijkbaar ook heeft gedaan bij proefdieren ) om Musk’s doel van fusie met de hersenen te bevorderen. AI.
Neuralink reageerde niet op een verzoek om commentaar.
Er zijn ook ethische risico’s voor de samenleving als geheel die verder gaan dan alleen Neuralink. Een aantal bedrijven ontwikkelen technologie die in de menselijke hersenen wordt aangesloten, die kan decoderen wat er in onze geest omgaat en die het potentieel heeft om de mentale privacy uit te hollen en autoritair toezicht een boost te geven. We moeten ons voorbereiden op wat gaat komen.
Waarom Elon Musk menselijke hersenen wil samenvoegen met AI
Neuralink is een reactie op één grote angst: dat AI de wereld zal overnemen.
Dit is een angst die steeds wijdverbreider wordt onder AI-leiders, die zich zorgen maken dat we machines kunnen creëren die slimmer zijn dan mensen en die het vermogen hebben om ons te misleiden en uiteindelijk de controle van ons over te nemen .
In maart 2023 ondertekenden velen van hen, waaronder Musk, een open brief waarin werd opgeroepen tot een pauze van zes maanden bij het ontwikkelen van AI-systemen die krachtiger zijn dan OpenAI’s GPT-4. De brief waarschuwde dat “AI-systemen met mens-competitieve intelligentie grote risico’s kunnen opleveren voor de samenleving en de mensheid” en ging verder met de vraag: “ Moeten we niet-menselijke geesten ontwikkelen die ons uiteindelijk in aantal kunnen overtreffen, te slim af kunnen zijn, verouderd en vervangen? Moeten we het risico lopen de controle over onze beschaving te verliezen?”
Hoewel Musk niet de enige is die waarschuwt voor het ‘beschavingsrisico’ dat AI-systemen met zich meebrengen, verschilt hij van anderen in zijn plan om het risico af te weren. Het plan is eigenlijk: als je ze niet kunt verslaan, sluit je dan bij ze aan.
Musk voorziet een wereld waarin AI-systemen die informatie kunnen communiceren met een biljoen bits per seconde, met hun metaforische neus zullen kijken naar mensen, die slechts met 39 bits per seconde kunnen communiceren . Voor de AI-systemen lijken we nutteloos. Tenzij we misschien net als zij werden.
Een groot deel daarvan is volgens Musk het kunnen denken en communiceren met de snelheid van AI. “Het gaat vooral om de bandbreedte, de snelheid van de verbinding tussen je hersenen en de digitale versie van jezelf, vooral de output”, zei hij in 2017. “Een interface met hoge bandbreedte naar de hersenen zal iets zijn dat helpt een symbiose tussen mens en brein te bereiken. machine-intelligentie en lost misschien het besturingsprobleem en het bruikbaarheidsprobleem op.”
Als we een half dozijn jaar vooruitspoelen, kun je zien dat Musk nog steeds geobsedeerd is door dit idee van bandbreedte: de snelheid waarmee computers informatie uit je hersenen kunnen voorlezen. Het is in feite het idee dat Neuralink drijft.
Het Neuralink-apparaat is een hersenimplantaat, uitgerust met 1.024 elektroden, dat signalen van een heleboel neuronen kan oppikken. Hoe meer elektroden je hebt, hoe meer neuronen je kunt afluisteren, en hoe meer gegevens je krijgt. En hoe dichter u bij die neuronen kunt komen, hoe hoger de kwaliteit van uw gegevens zal zijn.
En het Neuralink-apparaat komt heel dicht bij de neuronen. De procedure van het bedrijf om het te implanteren vereist het boren van een gat in de schedel en het penetreren van de hersenen.
Maar er zijn minder extreme manieren om dit aan te pakken. Andere bedrijven bewijzen het. Laten we eens kijken wat ze doen – en waarom Musk de behoefte voelt om iets anders te doen.
Er zijn andere manieren om een brein-computerinterface te maken. Waarom kiest Neuralink voor de meest extreme?
Neuralink is niet het enige bedrijf dat hersen-computerinterfaces (BCI’s) onderzoekt om de fysieke vermogens van mensen te herstellen. Andere bedrijven zoals Synchron , Blackrock Neurotech , Paradromics en Precision Neuroscience werken ook op dit gebied. Dat geldt ook voor het Amerikaanse leger .
De afgelopen jaren heeft veel van het onderzoek dat de krantenkoppen haalde zich geconcentreerd op hersenimplantaten die de gedachten van verlamde mensen in spraak zouden vertalen . Meta van Mark Zuckerberg werkt bijvoorbeeld aan BCI’s die gedachten rechtstreeks van uw neuronen kunnen oppikken en deze in realtime in woorden kunnen vertalen. (Op de lange termijn zegt het bedrijf dat het iedereen de mogelijkheid wil geven om toetsenborden, augmented reality-brillen en meer te bedienen, alleen met behulp van hun gedachten.)
Eerder succes op het gebied van BCI was niet gericht op spraak, maar op beweging. In 2006 kreeg Matthew Nagle, een man met een dwarslaesie, een hersenimplantaat waarmee hij een computercursor kon besturen. Al snel speelde Nagle Pong, waarbij hij alleen zijn verstand gebruikte.
Het hersenimplantaat van Nagle, ontwikkeld door het onderzoeksconsortium BrainGate , bevatte een ‘Utah’-array, een cluster van 100 stekelige elektroden die chirurgisch in de hersenen zijn ingebed. Dat is slechts ongeveer een tiende van de elektroden in het apparaat van Neuralink. Maar het stelde een verlamd persoon nog steeds in staat een cursor te bewegen, zijn e-mail te checken, het volume of het kanaal op een tv aan te passen en een robotachtig ledemaat te besturen. Sindsdien hebben anderen met verlamming soortgelijke prestaties geleverd met BCI-technologie.
Terwijl vroege technologieën zoals de Utah-array onhandig uit de schedel staken, zijn nieuwere BCI’s onzichtbaar voor de buitenstaander zodra ze zijn geïmplanteerd, en sommige zijn veel minder invasief.
De BCI van Synchron bouwt bijvoorbeeld voort op stenttechnologie die al sinds de jaren tachtig bestaat. Een stent is een metalen frame dat u in een bloedvat kunt inbrengen; het kan daar decennialang veilig worden achtergelaten (en is bij veel hartpatiënten het geval geweest, waardoor hun slagaders open bleven). Synchron gebruikt een katheter om een stent omhoog te sturen in een bloedvat in de motorische cortex van de hersenen. Eenmaal daar ontvouwt de stent zich als een bloem, en sensoren erop pikken signalen van neuronen op. Hierdoor konden al verschillende verlamde mensen hun gedachten tweeten en sms’en .
Geen open hersenoperatie nodig. Geen gaten boren in de schedel.
Musk zelf heeft gezegd dat BCI’s niet noodzakelijkerwijs een open hersenoperatie vereisen, in een veelzeggende vijf minuten durende video op de Recode’s Code Conference in 2016 . “Je zou door de aderen en slagaders kunnen gaan, omdat dat een volledige verbinding biedt met al je neuronen,” zei hij. “Je zou in feite iets in de halsader kunnen steken en…”
Nadat het publiek zenuwachtig had gelachen, voegde hij eraan toe: ‘Het betekent niet dat je je schedel moet afhakken of iets dergelijks.’
In de beginjaren van Neuralink, voordat het bedrijf zich had gevestigd op de huidige aanpak – waarbij in de schedel wordt geboord – zou een van de onderzoeksteams naar de tammere intravasculaire aanpak hebben gekeken, vertelden vier voormalige medewerkers van Neuralink mij. Dit team onderzocht de mogelijkheid om een apparaat via een slagader naar de hersenen te brengen en toonde aan dat dit haalbaar was.
Maar in 2019 had Neuralink deze optie afgewezen en in plaats daarvan gekozen voor de meer invasieve chirurgische robot die draden rechtstreeks in de hersenen implanteert.
Waarom? Als de intravasculaire aanpak het sleutelfunctioneren van verlamde patiënten kan herstellen en ook enkele van de veiligheidsrisico’s kan vermijden die gepaard gaan met het passeren van de bloed-hersenbarrière, zoals ontstekingen en opbouw van littekenweefsel in de hersenen, waarom kiezen voor iets dat invasiever is dan noodzakelijk?
Dat zegt het bedrijf niet. Maar volgens Hirobumi Watanabe, die in 2018 leiding gaf aan het intravasculaire onderzoeksteam van Neuralink, was de belangrijkste reden de obsessie van het bedrijf met het maximaliseren van de bandbreedte.
“Het doel van Neuralink is om voor meer elektroden en meer bandbreedte te gaan,” zei Watanabe, “zodat deze interface veel meer kan dan wat andere technologieën kunnen doen.”
Musk heeft immers gesuggereerd dat een naadloze samensmelting met machines ons in staat zou kunnen stellen alles te doen, van het verbeteren van ons geheugen tot het uploaden van onze gedachten en het eeuwig leven – hoofdbestanddelen van de transhumanistische fantasieën van Silicon Valley . Dit helpt misschien om de dubbele missie van het bedrijf te begrijpen : “het creëren van een gegeneraliseerde herseninterface om de autonomie te herstellen van mensen met onvervulde medische behoeften van vandaag en het menselijk potentieel van morgen te ontsluiten.”
“Neuralink richt zich expliciet op het produceren van neurale interfaces voor algemene doeleinden”, vertelde de in München gevestigde neuro-ethicus Marcello Ienca mij. “Voor zover ik weet zijn zij het enige bedrijf dat momenteel klinische proeven plant voor implanteerbare medische neurale interfaces en tegelijkertijd publieke verklaringen aflegt over toekomstige niet-medische toepassingen van neurale implantaten voor cognitieve verbetering.
Om een technologie voor algemeen gebruik te creëren, moet je een naadloze interface tussen mens en computer creëren, waardoor verbeterde cognitieve en sensorische vaardigheden mogelijk worden. Om deze visie te verwezenlijken zijn wellicht meer invasieve methoden nodig om een hogere bandbreedte en precisie te bereiken.”
Watanabe is van mening dat Neuralink prioriteit heeft gegeven aan het maximaliseren van de bandbreedte, omdat dit het doel van Musk dient om een algemene BCI te creëren die ons in staat stelt te fuseren met AI en allerlei nieuwe capaciteiten te ontwikkelen. “Dat is wat Elon Musk zegt, dus dat is wat het bedrijf moet doen”, zei hij.
Het leek erop dat de intravasculaire aanpak niet zoveel bandbreedte kon opleveren als de invasieve aanpak. In de bloedvaten blijven is misschien veiliger, maar het nadeel is dat je minder toegang hebt tot zoveel neuronen. “Dat is de grootste reden waarom ze niet voor deze aanpak hebben gekozen,” zei Watanabe. “Het is nogal triest.” Hij voegde eraan toe dat hij geloofde dat Neuralink te snel was met het opgeven van de minimaal invasieve aanpak. “We hadden dit project vooruit kunnen helpen.”
Voor Tom Oxley, de CEO van Synchron, roept dit een grote vraag op. “De vraag is: ontstaat er een botsing tussen het kortetermijndoel van patiëntgerichte klinische gezondheidsresultaten en het langetermijndoel van AI-symbiose?” hij vertelde het mij. “Ik denk dat het antwoord waarschijnlijk ja is.”
“Het maakt uit waar je voor ontwerpt en of je een patiëntprobleem in gedachten hebt,” voegde Oxley eraan toe. Synchron zou theoretisch kunnen bouwen in de richting van een grotere bandbreedte door zijn technologie te miniaturiseren en in diepere takken van de bloedvaten te gaan; Uit onderzoek blijkt dat dit haalbaar is. ‘Maar’, zei hij, ‘we hebben een punt gekozen waarop we denken dat we voldoende signaal hebben om een probleem voor een patiënt op te lossen.’
Ben Rapoport, een neurochirurg die Neuralink verliet om Precision Neuroscience op te richten, benadrukte dat elke keer dat elektroden de hersenen binnendringen, je wat schade aan het hersenweefsel toebrengt. En dat is niet nodig als het uw doel is om verlamde patiënten te helpen.
“Ik denk niet dat er een afweging nodig is voor het soort neuroprothetische functie dat we nodig hebben om de spraak- en motorfunctie te herstellen bij patiënten met een beroerte of een dwarslaesie,” vertelde Rapoport me. “Een van onze leidende filosofieën is dat het bouwen van een high-fidelity brein-computer interfacesysteem kan worden bereikt zonder de hersenen te beschadigen.”
Om te bewijzen dat je geen Muskiaanse invasiviteit nodig hebt om een hoge bandbreedte te bereiken, heeft Precision een dunne film ontworpen die het oppervlak van de hersenen bedekt met 1.024 elektroden – hetzelfde aantal elektroden in het implantaat van Neuralink – die signalen afgeven die vergelijkbaar zijn met die van Neuralink.
De film moet via een spleet in de schedel worden ingebracht, maar het voordeel is dat deze op het hersenoppervlak zit zonder erin te dringen. Rapoport noemt dit de ‘Goudlokje-oplossing’, en deze is al bij een handvol patiënten geïmplanteerd , waarbij hun hersenactiviteit met hoge resolutie wordt geregistreerd.
“Het is van cruciaal belang om een zeer, zeer veilige procedure uit te voeren die de hersenen niet beschadigt en die minimaal invasief van aard is”, aldus Rapoport. “En bovendien dat naarmate we de bandbreedte van het systeem opschalen, het risico voor de patiënt niet mag toenemen.”
Dit is logisch als het uw meest gekoesterde ambitie is om patiënten te helpen hun leven zoveel mogelijk te verbeteren zonder onnodige risico’s te nemen. Maar Musk heeft, zo weten we, andere ambities.
“Waar Neuralink niet erg in geïnteresseerd lijkt te zijn, is dat hoewel een meer invasieve aanpak voordelen zou kunnen bieden in termen van bandbreedte, het grotere ethische en veiligheidsproblemen met zich meebrengt,” vertelde Ienca me. “Ik heb in ieder geval geen publieke verklaring gehoord waarin zij aangeven hoe zij van plan zijn om te gaan met de grotere risico’s op het gebied van privacy, veiligheid en mentale integriteit die hun aanpak met zich meebrengt. Dit is vreemd omdat het volgens internationale onderzoeksethische richtlijnen niet ethisch zou zijn om een invasievere technologie te gebruiken als dezelfde prestaties kunnen worden bereikt met behulp van minder invasieve methoden.”
Invasievere methoden kunnen door hun aard echte schade aan de hersenen aanrichten – zoals Neuralinks experimenten met dieren hebben aangetoond.
Ethische zorgen over Neuralink, zoals geïllustreerd door de dieren
Sommige medewerkers van Neuralink hebben zich uitgesproken om namens de varkens en apen te spreken die bij de experimenten van het bedrijf zijn gebruikt, en zeggen dat ze vaker hebben geleden en stierven dan nodig was omdat het bedrijf haast had en operaties verprutste . Musk, zo beweerden ze, drong er bij het personeel op aan om snel goedkeuring van de FDA te krijgen, nadat hij herhaaldelijk had voorspeld dat het bedrijf binnenkort met menselijke proeven zou beginnen.
Een voorbeeld van een gruwelijke fout: in 2021 implanteerde Neuralink bij 25 van de 60 varkens apparaten met de verkeerde maat. Daarna doodde het bedrijf alle getroffen varkens. Het personeel vertelde Reuters dat de fout voorkomen had kunnen worden als ze meer tijd hadden gehad om zich voor te bereiden.
Uit veterinaire rapporten blijkt dat ook de apen van Neuralink een gruwelijk lot hebben ondergaan . Bij één aap ‘brak’ een stukje van het apparaat af tijdens implantatie in de hersenen. De aap krabde en rukte totdat een deel van het apparaat losraakte en er infecties ontstonden. Een andere aap kreeg een bloeding in haar hersenen, waarbij het implantaat delen van haar cortex “gehavend” achterliet. Beide dieren werden geëuthanaseerd.
In 2022 startte het Office of Inspector General van het Amerikaanse ministerie van Landbouw een onderzoek naar mogelijke schendingen van het dierenwelzijn bij Neuralink. Het bedrijf wordt ook geconfronteerd met een onderzoek van het ministerie van Transport vanwege zorgen dat implantaten die uit de hersenen van apen zijn verwijderd, mogelijk op onveilige wijze zijn verpakt en verplaatst, waardoor mensen mogelijk aan ziekteverwekkers zijn blootgesteld.
“Uit eerdere dierproeven [bij Neuralink] zijn ernstige veiligheidsproblemen gebleken die voortkomen uit de invasiviteit van het product en de overhaaste, slordige acties van werknemers van het bedrijf”, zei de Physicians Committee for Responsible Medicine, een non-profitorganisatie die zich tegen dierproeven verzet, in een verklaring van mei 2023 . “Als zodanig moet het publiek sceptisch blijven over de veiligheid en functionaliteit van elk apparaat dat door Neuralink wordt geproduceerd.”
Niettemin gaf de FDA het bedrijf toestemming om met menselijke proeven te beginnen.
“Het bedrijf heeft voldoende informatie verstrekt ter ondersteuning van de goedkeuring van zijn IDE-aanvraag [vrijstelling voor onderzoeksapparatuur] om proeven op mensen te starten onder de criteria en vereisten van de IDE-goedkeuring”, zei de FDA in een verklaring aan Vox, eraan toevoegend: “De focus van het agentschap is voor het bepalen van de goedkeuring van een IDE is gebaseerd op het beoordelen van het veiligheidsprofiel voor potentiële proefpersonen, het garanderen dat de risico’s op passende wijze worden geminimaliseerd en aan de proefpersonen worden gecommuniceerd, en het garanderen dat het potentieel voor voordeel, inclusief de waarde van de te verwerven kennis, opweegt tegen het risico.”
Wat als de aanpak van Neuralink te goed werkt?
Naast wat de operaties zullen betekenen voor de personen die worden gerekruteerd voor de onderzoeken van Neuralink, zijn er ethische zorgen over wat BCI-technologie betekent voor de samenleving in bredere zin. Als implantaten met hoge bandbreedte van het type dat Musk nastreeft werkelijk ongekende toegang bieden tot wat er in de hersenen van mensen gebeurt, zou dat dystopische mogelijkheden waarschijnlijker kunnen maken. Sommige neuro-ethici beweren dat de kans op misbruik zo groot is dat we vernieuwde mensenrechtenwetten nodig hebben om ons te beschermen voordat we verder kunnen gaan.
Om te beginnen vormen onze hersenen de laatste privacygrens. Ze zijn de zetel van onze persoonlijke identiteit en onze meest intieme gedachten. Als we die kostbare drie pond slijm in onze schedels niet kunnen beheersen, wat dan wel?
In China haalt de overheid al gegevens uit de hersenen van sommige werknemers door ze petten te laten dragen die hun hersengolven scannen op emotionele toestanden. In de VS onderzoekt het leger neurotechnologieën om soldaten geschikter te maken voor hun taak – alerter bijvoorbeeld.
En sommige politiediensten over de hele wereld hebben de ‘brain-fingerprinting’-technologie onderzocht , die automatische reacties analyseert die in onze hersenen plaatsvinden wanneer we stimuli tegenkomen die we herkennen. (Het idee is dat dit de politie in staat zou kunnen stellen de hersenen van een verdachte te ondervragen; hun hersenreacties zouden negatiever zijn voor gezichten of zinsneden die ze niet herkennen dan voor gezichten of zinsneden die ze wel herkennen.)
Technologie voor het nemen van hersenvingerafdrukken is wetenschappelijk twijfelachtig , maar die van India is De politie gebruikt het sinds 2003, de politie van Singapore heeft het in 2013 gekocht en de staatspolitie van Florida heeft in 2014 een contract getekend om het te gebruiken .
Stel u een scenario voor waarin uw regering BCI’s gebruikt voor surveillance of ondervragingen. Het recht om jezelf niet te beschuldigen – vastgelegd in de Amerikaanse grondwet – zou zinloos kunnen worden in een wereld waarin de autoriteiten de bevoegdheid hebben om zonder jouw toestemming je mentale toestand af te luisteren.
Deskundigen maken zich ook zorgen dat apparaten zoals die door Neuralink worden gebouwd, kwetsbaar kunnen zijn voor hacking. Wat gebeurt er als je er een gebruikt en een kwaadwillende actor de Bluetooth-verbinding onderschept, waardoor de signalen die naar je hersenen gaan veranderen, waardoor je bijvoorbeeld depressiever of volgzamer wordt?
Neuro-ethici noemen dat brainjacking . “Dit is nog steeds hypothetisch, maar de mogelijkheid is aangetoond in proof-of-concept-studies”, vertelde Ienca me in 2019. “Een hack als deze zou niet zoveel technologische verfijning vereisen.”
Bedenk ten slotte hoe uw psychologische continuïteit of fundamentele zelfgevoel zou kunnen worden verstoord door het opleggen van een BCI – of door de verwijdering ervan. Uit één onderzoek bleek dat een vrouw met epilepsie die een BCI had gekregen er zo’n radicale symbiose mee voelde dat ze zei: “Het paste bij mij.” Toen ging het bedrijf dat het apparaatje in haar hersenen implanteerde failliet en moest ze het laten verwijderen. Ze huilde en zei: ‘Ik ben mezelf kwijtgeraakt.’
Om het risico van een hypothetische almachtige AI in de toekomst af te wenden, wil Musk een symbiose creëren tussen je brein en machines. Maar de symbiose brengt zijn eigen zeer reële risico’s met zich mee – en die dreigen nu op ons af te komen.
