DeepSeek China’s onstuitbare STEM-leger

DeepSeek  – Amerika kan Chinese innovatie niet stoppen

Donald Trump noemde het een “wake-up call”; Marc Andreessen noemde het een “Spoetnik-moment”. Volgens alle berichten was de release van DeepSeeks R1-model een bom. Het Chinese AI-model is niet alleen zeer intelligent, maar het zou ook veel goedkoper zijn om te bouwen dan zijn Amerikaanse rivalen. Het zou zomaar een voorbode kunnen zijn van nog veel meer Chinese technologische doorbraken.

Toen het nieuws over DeepSeeks triomf Amerika bereikte, ontstond er een pandemonium op de markten. Binnen een dag werden honderden miljoenen dollars van Amerikaanse technologie-aandelen afgeschreven, waarbij Nvidia de val leidde. Washington had de verkoop van zeer complexe chips zoals die van Nvidia aan Chinese bedrijven beperkt in de hoop hun AI-vooruitgang te belemmeren — en toch waren Chinese ontwikkelaars zelfs zonder hen succesvol.

De tegenstanders kwamen al snel binnen. Amerikaanse AI-managers, die wisten dat ze bruut waren bedrogen, bagatelliseerden DeepSeeks avances. Koude-oorlogsstrijders beschuldigden DeepSeek ervan westers onderzoek te hebben gejat, door te wijzen op het feit dat het model leek te “denken” dat het ChatGPT was (waarvoor een volkomen redelijke verklaring is), en door R1’s terughoudendheid om politieke onderwerpen te bespreken die taboe zijn in China, zoals het bloedbad op het Tiananmenplein.

Ze misten allemaal het punt. Dit was geen toevalstreffer, noch het resultaat van vals spel, maar een demonstratie van China’s technische vindingrijkheid. De echte revolutie lag in DeepSeeks bereidheid om “open source” te worden. In tegenstelling tot de producten van OpenAI kan elke ontwerper onder de motorkap van een DeepSeek AI-model kijken om te zien hoe het werkt.

DeepSeek heeft zelfs een gedetailleerd wetenschappelijk artikel gepubliceerd waarin wordt uitgelegd hoe het R1 heeft ontworpen. Westerse programmeurs zijn nu druk bezig om het model opnieuw te maken, onafhankelijk en vanaf nul , met behulp van informatie die openbaar is gemaakt.

Een ander buitengewoon aspect van DeepSeek is dat de modellen, eenmaal getraind, heel weinig computerkracht nodig hebben om te gebruiken. In de industrie wordt dit ‘inferentie’ genoemd. Tot nu toe vertrouwden AI-bedrijven meestal op enorme datacenters – energieverslindende gebouwen vol met onderling verbonden computers – om hun AI-modellen te laten draaien. Een bedrijf zal zijn AI-model in licentie geven aan andere bedrijven – een bank, bijvoorbeeld, die een chatbot wil maken om vragen van klanten te beantwoorden.

Tegen betaling kan die bank vervolgens vragen naar het datacenter sturen, waar het AI-model de vragen verwerkt en antwoorden terugstuurt. Daarom heb je een internetverbinding nodig om ChatGPT te gebruiken.

DeepSeek werkt anders. Het gratis, open-source model kan in zijn geheel worden geïnstalleerd op een (enigszins gespecialiseerde) pc. Een “gedistilleerde” of vereenvoudigde (dat wil zeggen, nog steeds even bedreven in redeneren, maar niet zo deskundig) versie van DeepSeeks model kan vervolgens offline worden gebruikt en bewerkt, zonder extra kosten . Dit is een kolossale ontwikkeling. Het betekent dat elke Chinese gebruiker die het Tiananmenplein wil bespreken, DeepSeek eenvoudigweg op een offline computer hoeft te downloaden, zonder angst voor een CCP-hack, en het model hoeft te bewerken. Voilà: u hebt permanent toegang tot een krachtige AI die met u praat over elk ketters onderwerp dat u maar wilt.

Waarom zou een Chinees bedrijf zijn geheimen delen midden in een wereldwijde techrace? Vanuit DeepSeeks perspectief kan het een groot voordeel zijn om open source te blijven. Open source-technologieën creëren communities van wederzijds voordeel en leren waar iedereen die erbij betrokken is van profiteert. In de wereld van cybersecurity is er bijvoorbeeld een krachtige en deels open community van cyberdefensieanalisten die allemaal proberen zwakke punten in hardware en software te lokaliseren, bekend te maken en uiteindelijk te ‘repareren’. In zo’n scenario is er voordeel in samenwerking.

Net als elke community wordt een open-source community geregeerd door hiërarchieën. Een bedrijf dat vooroploopt in zo’n netwerk zal waarschijnlijk medewerkers aantrekken en vertrouwen en krediet krijgen. Sinds DeepSeek zijn modellen publiceerde, is het benaderd door tientallen toonaangevende AI-onderzoekers en bedrijven in de VS en China. Het zal nu druk zijn met het maken van krachtige nieuwe vrienden en het bespreken van nieuwe technieken. Als het snel kan voortbouwen op zijn successen, zal DeepSeek veel profijt hebben van het delen van zijn onderzoek.

Nu ze deze aanpak hebben ontdekt, haasten Amerikaanse bedrijven zich om hun eigen open-sourcemodellen te ontwerpen. Het lijkt op een nieuw paradigma en is vergeleken met de release van de eerste open-source internetbrowser.

Amerikaanse techleiders zijn nog steeds terecht gealarmeerd. DeepSeek is niet uit het niets ontstaan, maar is ontstaan ​​uit een enorm ecosysteem van Chinees techtalent. Hoeveel westerlingen hebben gehoord van CATL, Hesai, DJI, SMIC, Oppo, Pony.ai, Zhiyuan? — een van ’s werelds beste bedrijven op het gebied van robotica, autonoom rijden, drones, lidar, AI en batterijtechnologie. DeepSeek is eigenlijk maar het topje van de ijsberg — een waar de VS op het punt staat om recht op af te gaan.

Ten eerste ontwerpt Huawei nu chips — en het is op oorlogspad sinds de VS in 2018 een van zijn leidende bestuurders arresteerde en vervolgens probeerde zijn telefoon- en netwerktechnologiebedrijf te vernietigen. Gezien de zeer lage inferentiekosten van DeepSeek, is het niet afhankelijk van goedgekeurde ultra-geavanceerde chips van Nvidia om te draaien. Het kan werken met goedkopere Huawei-chips — die trouwens elk jaar geavanceerder worden.

DeepSeek is ook niet het enige opkomende Chinese AI-bedrijf. Andere indrukwekkende Chinese modellen zijn onlangs uitgebracht, zoals die van het gesanctioneerde bedrijf iFlytek of Alibaba . Dit alles vond plaats ondanks de beste pogingen van Amerika om de opkomst van Chinese technologie te voorkomen of te vertragen. Sommigen hebben zelfs gesuggereerd dat Amerikaanse sancties Chinese chipmakers hielpen, aangezien sancties het winstgevend maakten om binnenlandse chips te innoveren in plaats van alleen Amerikaanse chips te kopen.

Er ontstaat hier een duidelijk verhaal. De Chinezen zijn, los van IP-diefstal, verdomd goed in technologie. Ze zullen niet stoppen met innoveren. Amerika kan ze niet stoppen en ze zijn al lang voorbij het punt dat ze alleen maar “inhalen”.

Hoe is het allemaal misgegaan voor het Westen? Steve Hsu, een Amerikaanse natuurkundige, beweert dat China Amerika overtreft als het gaat om het cultiveren van menselijk kapitaal in de wetenschappen, wiskunde en techniek. Binnen een paar generaties is ondervoeding (die de ontwikkeling van de hersenen belemmert) in China vrijwel uitgeroeid; de meerderheid van de kinderen studeert nu af van de middelbare school en ongeveer 60% gaat naar de universiteit. Bijna een derde van de studenten studeert STEM-vakken aan de universiteit, vergeleken met slechts 3% een generatie geleden. En de beste universiteiten van China worden nu net zo hoog aangeschreven als die in het Westen.

Vanwege de omvang van de Chinese bevolking hebben deze hervormingen het land een veel grotere en nog steeds groeiende groep zeer intelligente en hoog opgeleide STEM-burgers opgeleverd. Deze groep is veel groter dan in India, waarvan de vergelijkbare bevolking nog steeds wordt geplaagd door analfabetisme, ondervoeding en een gebrek aan onderwijsmogelijkheden.

En het lange tijdperk van Chinese braindrain is eindelijk voorbij: steeds meer Chinese STEM-afgestudeerden blijven in China of keren terug naar China in plaats van hun geluk in het Westen te beproeven, hun vooruitzichten thuis worden versterkt door een dynamische economie en verbeterde levensstandaard. In feite is de vernederende trend begonnen om te keren, met het jaarlijkse aantal wetenschappers dat de VS verlaat voor China dat de afgelopen 15 jaar met een factor vijf is toegenomen.

Van cruciaal belang, en anders dan in het Westen, zijn Chinese STEM-afgestudeerden aangetrokken tot banen in engineering, design, technologie en fundamenteel onderzoek in plaats van in financiën. DeepSeek zelf illustreert de precariteit van de Chinese financiële sector — het is ontstaan ​​uit een kwantitatief investeringsfonds dat acht maanden geleden werd getroffen door een overheidsrepressie tegen computergestuurde high-speed trading.

Zou een afkeer van financiën een zegen kunnen zijn voor China? Steve Hsu citeert graag wat miljardair-investeerder Charlie Munger zei over de Amerikaanse elitecultuur: “Ik beschouw de hoeveelheid denkkracht die in vermogensbeheer gaat zitten als een nationaal schandaal. […] We hebben legers van mensen met geavanceerde graden in natuurkunde en wiskunde in verschillende hedgefondsen en private-equityfondsen die proberen de markt te slim af te zijn. […] Het is gek om prikkels te hebben die je meest intelligente mensen naar een zeer geavanceerd gamingsysteem drijven.”

Niet alleen houden Chinezen meer AI-ready engineers en designers aan, ze hebben ook een enorm industrieel ecosysteem om mee te spelen — een contrast met het gedeïndustrialiseerde Amerika. In april 2022 gaf Sun Ninghai, directeur van het Institute of Computing Technology aan de Chinese Academie van Wetenschappen, een lezing voor het 200-koppige vaste comité van het Chinese Nationale Volkscongres, dat bestaat uit enkele zeer vooraanstaande leiders. Hij waarschuwde dat China niet het pad van Amerika van “minachting voor de echte economie” en afleiding van IT-talent naar de “virtuele economie” moet bewandelen — bestaande uit virtual reality, het meta-universum, blockchain en dergelijke.

Sun’s argument is overtuigend. Amerika heeft nagelaten om nuttige fysieke goederen te maken, zegt hij, met het percentage banen in de productiesector dat sinds 2000 dramatisch is gedaald. Hij beweert dat er veel te veel intellectuele energie is gestoken in de valse economie van financiële speculatie of virtuele technologie die geen tastbare goederen produceert. De inkomsten van Google en Facebook komen voornamelijk uit advertenties (respectievelijk 77% en 98%), terwijl de inkomsten van Amazon afkomstig zijn van de verkoop van Chinese goederen, die 71% van hun producten uitmaken.

Sun drong er daarentegen bij China op aan om zijn AI-innovatie toe te passen op de “echte economie”. Dit betekent dat AI-algoritmen moeten worden geïntegreerd in fysieke mechanismen in de industrie. Het idee is om AI-innovatie te integreren in China’s succesvolle productie- en exportgebaseerde model, en zo de bestaande inspanningen van de overheid te versterken om Amerika technologisch te overtreffen in zoveel mogelijk industriële categorieën en toeleveringsketens.

Want China’s innovaties komen al snel en snel. Eerst was er Huawei’s superieure 5G, daarna de wereldwijd toonaangevende hypersonische raketten van het PLA, die het Amerikaanse leger verbijsterden. Het verhaal dat sommige media vorige week misten, was de ontdekking van een enorm en blijkbaar geheim experimenteel fusieonderzoekscentrum in de provincie Sichuan . Als China koude fusie zou kunnen uitvinden, een manier om energie op te wekken door atomen aan elkaar te verbinden, zou dat het ultieme Spoetnik-moment zijn.

Niets hiervan zal stoppen. We moeten de komende maanden en jaren nog meer verbluffende vooruitgang verwachten van Chinese wetenschap en technologie. En als het Westen STEM-talent niet effectiever gaat koesteren en aansturen, loopt het het risico achterop te raken.

We moeten zorgen voor meer prikkels voor ultra-intelligente wiskundestudenten; de wetenschappelijke faculteiten van topinstellingen moeten worden afgeschermd van campuscultuuroorlogen; beleidsmakers moeten meer luisteren naar wetenschappers en technologen. Maar bovenal moet het Westen weer dingen gaan maken, en de fysieke en intellectuele nabijheid tussen industrie en onderzoek bevorderen die echte vooruitgang oplevert. We moeten ons hoofd uit de cloud halen en de echte wereld in. Want de Chinezen zijn hun tijdperk van innovatie binnengegaan.