DeepSeek is verboden op overheidsapparaten in Zuid-Korea, Australië en Taiwan. Meer landen volgen mogelijk.

DeepSeek Deze week hebben overheidsinstanties in landen als Zuid-Korea en Australië de toegang geblokkeerd tot het nieuwe AI-chatbotprogramma van de Chinese startup DeepSeek, die zich bezighoudt met kunstmatige intelligentie (AI). Dit is vooral bedoeld voor overheidsmedewerkers.

Andere landen, waaronder de Verenigde Staten, hebben gezegd dat ze DeepSeek ook willen blokkeren op de mobiele apparaten van overheidsmedewerkers, volgens mediaberichten. Allemaal noemen ze “beveiligingszorgen” over de Chinese technologie en een gebrek aan duidelijkheid over hoe de persoonlijke informatie van gebruikers door de operator wordt behandeld.

Vorige maand haalde DeepSeek de krantenkoppen nadat het ervoor zorgde dat de aandelenkoersen van Amerikaanse technologiebedrijven kelderden, nadat het beweerde dat zijn model slechts een fractie zou kosten van het geld dat zijn concurrenten hadden uitgegeven aan hun eigen AI-programma’s om te bouwen. Het nieuws zorgde ervoor dat gebruikers van sociale media grapten: “Ik kan niet geloven dat ChatGPT zijn baan aan AI is verloren.”

Dit is wat we weten over DeepSeek en waarom landen het verbieden.

Wat is DeepSeek?

DeepSeek is een Chinese AI-startup. Het is gevestigd in de stad Hangzhou en werd in 2023 opgericht door ondernemer en zakenman Liang Feng. Liang richtte in 2016 ook de $7 miljard hedgefondsgroep High-Flyer op met twee universiteitsgenoten.

In januari bracht DeepSeek het nieuwste model van zijn programma uit, DeepSeek R1 . Dit is een gratis AI-chatbot met een uiterlijk en werking die erg lijkt op ChatGPT , eigendom van het in Californië gevestigde OpenAI.

AI-chatbots zijn computerprogramma’s die menselijke conversaties met gebruikers simuleren. Gebruikers kunnen de bot vragen stellen en deze genereert vervolgens conversatiereacties met behulp van informatie waartoe hij toegang heeft op internet en waarmee hij is ‘getraind’.

Deze programma’s kunnen op veel verschillende manieren worden gebruikt. Zo kunnen ze worden gebruikt voor het oplossen van wiskundige problemen, het opstellen van teksten zoals e-mails en documenten, en het vertalen of schrijven van codes.

Waarin verschilt DeepSeek van ChatGPT en andere soortgelijke programma’s?

Ten eerste, zeggen de ontwikkelaars, is het veel, veel goedkoper om te bouwen.

DeepSeek veroorzaakte schokgolven in AI-kringen toen het bedrijf in december een paper publiceerde waarin stond dat het ‘trainen’ van het nieuwste model van DeepSeek – het verzamelen en invoeren van de informatie die nodig is om vragen te beantwoorden – minder dan $ 6 miljoen aan rekenkracht van Nvidia H800-chips zou vereisen.

Dit is slechts een klein deel van de miljarden-dollar AI-budgetten waar Amerikaanse techgiganten zoals OpenAI voor ChatGPT en het Amerikaanse Google voor Gemini van genieten. OpenAI CEO Sam Altman zei dat OpenAI’s nieuwste programma, GPT-4, meer dan $ 100 miljoen kostte om te trainen, meldde Wired in april 2023.

Het nieuwe DeepSeek-programma werd op 20 januari vrijgegeven aan het publiek. Op 27 januari had de app van DeepSeek al de top bereikt van Apple’s App Store-hitlijst. Als gevolg hiervan verloor het Amerikaanse multinationale Nvidia, dat een bijna-monopolie heeft op het maken van halfgeleiders voor generatieve AI, bijna $ 600 miljard aan marktkapitalisatie toen de aandelenkoers met 17 procent daalde.

Welke landen verbieden het AI-programma van DeepSeek?

Sommige overheidsinstanties in verschillende landen streven naar of voeren een verbod in op de AI-software voor hun werknemers. Deze omvatten:

Verenigde Staten

Donderdag meldde het Wall Street Journal dat Amerikaanse wetgevers van plan zijn een wetsvoorstel in te dienen om DeepSeek te blokkeren op apparaten die eigendom zijn van de overheid.

Op 31 januari blokkeerde het Amerikaanse ruimtevaartagentschap NASA DeepSeek in zijn systemen en de apparaten van zijn werknemers. Een week eerder waarschuwde de Amerikaanse marine zijn leden in een e-mail tegen het gebruik van DeepSeek vanwege “potentiële beveiligings- en ethische zorgen die verband houden met de oorsprong en het gebruik van het model”, meldde CNBC.

Zuid-Korea

Een woordvoerder van het Zuid-Koreaanse ministerie van Handel, Industrie en Energie maakte woensdag bekend dat het ministerie van Industrie DeepSeek tijdelijk op de apparaten van werknemers had verboden, waarbij ook veiligheidszorgen werden aangehaald.

Ambtenaren zeiden dat de overheid ministeries en agentschappen dinsdag had opgeroepen voorzichtig te zijn met het gebruik van AI-programma’s in het algemeen, waaronder ChatGPT en DeepSeek.

Dit gebeurde nadat de toezichthouder op de privacy van informatie in Seoul, de Personal Information Protection Commission, op 31 januari aankondigde dat het een schriftelijk verzoek zou sturen naar DeepSeek om meer informatie over de manier waarop de persoonlijke informatie van gebruikers wordt beheerd.

Korea Hydro & Nuclear Power, dat onder leiding staat van de Zuid-Koreaanse overheid, zei dat het  vorige maand het gebruik van AI-diensten op de apparaten van zijn werknemers, waaronder DeepSeek, heeft geblokkeerd.

Australië

De Australische overheid heeft dinsdag aangekondigd dat het de toegang tot DeepSeek op alle overheidsapparaten heeft geblokkeerd, omdat er volgens hen “veiligheidsrisico’s” zijn.

Dit verbod werd verplicht gesteld voor alle overheidsinstanties in een verklaring van dinsdag door de secretaris van het Department of Home Affairs. De verklaring droeg alle overheidsinstanties op om “het gebruik of de installatie van DeepSeek-producten, -toepassingen en -webservices te voorkomen en waar gevonden alle bestaande instanties van DeepSeek-producten, -toepassingen en -webservices te verwijderen van alle Australische overheidssystemen en -apparaten”.

Minister van Binnenlandse Zaken Tony Burke zei dat het verbod bedoeld was “om de nationale veiligheid en het nationale belang van Australië te beschermen”, meldden Australische media.

Italië

Op 30 januari maakte de Italiaanse Autoriteit voor gegevensbescherming (Garante) bekend dat zij DeepSeek had bevolen om de verwerking van gegevens van Italiaanse gebruikers te beperken, omdat er onvoldoende informatie was over hoe DeepSeek de door gebruikers verstrekte persoonlijke gegevens zou kunnen gebruiken.

Twee dagen eerder had Garante aangekondigd dat het op zoek was naar antwoorden op de vraag hoe de Chinese startup de gegevens van gebruikers opsloeg en verwerkte.

Taiwan

Taiwan heeft maandag overheidsdiensten verboden om DeepSeek-programma’s te gebruiken, ook vanwege veiligheidsrisico’s.

Waarom hebben sommige landen een verbod op het gebruik van DeepSeek ingesteld?

De meeste landen die DeepSeek-programma’s blokkeren, zeggen dat ze zich zorgen maken over de veiligheidsrisico’s die de Chinese applicatie met zich meebrengt. Ze zeggen ook dat ze niet genoeg informatie hebben over hoe de persoonlijke gegevens van gebruikers door de groep worden opgeslagen of gebruikt.

Volgens het privacybeleid van DeepSeek worden de volgende gegevens van gebruikers verzameld:

• Persoonlijke gegevens, zoals e-mailadres, telefoonnummer, wachtwoord en geboortedatum, worden gebruikt om u te registreren voor de applicatie.
• Chatgeschiedenis in de applicatie, inclusief tekst of audio die de gebruiker in de chatbot invoert.
• Technische informatie over het apparaat en netwerk van de gebruiker, zoals IP-adres, toetsaanslagpatronen en besturingssysteem.

Het deelt deze informatie met serviceproviders en advertentiepartners. Deze informatie wordt bewaard voor “zo lang als nodig”, aldus de website van het bedrijf.

Volgens het privacybeleid van ChatGPT verzamelt OpenAI ook persoonlijke informatie zoals naam en contactgegevens die zijn opgegeven bij registratie, apparaatgegevens zoals IP-adres en invoer die is gegeven aan de chatbot “alleen zolang als we nodig hebben”. Deze informatie kan ook worden gedeeld met OpenAI’s partners.

Woensdag citeerde ABC News een rapport van Ivan Tsarynny, CEO van Feroot Security, een cybersecuritybedrijf uit Ontario, dat beweerde dat DeepSeek “een verborgen code in zijn programmering heeft die de ingebouwde mogelijkheid heeft om gebruikersgegevens rechtstreeks naar de Chinese overheid te sturen”. 

Tsarynny vertelde ABC dat de DeepSeek-applicatie gebruikersgegevens kan sturen naar “CMPassport.com, het online register voor China Mobile, een telecommunicatiebedrijf dat eigendom is van en wordt beheerd door de Chinese overheid”. Al Jazeera is er niet in geslaagd deze bewering onafhankelijk te verifiëren.

Is dit een ongebruikelijke praktijk?

“Vrijwel alle grote technologiebedrijven – van Meta tot Google tot OpenAI – exploiteren gebruikersgegevens in zekere mate”, vertelde Eddy Borges-Rey, universitair hoofddocent aan de Northwestern University in Qatar, aan Al Jazeera.

“Ze gebruiken data voor gerichte reclame, algoritmische verfijning en AI-training. Velen zijn beboet of onderzocht voor privacyschendingen, maar ze blijven opereren omdat hun activiteiten enigszins gereguleerd zijn binnen jurisdicties zoals de EU en de VS”, voegde hij toe.

Borges-Rey legde uit dat Chinese platforms zoals DeepSeek “anders worden behandeld door het Westen omdat ze worden gezien als opererend onder de jurisdictie van de Chinese overheid, die wetten heeft [zoals de National Intelligence Law] die theoretisch toegang van de staat tot bedrijfsgegevens toestaan”.

Hij voegde toe: “Westerse regeringen vrezen dat gebruikersgegevens die door Chinese platforms worden verzameld, kunnen worden gebruikt voor spionage, beïnvloedingsoperaties of surveillance. Of dit in de praktijk gebeurt, is discutabel, maar de mogelijkheid alleen al is genoeg om verboden te rechtvaardigen vanuit een nationaal veiligheidsperspectief.”

Westerse applicaties worden daarentegen niet gezien als een nationale veiligheidsbedreiging door westerse overheden. “Westerse bedrijven worden vaak gezien als problematisch, maar op te lossen door middel van regulering, terwijl Chinese bedrijven worden gezien als directe veiligheidsbedreigingen die verboden vereisen.”

In 2023 zorgde ChatGPT voor zorgen dat het de Algemene Verordening Gegevensbescherming (AVG) van de Europese Unie had geschonden. Op 1 april blokkeerde Italië de service tijdelijk voor alle gebruikers in het land. Op 28 april 2023 werd ChatGPT in Italië hersteld en zei OpenAI dat het de problemen die door de Garante werden opgeworpen, had “aangepakt of verduidelijkt”. De Garante vertelde de BBC dat het “de maatregelen die OpenAI had geïmplementeerd verwelkomde”.

China blokkeert op zijn beurt de toegang van westerse technologiebedrijven, waaronder X, Facebook en zelfs ChatGPT, voor alle gebruikers in het land.

Kabinet verbiedt DeepSeek voor ambtenaren: wat zijn de gevaren?

Het kabinet verbiedt ambtenaren om tijdens hun werk de nieuwe Chinese AI-tool DeepSeek te gebruiken. Dit geldt voor alle ministeries, meldt PVV-staatssecretaris Zsolt Szabóna na vragen over de nationale veiligheid. Wat zijn de gevaren van deze chatbot?

Er zijn al weken grote zorgen over de beveiliging en het privacy-beleid van de Chinese chatbot DeepSeek. Experts waarschuwen dat de informatie die via deze app wordt ingevoerd, wordt opgeslagen op Chinese servers en mogelijk toegankelijk is voor de Chinese overheid.

Verbod op gebruik van DeepSeek

De Taiwanese regering heeft al eerder haar overheidsinstellingen verboden deze AI-tool te gebruiken. Het Amerikaanse leger en Italiaanse toezichthouder Garante blokkeerden zelfs de toegang tot de app. In Australië heeft de overheid het gebruik van DeepSeek verboden, vanwege nationale veiligheidsrisico’s. De Australische minister van Binnenlandse Zaken, noemde de chatbot een ‘onacceptabel veiligheidsrisico’. In Nederland loopt nu een onderzoek, naar het doorspelen van persoonsgegevens naar China, volgens Autoriteit Persoonsgegevens (AP).

China is een van de landen met een ‘offensief cyberprogramma’ tegen Nederland. De Nederlandse overheid heeft beleid ontwikkeld, waarin staat welke apps wel of niet zijn toegestaan. In het huidige appbeleid is DeepSeek al niet toegestaan. Tegenover het AD maakte AI-deskundige Henk van Ess zijn zorgen kenbaar over DeepSeek.

Van Essen pleit voor een totaalverbod, dan wel strenge beperkingen, tot er bewijs is over de beveiliging. Zo zou DeepSeek vatbaar zijn voor schadelijke prompts, oftewel opdrachten om de chatbot aan te sturen. Dit betreft bijvoorbeeld instructies voor het maken van explosieven. Ook datalekken vormen een risico. RTL Nieuws meldde als eerste dat een miljoen vertrouwelijke chats onbeveiligd online zijn opgedoken. Metro schreef al eerder over de existentiële dreiging die uit zou gaan van AI.

Meer duidelijkheid over DeepSeek

De Autoriteit Persoonsgegevens (AP), toezichthouder voor privacy, laat weten dat persoonsgegevens van Europese burgers alleen onder strenge voorwendselen mogen worden doorgegeven naar landen buiten de EU. Of DeepSeek hieraan voldoet, is onduidelijk. Meer Europese toezichthouders willen duidelijkheid van DeepSeek. Zo heeft de Ierse Data Protection Commission, verantwoordelijk voor de handhaving van veel grote technologiebedrijven, al informatie van DeepSeek opgevraagd, zo meldt ANP.

Gebruik slimme chatbots populair bij overheid

Het gebruik van slimme chatbots is populair bij de overheid, blijkt uit een rondgang bij EenVandaag. 74 procent liet weten ChatGPT te gebruiken als informatiebron, voor het verbeteren van teksten die openhaar worden gepubliceerd of als sparringspartner. Het is onduidelijk hoeveel ambtenaren DeepSeek gebruiken. Ook onder bedrijven is AI populair, al zijn er wel zorgen dat kunstmatige intelligentie mensen gaat vervangen.

Wat is DeepSeek?

DeepSeek is een AI-chatbot, ontwikkeld door DeepSeek AI, een startup die in 2023 werd uitgebracht door een Chinese ondernemer. In tegenstelling tot de meeste AI-platforms is AI volledig gratis én open source. Deze toegankelijkheid heeft bijgedragen aan de populariteit. Inmiddels is DeepSeek een heuse concurrent van ChatGPT. De kosten van rekenkracht zouden aanzienlijk lager zijn, zonder dat dit ten koste gaat van de prestaties. Die zouden in sommige gevallen zelfs beter zijn, schrijft Express VPN.

Toegenomen gevaren als cyberdreiging

Binnen enkele weken na de lancering, werd DeepSeek een doorslaand succes. In no time werd het de hoogst beoordeeld gratis app in Apple’s Store, waarmee het ChatGPT voorbij streefde en wereldwijd in het nieuws kwam.

Het Chinese kunstmatige intelligentie (AI) bedrijf DeepSeek heeft internationale aandacht getrokken met zijn grote taalmodellen, die concurreren met grote namens als OpenAI’s GPT-4. Hoewel DeepSeek veel vooruitgang heeft geboekt in de AI-sector, brengt het ook de nodige risico’s en gevaren met zich mee. Zo zijn er meldingen geweest van een kritieke databaselek bij DeepSeek.

De populariteit van DeepSeek heeft een duidelijke keerzijde: toegenomen cyberdreigingen, waaronder phishing-aanvallen en de verspreiding van malware. Cybercriminelen maken misbruik van de naam en het platform, om gebruikers te misleiden.

Risico’s voor de veiligheid

Onderzoek heeft aangetoond dat DeepSeek’s AI-modellen kwetsbaar zijn voor ‘jailbreak’-aanvallen, waarbij de veiligheidsmaatregelen van de chatbot kunnen worden omzeild. In tests slaagde DeepSeek er niet in om schadelijke prompts te blokkeren.

Ook zijn er zorgen over de dataopslag en dan met name de overdracht van gebruikersgegevens naar China Mobile, een staatsbedrijf dat in de VS is verboden, vanwege mogelijke banden met het Chinese leger. Dit roept vragen op over privacy en veiligheid van gebruikersgegevens.

Is DeepSeek gevaarlijker dan ChatGPT?

Ook concurrent ChatGPT verzamelt gebruikersgegevens, volgt algemene gebruikerspatronen en slaat chatgegevens op. Toch monitort het je gedrag niet op dezelfde wijze als DeepSeek. DeepSeek kruist gegevens met externe bronnen. Dit betekent dat wat je doet buiten de chatbot, wordt bijgehouden. Er wordt een uitgebreid ‘gedragsprofiel’ opgebouwd, door gebruikersgegevens te combineren met mobiele ID’s, cookietracking en advertentiebronnen. Zelfs als je een bericht verwijdert voor verzending, heeft DeepSeek het al geregistreerd.

Deze gebruikersgegevens kunnen vervolgens worden gebruikt voor ‘hypergerichte advertenties’, om te voorspellen wat je gaat kopen, nog voor je ernaar zoekt. Persoonlijke voorkeuren kunnen worden gebruikt voor manipulatie en sociale of politieke profileren. DeepSeek leert van de gegevens die het verzamelt, daardoor ontstaat er een risico op desinformatie. In het verleden verzonnen AI-modellen valse juridische zaken. Ook werd er gevaarlijke gezondheidsinformatie gepromoot. Dit risico zou met DeepSeek nog groter zijn volgens privacy-experts.