AI “Het enige dat die grote bedrijven kan dwingen om meer onderzoek te doen naar veiligheid, is overheidsregulering.”
De computerwetenschapper, die vaak de ‘Peetvader van AI’ wordt genoemd, waarschuwde vrijdag dat de ontwikkeling van kunstmatige intelligentie ‘veel sneller’ verloopt dan hij had verwacht en dat dit gebeurt zonder dat er vergaande regelgeving wordt ingevoerd. Volgens hem groeit de kans dat AI de mensheid kan uitroeien.
Geoffrey Hinton zei in het programma “Today” van BBC Radio 4 dat er een kans van “10% tot 20%” is dat kunstmatige intelligentie in de komende drie decennia tot het uitsterven van de mensheid zal leiden.
Eerder had Hinton gezegd dat hij een kans van 10% zag dat dit zou gebeuren.
“We hebben nog nooit eerder te maken gehad met dingen die intelligenter waren dan wijzelf,” legde Hinton uit. “En hoeveel voorbeelden ken je van een intelligenter ding dat wordt bestuurd door een minder intelligent ding? Er zijn maar weinig voorbeelden. Er is een moeder en een baby. De evolutie heeft veel werk gestoken in het toestaan dat de baby de moeder bestuurt, maar dit is ongeveer het enige voorbeeld dat ik ken.”
Hinton, die dit jaar de Nobelprijs voor natuurkunde kreeg voor zijn onderzoek naar machine learning en AI, nam vorig jaar ontslag bij Google omdat hij zich meer wilde uitspreken over de gevaren van ongereguleerde AI.
“Het alleen overlaten aan het winstmotief van grote bedrijven is niet voldoende om ervoor te zorgen dat zij het veilig ontwikkelen.”
Hij waarschuwde dat AI-chatbots door autoritaire leiders gebruikt kunnen worden om het publiek te manipuleren. Vorig jaar zei hij ook dat “de intelligentie die we ontwikkelen, heel anders is dan de intelligentie die we al hebben.”
Vrijdag zei Hinton dat hij zich vooral zorgen maakt dat de ‘onzichtbare hand’ van de markt mensen niet kan beschermen tegen een technologie die hun intelligentie te boven gaat. Ook riep hij op tot strenge regulering van AI.
“Het alleen overlaten aan het winstmotief van grote bedrijven is niet voldoende om ervoor te zorgen dat zij het veilig ontwikkelen”, aldus Hinton.
Er zijn meer dan 120 wetsvoorstellen ingediend in het Amerikaanse Congres om AI-robocalls, de rol van de technologie voor de nationale veiligheid en andere kwesties te reguleren. Ondertussen heeft de regering-Biden maatregelen genomen om de ontwikkeling van AI aan banden te leggen.
In een uitvoerend bevel dat oproept tot “veilige, beveiligde en betrouwbare ontwikkeling en gebruik van kunstmatige intelligentie” staat dat “om AI voor het goede te benutten en de talloze voordelen ervan te realiseren, de aanzienlijke risico’s ervan moeten worden beperkt.” Verwacht wordt dat de verkozen president Donald Trump het bevel zal intrekken.
Het plan van het Witte Huis voor een AI Bill of Rights roept op tot veilige en effectieve systemen, bescherming tegen algoritmische discriminatie, privacy van gegevens, kennisgeving en uitleg bij het gebruik van AI en de mogelijkheid om geautomatiseerde systemen uit te schakelen.
Maar de wet op kunstmatige intelligentie van de Europese Unie werd dit jaar door mensenrechtenactivisten als een ‘mislukking’ beschouwd , nadat lobbywerk van de industrie ervoor had gezorgd dat de wet talloze mazen en uitzonderingen bevatte voor rechtshandhavings- en migratieautoriteiten.
“Het enige dat die grote bedrijven kan dwingen om meer onderzoek te doen naar veiligheid,” zei Hinton vrijdag, “is overheidsregulering.”