AI zal ons misschien niet doden, maar het zal ons tergend saai maken

We zouden kunnen leven in een wereld van onbewuste machines die bedoeld zijn om ons minder menselijk te maken door ons in een bestaan ​​te duwen dat past bij hun algoritmen.

Ben je gewoon een computer gemaakt van vlees? Zijn al je gedachten, gevoelens en ervaringen niets meer dan circuits gemaakt van neuronen in je hoofd?

Als je zoals veel mensen bent, zal je antwoord op deze vraag een definitief “Nee!” Zijn. Van wetenschap tot filosofie, er zijn veel goede redenen om aan te nemen dat mensen meer zijn dan alleen computers. Helaas zijn veel van de technologen die versies van kunstmatige intelligentie op de markt brengen al zeker dat ze weten dat wij dat zijn.

Plots laten we onze oma’s en misschien zelfs onze kinderen achter met emotionele robots, want ja, iedereen doet het.

Voor hen zijn mensen inderdaad slechts biologische computers. En op basis van dit gebrekkige perspectief worden er nu krachtige nieuwe machines gebouwd en de wereld in geduwd. Als we niet oppassen, leven we misschien allemaal in een wereld van onbewuste machines die zijn bedoeld om ons minder menselijk te maken door ons in een bestaan ​​te stoppen dat bij hun algoritmen past.

Een paar jaar geleden woonde ik een lezing bij die me de stuipen op het lijf joeg omdat het deze mentaliteit op het werk demonstreerde. Het werd gegeven door het hoofd van een technologiebedrijf dat een nieuw tijdperk van ‘emotioneel computergebruik’ beloofde, maar de uitdrukking toonde een fundamentele blindheid over welke emoties, en onze andere rijke interne reacties op de wereld, echt zijn.

Het idee was eenvoudig: een geautomatiseerd apparaat zou zijn camera gebruiken om de onmiddellijke positie van uw gezichtsspieren in kaart te brengen en op basis van die kaart uw emotionele toestand te voorspellen. De computer zou dan de antwoorden op u wijzigen op basis van deze voorspellingen. Het publiek werd verteld om zich voor te stellen hoe geweldig het zou zijn om onze eenzame oma’s achter te laten met een emotionele robot die haar de hele dag gezelschap kon houden.

We kunnen even negeren dat de moordende emotionele computer-app met echt geld verdienend potentieel niet voor eenzame oma’s is, maar een waarmee adverteerders de volgende promotie die ze leveren aan onze oogbollen (en de omliggende expressieve gezichtsspieren) kunnen afstemmen. Wat me echt bang maakte, was de onbewuste filosofie die achter het idee van emotioneel computergebruik zweeft, en achter veel kunstmatige intelligentie.

Of ze er nu diep over hebben nagedacht of niet, veel mensen die in de technologie werken, onderschrijven wat filosofen een ‘ computation theory of mind ‘ noemen . gemaakt van vlees. De wereld daarbuiten levert zintuiglijke inputs voor je oog, neus, oren, enz., En je hersenen verwerken die inputs tot outputs die jouw acties in de wereld zijn. (Kijk, een tijger! Ren!). Je interne ervaringen, zoals liefde of verdriet, zijn slechts het resultaat van de informatieverwerking van de hersenen. Ze hebben zelf geen betekenisvolle realiteit. Uiteindelijk ben je echt niets anders dan je neuronen.

Maar dit is een filosofische positie, geen wetenschappelijke waarheid, en er is een goede reden om te denken dat het verkeerd is, of op zijn minst slechts een klein deel van het hele plaatje. Om te beginnen is er geen plaats voor de levendigheid van ons interne leven. Het belangrijkste van het mens-zijn is dat we allemaal het enige onderwerp van ons eigen leven zijn. Bewust en menselijk zijn is constant in het middelpunt staan ​​van een rijk gevoelde ervaringswereld.

Die ervaring lijkt ons een naadloos geheel dat niet kan worden gereduceerd tot alleen deze of die elektrische input. Prachtige zonsondergangen zijn niet alleen maar een stel kleuren die in een lichtreceptor worden ingevoerd. Er moet een onderwerp en een ervaarder zijn om die schoonheid te voelen als iets dat iemand overkomt.

Maar er is geen echte poging om deze innerlijke ervaarder opnieuw te creëren in de computationele theorie van de geest, of een verklaring voor hoe het zich automatisch zou ontwikkelen. In plaats daarvan is er slechts de hoop dat, zodra machines complex genoeg worden, een interieurleven gewoon opduikt. Maar totdat dat gebeurt (als het ooit gebeurt), zullen alle kunstmatige intelligentie-machines die we bouwen zombies zijn, dood voor zichzelf en die essentiële wereld van innerlijke ervaring missen die mensen bewust en levend maakt.

En dat is zo beangstigend.

Sinds de opkomst van internet hebben we de samenleving opnieuw opgebouwd met digitale technologieën, en ze hebben een aantal echt verbazingwekkende en geweldige dingen gedaan. Maar omdat deze technologieën krachtiger zijn geworden (inclusief vroege versies van AI gebouwd via Big Data ), hebben we ook hun schaduwzijde gezien. De bots van sociale media, het meest voor de hand liggende voorbeeld, hebben de democratie op gevaarlijke manieren vervormd en we kunnen de gevolgen op de lange termijn nog steeds niet voorzien.

Onze wereld, en zelfs de textuur van ons dagelijks leven, wordt radicaal getransformeerd door deze machines. We vertrouwen er al op dat ze ons via GPS rondleiden, we praten met hen via Alexa en Siri en we worden subtiel beïnvloed door hun aanbevelingen op locaties zo divers als Netflix, Amazon en Facebook.

Naarmate meer en meer van onze wereld – en onze tijd – onder de invloed van AI valt, zullen we steeds meer worden beïnvloed door de mechanismen ervan, wat het benaderen van AI maakt alsof alles wat het moet overbrengen het verwerkingsgedeelte van hersenen is en niets anders is zo problematisch.

Wat de mensen van dat emotionele computerbedrijf ook kunnen bouwen, zal blind zijn voor de rijke ervaring van hoe een emotie echt voelt. Maar door deze technologie de wereld in te sturen, kan het de wereld veranderen net als sociale media (hoeveel mensen heb je het afgelopen uur naar hun telefoon zien staren?). Plots laten we onze oma’s en misschien zelfs onze kinderen achter met emotionele robots, want ja, iedereen doet het.

Afgezien van het specifieke voorbeeld van emotioneel computergebruik, is het grote probleem met mensen als computers te beschouwen dat als je eenmaal die stap zet, het enige dat telt, is wat kan worden berekend en daarom kan worden voorspeld. Hoe goed kan uw laatste muziekaankoop precies worden gekoppeld aan uw politieke voorkeur? Gezien uw creditcardgebruik vorige week, hoe waarschijnlijk is het dan dat u op een advertentie voor een Disney-cruise op Facebook zult reageren?

Dit is hoe, als we niet oppassen, de machines die we hebben gebouwd met een impliciet en gebrekkig idee van wat het betekent om mens te zijn, ons in die verkeerde visie kunnen houden. Zoals onze grootmoeders vast komen te zitten met een onbewuste robot die alleen emoties nabootst, gaan we onbedoeld een maatschappij bouwen die onze mensheid verarmt door deze nieuwe technologieën en hun gebrekkige ideeën over bewustzijn, op duizend kleine manieren.

Als we niet oppassen, kunnen de machines die we hebben gebouwd met een impliciet en gebrekkig idee van wat het betekent om mens te zijn, ons in dat verkeerde visioen belanden.

Je hoeft geen anti-technologie te zijn om de dreiging te zien. Vooruitgang in kunstmatige intelligentie en digitale technologie kan grote dingen doen, zoals ons helpen klimaatverandering en gezondheidszorg op te lossen. Het geeft ons ook direct toegang tot elke aflevering van “Star Trek” en de hele discografie van Aretha Franklin.

Maar we hoeven het slechte niet te accepteren om van het goede te genieten. Als samenleving hebben we het vermogen en het recht om na te denken over sommige technologieën en deze zelfs af te wijzen voordat ze in het weefsel van ons leven worden geweven. En het vermogen om dat soort keuzes te maken, zal niet voortkomen uit berekeningen, maar uit wat we het meest waarderen, wat we het diepst voelen. Dat is tenslotte wat ons echt menselijk maakt.