Tieners zien algoritmen op sociale media als een nauwkeurige weerspiegeling van zichzelf, zo blijkt uit onderzoek

Sociale media-apps presenteren tieners regelmatig algoritmisch geselecteerde inhoud die vaak wordt beschreven als ‘voor jou’, wat impliciet suggereert dat de samengestelde inhoud niet alleen ‘voor jou’ is, maar ook ‘over jou’ – een spiegel die belangrijke signalen weerspiegelt over de persoon die je bent. Zijn.

Alle gebruikers van sociale media worden blootgesteld aan deze signalen, maar onderzoekers begrijpen dat tieners zich in een bijzonder kneedbaar stadium bevinden in de vorming van hun persoonlijke identiteit. Wetenschappers zijn begonnen aan te tonen dat technologie generatievormende effecten heeft , niet alleen in de manier waarop het de culturele kijk, het gedrag en de privacy beïnvloedt, maar ook in de manier waarop het de persoonlijkheid kan vormen van degenen die zijn opgegroeid met sociale media.

De prevalentie van de ‘voor jou’-boodschap roept belangrijke vragen op over de impact van deze algoritmen op hoe tieners zichzelf waarnemen en de wereld zien, en de subtiele erosie van hun privacy, die ze accepteren in ruil voor deze visie.

Tieners houden van hun algoritmische reflectie

Geïnspireerd door deze vragen vroegen mijn collega’s John Seberger en Afsaneh Razi van de Drexel Universiteit en ik mij af: Hoe navigeren tieners door dit algoritmisch gegenereerde milieu, en hoe herkennen ze zichzelf in de spiegel die het presenteert?

In ons kwalitatieve interviewonderzoek onder tieners van 13 tot en met 17 jaar ontdekten we dat gepersonaliseerde algoritmische inhoud lijkt te presenteren wat tieners interpreteren als een betrouwbaar spiegelbeeld van zichzelf , en dat ze de ervaring van het zien van die reflectie op sociale media erg leuk vinden.

Tieners met wie we spraken, zeggen dat ze de voorkeur geven aan sociale media die volledig op hen zijn afgestemd en laten zien waar ze het mee eens zijn, wat ze willen zien en dus wie ze zijn.

Als ik iets opzoek dat belangrijk voor me is, verschijnt het in een van de topposts [en] dan zie ik mensen [zoals ik] die een leuke discussie voeren.

Het blijkt dat de tieners die we hebben geïnterviewd geloven dat algoritmen voor sociale media zoals die van TikTok zo goed zijn geworden dat ze de reflecties van zichzelf op sociale media als behoorlijk accuraat beschouwen. Zozeer zelfs dat tieners inhoudsinconsistenties met hun zelfbeeld snel als afwijkingen beschouwen – bijvoorbeeld als gevolg van onbedoelde betrokkenheid bij inhoud uit het verleden, of gewoon een foutje.

Op een gegeven moment zag ik iets over die show, misschien op TikTok, en ik had er interactie mee zonder het echt te beseffen.

Wanneer gepersonaliseerde inhoud niet prettig of consistent is met hun zelfbeeld, zeggen de tieners die we hebben geïnterviewd dat ze er voorbij scrollen, in de hoop het nooit meer te zien. Zelfs als deze waargenomen afwijkingen de vorm aannemen van extreem hypermannelijke of ‘vervelende’ inhoud, schrijven tieners dit niet specifiek aan zichzelf toe, noch beweren ze een verklaring te zoeken in hun eigen gedrag. Volgens de tieners in onze interviews zorgt de spiegel van de sociale media ervoor dat ze niet meer zelfreflecterend zijn en hun zelfgevoel niet uitdagen.

Eén ding dat ons verraste, was dat tieners weliswaar wisten dat wat ze zien in hun ‘voor jou’-feed het product is van hun scrollgedrag op sociale-mediaplatforms, maar dat ze zich er grotendeels niet van bewust zijn of zich er geen zorgen over maken dat de gegevens die in apps worden vastgelegd, hieraan bijdragen. -afbeelding. Hoe dan ook, ze zien hun ‘voor jou’-voer niet als een uitdaging voor hun zelfgevoel, laat staan ​​als een risico voor hun eigen identiteit – en trouwens ook niet als enige reden tot bezorgdheid.

Vormgeven van identiteit

Onderzoek naar identiteit heeft een lange weg afgelegd sinds socioloog Erving Goffman in 1959 de ‘ presentatie van het zelf ’ voorstelde. Hij stelde dat mensen hun identiteit beheren door middel van sociale prestaties om het evenwicht te bewaren tussen wie ze denken dat ze zijn en hoe anderen ze waarnemen.

Toen Goffman zijn theorie voor het eerst voorstelde, was er geen interface voor sociale media beschikbaar die een handige spiegel voorhield van het zelf zoals dat door anderen wordt ervaren. Mensen werden verplicht om hun eigen mozaïekbeeld te creëren, afgeleid van meerdere bronnen, ontmoetingen en indrukken. In de afgelopen jaren hebben aanbevelingsalgoritmen voor sociale media zichzelf ingevoegd in wat nu een driewegonderhandeling is tussen zichzelf, het publiek en het algoritme voor sociale media.

‘Voor jou’-aanbiedingen creëren een privé-publieke ruimte waar tieners toegang hebben tot wat volgens hen een grotendeels nauwkeurige test van hun zelfbeeld is. Tegelijkertijd zeggen ze dat ze het gemakkelijk kunnen negeren als het niet in overeenstemming lijkt te zijn met dat zelfbeeld.

Het pact dat tieners sluiten met sociale media, het uitwisselen van persoonlijke gegevens en het opgeven van privacy om de toegang tot die algoritmische spiegel veilig te stellen, voelt voor hen als een goed koopje. Ze stellen zichzelf voor als iemand die zelfverzekerd in staat is om aanbevolen inhoud af te stemmen of voorbij te scrollen die hun zelfgevoel lijkt tegen te spreken, maar uit onderzoek blijkt het tegendeel .

Ze hebben zich in feite zeer kwetsbaar bewezen voor vervorming van het zelfbeeld en andere geestelijke gezondheidsproblemen, gebaseerd op sociale media-algoritmen die expliciet zijn ontworpen om overgevoeligheid, fixaties en dysmorfie te creëren en te belonen – een geestelijke gezondheidsstoornis waarbij mensen zich fixeren op hun uiterlijk.

Gegeven wat onderzoekers weten over het tienerbrein en dat stadium van sociale ontwikkeling – en gezien wat redelijkerwijs kan worden vermoed over de maakbaarheid van het zelfbeeld op basis van sociale feedback – hebben tieners het mis als ze denken dat ze voorbij de risico’s van hun eigen identiteit kunnen scrollen. algoritmen.

Interventies

Een deel van de oplossing zou kunnen zijn om nieuwe tools te bouwen die gebruik maken van kunstmatige intelligentie om onveilige interacties te detecteren en tegelijkertijd de privacy te beschermen. Een andere aanpak is om tieners te helpen nadenken over deze ‘datadubbels’ die ze hebben geconstrueerd.

Mijn collega’s en ik onderzoeken nu dieper hoe tieners algoritmische inhoud ervaren en welke soorten interventies hen kunnen helpen daarover na te denken. We moedigen onderzoekers in ons vakgebied aan om manieren te ontwerpen om de nauwkeurigheid van algoritmen in twijfel te trekken en deze bloot te leggen als een weerspiegeling van gedrag en niet van het zijnde. Een ander deel van de oplossing kan erin bestaan ​​tieners te voorzien van hulpmiddelen om de toegang tot hun gegevens te beperken, waaronder het beperken van cookies, het hebben van verschillende zoekprofielen en het uitschakelen van de locatie bij het gebruik van bepaalde apps.

Wij zijn van mening dat dit allemaal stappen zijn die de nauwkeurigheid van algoritmen waarschijnlijk zullen verminderen, waardoor de broodnodige wrijving tussen algoritme en zichzelf ontstaat, zelfs als tieners niet per se blij zijn met de resultaten.

De kinderen erbij betrekken

Onlangs hebben mijn collega’s en ik een Gen Z-workshop gehouden met jongeren van Encode Justice , een wereldwijde organisatie van middelbare scholieren en studenten die pleiten voor veilige en rechtvaardige AI. Het doel was om beter te begrijpen hoe zij denken over hun leven onder algoritmen en AI. Gen Z-ers zeggen dat ze zich zorgen maken, maar ook graag betrokken willen zijn bij het vormgeven van hun toekomst, inclusief het beperken van de schade aan algoritmen. Een deel van het doel van onze workshop was om de aandacht te vestigen op en de behoefte aan tienergestuurd onderzoek naar algoritmen en hun effecten te bevorderen.

Waar onderzoekers ook mee geconfronteerd worden, is dat we eigenlijk niet weten wat het betekent om voortdurend over identiteit te onderhandelen met een algoritme. Velen van ons die tieners bestuderen, zijn te oud om te zijn opgegroeid in een algoritmisch gemodereerde wereld. Voor de tieners die we bestuderen is er geen ‘ vóór AI ’.

Ik geloof dat het gevaarlijk is om te negeren wat algoritmen doen. De toekomst voor tieners kan er een zijn waarin de samenleving de unieke relatie tussen tieners en sociale media erkent. Dit betekent dat we hen betrekken bij de oplossingen, maar toch begeleiding bieden.