Jag är en svart kvinna och metaversen skrämmer mig


Breigha Adeyemo, doktorand i kommunikation, den University of Illinois i Chicago.

Marginaliserade människor lider ofta mest skada av oavsiktliga konsekvenser av ny teknik. Till exempel lider de algoritmer som automatiskt fattar beslut om vem som får se vilket innehåll eller hur bilder tolkas av ras- och könsfördomar. Människor som har flera marginaliserade identiteter, som att vara svarta och funktionshindrade, är ännu mer utsatta än de med en enda marginaliserad identitet.

Det var därför jag blev rädd när Mark Zuckerberg lade fram sin vision för metaversen – ett nätverk av virtuella miljöer där många människor kan interagera med varandra och digitala objekt – och sa att det kommer att beröra varje produkt som företaget bygger. Som en forskare som studerar skärningspunkterna mellan ras, teknologi och demokrati – och som svart kvinna – tror jag att det är viktigt att noggrant överväga de värderingar som kodas in i nästa generations internet.

Ett 6 x 8 rutnät med tecknade ansikten av människor
En rasmässig klyfta håller redan på att växa fram i värdet av avatarer som representerar användare i virtuella miljöer. yuoak/DigitalVision Vectors via Getty Images

Problem har redan dykt upp. Avatarer, de grafiska personer som människor kan skapa eller köpa för att representera sig själva i virtuella miljöer, prissätts olika baserat på avatarens upplevda ras, och rasistiska och sexistiska trakasserier dyker upp i dagens uppslukande miljöer före metavers.

Att säkerställa att denna nästa iteration av internet är inkluderande och fungerar för alla kommer att kräva att människor från marginaliserade samhällen tar ledningen i att forma det. Det kommer också att kräva reglering med tänder för att hålla Big Tech ansvarig för allmänhetens intresse. Utan dessa riskerar metaversen att ärva problemen med dagens sociala medier, om inte att bli något värre.

Utopiska visioner kontra hårda realiteter

Utopiska visioner i början av internet ansåg vanligtvis att livet online skulle vara radikalt annorlunda än livet i den fysiska världen. Till exempel föreställde människor sig internet som ett sätt att fly delar av sin identitet, såsom ras, kön och klasskillnader. I verkligheten är internet långt ifrån rasfritt.

Medan teknoutopier kommunicerar önskade framtidsvisioner, lever verkligheten av ny teknik ofta inte upp till dessa visioner. Faktum är att internet har fört med sig nya former av skada för samhället, såsom automatiserad spridning av propaganda på sociala medier och partiskhet i de algoritmer som formar din onlineupplevelse.

Zuckerberg beskrev metaversen som ett mer uppslukande, förkroppsligat internet som kommer att ”låsa upp många fantastiska nya upplevelser.” Detta är en vision inte bara om ett framtida internet, utan om ett framtida sätt att leva. Hur utanför målet denna vision än är, kommer metaversen sannolikt – liksom tidigare versioner av internet och sociala medier – att få omfattande konsekvenser som kommer att förändra hur människor umgås, reser, lär sig, arbetar och leker.

Frågan är, kommer dessa konsekvenser att vara desamma för alla? Historien tyder på att svaret är nej.

Teknik är aldrig neutral

Mycket använda tekniker antar ofta vita manliga identiteter och kroppar som standard. MIT datavetare Joy Buolomwini har visat att ansiktsigenkänningsprogram fungerar sämre på kvinnor och ännu mer på kvinnor med mörkare ansikten. Andra studier har bekräftat detta.

MIT:s Joy Buolomwini förklarar den ”kodade blicken”, prioriteringarna, preferenserna och fördomarna för de människor som formar teknologin.

Whiteness är inbäddad som standard i dessa teknologier, även i frånvaro av ras som en kategori för maskininlärningsalgoritmer. Tyvärr går rasism och teknik ofta hand i hand. Svarta kvinnliga politiker och journalister har blivit oproportionerligt riktade med kränkande eller problematiska tweets, och svarta och latinoväljare var måltavlor i onlinekampanjer med desinformation under valcykeln 2020.

Detta historiska förhållande mellan ras och teknik gör mig oroad över metaversen. Om metaversen är tänkt att vara en förkroppsligad version av internet, som Zuckerberg har beskrivit det, betyder det då att redan marginaliserade människor kommer att uppleva nya former av skada?

Facebook och dess relation till svarta människor

Det allmänna förhållandet mellan teknik och rasism är bara en del av historien. Meta har en dålig relation med svarta användare på sin Facebook-plattform, och med svarta kvinnor i synnerhet.

2016 fann ProPublicas reportrar att annonsörer på Facebooks reklamportal kunde utesluta grupper av människor som ser deras annonser baserat på användarnas ras, eller vad Facebook kallade en ”etnisk affinitet”. Det här alternativet fick mycket tillbakatryck eftersom Facebook inte frågar sina användare om deras ras, vilket innebar att användarna tilldelades en ”etnisk affinitet” baserat på deras engagemang på plattformen, som vilka sidor och inlägg de gillade.

Med andra ord, Facebook profilerade i huvudsak sina användare utifrån vad de gör och gillar på sin plattform, vilket skapade möjligheten för annonsörer att diskriminera människor baserat på deras ras. Facebook har sedan dess uppdaterat sina annonsinriktningskategorier så att de inte längre inkluderar ”etniska tillhörigheter”.

Annonsörer kan dock fortfarande rikta in sig på människor baserat på deras förmodade ras genom rasproxyer, som använder kombinationer av användarnas intressen för att sluta sig till raser. Till exempel, om en annonsör från Facebook-data ser att du har uttryckt ett intresse för afroamerikansk kultur och BET Awards, kan den dra slutsatsen att du är svart och rikta in dig med annonser för produkter som den vill marknadsföra till svarta.

Vad värre är, Facebook har ofta tagit bort svarta kvinnors kommentarer som talar emot rasism och sexism. Ironiskt nog censureras svarta kvinnors kommentarer om rasism och sexism – i vardagsspråket känt som att bli suckad – för att de skenbart bryter mot Facebooks policy mot hatretorik. Detta är en del av en större trend inom onlineplattformar där svarta kvinnor straffas för att de uttryckt sin oro och kräver rättvisa i digitala utrymmen.

Enligt en färsk rapport från Washington Post visste Facebook att dess algoritm skadade svarta användare oproportionerligt mycket, men valde att inte göra någonting.

En demokratiskt ansvarig metavers

I en intervju med Vishal Shah, Metas vicepresident för metaverse, frågade National Public Radio-värden Audie Cornish: ”Om du inte kan hantera kommentarerna på Instagram, hur kan du hantera t-shirten som har hatpropaganda på sig i metaversen ? Hur kan du hantera hatrallyt som kan hända i metaversen?” På samma sätt, om svarta människor straffas för att de uttalar sig mot rasism och sexism på nätet, hur kan de då göra det i metaversen?

Att säkerställa att metaversen är inkluderande och främjar demokratiska värderingar snarare än att hota demokratin kräver designrättvisa och reglering av sociala medier.

Designrättvisa sätter människor som inte har makten i samhället i centrum för designprocessen för att undvika att vidmakthålla befintliga ojämlikheter. Det innebär också att börja med att överväga värderingar och principer för att vägleda design.

Federala lagar har skyddat sociala medieföretag från ansvar för användares inlägg och handlingar på deras plattformar. Detta innebär att de har rätten men inte ansvaret att övervaka sina webbplatser. Att reglera Big Tech är avgörande för att konfrontera problemen med sociala medier idag, och minst lika viktigt innan de bygger och kontrollerar nästa generation av internet.

Metaversen och jag

Jag är inte emot metaversen. Jag är för en demokratiskt ansvarig metavers. För att det ska hända, men jag hävdar att det måste finnas bättre regelverk på plats för internetföretag och mer bara designprocesser så att tekniken inte fortsätter att korrelera med rasism.

Som det ser ut uppväger inte fördelarna med metaversen dess kostnader för mig. Men det behöver inte förbli så.

[Like what you’ve read? Want more? Sign up for The Conversation’s daily newsletter.]Konversationen

Den här artikeln är återpublicerad från The Conversation under en Creative Commons-licens. Läs originalartikeln.



Source link