Instagram kunne snart genoverveje, hvordan det modererer transkroppe

Metas tilsynsråd tager to sager op omkring censur af queer-skabere.
  Instagram kunne snart genoverveje, hvordan det modererer transkroppe SOPA Images/Getty Images

Metas Oversight Board forbereder sig på at behandle en sag vedrørende kønsidentitet og nøgenhed på Instagram, hvis udfald vil påvirke brugeroplevelserne for trans- og nonbinære mennesker overalt.



Oversight Board, et eksternt organ, der håndterer spørgsmål om indholdshåndhævelse af beslutninger på Facebook og Instagram, annonceret tirsdag, at den ville gennemgå fire nye sager. En af sagerne omhandler to separate tilfælde, hvor et trans og et ikke-binært par fik fjernet billeder fra den fælles konto, de kører. Det første billede, fra 2021, viste begge mennesker nøgne fra taljen og op med kødfarvet tape over deres brystvorter. På det andet billede, udgivet i 2022, dækker en person den anden persons brystvorter med deres hænder. Billedteksterne til begge billeder diskuterede, hvordan den person, der er bar overkroppen på begge billeder, snart ville have en topoperation, og noterede 'deres planer om at dokumentere operationsprocessen og diskutere trans-sundhedsproblemer' og inkluderede en fundraiser-meddelelse. Tilsynsrådet har holdt både posterne og regnskabet anonyme.

Meta fjernede begge indlæg med henvisning til Standard for seksuel opfordring , en politik vedrørende seksuelt indhold på Metas ejendomme, herunder Facebook og Instagram. Denne standard begrænser indhold, der 'faciliterer, opfordrer til eller koordinerer seksuelle møder eller kommercielle seksuelle tjenester mellem voksne', såvel som 'eksplicit sprogbrug, der kan føre til seksuel opfordring.' På trods af at ingen af ​​indlæggene indeholdt et sådant sprog, rapporterede tre brugere det første indlæg for 'pornografi og selvskade.' Selvom menneskelige moderatorer, der gennemgik disse klager, oprindeligt fandt, at indlægget ikke krænkede, blev indholdet rapporteret en fjerde gang, og en separat moderator fjernede indlægget.



Det andet indlæg blev fundet at være 'potentielt krænkende' af Meta's moderat AI , selvom menneskelige anmeldere fandt det ikke-krænkende. Selv efter at indlægget blev rapporteret to gange for potentielt krænkende indhold, blev rapporterne automatisk lukket. Men da Metas AI gennemgik indlægget en tredje gang og fandt det potentielt krænkende, besluttede en separat anmelder at fjerne indlægget.



Selvom parret forsøgte at appellere til Meta om at få posterne genoprettet, nægtede virksomheden at rokke sig. Det var først efter, at parret appellerede til bestyrelsen, at Meta anså disse fjernelser som 'håndhævelsesfejl' og genoprettede dem. Nu indhenter bestyrelsen offentlige kommentarer til sagen.

Styrelsen skrev i sin tirsdagsmeddelelse, at den specifikt ville sætte pris på kommentarer om, hvorvidt Metas politikker om nøgenhed og seksuel opfordring i tilstrækkelig grad respekterer trans- og ikkebinære brugeres rettigheder. Bestyrelsen søger også kommentarer om, hvorvidt Meta har tilstrækkelige procedurer på plads til at behandle rapporteret ikke-krænkende indhold og om, hvordan man afbøder risikoen for fejlagtig fjernelse, blandt andre emner. Deadline vedr indsende offentlige kommentarer er tirsdag den 9. august kl. 11:00 EDT.

Nyheden kommer midt i øget kontrol rettet mod Meta, både for dets restriktioner for abortrelateret indhold i en stolpe- Rogn æra og for dens brug af kunstig intelligens i indholdsmoderering . Facebook-whistleblower Frances Haugen kritiserede for nylig virksomhedens afhængighed af AI i modsætning til at betale menneskelige indholdsmoderatorer retfærdigt og sagde, at AI 'kun kunne være så præcis.'



'Folk, der rent faktisk arbejder på det, kalder det maskinlæring, fordi det ikke er intelligent,' sagde Haugen i kommentarer rapporteret af Business Insider .

Den mangel på præcision har også en menneskelig pris. EN seneste rapport fra GLAAD fandt ud af, at Meta, sammen med alle andre store sociale medieplatforme, stadig undlader at beskytte sine LGBTQ+-brugere. Organisationen opfordrede den sociale mediegigant til at offentliggøre omfattende data om, hvordan dens politikker, der beskytter LGBTQ+-brugere, håndhæves, i betragtning af at anti-LGBTQ+-indhold stadig cirkulerer rundt på Facebook og Meta og unddrager sig moderators øjne, enten menneskelige eller ej.

Siden vedtagelsen af ​​'anti-trafficking'-lovgivningen SESTA-FOSTA i 2018, har LGBTQ+-personer på internettet stået over for stigende censur og skyggeforbud . Det skyldes, at lovene fjernede afgørende beskyttelser, der fastslog, at platforme ikke kunne holdes ansvarlige for brugergenereret indhold, og gjorde en undtagelse for indhold relateret til 'sex trafficking', som også blev fejlagtigt forvekslet med konsensuelt sexarbejde . Men som Meta-sagen viser, anses queer- og transorganer, der blot eksisterer, alt for ofte for at være upassende seksuelle, alt sammen oven i de vanskeligheder, som faktiske queer- og transsexarbejdere står over for.