Skip to content

YouTuben New Age Restriction AI huolestuttaa LGBTQ + -yhteisöä

25 de kesäkuu de 2021

Tärkeimmät takeaways

  • YouTuben automaattinen ikää rajoittava ohjelmisto on huolestuttava alustan LGBTQ + -sisällöstä.
  • Yritystä on pilannut LGBTQ + -sisällöntuottajien kiista, joka vahvistaa epäilyjä.
  • Koneoppimisen ennakkoluulot antavat uskottavuuden ajatukselle, että suodattimien epätäydellinen toteutus todennäköisesti rajoittaa pääsyä epäoikeudenmukaisesti.

YouTuben uuden tekoälypohjaisen tekniikan nähdään olevan kohtuuttomasti kohdistettu LGBTQ + -sisällöntuottajiin moderaatioprosessissaan, ja se on teknisen jättiläisen huolestuttava seuraava askel. Viime viikolla virallisessa YouTube-blogissa videonjakoalusta julkisti suunnitelman julkaista uusi automaattinen ohjelmisto ”ikärajoitusten johdonmukaisemman soveltamiseksi” videoille, jotka katsotaan sopimattomiksi nuoremmille katsojille. Uuden järjestelmän lapsista huolestuttaman sovelluksen perusteella uusi järjestelmä perustuu koneoppimiseen tekoälyohjelmistoon, joka kykenee luopumaan ihmisen valvojista automaattisemman prosessin aikaansaamiseksi. Ongelma? YouTuben automatisoituja järjestelmiä on syytetty LGBTQ + -sisällön ja sisällöntuottajien erottamisesta pelkästään olemassa olevista. ”Vaikka se ei olisikaan ilkeä, mitä en usko, se on, se on puute erilaisilta ääniltä – tai ainakaan kunnioituksen puute.” ”Ihmiset informoivat ja luovat koneoppimisen, ja on mahdollista, että nuo puolueet ovat sen luonteenomaisia ​​tai kone itse oppineet”, YouTuber Rowan Ellis sanoi puhelinhaastattelussa Lifewire. ”Sen puolueellisuus suhteessa [LGBTQ+] sisältö on ollut ilmeistä [LGBTQ+] YouTuberit, enkä ole nähnyt todisteita siitä, että jotain on tehty sen estämiseksi. ”

Vauva, nyt saimme pahaa verta

Ellis on YouTuber, joka luo feministisesti ja omituisesti taipuvaa opetussisältöä, ja vuonna 2017 hän julkaisi videon yrityksen rajoitetusta tilasta. Alkuvaiheena automaattiseen sisällön valvomiseen tämä tila antoi käyttäjille mahdollisuuden etukäteen seuloa ”mahdollisesti aikuisille tarkoitettua sisältöä” hakuehdotuksista ja suosituksista.

Yli 100 000 näyttökertaa keräten hän uskoo, että hänen kanavansa oli tietoisesti pyritty estämään rajoituksista johtuen äänellisestä vastustuksestaan ​​YouTuben uuden maltillisen askeleen liioittelua vastaan. Muut alustan käyttäjät eivät olleet niin onnekkaita, ja he saivat YouTube tuntemaan sen. Kahdeksan LGBTQ + -sisällöntuottajaryhmä nosti elokuussa 2019 ryhmäkanteen YouTubea vastaan ​​ja syytti Piilaakson yritystä queer- ja trans-videotuottajien ja sisällön rajoittamisesta. Oikeudenkäynnin mukaan sivusto käyttää ”laitonta sisällön sääntelyä, jakelua ja kaupallistamista, jotka leimaavat, rajoittavat, estävät, demonetisoivat ja vahingoittavat taloudellisesti LGBT-kantajia ja suurempaa LGBT-yhteisöä”. Se on edelleen matkalla Kalifornian tuomioistuimiin. ”Ihmiset informoivat ja luovat koneoppimisen, ja on mahdollista, että nuo puolueet ovat sen luonteenomaisia ​​tai itse koneen oppimia.” Saman vuoden kesäkuussa foorumi sai median huomion tulvansa kieltäytyessään nopeasti nuhtelemasta suosittua konservatiivista kommentaattoria Steven Crowderia kuukausia kestäneestä homofobisesta häirintäkampanjasta. Vox toimittaja ja isäntä Carlos Maza. Tämä vahvisti Ellisin sanoman olevan malli online-alustalle, jossa sivuutetaan ainutlaatuiset haasteet, joita queer-luojat kohtaavat. LGBTQ + -sisällöntuottajien epäuskon puute YouTuben kykyyn esiintyä heidän luonaan ei ole ansiotonta. ”En usko, että he ovat ymmärtäneet tarvetta avoimuuteen sosiaalisissa kysymyksissä ja tasa-arvon varmistamisessa”, hän sanoi. ”On yhä lapsia ympäri maailmaa, jotka ovat kasvaneet ajatuksella, että homo on väärin, ja kun he alkavat kyseenalaistaa uskoa, mutta huomaavat sen sulkevan turvallisen etsinnän tai rajoituksen avulla, se vahvistaa tätä ajatusta. on väärä, sopimaton, aikuinen, perverssi ja likainen. ”

Automaattisen oppimisen epäonnistuminen

Sen alustan LGBTQ + -sisällöntuottajien ikävä historia on edelleen huolestuttava koneoppimisohjelmiston kyvystä erottaa suuremmat normit. Markkulan soveltavan etiikan keskuksen pääjohtaja Don Heider ehdottaa, että hulluuden mahdollisuus on liian suuri uhkapelien uhka. ”On vaikea uskoa, että tekoäly voi tehokkaasti hallita sisältöä useista maista, joilla on erilaiset kulttuurinormit ja -standardit”, hän kirjoitti sähköpostihaastattelussa. ”Tekoälyä pidetään liian usein vastauksena monimutkaisiin kysymyksiin. Tässä vaiheessa tekoäly ja sen luontityyppi kamppailevat edes yksinkertaisissa tehtävissä, puhumattakaan sisällön maltillisuudesta missä tahansa monimutkaisuudessa.”

YouTube päätti tekoälytekniikan käytöstä, koska ihmisen moderaattorit eivät ole jatkuvasti valvoneet, bloginsa mukaan. Tietokonepohjaisten suodattimien käytön lisääminen sopimattomiksi katsottujen videoiden poistamiseksi tuli normaaliksi, ja samojen menettelyjen toteuttaminen ikärajoituskäytännöissä nähdään loogisena seuraavana askeleena. Koska yritys pyrkii parantamaan prosessejaan asteittain sen jälkeen, kun sen pitkäaikainen kritiikki suhtautui lapsenkuluttajiin, tämä päätös ei ole yllätys. ”En usko, että he ovat ymmärtäneet tarvetta avoimuuteen sosiaalisissa kysymyksissä ja tasa-arvon varmistamisessa.” Lapsista on tullut keskeinen väestörakenne videonjakosivustolla. Elokuussa digitaalivideoanalyysiyritys Tubular havaitsi, että musiikkivideoiden lisäksi lapsille suunnattu sisältö oli YouTuben katsotuimpien videoiden kuukauden lopussa. Yrityksen kiinnostus tämän kannattavan, nousevan voiman suojelemiseen alustalla on järkevää. Tämän suojauksen toteuttamiseen käytettävät työkalut ovat kuitenkin edelleen epämukavia niille, jotka ovat jo löytäneet itsensä yrityksen maltillisista menettelyistä. ”Huoleni on, että se aiheuttaa paljon haittaa eikä suojaa [LGBTQ+] nuoret, jotka tarvitsevat informatiivista, rehellistä ja rehellistä sisältöä, josta on paljon [LGBTQ+] YouTubers saattaa tarjota, mutta merkitään järjestelmässään sopimattomaksi ”, Ellis sanoi.” Vaikka se ei olekaan ilkeä, en usko, että se on, se on puute eri ääniltä – tai ainakaan kunnioituksen puute. . ”Me näemme sen koko ajan tekniikassa. Kun tarkastelet kasvojentunnistusta, jossa ei erotella eri mustia kasvoja, tai kun tarkastelemme lääketiedettä ja näemme, että lääkitystä on testattu vain tietyllä sukupuolella. Nämä ovat suurempia keskusteluja, ja YouTube ei ole vapautettu tästä. ”