Queer- ja transyhteisöjen keskuudessa on kehitetty monimuotoisia strategioita algoritmisen syrjinnän vastustamiseksi. Vastarinnan tavoitteena on tehdä algoritminen syrjintä näkyväksi, kritisoida algoritmien vahvistamia valtarakenteita ja kuvitella vaihtoehtoisia tulevaisuuksia.
Algoritmisella syrjinnällä tarkoitetaan tilanteita, joissa järjestelmien haitat kohdistuvat systemaattisesti marginalisoituihin ryhmiin, kuten esimerkiksi rodullistettuihin ihmisiin ja sukupuolivähemmistöihin. Erityisen marginalisoituja ovat näiden risteymässä elävät rodullistetut transnaiset ja transfeminiinit ihmiset.
Algoritminen syrjintä voi altistaa vaaralle ja systemaattiselle väkivallalle esimerkiksi silloin, kun automatisoitujen riskinarviointijärjestelmien avulla määritetään yksilöt, jotka tulisi asettaa valvontaan, pidättää tai vangita. Esimerkiksi Yhdysvalloissa useiden osavaltioiden viranomaiset ja oikeuslaitokset ovat ottaneet käyttöön algoritmisia järjestelmiä, joiden perusteella ihmisiä on pidätetty virheellisten tunnistusten pohjalta.
Vastaavasti vaaratilanteita saattavat aiheuttaa lentokenttien kasvo- ja vartaloskannerit, jotka varoittavat viranomaisia ”poikkeavuuksista” esimerkiksi yksilön sukupuolitetuissa piirteissä. Myös terveydenhuollon hyödyntämät algoritmit tekevät epäluotettavampia hoidontarpeeseen liittyviä päätöksiä marginalisoitujen ihmisryhmien tapauksissa.
Kaikki algoritminen syrjintä ei kuitenkaan vaaranna yksilöitä näin suoraan. Esimerkiksi sosiaalisen median automaattinen sisällönmoderointi ja niin sanottu shadowbanning, eli käyttäjän tai hänen tuottamansa sisällön piilottaminen tai estäminen, voivat kätkeä queer- ja transsisältöä tai sensuroida sitä esimerkiksi sopimattomana tai seksuaalisena.
Kuten poissulkemisen ja piilottamisen strategioistakin huomataan, on algoritmien toiminta läpinäkymätöntä. Järjestelmät ovat pääosin suurten teknologiayritysten ja valtioiden hallussa, jolloin niiden data, toimintaperiaatteet ja päätöksenteko ovat harvoin julkisia.
Tämä tekee algoritmien kriittisestä tarkastelusta vaikeaa. Koska järjestelmien toimintaa ei tunneta, niitä on vaikeaa kyseenalaistaa ja vastustaa.
Mitä vaihtoehtoja queer- ja transvastarinta voi tarjota?
Marginalisoitujen yhteisöjen keskuudessa on kehitetty monimuotoisia strategioita algoritmisen syrjinnän vastustamiseen. Vastarinnan muodot voidaan jaotella karkeasti algoritmisen syrjinnän paljastamiseen, algoritmien toiminnan häirintään ja kiertämiseen sekä vaihtoehtoisten teknologisten tulevaisuuksien kuvitteluun.
Syrjinnän paljastaminen
Keskeisiä strategioita algoritmisen syrjinnän paljastamiseksi ovat tutkimus, algoritminen analyysi ja teknologioiden kriittinen tarkastelu. Esimerkkejä näistä ovat algoritmien pilkkominen helpommin ymmärrettäviksi osiksi ja takaisinmallinnus, jossa selvitetään ohjelmien antamien lopputulosten taustalla vaikuttavien algoritmien toimintaperiaatteet.
Tällainen työ on keskeinen osa erityisesti tutkijayhteisöjen ja aktivismijärjestöjen toimintaa. Esimerkiksi tutkimuksen ja taiteen keinoin algoritmista syrjintää tarkasteleva Algorithmic Justice League -järjestö on kyennyt paljastamaan kasvojentunnistusjärjestelmien ongelmia erityisesti rodullistettujen ja sukupuolivähemmistöihin kuuluvien ihmisten tunnistamisessa.
Yhteisölähtöinen tekoälyn ja algoritmien haitallisista vaikutuksista tiedottaminen on keskeinen osa myös Queer in AI, Our Data Bodies ja AI4Abolition -yhteisöjen toimintaa. Kollektiivien tavoitteena on tarjota tietoa teknologian vaaroista ja suojautumiskeinoista marginalisoiduille yhteisöille. Esimerkiksi Our Data Bodies on sekä järjestänyt yhteisölähtöisiä työpajoja ja koulutuksia että julkaissut niiden pohjalta Digital Defense Playbook -nimisen käsikirjan.
Algoritmien kiertämistä näkyvyyden säätelyllä
Transihmisten vastarinta muotoutuu usein näkyvyyden ja näkymättömyyden säätelyn ympärille. Transyhteisöistä onkin noussut moninaisia keinoja muokata ja säädellä omaa näkyvyyttä ja toimintaa suhteessa algoritmeihin. Näkyvyyden säätelyn avulla algoritmien toimintaa voidaan häiritä niin, etteivät järjestelmät tunnista tai luokittele transyksilöitä odotetulla tavalla.
Oikeus näkymättömyyteen ja tahdonvastaiselta valvonnalta suojautuminen ovat keskeisiä queerin vastarinnan muotoja, jotka eivät usein tule ilmi näkyvyyden lisäämiseen tähtäävässä seksuaali- ja sukupuolivähemmistöjen valtavirta-aktivismissa.
Myös algoritmisten järjestelmien tarkoituksellinen väärinkäyttö voi toimia luovana ja lähes leikillisenä keinona rikkoa niiden valta-asemaa.
Esimerkkeinä mainittakoon projektit, kuten HyperFace, CV Dazzle ja Facial Weaponization Suite, jotka ovat kehittäneet asusteita ja meikkejä kasvojentunnistusalgoritmien toiminnan häiritsemiseksi tai niiltä näkymättömänä pysymiseksi. Tämänkaltaiset ratkaisut pyrkivät muotia, maskeerausta ja teknologiaa yhdistelemällä lisäämään rodullistettujen trans- ja queer-yksilöiden itsemääräämisoikeutta ja mahdollisuutta valita turvallinen näkyvyyden aste ympäristön ja tilanteen mukaan.
Lisäksi algoritmisiin järjestelmiin sisäänrakennettua kaksijakoista sukupuolijaottelua kritisoidaan usein taiteellisilla ja kokeellisilla projekteilla. Näihin lukeutuu Drag vs AI, jossa kasvojentunnistusalgoritmeja ja tekoälyä haastetaan dragin ja sukupuolitettujen piirteiden liioittelun avulla. Q GenderLess Voice taas pyrkii tarjoamaan vaihtoehtoja automatisoidulle luokittelulle purkamalla äänen sukupuolittuneisuutta. Polyphonic Embodiment(s) vuorostaan kutsuu ihmisiä pohdiskelemaan sitä, millaisena tekoäly ”näkee” meidät äänemme perusteella ja millaisia identiteettejä se meille tämän pohjalta asettaa.
”Saastunut” data
Toinen kiinnostava strategia algoritmien toiminnan häiritsemiseksi on tarkoituksellinen koulutusdatan ”saastuttaminen” trans- ja queer-kasvoilla.
Lisäämällä järjestelmiin ei-normatiivista dataa ne saadaan tuottamaan ”virheellisiä” ja odottamattomia tuloksia.
Esimerkiksi taiteellinen projekti ja videoteos Zizi Queering the Datasets pyrkii korostamaan algoritmista syrjintää uudelleenkouluttamalla kasvojentunnistus- ja koneoppimisjärjestelmiä drag- ja queer-kasvoilla. Projektissa koulutetut tekoälymallit tuottavat normatiivisten järjestelmien rinnalle sukupuolella leikitteleviä ja sen ylittäviä kuvauksia kasvoista.
Toisissa queer- ja transvastarinnan projekteissa koko algoritmien logiikka on tarkoituksellisesti käännetty nurin. Algoritmista syrjintää on nostettu esille esimerkiksi muokkaamalla algoritmeja siten, että rodullistettujen sukupuolivähemmistöjen sijasta syrjinnän kohteeksi joutuvatkin valta-asemassa olevat ihmiset.
Näin pyrkii toimimaan tutkija ja taiteilija A. M. Darken projekti Belligerent Algorithm, joka tuo järjestelmien vinoumat näkyväksi kohdentamalla syrjinnän valkoisiin cissukupuolisiin miehiin.
Rajojen rikkominen ja luokittelun kyseenalaistaminen
Usein algoritmit luokittelevat ja pakottavat transkehoja jäykkiin kategorioihin. Pelkän häiritsemisen sijasta monet transvastarintaa toteuttavat projektit kyseenalaistavat oletuksen, että identiteetit ja kehot olisivat ylipäänsä luokiteltavissa.
Taiteilija Ada Ada Adan Instagram-performanssi in transitu koostuu sukupuolenkorjausprosessia dokumentoivista selfiekuvista, jotka tarkastelevat algoritmista sukupuolimoderointia. Dokumentoimalla hienovaraisia ja vähittäisiä muutoksia hän nostaa esille algoritmien pyrkimyksen luokitella jatkuvassa muutoksessa olevaa kehoa jäykkiin sukupuolirooleihin.
Tutkija ja taiteilija Qingyi Renin performanssi See My Gender taas pyrkii arkisia materiaaleja hyödyntämällä tarkastelemaan kuinka kasvojentunnistusjärjestelmien tekemät tulkinnat taiteilijan sukupuolesta vaihtelevat.
Itse pohdiskelen tutkimuksessani parhaillaan sitä, kuinka transtaiteilijoiden digitaalisissa peleissä, performansseissa ja installaatioissa voidaan rikkoa kahtiajaottelua toiminnallisuuden ja virheellisyyden välillä esimerkiksi kehollisuuden kautta.
Yksi esimerkki virheiden valjastamisesta osaksi digitaalista vastarintaa on glitchin eli tietyntyyppisen ohjelman toimintahäiriön hyödyntäminen. Näissä tapauksissa ”virheet” ohjelmakoodissa tai niiden toiminnassa on valjastettu häiriön ja vastarinnan välineiksi korostamaan sekä algoritmista syrjintää että normatiivisten järjestelmien rajallisuutta.
Uusien järjestelmien kuvittelua
Jo olemassa olevien järjestelmien kritisoinnin ja kiertämisen ohella transvastarinta myös visioi ja luo vaihtoehtoja.
Yhteisölähtöiset projektit sekä niin sanotut ”trans-teknologioiksi” kutsutut digitaaliset järjestelmät voivatkin tarjota turvallisempia tapoja olemiselle, kokemiselle ja tiedon jakamiselle. Useita kokeellisia projekteja ja prototyyppejä, kuten esimerkiksi U-Signal, LGBTrust ja Autonets, on kehitetty edistämään erityisesti rodullistettujen transnaisten turvallisuutta.
Trans-teknologiat tarjoavat myös mahdollisuuksia kuvitella uusia tulevaisuuksia. Queering the Map on esimerkki projektista, joka sijoittaa anonyymeja queer- ja transkokemuksia kartalle. Kieltäytymällä keräämästä tietoa esimerkiksi käyttäjäprofiilien ja evästeiden avulla sekä säilyttämällä yksilön oikeuden hallita ja poistaa tarjoamansa tiedot ne tarjoavat samalla vaihtoehtoja valvontaan perustuville järjestelmille.
Hacking Biopolitics taas on esimerkki kokeellisesta projektista, jossa tutkittiin transsukupuolisten yksilöiden kehoon ja terveyteen liittyvää itsemääräämisoikeutta suhteessa valvontakapitalismiin. Projektin tavoitteena on tarjota transihmisille oikeus seurata omaa terveysdataansa ilman, että data on automaattisesti suuren teknologiayrityksen omistuksessa.
Open Source Gendercodes taas pohdiskelee omistajuutta ja yksilön kehollista itsemääräämisoikeutta pyrkimällä kehittämään julkisen lähdekoodin yhteisöllisiä teknologioita monille transihmisille elintärkeiden hormonien tuottamiseksi.
Konkreettisia vaihtoehtoja ja tulevaisuuksia visioidaan yhdessä tekemällä ja uutta luomalla myös niin sanotuissa hackathoneissa (esim. Trans*H4CK ja Trans*Code) tai peleihin ja taiteelliseen ilmaisuun keskittyvissä gamejameissa (esim. Trans Joy Jam ja Trans Fucking Rage Jam).
Taide tulevaisuuksien työkaluna
Myös taide on keskeinen osa luovaa digitaalista transvastarintaa. Digitaaliset taidekäytänteet mahdollistavat algoritmeihin koodatun normatiivisuuden hylkäämisen ja uudelleenmuovaamisen. Vastaavasti myös ajan, kehon, tilan, liikkeen ja kerronnan normatiivisuus voidaan digitaalisen taiteen avulla visioida toisenlaiseksi. Dekonstruktion, performanssin ja kokemuksellisen tiedon pohjalta ammentavan työskentelyn avulla taiteilijat pyrkivät kuvittelemaan vaihtoehtoisia tulevaisuuksia.
Projektissaan Cosmic Land taiteilija Kira Xonorika uudelleenkuvittelee tekoälyjärjestelmien avulla tulevaisuuksia, joissa kehot ylittävät kaksijakoisen järjestyksen. Alkuperäisväestöjen symboliikasta ammentamalla ne saavat moninaisia ja dekoloniaaleja muotoja.
Taiteilija Lucas LaRochellen projekti QT.bot taas on queer- ja transkokemuksilla koulutettu tekoälyjärjestelmä, joka generoi spekulatiivisia queer- ja transtulevaisuuksia. Unenkaltaiset maisemat leikittelevät epäonnistumisen, kaaoksen ja teknologian tarjoamien mahdollisuuksien ainutlaatuisuudella. Sotkemalla ajan, tilan ja subjektin ne luovat moninaisia kuvauksia tulevaisuudesta.
Algoritmien toimintaa ohjaa data, joka heijastaa ihmisten ja yhteiskunnan valtasuhteita, vinoumia ja ennakkoluuloja. Näin teknologia sekä peilaa että vahvistaa jo syntyneitä valta-asetelmia. Marginalisoitujen yhteisöjen vastarinnan muodot eivät riitä purkamaan algoritmien valtaa, mutta niillä on merkittävä rooli algoritmien ja vallan yhteenkietoutuneisuuden tunnistamisessa ja vastustamisessa.
Queerfeminististä vastarintaa -artikkelisarja
Queerfeministinen vastarinta on monimuotoista ja alati muuttuvaa, eikä se aina näyttäydy selkeänä poliittisena liikehdintänä. Sitä yhdistää normien ja valtarakenteiden kyseenalaistaminen sukupuolen ja seksuaalisuuden vinkkelistä nähtynä sekä kyky haastaa ja uudelleenrakentaa yhteisöjä.
Toimitus
- Toimittaja: Laura Menard
- Artikkelikuva: Ina Rantanen
- Muu kuvitus: Pixabay.com
- Verkkotaittaja: Taru Äkräs
- Podcast: Suvi Baloch
- Sosiaalinen media: Milla Heikkinen
Luettavaa
- Andersen, Christoffer Koch 2025: Wrapped Up in the Cis-Tem: Trans Liveability in the Age of Algorithmic Violence. Atlantis, 46(1), 24–41.
- Benjamin, Ruha & McNealy, Jasmine 2019: A New Jim Code? Featuring Ruha Benjamin and Jasmine McNealy. Luento 3.10.2019. The Berkman Klein Center for Internet and Society. (YouTube)
- Cárdenas, Micha 2023: Poetic Operations and Trans Ecologies. Luento 30.4.2023. University of California, Social Science Matrix. (YouTube)
- D’Ignazio, Catherine & Klein, Lauren 2020: Data Feminism. The MIT Press.
- Liang, Shano; Cormier, Michelle V.; Toups Dugas, Phoebe O. & Bohrer, Rose 2025:The Three Steps to Trans Death: Introducing Trans Cyber-Necropolitics in Digital Media.ACM Transactions on Computer-Human Interaction, 32(5), 54.
- Noble, Safiya 2016: Challenging the Algorithms of Oppression. Luento 15.6.2016. Personal Democracy Forum. (YouTube)
- Ren, Qingyi 2026: Growing in Algorithmic Ruins: Contamination as Queer-Feminist Method. Australian Feminist Studies, 1–17.
- Silva, Tainá 2023:Algorithmic Necropolitics. Sexualidad, Salud y Sociedad – Revista Latinoamericana.
- Snorton, C. Riley & Haritaworn, Jin 2022: Trans Necropolitics: A Transnational Reflection on Violence, Death and the Trans of Color Afterlife. The Transgender Studies Reader.
- Stevens, Nikko & Doğan, Amelia Lee 2025: Trans data epistemologies: Transgender ways of knowing with data. Big Data & Society, 12(4).
- Taylor, Jordan; Mire, Joel; Spektor, Franchesca; DeVrio, Alicia; Sap, Maarten; Zhu, Haiyi & Fox, Sarah E. 2025: Un-Straightening Generative AI: How Queer Artists Surface and Challenge Model Normativity. 2025 ACM Conference on Fairness, Accountability, and Transparency (FAccT ’25), 951–963.
- Taylor, Jordan; Mire, Joel; DeVrio, Alicia; Sap, Maarten; Zhu, Haiyi & Fox, Sarah E. 2026: ”I Just Don’t Want My Work Being Fed Into The AI Blender”: Queer Artists on Refusing and Resisting Generative AI. arXiv:2604.14266.
