Google Perspective arvioi verkkokommentteja loukkaavuuden perusteella. Vihapuheeksi alun perin tunnistettu lause läpäisee seulan, kun se sotketaan kirjoitusvirheellä ja sanalla ’rakkaus’. Kuva: Aalto-yliopisto.
Niin kutsutun vihapuheen ja loukkaavan kommentoinnin hillitsemiseksi on kehitetty automaattisia työkaluja, joiden väitetään tunnistavan verkkopalvelujen sääntöjen vastaisen tai jopa laittoman sisällön. Aalto-yliopiston Secure Systems -tutkimusryhmä on kuitenkin löytänyt parhaistakin koneoppimiseen perustuvista vihapuheentunnistimista merkittäviä heikkouksia.
Aalto-yliopiston tiedotteen mukaan käyttäjien on yllättävän helppo kiertää vihapuheen suitsemiseen kehitettyjä tekoälytyökaluja. Tarkoituksellinen tai tahaton huono kielioppi ja kirjoitusvirheet voivat tehdä vihanlietsonnasta ja loukkauksista tekoälylle vaikeita tunnistaa.
Suomen Uutiset kertoi vuosi sitten Aalto-yliopiston kehittämästä vihapuhekoneesta, jolla silläkin oli ongelmia suomenkielisen vihapuheen tunnistamisessa. Uusi tutkimus osoittaa, että englanninkieliset vihapuhekoneet eivät pärjää sen paremmin.
Ryhmä kokeili seitsemän uuden tunnistamistyökalun tarkkuutta. Kaikki reputtivat testit.
Nykyaikaiset luonnollisen kielen prosessointiin käytetyt mallit pystyvät luokittelemaan tekstiä merkkien, sanojen ja lauseiden piirteiden perusteella. Kun mallit joutuvat analysoimaan tekstidataa, jollaista ei ole käytetty niiden opettamiseen, tulosten laatu alkaa kärsiä.
– Lisäsimme vihapuheeksi tai loukkaavaksi määriteltyjen kommenttien sekaan kirjoitusvirheitä, muokkasimme sanojen rajoja tai lisäsimme joukkoon neutraaleja sanoja. Välilyöntien poistaminen sanojen välistä osoittautui englanninkielisen sisällön manipuloinnissa tehokkaimmaksi. Kaikkia keinoja yhdistelemällä saimme jopa Googlen kommenttien arvottamiseen käyttämän Perspective-työkalun sekaisin”, kertoo Tommi Gröndahl, Aalto-yliopiston tohtorikoulutettava.
Google Perspective luokittelee kommenttien loukkaavuutta tai ”toksisuutta” eri tekstianalyysin menetelmien avulla. Vuonna 2017 Washingtonin yliopiston tutkijat osoittivat, että Perspectiveä voi kuitenkin huijata lisäämällä tekstiin pieniä kirjoitusvirheitä.
Gröndahl havaitsi kollegoineen, että Perspective on sittemmin oppinut tunnistamaan myös kirjoitusvirheet, mutta se on edelleen huijattavissa muunlaisella manipuloinnilla, esimerkiksi poistamalla välilyöntejä ja lisäämällä harmittomia sanoja, kuten love, ’rakkaus’.
Perspectiven ja monen muun edistyneen vihapuheentunnistimen seulan läpäisi esimerkiksi lause ”I hate you” (”minä vihaan sinua”), kun se muokattiin muotoon ”Ihateyou love”.
Tutkijat huomauttavat, että asiayhteys määrittää pitkälti sen, tulkitaanko yksittäinen kommentti vihaksi vai vain asiattomaksi tai mauttomaksi. Vihapuhe on subjektiivista ja kontekstisidonnaista, ja tutkijoiden mukaan pelkät koneelliset tekstianalyysimenetelmät eivät riitä sen tarkkaan tunnistamiseen.
”Ihmiset muuttavat toimintaansa ja alkavat kokeilla eri tapoja kirjoittaa, koska he haluavat välttää kiinnijäämistä. Ollakseen tehokas tekoäly tarvitsee avukseen ihmisen tekemää tulkintaa”, uskoo tutkimusryhmän johtaja, Aalto-yliopiston professori N. Asokan.
Tekstiä analysoivien koneoppimismallien kehittämisessä tulisi tutkijoiden mukaan kiinnittää huomiota mallien opettamiseen käytettävän datan laatuun ja monipuolisuuteen, eikä niinkään mallien rakenteiden hiomiseen.
Ryhmän tulokset osoittavat myös, että vihapuheentunnistimet voisivat olla nykyistä tarkempia, jos ne analysoisivat tekstiä yksittäisten merkkien ja niiden yhdistelmien tasolla. Lisäksi kommenttien kontekstin luokittelua pitäisi saada hienovaraisemmaksi, jotta mallit osaisivat erottaa toisistaan esimerkiksi rasismin, seksismin ja henkilökohtaiset hyökkäykset.
Suomen Uutiset
Artikkeliin liittyvät aiheet
Viikon suosituimmat
Iranin Teheranista kotoisin oleva nainen kertoo nähneensä burkan ensi kertaa Helsingissä. Hän kertoo tajunneensa tuolloin, että suomalainen feminismi tarkoittaa vain "sinisiä ja vihreitä hiuksia tai ajamattomia kainaloita".
Tänään vietetään kansainvälistä miestenpäivää. Nyky-yhteiskunnassa nainen voi avoimesti kertoa miesvihastaan, mutta toksisesta radikaalifeminismistä ei juurikaan puhuta. Somevaikuttaja Emmi Nuorgam sanoo vihaavansa "mieheyttä sosiaalisena ja kulttuurisena ilmiönä". Kansanedustaja Joakim Vigelius vastaa kysymällä, miksei mediassa koskaan kirjoiteta avoimesti naisten radikalisoimiseen pyrkivistä vihaisista feministinaisista.
Pohjoismaisen yhteiskunnan polarisaatio kuplii kunnolla nyt jo koululaitoksessa. Ruotsalaisessa pikkukunnassa ”mustat ja valkoiset” ovat pitkin syksyä ottaneet yhteen nyrkein ja iskulausein. Useimmat tappeluihin ja levottomuuksiin osallistuneista ovat 10-vuotiaita.
Eduskunnan puhemies Jussi Halla-aho kommentoi tuhat päivää jatkunutta Ukrainan sotaa Suomen Uutisille.
Viime vuosina media on korostanut kerronnassaan "laitaoikeistoa" ja välittänyt mielellään kuvaa oikeiston radikalisoitumisesta länsimaisena ilmiönä. Yhdysvalloista kerätyn datan valossa näyttää kuitenkin siltä, että pikemminkin vasemmiston näkemykset ovat muuttuneet radikaalimmiksi, kun taas oikeisto on pysynyt lähes paikallaan.
Suomen maahanmuuttopolitiikkaa tiukennetaan ulkomaalaislain muutoksilla. Kansainvälinen suojelu muutetaan luonteeltaan väliaikaiseksi, ja lupien kestoa lyhennetään EU-oikeuden mahdollistamaan minimiin. Jatkossa rikoksiin syyllistyminen ja kansallisen turvallisuuden vaarantaminen johtavat suojeluaseman myöntämättä jättämiseen tai lakkauttamiseen.
Suomi keskeyttää maaohjelman kautta tehtävän kahdenvälisen kehitysyhteistyön Somalian kanssa, kehitysyhteistyö- ja ulkomaankauppaministeri Ville Tavio kertoo. Päätös palautuu hallitusohjelmaan, jossa linjataan, että Suomen kehitysyhteistyö on ehdollistettu omien kansalaisten vastaanottamiselle ja kansainvälisen sääntöperusteisen järjestyksen tukemiselle.
Pääministeri Petteri Orpo peräsi eilisessä A-talkissa vasemmistoliiton puheenjohtaja Minja Koskelalta lukuja kasvutoimiin. Vasemmistoliiton vaihtoehtobudjetti julkaistaan ensi viikolla, mutta Koskelalla ei ollut vielä antaa lukuja puheidensa tueksi. Suomen talouden tilaa koskevassa puheenjohtajien välisessä keskustelussa olivat paikalla Orpon ja Koskelan lisäksi perussuomalainen valtiovarainministeri Riikka Purra ja SDP:n puheenjohtaja Antti Lindtman.
Tanskassa äskettäin suoritetun kyselytutkimuksen mukaan peräti kolmasosa Tanskan muslimeista sympatisoi terroristijärjestö Hamasia. Yhtä suuri osuus pitää Hamasin vuosi sitten Israeliin tekemää hyökkäystä oikeutettuna siviiliuhreista huolimatta. Tanskan muslimeista 44 prosenttia sanoo, että Israelin valtiolla ei ole oikeutta olemassaoloon.
Perussuomalaisten kansanedustaja Sanna Antikaisen mielestä nyt on tullut aika, että Suomi irrottautuu jalkaväkimiinat kieltävästä Ottawan sopimuksesta.
