Aalto-yliopiston tutkijat kehittivät “vihapuhekoneen” – koneoppimiseen perustuvalla algoritmilla oli vaikeuksia tunnistaa suomenkielistä vihapuhetta
Joukko tietojenkäsittelyn, median ja viestinnän tutkijoita ja soveltajia toteutti kevään 2017 kuntavaalien aikana vihapuheen tunnistamiskampanjan, jossa käytettiin apuna koneoppimiseen perustuvaa algoritmia. Luokittelujärjestelmällä oli tosin vaikeuksia suomen kielen sanamuotojen kanssa. Algoritmilla oli lisäksi varsin rajoittunut kyky tulkita keskustelun tai kommentoinnin kontekstia.
Kampanjan aluksi algoritmia opetettiin tunnistamaan vihapuhetta muun muassa avoimista keskusteluryhmistä saatujen aineistojen perusteella. Algoritmi oppi laskennallisesti vertailemaan, mikä erottaa vihapuhetta sisältävän tekstin ei-vihapuheesta ja kehittämään luokittelujärjestelmän vihapuheelle.
Tämän jälkeen luokittelujärjestelmän avulla seulottiin päivittäin kaikki kunnallisvaaliehdokkaiden tuottama avoin sisältö Facebookissa ja Twitterissä noin kuukautta ennen vaaleja. Ehdokkaiden tilit saatiin kerättyä Ylen vaalikoneaineiston avulla.
Luokittelujärjestelmällä oli kuitenkin vaikeuksia suomen kielen sanamuotojen kanssa. Algoritmilla on lisäksi ihmistä rajoittuneempi kyky tulkita keskustelun tai kommentoinnin kontekstia.
Samoista ongelmista kontekstin ja kirjoitusvirheiden tunnistamisessa on kärsinyt myös Googlen kehittämä, vihapuheen tunnistamiseen keskittynyt Perspective-luokitin, Aalto-yliopiston tiedotteessa todetaan.
Tutkijoiden mukaan vihapuhekone kykenee toimimaan valtavien aineistojen seulojana, joka tuo esiin epäilyttäviä viestejä, mutta vain ihminen voi tehdä lopulliset päätelmät vaadittavista toimenpiteistä.
Vihapuhekone mahdollistaa valtavien tietomassojen seulomisen
– Viranomaisnäkökulmasta toimenpiteitä aiheutti korkeintaan 20 viestiä. Sanojen listaus ei sinänsä ole riittävää, koska merkitys tulee niiden yhdistelystä. Toisaalta meillä ei taas olisi resursseja näin mittavaan seurantaan ilman vihapuhekoneen ja tutkijoiden apua”, kertoo yhdenvertaisuusvaltuutettu Kirsi Pimiä.
– Viestejä luokitellessa tutkija joutuu ottamaan kantaa kieleen ja kontekstiin, minkä vuoksi algoritmin ’opettamiseen’ käytettävää aineistoa on tärkeää käsitellä useamman tulkitsijan voimin”, sanoo Salla-Maaria Laaksonen Helsingin yliopistosta.
Koneen tekijät pyrkivät tunnistamaan ainakin omasta mielestään kaikentyyppisen vihapuheen.
Maahanmuutto ja turvapaikanhakijat ovat usein näkyvimpiä teemoja, mutta yhtä tärkeää on tunnistaa esimerkiksi naisiin, etnisiin vähemmistöihin tai tiettyihin poliittisiin kantoihin kohdistuva vihapuhe, Aalto-yliopiston tiedotteessa todetaan.
– Vihapuhetta on aina ollut olemassa. Sitä on aina tuotettu pönkittämään oman ryhmän asemaa ja syrjimään toisia, mutta sosiaalinen media on tehnyt siitä aikaisempaa näkyvämpää, väittää Reeta Pöyhtäri Tampereen yliopistosta.
– Tunteisiin perustuva ilmaisu ja uskomukset korostuvat, ja niitä myös kierrätetään verkossa. Jos ehdokas esimerkiksi kampanjan aikana poisti kirjoituksensa nopeasti julkaisemisen jälkeen, se saattoi silti jäädä elämään kuvakaappauksena, kuvailee.
Vihapuhetta ei ole mainittu Suomen laissa, ja sen määrittely on tunnetusti vaikeaa. Hankkeessa käytettiin Euroopan neuvoston sekä Ethical Journalism Networkin rakentamaa vihapuhemääritelmää.
Helsingin yliopiston, Tampereen yliopiston ja Aalto-yliopiston hanke kytkeytyy neljään Suomen Akatemian ja Koneen Säätiön rahoittamaan tutkimushankkeeseen.
Suomen Uutiset
Artikkeliin liittyvät aiheet
Mitä mieltä?
Aiheeseen liittyviä artikkeleita
PS: Yhdenvertaisuusvaltuutetulta rahahanat kiinni – “Puuttuu mielipiteisiin, joista ei itse pidä”
Oikeusministeriö oli mukana rakentamassa järjestelmää, jolla kytättiin vaaliehdokkaiden jokaista someviestiä
Oikeusministeriö pyrki vaikuttamaan kuntavaaleihin – yhdenvertaisuusvaltuutettu vaati puoluesihteeriä poistamaan kampanjamateriaaleja somesta
Halla-aho: Suhteellisuutta vihapuhe- ja valeuutiskeskusteluun
Viikon suosituimmat
Teemu Keskisarjan ja Onni Rostilan kolumni: Huuhaa-kyselytutkimukset hakkaavat viattomia äijiä
Tappelut ”mustien ja valkoisten” oppilaiden välillä jatkuneet koko syksyn ruotsalaiskoulussa – ”Traagista”, valittaa paikallispoliisi
Pohjoismaisen yhteiskunnan polarisaatio kuplii kunnolla nyt jo koululaitoksessa. Ruotsalaisessa pikkukunnassa ”mustat ja valkoiset” ovat pitkin syksyä ottaneet yhteen nyrkein ja iskulausein. Useimmat tappeluihin ja levottomuuksiin osallistuneista ovat 10-vuotiaita.
Lähi-idästä kotoisin olevat naiset toivovat burkakieltoa: “Ennen kun tulin Suomeen, en ollut nähnyt burkaa”
Iranin Teheranista kotoisin oleva nainen kertoo nähneensä burkan ensi kertaa Helsingissä. Hän kertoo tajunneensa tuolloin, että suomalainen feminismi tarkoittaa vain "sinisiä ja vihreitä hiuksia tai ajamattomia kainaloita".
Emmi Nuorgam: “Vihaan mieheyttä sosiaalisena ja kulttuurisena ilmiönä”
Tänään vietetään kansainvälistä miestenpäivää. Nyky-yhteiskunnassa nainen voi avoimesti kertoa miesvihastaan, mutta toksisesta radikaalifeminismistä ei juurikaan puhuta. Somevaikuttaja Emmi Nuorgam sanoo vihaavansa "mieheyttä sosiaalisena ja kulttuurisena ilmiönä". Kansanedustaja Joakim Vigelius vastaa kysymällä, miksei mediassa koskaan kirjoiteta avoimesti naisten radikalisoimiseen pyrkivistä vihaisista feministinaisista.
Rydman: Helsingistä tehtävä jälleen turvallinen – ”On luovuttava politiikasta, joka karkottaa pääkaupungista hyvät veronmaksajat ja täyttää sen väkivaltaisilla jengeillä ja islamistisaarnaajilla”
Helsingin pormestariksi pyrkivä elinkeinoministeri Wille Rydman haluaa palauttaa pääkaupunkimme takaisin tunnollisille työssäkäyville ihmisille ja uutterille yrittäjille. - Helsinki kuuluu niihin alueisiin maassamme, jotka eniten kärsivät vääränlaisesta maahanmuuttopolitiikasta, Rydman sanoo.
Halla-aho: “Tällä tavoin venäläisille voitaisiin osoittaa, että vaikka kello käy, niin kello ei käy heidän hyväkseen”
Eduskunnan puhemies Jussi Halla-aho kommentoi tuhat päivää jatkunutta Ukrainan sotaa Suomen Uutisille.
Päivän pointti: Trump valitsi ministeriksi huippuyliopistosta valmistuneen sotaveteraanin – valtamedia ja vasemmistomeppi veivasivat tittelin tv-juontajaksi
Yhdysvaltain presidentiksi valitun Donald Trumpin tuoreet henkilövalinnat tulevaan hallintoonsa aiheuttavat ahdistusta mediassa ja Trumpin politiikan vastustajissa. Reaktiot ovat samankaltaisia Atlantin valtameren molemmilla puolilla.
Analyysi: Yhdysvalloissa vasemmisto radikalisoitui pienessä ajassa ja vieraantui hyvin kauas keskivertoäänestäjistä, ilmiö aiheuttaa vasemmistolle näköharhan
Viime vuosina media on korostanut kerronnassaan "laitaoikeistoa" ja välittänyt mielellään kuvaa oikeiston radikalisoitumisesta länsimaisena ilmiönä. Yhdysvalloista kerätyn datan valossa näyttää kuitenkin siltä, että pikemminkin vasemmiston näkemykset ovat muuttuneet radikaalimmiksi, kun taas oikeisto on pysynyt lähes paikallaan.
Mitä ihmettä? Britanniassa poliisi ilmestyi palkitun toimittajan ovelle, ilmoitti tutkivansa “ei-rikollista viharikostapausta”, muttei suostunut kertomaan, mistä oli kyse
Johtavat brittiläiset poliitikot ovat esittäneet voimakasta kritiikkiä poliisille, joka tutkii Telegraph-lehden toimittajan sosiaalisen median julkaisua. Essexin poliisi ilmestyi viime sunnuntaina palkitun toimittaja Allison Pearsonin ovelle ja kertoi tutkivansa tämän vuoden takaista sosiaalisen median päivitystä ”ei-rikollisena viharikostapauksena”. Poliisi kieltäytyi kertomasta tarkemmin edes tutkinnan alaiselle Pearsonille, mitä sisältöä tutkinta koskee. Tapaus on herättänyt kansainvälistä huomiota, ja sitä on verrattu orwellilaiseen fiktioon.
Suomen ja Somalian välinen maaohjelman kautta tapahtuva kehitysyhteistyö keskeytetään – ministeri Tavio: Suomi ei voi jatkaa kehitysyhteistyötä maan kanssa, joka ei ota takaisin omia kansalaisiaan
Suomi keskeyttää maaohjelman kautta tehtävän kahdenvälisen kehitysyhteistyön Somalian kanssa, kehitysyhteistyö- ja ulkomaankauppaministeri Ville Tavio kertoo. Päätös palautuu hallitusohjelmaan, jossa linjataan, että Suomen kehitysyhteistyö on ehdollistettu omien kansalaisten vastaanottamiselle ja kansainvälisen sääntöperusteisen järjestyksen tukemiselle.
Uusimmat
Jaana Strandman: Hallitus vahvistaa lasten oikeuksia
Miko Bergbom: Päätös Somalian maaohjelman keskeyttämisestä on oikea
Toimitus suosittelee
Perussuomalainen 1/2024
Lue lisää