Onko kasvojentunnistustekniikka rasistista?
Huoli ilmaistaan Amazonin kasvojentunnistusjärjestelmästä, joka sekoitti 28 Yhdysvaltain kongressin jäsentä poliisiepäiltyihin.
Tämä sisältö on tekijänoikeuden alaista.
Kasvojentunnistustekniikka on yhä yleisempi osa modernia elämää, ja sitä käytetään kaikkeen iPhonen lukituksen avaamisesta edistyneeseen valvontatekniikkaan. Mutta huolenaiheita herätetään siitä, että kasvojentunnistusteknologia voi osoittaa rodullisia ennakkoluuloja, ja tällä voi olla vakavia seurauksia.
Kaupallisten kasvojentunnistusohjelmistojen on toistuvasti osoitettu olevan vähemmän tarkkoja ihmisillä, joilla on tummempi iho, kirjoittaa Gizmodo . Kansalaisoikeuksien puolestapuhujat ovat huolissaan siitä, miten häiritsevästi kohdennettuja tapoja poliisi voi käyttää kasvojen skannausta.
Viimeisin esimerkki tästä oli Amazon ja sen uusi Rekognition-tekniikka.
Amazonin verkkokehittäjille myymä kasvojentunnistustyökalu tunnisti virheellisesti 28 Yhdysvaltain kongressin jäsentä – suhteettoman suuren osan heistä värikkäitä – poliisin epäillyiksi mukikuvien perusteella, raportoi. Reuters .
Tämä ei ole ensimmäinen tällainen tapaus. Kasvojentunnistusteknologian yleistyessä yhä useammat yritykset ovat havainneet, että niiden algoritmeissa on rodullinen harha.
Aiemmin tänä vuonna Google joutui arvostelun kohteeksi, koska se ei onnistunut täysin korjaamaan rasistista algoritmia, jonka ohjelmistosuunnittelija Jacky Alciné alun perin huomautti vuonna 2015. Hän huomasi, että Google Kuvien kuvantunnistusalgoritmit luokittelevat hänen mustia ystäviään gorilloiksi. Sen sijaan, että Google olisi korjannut kasvojentunnistustekniikkaansa, se esti kuvantunnistusalgoritmeja tunnistamasta gorilloja kokonaan.
Samanlainen ongelma ilmeni Applen uudella kasvojentunnistustekniikalla puhelimensa lukituksen avaamiseksi.
Viime joulukuussa havaittiin, että Applen Face ID -tekniikka ei pystynyt erottamaan kahta kiinalaista naista toisistaan. Apple ylpeilee, että sen Face ID -tekniikka on maailman edistyksellisin ja sanoo, että todennäköisyys, että satunnainen henkilö voisi onnistuneesti käyttää sitä älypuhelimen lukituksen avaamiseen, on noin 1:1 000 000:sta. Kysyjä . Mutta yritys joutui myöntämään hyvityksen kiinalaiselle naiselle, joka ilmoitti, että hänen työtoverinsa pystyi avaamaan iPhone X:n lukituksen kasvojenskannaustekniikalla, vaikka hän oli määrittänyt kasvojentunnistusasetukset uudelleen useita kertoja.
Naiselle, joka tunnetaan nimellä Yan, hyvitettiin rahat ja hänelle annettiin uusi puhelin – mutta hän kohtasi saman ongelman uudelleen.
Tämä herättää kysymyksen: miksi näitä ongelmia ilmenee ja voidaanko ne ratkaista?
Gizmodo raportoi, että MIT-tutkijat Joy Buolamwini ja Timnit Gebru ovat havainneet, että tummempiihoiset kasvot ovat aliedustettuina niiden kouluttamiseen käytetyissä tietoaineistoissa. Tämä jättää kasvojentunnistuksen epätarkemmaksi katsottaessa tummia kasvoja.
Rotuun liittyvien ongelmien ratkaiseminen ei edellytä vain teknisiä toimia, vaan myös tiukkoja rajoituksia sille, kuinka ja milloin kasvojen skannausta voidaan käyttää haavoittuvien yhteisöjen suojelemiseen.
He sanovat, että silloinkin kasvojentunnistus on mahdotonta ilman rasismin puuttumista rikosoikeusjärjestelmässä, jossa sitä väistämättä käytetään.
