EU:n parlamentti, komissio ja neuvosto pääsivät joulukuussa 2023 yhteisymmärrykseen EU-komission kesällä 2023 valmistelemasta Artificial Intelligence Act -kokonaisuudesta eli tekoälyasetuksesta. Se asettaa tiukat rajat reaaliaikaiselle massavalvonnalle, joka tapahtuu kasvojentunnistuksen avulla julkisilla paikoilla.
Asetuksen teknisiä yksityiskohtia hiotaan alkuvuoden 2024 aikana, ja sen on määrä valmistua ennen kesäkuisia EU-vaaleja.
– Kasvojentunnistus menee hyvin syvälle yksityisyyteen. Kyseessä on arkaluonteisten henkilötietojen käsittely, sanoo Katariina Koski. Hän työskentelee tietosuojaan, dataan ja teknologiaan erikoistuneena asianajajana asianajotoimisto DLA Piperillä.
Perusoikeudet vaarassa massavalvonnassa
Kasvojentunnistukseen perustuva massavalvonta voi kaventaa merkittävästi perusoikeuksia, kuten tämän jutun yhteydessä esiteltävä Kiinan esimerkki osoittaa. Tämä halutaan kieltää tekoälyasetuksella.
Kasvojentunnistukseen perustuva massavalvonta voi kaventaa merkittävästi perusoikeuksia.
– Yksityisyys on ihmisen perusoikeus. Olemme tottuneet siihen, että voimme liikkua anonyymeina julkisilla paikoilla. Ellemme tapaa jotain meidät tuntevaa henkilöä, emme ole lähtökohtaisesti tunnistettavissa. Kasvojentunnistukseen perustuva massavalvonta voisi pahimmillaan estää tällaisen anonyymin liikkumisen, Koski sanoo.
Koski huomauttaa, että kasvojentunnistukseen liittyy laillisuuden kannalta kahtalainen asetelma: on toisaalta reaaliaikainen valvonta ja toisaalta se, että valtavasta kasvokuvamassasta etsitään tiettyä henkilöä. Molemmissa on ongelmansa.
On toisaalta reaaliaikainen valvonta ja toisaalta se, että valtavasta kasvokuvamassasta etsitään tiettyä henkilöä. Molemmissa on ongelmansa.
– Tekoälyasetusehdotuksen ytimessä on ollut riskiluokitusjärjestelmä. Siinä tekoälyjärjestelmiä säännellään sen perusteella, kuinka suuren riskin ne aiheuttavat ihmisten terveydelle, turvallisuudelle ja perusoikeuksille.
– Riskiluokista yksi on niin sanotut kielletyt käytännöt, joissa tekoälyn käyttöä ei voi hyväksyä. Biometristen tunnisteiden, kuten kasvojentunnistuksen, reaaliaikainen käyttö julkisissa tiloissa tulee todennäköisesti olemaan juuri tällainen.
Säätely tulee toisaalta todennäköisesti sallimaan kasvojentunnistusta hyödyntävien tekoälyjärjestelmien käytön hyvin suppeassa käytössä lainvalvontatarkoituksissa, kuten sieppausten, ihmiskaupan ja terrori-iskun uhan kohdalla.
Tekoäly nostaa kasvojentunnistuksen uudelle tasolle
Kasvojentunnistus ei sinänsä tarvitse tuekseen tekoälyä, sillä se perustuu kasvonpiirteiden, kuten silmien, kulmakarvojen, korvien ja muiden kasvonmuotojen etäisyyksien laskentaan. Tämä teknologia on kehittynyt muun muassa tietokoneiden laskentatehon kasvun ja parempien algoritmien seurauksena.
Petteri Järvisen mukaan kasvojentunnistuksen perusperiaatteet eivät ole muuttuneet ratkaisevasti vuosikymmenten aikana. Järvinen on tietotekniikan asiantuntija, kouluttaja ja konsultti. Hän on julkaissut kymmeniä tietotekniikkaa käsitteleviä kirjoja vuodesta 1986, viimeisimpänä Tekoäly ja minä syksyllä 2023.
Uutta on nyt se, että kasvojentunnistuksen tukena toimivan tekoälyn vertailuaineistoksi on otettu internetistä löytyviä miljoonia kasvokuvia. Kasvojentunnistusta ja tekoälyä on kehitetty niiden avulla tunnistamaan tiettyjä ihmisiä laajasta kasvotietojen massasta.
Uutta on nyt se, että kasvojentunnistuksen tukena toimivan tekoälyn vertailuaineistoksi on otettu internetistä löytyviä miljoonia kasvokuvia.
Clearview for AI -niminen yritys on synnyttänyt paljon keskustelua keräämällä internetistä miljoonittain kasvokuvia. Kosken mukaan tämä toiminta on ollut jo nykyisen GDPR-asetuksen vastaista. Clearviewn aineiston käytön ongelmat on saanut tuntea myös Suomen keskusrikospoliisi, joka sai vuonna 2021 huomautuksen tietosuojavaltuutetun toimistolta.
Ongelmana virheelliset tunnistukset
Kun poliisi ja muut viranomaiset käyttävät tekoälyllä terästettyä kasvojentunnistusta rikollisten etsintään, törmätään tekoälylle tyypilliseen ongelmaan: se on täysin riippuvainen sen käytössä olevan opetusmateriaalin laadusta. Jos kasvokuvamateriaali on esimerkiksi iän, sukupuolen tai ihonvärin osalta vääristynyttä, heikkenee tunnistuksen tarkkuus.
– Kasvojentunnistuksessa on suuret mahdollisuudet väärintulkinnoille ja sille, että massavalvonnan avulla pidätetään vääriä ihmisiä. Tekoälylle voi sattua yllättäviäkin virheitä, Petteri Järvinen kertoo.
Kasvojentunnistuksessa on suuret mahdollisuudet väärintulkinnoille.
Yhdysvalloissa ongelmia on ollut erityisesti ei-valkoisten kansalaisten tunnistamisessa, ja vääriä ihmisiä on pidätetty virheellisen kasvojentunnistuksen perusteella.
– Tämä voi toisintaa rakenteellista syrjintää, Katariina Koski toteaa.
EU:n tekoälyasetus vaatii, että järjestelmien pitää olla luotettavia eli ne on koulutettava ja testattava niin, ettei epäoikeudenmukaisia vinoumia synny.
Kasvojentunnistusta on helppo harhauttaa, sillä kasvoja voi muovata tai peittää siten, etteivät kasvojentunnistusmenetelmät niitä tunnista.
Sen sijaan elektroninen henkilötunnistus, seuranta ja valvonta esimerkiksi mobiililaitteen ja sen sovellusten avulla on Järvisen mukaan huomattavasti tehokkaampi tapa henkilöseurantaan. Siihen liittyy hänestä myös enemmän vaaroja kuin kasvojentunnistukseen perustuvaan massavalvontaan.
Kasvojentunnistus apuna kadonneiden etsintään
Kasvojentunnistus voi olla myös hyödyllinen työkalu. Positiiviset käyttötarkoitukset, kuten kadonneiden henkilöiden etsintä, on tunnistettu ehdotetussa EU:n tekoälyasetuksessa.
Tulevan tekoälyasetuksen rinnalla on huomioitava henkilötietojen käsittelyä koskeva tietosuoja-asetus ja kansallinen tietosuojalainsäädäntö.
– Biometristen tunnisteiden käytölle on asetettu tarkkoja kriteerejä jo olemassa olevassa lainsäädännössä. Niiden käsittely henkilön yksiselitteistä tunnistamista varten on kielletty, ellei ole laillista perustetta, kuten henkilön oma nimenomainen suostumus tai tärkeää yleistä etua koskeva syy, Koski sanoo.
Aika pitkälle pärjäämme kameravalvonnan kanssa pelkästään salakatselua koskevalla lailla ja GDPR:llä.
Järvinen korostaa, että uusia teknisiä järjestelmiä suunniteltaessa pitää aina miettiä niiden vaikutuksia. Ongelmana on se, että teknologia kehittyy valtavan nopeasti, emmekä voi ennakoida kaikkia vaikutuksia.
– Teknologiakohtaista säätelyä tarvitaan aika vähän. Aika pitkälle pärjäämme kameravalvonnan kanssa pelkästään salakatselua koskevalla lailla ja GDPR:llä, Järvinen muistuttaa.
Lisää lukemista
EU reaches deal on world’s first comprehensive AI regulation (iapp.org)
Apulaistietosuojavaltuutetun huomautus ja määräykset tietoturvaloukkausta koskevan ilmoituksen johdosta (finlex.fi)
Big Brother is watching: China has one surveillance camera for every 2 citizens! (firstpost.com)
Tämän jutun kuvitus on tuotettu Adoben Fireflylla, joka on generatiivinen tekoälysovellus. Kuvituksen pohjana on käytetty ainoastaan Adobe Stockin kuvapankkivalikoimaa ja sisältää vain kuvia, joihin käyttäjillä on oikeudet.
