Teisingumo svarstyklės ir silicio smegenys
Įsivaizduokite, kad sėdite teismo salėje. Teisėjas žiūri į ekraną, o ne į jus. Algoritmas jau apskaičiavo, kokia tikimybė, kad vėl nusikalsite. Skaičius – šaltas, tikslus, nenuginčijamas. Bent jau taip atrodo iš šalies.
Tai nėra distopinis romanas. Tai vyksta dabar – Jungtinėse Valstijose, Europoje, ir pamažu šie procesai slenka link mūsų teismų salių.
Ką algoritmai veikia teismuose
Dirbtinis intelektas teisingumo sistemoje nėra vienas daiktas – tai visas ekosistemos sluoksnis. Vieni įrankiai analizuoja recidyvizmo riziką, kiti padeda rūšiuoti bylas, treti ieško precedentų tūkstančiuose dokumentų greičiau, nei bet kuris advokatas suspėtų išgerti kavą.
COMPAS sistema Amerikoje tapo bene garsiausiu pavyzdžiu. Ji vertina nuteistųjų grįžimo prie nusikaltimų tikimybę ir teisėjai naudoja šiuos duomenis priimdami sprendimus dėl lygtinio paleidimo. Skamba racionaliai – kol nepradedi klausinėti, kaip sistema mokosi ir kokiais duomenimis minta.
O duomenys – tai istorija. O istorija pilna šališkumo.
Problema, kurią sunku pamatyti
Algoritmai mokosi iš praeities sprendimų. Jei praeityje teismai buvo šališki tam tikrų socialinių grupių atžvilgiu – ir tyrimai rodo, kad buvo – algoritmas tą šališkumą ne pašalina, o įamžina. Įvilkia į matematikos rūbą ir padaro sunkiau ginčijamą.
ProPublica 2016 metais atliko tyrimą ir nustatė, kad COMPAS juodaodžius kaltinamuosius žymiai dažniau priskyrė aukštos rizikos kategorijai nei baltaodžius, padarančius panašius nusikaltimus. Sistemos kūrėjai ginčijosi su metodologija. Debatai tęsiasi iki šiol. Tačiau žmonės tuo metu jau sėdėjo kalėjimuose.
Yra ir kita problema – juodosios dėžės efektas. Daugelio sistemų veikimo principai yra komercinė paslaptis. Advokatas negali pilnai ginčyti sprendimo, kurio logikos niekas jam nepaaiškina. Tai fundamentaliai kerta su teisės principu, kad kiekvienas turi teisę žinoti, kuo yra kaltinamas ir kokiais pagrindais.
Europa bando rasti atsakymus
Europos Sąjungos Dirbtinio intelekto aktas, priimtas 2024 metais, yra bandymas šią chaosą suvaldyti. Jis priskiria teisingumo sistemoje naudojamus algoritmus aukštos rizikos kategorijai ir reikalauja skaidrumo, žmogaus priežiūros, galimybės ginčyti automatizuotus sprendimus.
Lietuva, kaip ES narė, šiuos reikalavimus perims. Teoriškai tai reiškia, kad algoritmas negalės priimti galutinio sprendimo – žmogus turi likti sprendimo grandinėje. Praktiškai – kai teisėjas mato skaičių ekrane, kaip lengva jam tikrai mąstyti savarankiškai?
Psichologai tai vadina automatizacijos šališkumu: mes linkę pasitikėti mašinomis labiau nei savimi, ypač kai esame pavargę ar sprendžiame sudėtingus klausimus. Teisėjai – irgi žmonės.
Kas iš to seka kiekvienam iš mūsų
Jūs turbūt niekada nesusidursite su recidyvizmo algoritmu. Tačiau dirbtinis intelektas jau dabar dalyvauja sprendimuose dėl paskolų, draudimo, net darbo interviu. Teisingumo sistema yra tik vienas – tiesa, ypač jautrus – šios platesnės tendencijos kampas.
Pilietis, kuris supranta, kad algoritmai nėra neutralūs, kad jie atspindi savo kūrėjų pasirinkimus ir duomenų, kuriais minta, istoriją, yra apsaugotas pilietis. Jis gali klausti. Gali reikalauti skaidrumo. Gali balsuoti už politikus, kurie šiuos klausimus laiko rimtais.
Ten, kur skaičiai susitinka su žmogiškumu
Teisingumas visada buvo nepatogus dalykas. Jis reikalauja žiūrėti į žmogų, suprasti kontekstą, priimti sprendimus, su kuriais galima nesutikti, bet kuriuos galima ginčyti. Algoritmai žada efektyvumą ir objektyvumą – abu dalykai viliojantys, abu iš dalies apgaulingi.
Efektyvumas be teisingumo yra tik greitas klaidų darymas. O objektyvumas, pastatytas ant šališkų duomenų, yra tik šališkumas su geresniais ryšiais visuomenėje.
Tai nereiškia, kad technologijos neturi vietos teismuose. Jos gali padėti advokatams greičiau rasti precedentus, teisėjams – tvarkyti bylų krūvius, sistemai – pastebėti anomalijas. Tačiau sprendimas – ypač toks, kuris keičia žmogaus gyvenimą – turi likti rankose to, kas gali pažvelgti kaltinamajam į akis ir prisiimti atsakomybę.
Nes teisingumas nėra optimizavimo problema. Jis yra pokalbis tarp visuomenės ir individo, kuriame abu turi teisę kalbėti.
