Un sistem automat este echitabil dacă rezultatele lui nu dezavantajează sistematic anumite grupuri de oameni fără un motiv justificat. Verificarea se face comparând rezultatele între grupuri și examinând datele din care a învățat. Pe LumeaTehnologiei găsești explicații despre inteligența artificială, spuse pe înțeles.
De ce apar diferențe de tratament
Un sistem învață din date. Dacă acestea reflectă practici nedrepte din trecut sau lasă anumite grupuri aproape nereprezentate, sistemul va reproduce aceste tipare. Mai există și problema măsurătorilor: o variabilă aparent neutră poate fi, în realitate, un indiciu pentru ceva ce nu ar trebui să conteze.
Pașii unei verificări
- stabilești ce înseamnă „corect” în situația concretă, împreună cu cei afectați;
- cercetezi datele de antrenare: cine apare în ele și cine lipsește;
- compari rezultatele pentru grupuri diferite, de exemplu rata de aprobare sau rata de erori;
- testezi cazuri la limită și exemple construite special, ca să vezi cum reacționează sistemul;
- documentezi concluziile și repeți testul după fiecare modificare.
Ce compari, concret
Poți urmări dacă proporția deciziilor favorabile este similară între grupuri, dacă erorile apar la fel de des pentru toți sau dacă același profil primește același rezultat, indiferent de caracteristicile irelevante. Nu toate aceste criterii pot fi îndeplinite simultan, așa că trebuie să alegi, în mod explicit, ce contează mai mult în contextul tău.
Rolul omului în buclă
Un sistem automat nu ar trebui să fie ultimul cuvânt într-o decizie cu impact mare asupra vieții cuiva. Prevede o cale de contestare, în care o persoană reexaminează cazul. Explică, pe cât posibil, ce factori au contat, pentru ca omul afectat să înțeleagă și să poată reacționa. Datele ajung la model prin infrastructura web; vezi cum serverul web răspunde când ceri o pagină, ca să înțelegi traseul informației.
Greșeli frecvente
Prima este să crezi că ignorarea unei caracteristici sensibile rezolvă problema: alte variabile pot funcționa ca înlocuitori. A doua este testarea doar o dată, înainte de lansare, deși datele se schimbă în timp. A treia este lipsa dialogului cu oamenii afectați, care sesizează adesea probleme pe care echipa tehnică nu le vede.
Transparență și documentare
O echipă serioasă ține o fișă a sistemului: ce date a folosit, ce limite are, pentru ce situații nu este potrivit și cum a fost testat. Fișa ajută pe oricine ia decizii pe baza lui să înțeleagă dacă îl poate folosi într-un caz nou. Fără ea, un sistem bun într-un context poate fi aplicat, din greșeală, într-unul pentru care nu a fost gândit.
Publică, atunci când e posibil, rezultatele verificărilor, inclusiv punctele slabe. Recunoașterea unei limite ridică încrederea, nu o scade, și îi permite altcuiva să observe o problemă pe care tu ai ratat-o. Pentru context despre inteligența artificială, LumeaTehnologiei explică termenii fără jargon.
Ce poți cere ca utilizator
Dacă o decizie automată te privește, ai dreptul să întrebi cum a fost luată și să ceri o reexaminare de către un om. Păstrează comunicările primite și notează data și motivul comunicat. Aceste informații contează dacă vrei să contești rezultatul sau să sesizezi o instituție.
Recomandarea practică
Începe cu o întrebare simplă: cine ar putea fi dezavantajat și cum aș observa asta? Apoi construiește un tablou de bord cu rezultatele pe grupuri și revizuiește-l periodic. Pentru alte subiecte despre date și algoritmi, LumeaTehnologiei oferă lecturi clare, fără jargon.
