Amazon a construit, între 2014 și 2017, un sistem care să citească CV-uri și să le noteze automat. L-a antrenat pe zece ani de candidaturi primite. Sistemul a învățat repede ceva ce nimeni nu-i ceruse: să penalizeze cuvântul „women's" — ca în „women's chess club captain" — și absolventele unor facultăți exclusiv feminine. Amazon a concluzionat că nu poate garanta neutralitatea și a abandonat proiectul.
Nimeni nu programase discriminarea. Sistemul a dedus-o singur, din date. Exact asta face învățarea automată — machine learning, cum îi zice toată lumea — și aici e și puterea, și capcana ei. Aproape tot ce se înțelege greșit despre domeniu pornește de aici.
Mitul 1: „Sistemul înțelege ce face"
Nu înțelege nimic. Un model de machine learning face un singur lucru: găsește tipare statistice în datele pe care le-a văzut și le aplică pe date noi.
Mecanismul are trei piese. Datele sunt exemplele din care învață. Modelul e structura matematică ce se ajustează treptat: primește un exemplu, ghicește, verifică dacă a nimerit, se corectează, și repetă de milioane de ori. Predicția e ce iese la final, aplicat pe ceva ce n-a mai văzut.
Când un filtru spune „acest email are 95% șanse să fie spam", nu a înțeles conținutul. A observat că mesajele cu anumite caracteristici au fost marcate ca spam în datele de antrenament. Diferența pare filozofică, dar are consecințe foarte practice — următoarele patru mituri sunt toate versiuni ale acestei confuzii.
Mitul 2: „Cu cât mai multe date, cu atât mai bine"
Cantitatea ajută doar dacă datele reprezintă corect realitatea pe care vrei s-o prezici. Amazon avea zece ani de CV-uri. Foarte multe date. Problema era că veneau dintr-o industrie dominată de bărbați, iar modelul a învățat exact tiparul ăsta.
Un model nu poate fi mai bun decât datele lui, iar „mai multe" nu înseamnă „mai variate". O mie de exemple echilibrate bat un milion de exemple părtinitoare. Iar dacă antrenezi prea mult pe aceleași date, apare problema opusă — modelul memorează în loc să generalizeze, ceea ce am explicat separat în overfitting și underfitting.
Mitul 3: „Odată antrenat, un model merge la nesfârșit"
Un model învață lumea așa cum arăta când a fost antrenat. Când lumea se schimbă, el nu află.
Cel mai clar exemplu colectiv a fost martie 2020. Modelele de predicție a cererii, antrenate pe ani de comportament normal, s-au rupt simultan în aproape toate industriile. În aviație, niciun model n-a prezis scăderea de circa 90% a traficului de pasageri din aprilie 2020. Nu pentru că erau prost construite, ci pentru că nimic din datele lor nu conținea așa ceva.
Fenomenul are un nume — deviere de model, sau model drift în literatura de specialitate — și e mult mai banal decât o pandemie. Se schimbă obiceiurile clienților, apare un concurent, se modifică o lege: modelul continuă să răspundă cu încredere, pe baza unei lumi care nu mai există. De-aia sistemele serioase sunt reantrenate periodic și monitorizate, nu lăsate în funcțiune ca un cuptor cu microunde.
Mitul 4: „Machine learning poate rezolva orice problemă"
Zillow, cea mai mare platformă imobiliară din Statele Unite, a construit un business pe încrederea că algoritmul ei poate estima prețul unei case. Cumpăra locuințe la prețul prezis de model și le revindea. În noiembrie 2021 a închis divizia, a anunțat 569 de milioane de dolari în deprecieri și a concediat un sfert din angajați. Pierderea medie: aproximativ 30.000 de dolari pe casă.
Explicația e mai interesantă decât „algoritmul a greșit". Cercetătorii de la Stanford au arătat că modelul nu putea vedea lucruri care contează enorm la o casă: stilul arhitectural, zgomotul din cartier, cât de îngrijită e curtea. Asta a produs o selecție adversă — proprietarii caselor bune refuzau oferta, considerând-o prea mică, iar proprietarii caselor cu probleme o acceptau imediat. Zillow cumpăra sistematic exact ce modelul supraevalua.
Lecția nu e că machine learning-ul nu funcționează la evaluări imobiliare. E că un model e orb la tot ce nu există în datele lui — iar dacă oamenii din piață știu unde e orb, vor exploata asta fără să vrea.
Mitul 5: „Algoritmul e obiectiv"
Aici revenim la Amazon, și merită spus explicit ce s-a întâmplat.
Sistemul n-a primit niciodată instrucțiunea „preferă bărbații". A primit istoricul de angajări al companiei și sarcina de a-l reproduce. Iar istoricul acela conținea o realitate a industriei. Modelul a făcut exact ce i s-a cerut: a învățat tiparul. Faptul că tiparul era discriminatoriu n-a fost o eroare tehnică, ci o reflexie fidelă a datelor.
Fenomenul se numește bias algoritmic, și e cel mai documentat eșec al domeniului. Un model nu e mai obiectiv decât oamenii care aleg datele, definesc ce înseamnă „succes" și decid ce contează. Singura diferență e că prejudecata devine invizibilă, automată și scalabilă.
Bias-ul în machine learning nu se repară din cod. Se repară alegând alte date, sau renunțând — ceea ce Amazon a și făcut, după trei ani.
Machine learning sau învățarea automată?
Amândouă sunt corecte, dar nu se folosesc la fel. „Machine learning" e forma din vorbirea profesională și din anunțurile de angajare; „învățarea automată" apare în manuale, în lucrări academice și în textele oficiale. Dacă scrii un CV, pune-l pe primul. Dacă dai un examen, pe al doilea.
Prescurtarea ML acoperă ambele. Și încă o precizare care scutește confuzii: învățarea automată nu înseamnă același lucru cu inteligența artificială. Învățarea automată e metoda principală prin care se construiește AI-ul de azi, nu domeniul întreg.
Cele trei tipuri, pe scurt
Terminologia devine utilă abia după miturile de mai sus, pentru că fiecare tip eșuează altfel.
Supervised learning învață din exemple etichetate: mii de emailuri marcate „spam" sau „nu". E cel mai folosit și cel mai expus problemei Amazon — dacă etichetele sunt părtinitoare, tot ce urmează e părtinitor. Diferențele față de varianta nesupervizată sunt detaliate în supervised vs unsupervised learning.
Unsupervised learning nu primește etichete; caută singur structuri în date. Îl folosesc magazinele ca să grupeze clienți cu comportament similar. Riscul e altul: găsește tipare reale, dar fără sens pentru tine.
Reinforcement learning învață prin încercare și recompensă, ca un joc. E cel care a produs sistemele care bat oameni la șah și Go, dar cere un mediu în care greșelile sunt ieftine — motiv pentru care merge mai bine în simulare decât în lumea reală. Detaliile sunt în ce este reinforcement learning.
Ce să reții când cineva îți vinde machine learning
Trei întrebări care separă un proiect serios de o prezentare frumoasă:
- Pe ce date a fost antrenat, și cine le-a ales? Dacă răspunsul e vag, restul nu contează. Amazon avea date impecabile tehnic și complet nepotrivite pentru scopul declarat.
- Când a fost reantrenat ultima dată? Un model din 2023 care rulează neatins în 2026 e o presupunere, nu o predicție.
- Ce nu vede modelul? Întrebarea care l-a costat pe Zillow o jumătate de miliard de dolari. Lucrurile absente din date nu devin neimportante — devin doar invizibile.
Părerea mea, după toate exemplele de mai sus: machine learning-ul e remarcabil de bun la probleme unde tiparele din trecut chiar se repetă, și remarcabil de prost la orice altceva. Cele mai scumpe eșecuri din domeniu nu vin din modele slabe, ci din oameni care au presupus că prima categorie e mai largă decât e.
Dacă vrei contextul mai larg, despre cum se încadrează machine learning-ul în restul domeniului, pornește de la ce este inteligența artificială.
Întrebări frecvente
Ce este machine learning?
Metoda prin care un sistem găsește singur tipare statistice în date și le aplică pe cazuri noi, fără să fie programat explicit pentru fiecare situație. Nu înțelege ce face: recunoaște regularități în exemplele pe care le-a văzut.
Ce înseamnă machine learning în română?
Învățare automată. Forma engleză se folosește în mediul profesional, cea românească în manuale și lucrări academice. Prescurtarea ML acoperă ambele.
Care e diferența dintre inteligență artificială și machine learning?
Inteligența artificială e domeniul larg. Învățarea automată e metoda dominantă prin care se construiește AI-ul de azi: în loc să fie programat pas cu pas, sistemul deduce regulile din exemple.
Care sunt tipurile de machine learning?
Trei: supervised learning, care învață din exemple etichetate; unsupervised learning, care caută singur structuri în date neetichetate; și reinforcement learning, care învață prin încercare și recompensă.
De ce greșesc modelele de machine learning?
Cel mai des din trei motive: datele de antrenament nu reprezintă realitatea pe care o prezic, lumea s-a schimbat de la antrenament încoace, sau modelul e orb la factori care contează dar lipsesc din date.
