Alexandra Cernian: de ce AI-ul nu e un super om, e matematică

Salut. Acesta este AI AFLAT. Asta e versiunea scurtă a discuției mele cu Alexandra Cernian — conferențiar la Politehnica din București, cu aproape două decenii în inteligență artificială și peste două sute de sesiuni de training AI în companii. Discuția întreagă durează o oră și e în descriere. Astea sunt șapte minute din ea. Cele care contează cel mai mult. Dacă nu ai aflat deja, afli acum.

lumea îl tratează ca pe un om și nu numai că îl tratează ca pe un om, ci ca pe un super om care știe tot. Și ăsta este un risc foarte mare pentru că în final ele rămân niște modele. Nu e magie acolo, este o matematică foarte complexă și aceste modele au ajuns la un nivel foarte ridicat de performanță, numai dacă vorbim strict pe partea de text. Vorbesc foarte convingător, îți dau niște răspunsuri foarte bine structurate, dar ele ce știu să facă este să repună într-o altă formă tot ce au învățat din limbajul uman, că ele pe asta se bazează pe multe, pe cantități foarte mari de texte umane din care au învățat, și să le pună într-o altă formă. Ea îi greșește pentru că așa îi dă din probabilitățile matematice, adică este tot o pură matematică în spate, dar el este instruit de cei care îl dezvoltă că trebuie să-ți dea un răspuns și dacă se poate un răspuns care să fie pe placul tău. Și atunci greu va ajunge în situația în care să spună eu nu știu să-ți răspund la întrebarea asta și punct.

Și asta de multe ori ne induce în eroare pentru că dacă noi întrebăm despre un subiect pe care noi nu-l cunoaștem, riscăm să credem ceva care este greșit și să aplicăm ceva care este greșit și să ne trezim în situații neplăcute. Și te-aș întreba în business, vezi cum simți, cum ai auzit, oamenii au reticență sau poate n-au? Și ce am văzut eu din experiența de până acum în companiile în care integrarea AI a fost un proiect de succes, au făcut astea trei lucruri foarte importante O dată au plecat de la o decizie de business pe care vroiau să o îmbunătățească sau de la niște procese pe care vroiau să le schimbe și au tratat integrarea AI nu ca pe un proiect IT, ci ca pe o redesenare sau o reproiectare a felului în care lucrează organizația și a proceselor lor de business.

Apoi, conducerea a stat în permanență acolo, în proiect și a participat activ în tot ce a însemnat această redesenare. Și în al treilea rând, nu doar au pus angajaților în mână un instrument nou pe care să-l folosească, ci s-au preocupat ca inclusiv competențele lor digitale și partea asta de AI literacy să fie ajustată și să le formeze aceste noi competențe Noi nu știm pe ce date au fost ele antrenate și de multe ori se dovedește că nu au fost date corecte sau că au fost date care includeau anumite tipuri de prejudecăți De fapt am un exemplu de la una din cele mai mari companii de ride sharing care a implementat acum câțiva ani deja un algoritm cu inteligență artificială care decidea automat când să suspende sau când să concedieze șoferi. Și cumva ei spuneau că acest algoritm identifică comportamentele dubioase ale șoferilor Doar că ce însemna dubios pentru acest sistem era un complet black box Nimeni nu primea explicații legat de ce a fost dubios, de ce, pe ce și-a bazat decizia Și evident că la un moment dat când s-a repetat acest fenomen, șoferii s-au dus în instanță, au dat în judecată compania Algoritmul a decis sau algoritmul a făcut asta și asta Responsabilitatea rămâne 100% a organizației sau a utilizatorului.

Dacă mai dai voie, aș încheia și cu un exemplu pozitiv. Am vorbit de situații de riscuri, dar există și cazuri de succes. Aș spune aici din lecția învățată de la o mare companie din retail-ul farmaceutic, pentru că au zis că avem atâtea date și deciziile le luăm tot cu intuiția, le luăm tot cu tabelele Excel și se poate mai bine de atât. și au folosit datele pe care le aveau la dispoziție ca să construiască un sistem care să coreleze partea asta de sezonalitate cu promoțiile pe care le făceau și cu evenimente în timp real, inclusiv cu factorii, prognoza meteo și alte lucruri de genul ăsta și au măsurat ca să dovedească că impactul nu e doar că au mai adus un soft în companie, încă un instrument pe care oamenii să-l folosească Au măsurat și timpul de vedere financiar și la finalul proiectului pilot, au făcut un pilot de un an de zile, au văzut că au îmbunătățit partea de... Au optimizat stocurile cu vreo 60%, au redus costurile cu vreo 10% și au generat niște economii, în jur de 1 milion de euro au fost în proiectul ăla pilot, doar pentru că au reușit să optimizeze stocurile din depozitele centrale Deci ăsta s-a dovedit că a fost un proiect de succes cu un impact real și măsurabil, dar care a fost posibil pentru că proiectul n-a fost tratat ca pe ceva, punem acolo la IT, a fost un proces în care managementul a fost implicat, a fost o decizie de management asumată și în care angajați, au fost vreo 20.000 de angajați care au fost implicați în acest proiect pilot, au fost instruiți ca să înțeleagă că vor folosi aceste AI ca pe un GPS care să-i ghideze, nu ca pe un înlocuitor de decizii pentru ei Asta a fost versiunea scurtă. Discuția întreagă — o oră cu Alexandra Cernian — e în descriere. Dacă AI AFLAT deja, ajută-i și pe alții să afle.

Numai bine!