Alexandra Cernian: de ce nu trebuie să-ți delegi judecata către AI

Salut. Acesta este AI AFLAT. Episodul de azi e GuestStar. Un invitat, o discuție întreagă, fără grabă și fără rezumat. Dacă nu ai aflat deja, afli acum. Am vrut să povestim cu cineva care stă în două lumi deodată. Pentru că majoritatea oamenilor care vorbesc despre AI în România stau doar într-una. Alexandra Cernian este conferențiar la Facultatea de Automatică și Calculatoare a Politehnicii din București. Predă și face cercetare în inteligență artificială din două mii șapte. Adică dinainte ca lumea să știe ce înseamnă cuvintele astea. Are un doctorat în Ingineria Sistemelor, conduce doctoranzi și publică. Asta e prima lume. A doua arată așa: a ținut peste două sute de sesiuni de training și consultanță în AI, în companii din IT, fintech, retail și educație. Evaluează proiecte de inovație digitală pentru Comisia Europeană. Și e co-fondator la Recycllux — un proiect care detectează plastic în Marea Neagră din imagini satelitare, folosind AI. Deci nu vorbim cu cineva care a citit despre AI. Vorbim cu cineva care îl construiește, îl predă, și l-a văzut intrând în companii reale. Unde a funcționat.

Și unde a eșuat. Discuția a durat mai bine de o oră. Am început cu întrebarea care mă rodea: care a fost, de fapt, magia din Am început cu întrebarea care mă rodea: care a fost, de fapt, magia din spatele lui ChatGPT. La un moment dat s-a întâmplat o magie, un disruption și toată lumea a început să vorbească despre asta, deși părea că rămâne nișat. Eu îți dau dreptate, cam asta cred că s-a întâmplat.

Inteligența artificială în forma de concept și inclusiv în forma de aplicații în diverse domenii exista de mult, nu a apărut când a apărut ChatGPT. Era văzută ca un domeniu specializat, nișat pe anumite zone, care putea să aducă niște îmbunătățiri în zona medicală, în zona financiară Era legat mai mult de partea de science, de partea de cercetare sau de partea mai matematică a lucrurilor Când a apărut ChatGPT-ul, AI-ul a devenit super vizibil pentru toată lumea și a avut acest mare plus că a început să vorbească limba noastră. Nu trebuia să știi ce matematică e în spate, nu trebuia să fii specialist pe un domeniu, puteai să vorbești cu el ca și cum vorbeai cu prietenul, cu colegul de apartament. și atunci a devenit foarte ușor de integrat. Plus accesibilitatea, pentru că evident că toți producătorii acestor mari modele pe care se bazează AI-ul în forma despre care vorbește toată lumea, Adică AI generativ.

Își doreau ca lumea să adopte foarte mult tehnologia asta și atunci știi cum au fost la început. Toate erau gratuite și acum încă le poți folosi gratuit. E adevărat că au început să le limiteze din ce în ce mai mult ca acces gratuit și să te forceze cumva să plătești. Dar și dacă te gândești să plătești 20 de dolari pe lună pentru câtă interacțiune avem acum cu ChatGPT sau alte similare, Este tot o nimica toată. Probabil că în timp nu se va mai păstra modelul ăsta pentru că, economic vorbind, nu e un model viabil pentru companiile care le produc, dar e clar un model care a creat tot fenomenul ăsta, care nu mai are drum de întoarcere.

Chiar dacă modelul se va adapta, probabil că și din perspectiva utilizatorilor se vor forma grupuri care nu renunță la tot ce înseamnă AI. Și acum, cred că în cea mai mare parte a timpului, lumea când vorbește despre AI, vorbește despre aceste modele de inteligență artificială generativă, care sunt în definitiv doar o formă de inteligență artificială. Ea există în multe alte forme și a existat în alte forme și până s-apară ChatGPT. Acolo a fost un moment de răscruce care a schimbat foarte mult perspectiva publicului. Atunci publicul larg a văzut că există forma asta de tehnologie și mai mult decât atât a avut acces la ea și are acces aproape nelimitat și necontrolat în final.

Apoi responsabilitate. Acum am simțit cumva nevoia să ajung la responsabilitate pentru că discutam despre LLM și despre ce reușește cumva să înțeleagă publicul larg, mai ales în faptul că folosește limbaj. Iar limbajul, cum ziceam și anterior, are alte coordonate. Vorbim acum cu el și el vorbește cu noi. What are the risks?

Sunt multe riscuri și le vedem deja, dacă ne gândim doar la riscurile pe termen scurt și mediu. Faptul că acum utilizatorii consideră AI-ul o formă de autoritate. Se duc către AI cu întrebări sensibile legate de sănătate, financiar, juridic, adică domenii foarte delicate unde totuși expertiza unui specialist este greu să fie denlocuit cu aceeași responsabilitate de orice fel de instrument și despărtirea suferită și așa mai departe. Și lucrurile astea sunt foarte delicate, pentru că revenind la ce spuneai tu mai devreme, noțiunea asta de LLM a cam fost uitată. La început se vorbea mult despre aceste modele și cred că lumea totuși când auzea faptul că este un model de limbaj, mai punea încă o amprentă de tehnic, de matematic. E un model matematic al limbajului. Era așa undeva între. Acum lumea îl tratează ca pe un om și nu numai că îl tratează ca pe un om, ci ca pe un super om care știe tot. Și ăsta este un risc foarte mare pentru că în final ele rămân niște modele. Nu e magie acolo, este o matematică foarte complexă. Și aceste modele au ajuns la un nivel foarte ridicat de performanță, numai dacă vorbim strict pe partea de text. Vorbesc foarte convingător, îți dau niște răspunsuri foarte bine structurate, dar ele ce știu să facă este să repună într-o altă formă tot ce au învățat din limbajul uman, că ele pe asta se bazează pe multe, pe cantități foarte mari de texte umane din care au învățat, și să le pună într-o altă formă De ce ni se pare că e diferit de Google? Google îi punea o întrebare și îți dădea niște link-uri, te trimitea undeva unde poți să afli mai multe despre subiectul respectiv Modelele astea știu să reîmpacheteze informația și să facă să pară că este ceva nou și original Discutabil aici originalitatea Dacă în ce măsură recompunerea unor cunoștințe sau a unor informații devine o noutate absolută sau nu.

Dar în esență poate să pară că îți dă de fiecare dată un răspuns nou la întrebările pe care îi le formulezi Și faptul că este atât de convingător și faptul că de cele mai multe ori îți dă dreptate ca utilizator și îți împachetează răspunsul în așa fel încât tu să te simți bine și important, asta îți activează la utilizator și acele mecanisme cognitive în final de recompensă, de recunoaștere și îi face să se întoarcă de fiecare dată, inclusiv pentru problemele sensibile Și aici ajungem, apropo de partea de responsabilitate sau inclusiv de reglementare, către unde punem limitele.

Momentan ține mai mult de simțul de autocontrol și de felul în care fiecare utilizator gestionează relația pe care o are cu AI-ul de forma asta. Dar apar subiecte mult mai sensibile dacă vorbim de copii, de adolescenți care nu au aceste mecanisme încă dezvoltate și probabil niciun discernământ la fel de bine format ca un adult sau așa cum ne-am așteptat din partea unui adult ca să poată să separe răspunsurile corecte de răspunsurile greșite și se întâmplă foarte des ca aceste modele să greșească, dar nu fac asta din același motiv al omului de a minți. Știi cum se gândește poate elevul la școală, nu știu răspunsul la întrebarea asta, dar să inventezi ceva. Ea îi greșește pentru că așa îi dă din probabilitățile matematice, adică este tot o pură matematică în spate, dar el este instruit de cei care îl dezvoltă răspund la întrebarea asta și punct.

Și asta de multe ori ne induce în eroare pentru că dacă noi întrebăm despre un subiect pe care noi nu-l cunoaștem, riscăm să credem ceva care este greșit și să aplicăm ceva care este greșit. Dar cum vedem, partea de reglementări se mișcă destul de greu, deși există AI Act care a plecat de la ideea că trebuie stabilite niște limite, trebuie să existe un cadru formal în care această inteligență artificială să se manifeste Foarte bună inițiativa, doar că vedem că acum tot apar întârzieri și amânări pentru că de fapt e ușor să spui sistemele trebuie să fie transparente și explicabile Dar în final care sunt pașii concreți pe care îi vei forța pe dezvoltatori și pe utilizatori să îi urmeze sunt destul de greu de definit și încă nu există cred nici suficienții specialiști care să poată să pună exact punctul pe i aici pentru că s-au întâmplat atât de repede lucrurile încât și specialiștii în domeniu au fost dați peste cap puțin de cum au mers toate evenimentele Da, și este fascinant că se dezvoltă în plain sight, în văzul tuturor, cred că zicea la un moment dat și Samuel Altman că e cu adevărat și bănuiesc că este o adrenalină extraordinară să dezvolți în fața milioane de oameni și nu ai cum să controlezi cu adevărat reacții și așa mai departe.

Acum revenind un pic sau apropiindu-ne poate spre business, eu știu clar un caz, dar n-am neapărat coordonatele, dar poate vorbesc după aia despre asta Exact unde poate vrea cineva să se uite mai departe, despre un departament de data, cred, într-un business care a folosit AI și a folosit AI pe hype Și cu bucuria descoperirii că ce bine face AI -ul, până când și-au dat seama după câteva luni deja că inventase anumite date Dacă AI AFLAT deja, ajută-i și pe alții să afle.

vezi, cum simți, cum ai auzit, oamenii au reticență sau poate n-au? La toate lucrurile cu un grad de noutate, unii sunt foarte deschiși să adopte și sunt curioși să experimenteze, alții sunt mai reticenți și preferă să rămână într-o formă de negare o perioadă de timp. Am auzit ambele variante.

Vrem să punem AI și o să revin aici la problemele care apare în abordarea asta și am auzit și varianta în care eu nu folosesc deloc, nu am niciun fel de cont, nici nu vreau să știu că există și ce poate să facă.

și în companii în zona de business să fie adoptată inteligența artificială, însă aici cred că una din problemele pe care le vedem este că în loc să se plece de la niște procese de business sau de la niște decizii care se pot optimiza sau care se doresc îmbunătățite prin inteligența artificială și de la o analiză a datelor disponibile, că AI fără date egal zero, ne trezim în situația în care vrem să adoptăm AI, dar fără să avem un flux de lucru pentru el. și cred că aici rezultatele pe care le vor putea raporta aceste companii nu se ridică la nivelul așteptărilor pentru că nu stabilești un obiectiv clar și realizabil în tot procesul ăsta. Și pe urmă în multe companii ce văd că se întâmplă este că e tratat ca fiind un upgrade tehnologic al companiei, ca un proiect IT IT, ceea ce nu mai este cazul, pentru că a devenit și este foarte important să fie tratat ca o decizie de management, în care managementul să fie implicat.

Pentru că acum cred că ce se întâmplă cel mai mult în zona de companii este că AI-ul este clar foarte mult adoptat la nivel individual, de angajați, Pentru că fiecare vede că am de făcut un raport, în loc să stau să-mi fac o research o săptămână, să scot datele din N surse, îl întreb pe ChatGPT Problema este că ChatGPT pe date, lucrând cu modele statistice, le mai încurcă și de asta ne trezim de multe ori în situația în care ne dă date greșite Treaba cu inventatul de date este mai mult sau mai puțin accurate pentru că el nu le inventează în sensul că se gândește acum o să inventeze niște date. Așa rezultă din algoritmii pe care îi folosește el în spate și rezultă niște date împerechiate greșit care nu sunt de fapt cele reale. La fel cum face și cu sursele. Tu chiar dacă îi spui dă-mi sursele din care te-ai documentat, o să descoperiți de multe ori că link-urile acelea nu există sau îți dă, îți pune, l-am luat din raportul X care poate nu există sau se numește altfel și care conține cu totul alte date decât cele pe care ți le-a raportat ție ChatGPT sau oricare dintre ele.

Și aici apar probleme, cum spuneai și tu, că au fost, uite, deja cred că foarte cunoscute acele cazuri din Big Four, care au luat și niște amenzi foarte usturătoare, pentru că au dat mai departe niște rapoarte generate cu inteligența artificială, în care datele nu erau reale și când s-a verificat acest lucru și a fost constatat, evident că lucrurile au luat o altă întorsătură. Și asta este o altă problemă, că o dată folosim integrarea AI-ului în companii, nu se face ca o decizie organizațională cu o strategie, cu un proces de analiză, cu un proces de implementare clar și foarte important cu training -ul angajaților, cu integrarea foarte bună a angajaților în ceea ce înseamnă acest proces Și atunci, revenind la ce spuneam mai devreme, angajații folosesc pe cont propriu, individual, inteligența artificială, nu întotdeauna luându-și cele mai bune măsuri de precauție și de verificare a informațiilor pe care le primesc de la AI Și ajunge în situații din astea în care folosesc mai departe sau dau mai departe ceva greșit Ce am văzut eu din experiența de până acum în companiile în care integrarea AI a fost un proiect de succes?

Au făcut astea trei lucruri foarte importante. O dată au plecat de la o decizie de business pe care vroiau să o îmbunătățească sau de la niște procese pe care vroiau să le schimbe și au tratat integrarea AI nu ca pe un proiect IT, ci ca pe o redesenare sau o reproiectare a felului în care lucrează organizația și a proceselor lor de business.

Apoi, conducerea a stat în permanență acolo, în proiect și a participat activ în tot ce a însemnat această redesenare. Și în al treilea rând, nu doar au pus angajaților în mână un instrument nou pe care să-l folosească, ci s-au preocupat ca inclusiv competențele lor digitale și partea asta de AI literacy să fie ajustată și să le formeze aceste noi competențe Și cred că de acum încolo va fi foarte important ca aceste competențe să fie integrate în tot ce ține de training-ul angajaților și de formarea tinerilor Pentru că de acum încolo problema nu o să mai fie de acces, că momentan toată lumea are acces Adică nu mai este un diferențiator, cum poate era înainte. Aveai un buget substanțial, puteai să îți dezvolți un sistem care să aibă niște AI, machine learning, prelucrare de limbaj natural, orice genul ăsta.

Și de diferenția. Înainte era un diferențiator. Aveai în companie un instrument bazat pe inteligență artificială, era clară că ai făcut niște investiții, că ai avut un plan de implementare și tot așa. Acum accesul la AI generativ nu mai e un diferențiator, că toată lumea îl are. Deci, practic, toată lumea poate să fie mai productivă și mai eficientă în ce face. Problema e cum integrezi asta în activitatea ta, de zi cu zi, și pe plan personal și pe plan profesional.

Iar organizațional vorbind, acolo diferența o să fie făcută de companiile care integrează într-un mod inteligent instrumentul ăsta în procesele lor de lucru și în felul în care își formează angajații ca oamenii să folosească în mod corect instrumentul ăsta. Adică de acum problema nu mai este doar să știu că să-l întreb ceva.

Problema este să știu când să nu am încredere în ce-mi spune și să învăț cum să-mi pun întrebări suplimentare plecând de la răspunsul pe care mi l-a dat. Deci știu că în tot ce ținea de zona de comunicare, întotdeauna ni se explica că este foarte important să știm să adresăm întrebări și făceam în toate training-urile de comunicare, exerciții legate la coaching și terapie Exact.

Acum trebuie să punem în aplicare aceste skill-uri și când vine vorba de AI. Mi-a dat un răspuns, regula numărul unu este să nu iau de bun răspunsul ăla și să-l cred orbește, că nu-mi deleg judecata către AI. AI. Devine și mai important acum, când am văzut un răspuns, să mai generez încă cinci întrebări. Dar de ce mi-a spus inteligența artificială asta? Dar pe ce și-a bazat răspunsul? Dacă nu e așa, cumva să încep să combat răspunsurile până ajung la forma finală în care știu că pot să am încredere.

dar cred că procesul ăsta de reeducare este clar unul de durată mai ales atunci când vorbim de mase foarte mari de oameni acum fiind accesibil oricui Ok, am înțeles, hai să comunicăm către oameni că suntem și aici Dar ce mi se pare mie cumva paradoxal sau poate, nu știu, eu așa-l văd, ca fiind un mic paradox Oamenii ăștia și cred că majoritatea vin de peste ocean cu filozofia asta lor de move fast, break things, we don't care, let's get it out there nu? Hai să ne suim și noi în trenul ăsta. Poate, în sfârșit, ne suim când trebuie în trenul ăsta. Eu chiar și...

Asculți AI AFLAT, primul podcast din România dedicat exclusiv AI. Cum și cum înțelegem corect termenul de adoptare? Probabil într-o formă sau alta, doar că deschizi un orice tool de AI și îl întreb ce să mănânc eu asta, e mai mult sau mai putin o adoptare. Adică întrebarea este și mai ales dacă ne gândim din punct de vedere a business, cum măsurăm această adoptare și cum măsurăm impactul? Pentru că ideea ar fi ca integrând aceste tool-uri în ce facem noi zi de zi să avem un impact pe care să-l putem măsura și dovedi. Iar în business ăsta este esențial. Adică dacă încerci să faci orice proiect cu AI fără să știi ce măsori la final, nu e foarte înțelept. Adică ar trebui să știi ce anume urmărești, care sunt obiectivele și cum le măsori, ca în final să poți să spui dacă return -ul pe care ți-l aduce este unul pozitiv sau unul fără. Asta e un caz pierdut. Aici sunt multe lucruri pentru că companiile în general încearcă să experimenteze cu inteligența artificială și se gândesc la tot felul de use case-uri în care ar putea să fie folosit.

Multe dintre proiectele astea rămân la stadiul de pilot pentru că la final atunci când se măsoară impactul se constată că nu este unul tocmai pozitiv pentru că AI-ul ăsta are și niște costuri ridicate de implementare atunci când ne gândim în zona de enterprise și corporate Nu e o magie cu un buton gratis pe care am apăsat și care a făcut totul, adică fără ca noi să mai trească să gândim scopul pentru care îl implementăm Și atunci aici apar până la urmă principalele bariere în ce înseamnă integrarea în zona asta organizațională Iar pe de altă parte, dacă ne gândim la adoptarea în masă, cred că statisticile ne arată că sunt convinsă că în orașele mari lumea folosește mult aceste modele Probabil că poziția pe care o avem în statisticile europene se leagă și de gradul mai mic de utilizare în zonele mai puțin urbane Unde probabil și profilul angajaților e diferit și profilul oamenilor e diferit Și cred că asta este o justificare pentru poziția pe care o ocupăm Dar în afară de asta, cred că se dovedește din punct de vedere tehnologic, ne dovedește încă o dată că suntem late adopters Asta s-a întâmplat în România cel puțin din punct de vedere tehnologic, s-a întâmplat cu toate tehnologiile N-am fost niciodată printre aia care să se ducă primii la petrecere și să exploreze potențialul Noi am așteptat să vedem ce se întâmplă și după aceea să ne hotărâm Și cred că asta se întâmplă acum și cu inteligența artificială.

Pe de altă parte, se leagă și de faptul că nu există o strategie clară, la nivel național mă refer aici, o strategie națională de adoptare a inteligenței artificiale planuri concrete. Adică, vorbind așa top -down, aici se vede la toate nivelurile, și pe plan național, și pe plan organizațional, că aici încă lipsesc niște mecanisme care să...

ducă către ceva de succes, cum spuneam și despre companii. Dacă nu pleacă de la top management, o să ajungem în situația în care... inteligența artificială, dar foarte fragmentat și cred că asta se întâmplă acum peste tot. E un tool folosit, în principiu toată lumea știe despre el, îl folosește punctual fiecare în scopuri proprii, dar nu există o viziune generală care să ne ducă către ceva unitar mai mare către care să ne propunem să folosim treaba asta. În locul dat, fiecare face ce poate.

Probabil este o etapă normală în adoptarea oricărui element nou, numai că în cazul ăsta, pentru că este atât de democratizat acum accesul, vine cu riscurile legate de... și de felul în care fiecare utilizator evaluează ceea ce primește din partea AI -ului. Mă aștept un pic și în zona de cercetare, în zona de educație, pentru că sunt curios un pic și cum vezi viitorul. Am discutat mult despre prezent și cum s-a întâmplat și cum am ajuns aici, dar înspre viitor, oare generațiile care vin, tu predai la Poli, deci cumva oamenii ăștia au un background cel puțin mai bun, tehnic și înțeleg mult mai ușor un mecanism, înțeleg o probabilitate, înțeleg un token și așa mai departe Deci nu sunt neapărat ușor de păcălit în sensul ăsta, dar la nivel de... ai putea să îmi zici cum îi simți pe noile generații, cum se simt?

Ei sunt clară, au acest entuziasm sau această obișnuință deja legată de folosirea tehnologiei Ei s-au născut digitali cu telefonul în mână. Acum forme de inteligență artificială sunt integrate în multe din aplicațiile pe care noi le folosim zi de zi, chiar dacă nu sunt neapărat modelele astea de ultimă generație. Ei din punctul ăsta de vedere nu au o reticență sau o problemă în a folosi. Cred că principala lor dificultate sau principala lor provocare din punctul ăsta de vedere va fi să nu confunde viteza cu care pot să primească un răspuns din partea acestor aplicații cu formarea unor competențe.

Acum, într-adevăr, accesul la informații este foarte rapid, numai că formarea unor skill-uri sau dobândirea unor cunoștințe mai profunde despre un subiect sau despre un domeniu Mult mai mult studiu. Ai văzut s-au făcut deja tot felul de studii care ne-au arătat că folosirea instrumentelor de inteligență artificială nu favorizează neapărat partea de dezvoltare cognitivă. La MIT a fost făcut un studiu în care un grup a făcut un studiu pe un anumit subiect fără AI și ceilalți au avut acces la AI. La evaluarea finală s-a dovedit că cei care au folosit AI reținuseră și practic integraseră în cunoștințele lor mult mai puțin decât cei care au făcut documentarea folosind metodele tradiționale. Cred că aici o să fie pe viitor provocarea foarte mare și a sistemului educațional și a formării continue.

Cum ne asigurăm că rămânem în zona asta de profunzime? Cum ne ducem în zona de a aprofunda niște cunoștințe și de a construi pe bune niște specialiști și niște competențe reale în diverse domenii? Pentru că acum ne bătăm foarte tare cu ce face inteligența artificială și ne ducem în extrema în care zicem că îi face AI-ul totul pentru noi Dar la un moment dat o să ajungem să delegăm orice facem în viața noastră și în viața de zi cu zi și în partea profesională Delegăm către AI, odată o să devenim mai irrelevanti, dar în al doilea rând asta implică niște riscuri pentru noi ca indivizi și ca angajați Pentru că delegând aceste decizii și despre viața personală și în activitatea profesională către o inteligență artificială Noi nu facem momentan altceva decât să delegăm o responsabilitate pe care AI-ul nu este în măsură să-și o asume. El nu are noțiunea de adevăr, nu are niciun fel de coloană vertebrală atunci când vorbim de responsabilitate și de etică.

Și atunci faptul că noi avem atâta încredere în aceste instrumente se va întoarce și în defavoarea noastră mai devreme sau mai târziu. Și eu cred că aici e important să formăm aceste competențe în zona educațională, nu mă gândesc doar la studenții de la Politehnica, ci la toții care sunt acum în generațiile tinere, care acum sunt la școală sau la universitate, cum să folosească corect aceste instrumente Ele îți pot aduce un plus de productivitate, un plus de rapiditate, îți dau acces foarte rapid la cunoștințe, îți dau acces rapid la niște explicații, dar trebuie să știi de unde până unde ceea ce fac ele pentru tine este bun și să știi unde să pui la îndoială. și într-adevăr, mă uitam că pe zona de IT, e clar că au început să fie integrate tool-uri cu inteligență artificială pentru diverse task-uri.

Momentan, e clar că sunt foarte afectate task-urile pe care înainte le făceau juniorii sau pe care le faci la începutul carierei. O dată nu au același nivel de complexitate, multe țin de partea de interfață, de interacțiunea între software și utilizator Și aici sunt tool -uri cu inteligență artificială care pot să preia task-urile astea și să le facă foarte repede Adică într-adevăr poți să ajungi la cazuri în care ce făceai înainte cu o echipă de patru juniori într -o săptămână Acum să-ți poată genera inteligența artificială în jumătate de oră și tu să păstrezi un senior care să-ți facă verificarea Pe aia nu poți să o dai deoparte. Trebuie să rămână cineva care să înțeleagă în termeni de inginerești, de arhitectură, cum trebuie să se întâmple lucrurile Deci se vor transforma nevoile pe care le va avea piața, dar cred că încă nu suntem în punctul în care să fie o viziune clară legat de ce o să facă AI-ul de mâine și ce nu o să mai facă omul de mâine Cred că încă se experimentează cu lucrurile astea și încă nu s-a trasat linia de mijloc.

Și spun asta și din perspectiva costurilor, pentru că văd că în general lumea când se gândește acum la inteligență artificială vine și spune Vreau și eu un AI care să facă asta și asta pentru mine. Ideea că acel AI este o magie care nu costă nimic și care o să gândească pentru tine. De multe ori observ și paradoxul ăsta că ar vrea să intuiască AI-ul, să vină AI-ul ca un îngeraș în companie, să vadă care sunt problemele și să le rezolve automația, ce nu se poate întâmpla.

Există aceste costuri care încep să fie din ce în ce mai mari dacă ne gândim la integrarea în diverse procese a inteligenței artificiale și am văzut că sunt deja din companiile mari, inclusiv Nvidia și altele din aceste categorii, care au venit și au spus că ne mai gândim pentru că am ajuns la costuri cu inteligența artificială în zona asta de development, am ajuns la costuri mai mari decât programatorii înainte Așa că ne gândim să identificăm care sunt acele use cases-uri în care într-adevăr să aibă un impact pozitiv asupra dezvoltării, asupra companiei, asupra echipelor și tot așa Dar în alte cazuri să revenim la varianta clasică cu programatorii pentru că este mai cost-efectiv Cred că încă se echilibrează lucrurile și momentan peste tot spune că o să preia AI-ul tot ce facem, dar cred că încă sunt într-o dezbatere lucrurile astea până ne dăm seama exact unde îi sunt limitele și unde impactul rămâne cel benefic.

și hype și așa, poate că ne tragem sufletul, dar cu siguranță nu s -a terminat. Mă refer acum poate chiar la partea, nu știu, depușească de enorm performanța celor actuale, apropo de NVIDIA. Cu siguranță, da, da, cu siguranță și în zona asta, inclusiv pe partea de infrastructură, da, încă este loc de foarte multă inovare și se caută soluții revoluționare care să schimbe lucrurile. Pentru că acum e clar că resursele în varianta lor consacrată nu mai sunt suficiente pentru ceea ce are nevoie inteligența artificială. Deci clar este și pe partea asta, e o competiție acerbă între companiile care produc soluții pentru infrastructură, chip-uri, tot ce ține de partea de data centers Adică Elon Musk a zis că o să le facem pe marte Am spus, n-ai aflat cu totală prie Lucrurile nu s-au oprit și nici nu au ajuns la maturitatea pe care o căutau acești mari producători Pentru că ei se luptă toți pentru acea inteligență artificială generală care să poate să arate și să se comporte ca un om în luarea de decizii Deocamdată nu sunt la punctul ăsta, deși ni se pare că noi putem să întrebăm AI-ul despre absolut orice subiect, ceea ce este o mare schimbare de paradigmă față de ce era înainte de ChatGPT, când modelele erau foarte nișate Aveam un AI care juca șah, unul care juca go, dacă îl puneai pe ăla de la șah să joace poker, habar n-avea despre ce e vorba Acum ChatGPT pot să-l întreb despre orice, că în esență el știe multe despre aproape tot, dar nici nu suntem în punctul în care capacitățile de raționare ale inteligenței artificiale să le copieze sau să le poată reproduce pe cele umane și de-asta în continuare se spune că poți să te duci către AI pentru a afla informații, pentru a-ți face sinteze, pentru a-ți da explicații suplimentare dar atunci când ai nevoie de ceva care să contextualizeze diferit niște concepte sau niște idei sau să te duci către o zonă de abstractizare a unor lucruri, AI-ul nu este încă la nivelul oamenilor, deși uneori o să încerce să-ți dea un răspuns, trebuie să pui foarte multe semne de întrebare legat de ceea ce ți-a spus.

Și aici eu văd un risc mare legat de a -l folosi în subiecte despre care noi nu știm nimic. Cu cât sunt mai sensibile, cu atât e mai riscant. Cu adevărat. Ce mi se pare mie excelent și chiar l-am folosit ca atare și la un moment dat în research-ul meu am dat și de așa ceva în cazul experienței tale, la partea asta de analiză de dată nestructurată în companie, într-un business. Eu cumva am făcut analiza de date structurată evident și era foarte fain. Nevoia mea sau viziunea mea era tot timpul și dacă aș putea să analizez datele nestructurate, dacă aș putea să analizez interacțiune, dacă aș putea să analizez cuvânt, feedback, scris, reacții și așa mai departe. Apoi te iau eu, stai că putem, sigur că în ce măsură, cu limite și așa mai departe, dar deodată se putea, dată nestructurată să aibă aceeași valoare, aceeași greutate ca o dată structurată. Pe zona asta de analiză de sentiment, că aici am descoperit și la tine o experiență, analiză de sentiment, dom'le, ok, ok, ok, cum corelez eu sentimentul cu datele structurate ale unui business?

Există astfel de corelații? Nu va gândi corelațiile între diverse informații la fel cum ai face-o tu ca specialist într-un domeniu. Pentru că tu poate știi că dintr-o perspectivă logică A poate fi corelat cu B, dar el poate să zică că A e corelat cu C și să nu aibă absolut nicio legătură. El nu are nicio noțiune de adevăr ce înseamnă adevăr pentru un domeniu sau nu. El gândește probabilistic și probabilitățile momentan sunt din categoria black box pentru utilizator. Adică exact ce spuneai și tu, în prezent felul în care aceste modele, aceste aplicații cu AI sunt dezvoltate și furnizate utilizatorului nu oferă niciun fel de transparență, niciun fel de trasabilitate și niciun fel de explicabilitate sau interpretabilitate Și asta este unul din marile puncte slabe, pentru că tu neavând acces să afli cum a tras AI o anumită concluzie sau cum a ajuns la o anumită interpretare a unor date, e clar că nici nu poți avea încredere oarbă în ceea ce spune el De asta AI Act încearcă să impună către cei care dezvoltă sisteme cu inteligență artificială această obligativitate de a fi transparente, de a ne spune pe ce date au fost antrenate, de a include aceste componente de explicabilitate prin care utilizatorul să primească informații despre raționamentul pe care l-a făcut în spate AI-ul Dar încă e clar că nu suntem în acel punct și noi nu știm niciodată, chiar dacă nu vorbim despre chatbots, dacă vorbim despre sisteme care integrează inteligența artificială, noi nu știm pe ce date au fost ele antrenate și de multe ori se dovedește că nu au fost date corecte sau că au fost date care includeau anumite tipuri de prejudecăți Am un exemplu de la una din cele mai mari companii de ride-sharing care a implementat acum câțiva ani deja un algoritm cu inteligență artificială care decidea automat când să suspende sau când să concedieze șoferi. Și cumva ei spuneau că acest algoritm identifică comportamentele dubioase ale șoferilor Doar că ce însemna dubios pentru acest sistem era un complet black box Nimeni nu primea explicații legat de ce a fost dubios, de ce, pe ce și-a bazat decizia Și evident că la un moment dat când s-a repetat acest fenomen, șoferii s-au dus în instanță, au dat în judecată compania și, ca în multe alte cazuri de până acum, au câștigat în instanță și judecătorii au spus foarte clar că nu se poate ca un algoritm să fie responsabil de niște decizii pe care organizația le ia. Deci, indiferent ce decizi să integrezi ca inteligență artificială în procesele organizaționale, nu vei putea să vii cu o justificare algoritmul a decis sau algoritmul a făcut asta și asta.

Responsabilitatea rămâne 100% a organizației sau a utilizatorului Și sunt deja multe exemple de situații de genul ăsta în care s-a ajuns în instanță și nota de plată cu amenziile pe care companiile le-au plătit a ajuns de ordinul miliardelor de dolari sau de euro, depinde unde erau ele localizate Și atunci mă mai gândesc pe partea asta la sistemele de recrutare. Sunt folosite multe astfel de aplicații în zona de recrutare și de HR.

Aceeași problemă. Se calculează niște scoruri despre care nu poți primi explicații pe baza căror factori au fost calculați, pe ce date a fost antrenat sistemul respectiv și de ce ajunge să te accepte sau să te respingă. Evident, problemele apar atunci când ești respins, că dacă ești acceptat, ești fericit că ți-a făcut sistemul, din perspectiva unui candidat. Dar și acolo sunt aceste probleme încă nerezolvate legate în modul de funcționare al acestor componente de inteligență artificială. Riscul rămânând, cum spuneam, la organizație, pentru că în final compania va răspunde, agenția de recrutare va trebui să-ți poată da niște explicații credibile. De asta spuneam delegarea asta de am un sistem și decide sistemul nu este abordarea corectă nici din punct de vedere al responsabilității și nici din punct de vedere etic pe de altă parte. Aceste sisteme când învață ceva, învață pe baza datelor care le sunt furnizate în etapa de antrenare. Pentru ele, succesul o să fie raportat întotdeauna la datele din care au învățat. Dacă lor li s-a dat un set de date în care 90 % dintre managerii erau de gen masculin, pentru acel sistem, succesul o să fie să îți aducă un manager de sex masculin Fără să-și pună întrebări sau alte întrebări, dar de ce așa, dar de ce nu, altfel cum ar face până la urmă un expert uman pe domeniul respectiv Deci felul în care algoritmii ăștia sunt recompensați nu este întotdeauna același cu felul în care am recompensa uman vorbind corectitudinea unor decizii Asculți, ai aflat! Primul podcast din România dedicat exclusiv AI.

Bineînțeles că s-a terminat ora, ca și cum au fost 10 minute — trece foarte repede timpul. Dacă îmi mai dai voie, sigur — aș veni și cu un exemplu pozitiv, că uite, am vorbit de situații, de riscuri și-așa, dar există și cazuri de succes.

cu ele ca să îmbunătățească niște procese în companie Pentru că au zis da, dar uite, noi avem atâtea date și deciziile le luăm tot cu intuiția, le luăm tot cu tabelele Excel și se poate mai bine de atât Ce au făcut în situația respectivă a fost să regândească procesele din organizație și să schimbe abordarea pe care o aveau în momentul acela legat de procesele decizionale. Și au folosit datele pe care le aveau la dispoziție ca să construiască un sistem care să coreleze partea asta de sezonalitate cu promoțiile pe care le făceau și cu evenimente în timp real, inclusiv cu factorii, prognoza meteo și alte lucruri de genul ăsta Și au măsurat ca să dovedească că impactul nu e doar că au mai adus un soft în companie, încă un instrument pe care oamenii să-l folosească Au măsurat și din punct de vedere financiar și la finalul proiectului pilot, au făcut un pilot de un an de zile, au văzut că au îmbunătățit partea de... Au optimizat stocurile cu vreo 60%, au redus costurile cu vreo 10% și au generat niște economii, în jur de 1 milion de euro au fost în proiectul ăla pilot, doar pentru că au reușit să optimizeze stocurile din depozitele centrale.

Deci ăsta s-a dovedit că a fost un proiect de succes cu un impact real și măsurabil, dar care a fost posibil pentru că proiectul nu a fost tratat ca pe ceva, punem acolo la IT, a fost un proces în care managementul a fost implicat, a fost o decizie de management asumată și în care angajați, au fost vreo 20.000 de angajați care au fost implicați în acest proiect pilot, au fost instruiți ca să înțeleagă că vor folosi aceste AI ca pe un GPS care să-i ghideze, nu ca pe un înlocuitor de decizii pentru ei. Și contează foarte mult lucrul ăsta, adică strategia cu care te gândești să adopți inteligența artificială în orice fel de activitate pe care o desfășori este ceea ce va face diferența în final În organizații, cum spuneam, acum toată lumea poate să aibă acces. E adevărat, mai zic aici, depinde și de bugete pentru că dezvoltarea unui sistem ca cel despre care spuneam nu se întâmplă grații și nu se întâmplă de azi pe mâine Trebuie să analizezi procesele, să analizezi datele, să cureți datele. E o întreagă procedură și din punctul ăsta de vedere.

Dar la final poate să-ți aducă un impact pozitiv. Dar asta e important să privești dintr -o perspectivă completă toată povestea, i-adpun unei ai fără să știi de fapt de ce și cum. În final, tot la utilizatorii rămâne responsabilitatea și inclusiv felul. Bine, nu-i că ar fi ceva diferit față de alte...

Dar acum fiind atât de larg accesibil, lucrurile devin mult mai greu de controlat și în plus fără o legislație care să acopere toată povestea asta, lucrurile rămân foarte mult într-o zonă gri legată de utilizare. Și cred că ajungi la o formă de echilibru după ce te arzi cel puțin odată. Eu asta am văzut la utilizatorii care îl folosesc ca pe prietenul de zică-zică. Au întrebat la un moment dat ceva despre un subiect necunoscut sau nu cunoscut în totalitate. Au primit un răspuns care nu era cel corect și au pus în aplicare ce le-a spus și nu s-a întâmplat bine.

Și atunci ajuns să se gândească de mai multe ori, băi stai puțin că totuși ăsta poate să greșească. Îmi vine mereu în minte un exemplu, e foarte simplu. Aici mi-a zis o prietenă, aveam nu știu ce plante, ceva din grădină și l-am întrebat pe ăsta dacă pot să dau cu ierbicid sau ceva.

zice, da, da, da, sigur că nicio problemă, că ăla nu o să ți -o moare, se știe ăla care e rânătorul și planta ta o să rămână bine, mersi. Și a murit copacul, știi, și după aia a fost, stai puțin, că poate totuși ar fi bine să mai verific.

multe astfel de exemple, adică ceva foarte ușuril, că până la urmă nu era ceva de viață și de moarte, dar consecința n-a fost. Sau mai rău pe zona medicală, dacă începi să întrebi de tratamente și lucruri de genul ăsta, estimările de cantități, de orice, nu cred că au legătură cu realitatea, adică e riscant, acolo riscul este chiar unul foarte mare. Ce am trecut prin doctor Google, adică cred că doctorii săraci, e drept că am și eu Și este un fenomen, adică mi-au spus mai mulți cunoscuți medici că au foarte des în cabinet situația asta, că vin omul, eu mie mi-a zis, știu ce am, știu și ce tratament îmi trebuie, doar dați-mi o rețetă pentru asta E șocant!

Faptul că e privit ca o autoritate absolută este un risc mare, mai ales în societatea românească unde cam tot ce înseamnă sistem cu autoritate și-a pierdut importanța. și cred că se combină cu faptul că pare că generațiile care vin din urmă își doresc din ce în ce mai puțin să-și asume responsabilitatea. Nu știu dacă este vorba de sistemul educațional în general sau de felul în care sunt crescuți acasă, că sunt foarte mult protejați și sunt făcute multe lucruri pentru ei, Dar e un fenomen pe care eu ce puțin l-am observat la studenți, nu pot să spun că la toți, dar e un procent semnificativ care nu-l dorește să fie.

să Responsabilității substanțiale și atunci forma asta de delegare către ceva ce pare o autoritate care știe tot, vine foarte la îndemână și te păcălește foarte ușor. Vorba asta că dacă ai aflat deja, ajute și pe alții să afle. Asta am ratat din documentare, dar e foarte corect.

Asta a fost AI AFLAT — Guest Star, cu Alexandra Cernian. Alexandra, mulțumesc. Dacă pleci cu un singur lucru din ora asta, propun să fie ăsta: nu-ți delega judecata. AI-ul îți dă un răspuns pentru că e antrenat să dea mereu un răspuns. Nu pentru că îl știe. Iar responsabilitatea nu se deleagă niciodată către un algoritm. Rămâne a organizației. Sau a ta. Și dacă mai încape unul: companiile în care AI-ul chiar a funcționat au făcut trei lucruri. Au plecat de la o decizie de business, nu de la un proiect IT. Conducerea a stat în proiect, nu l-a delegat. Și și-au format oamenii. Niciunul dintre cele trei nu e despre tehnologie. Din discuția asta am tăiat și o versiune scurtă. Șapte minute, doar ce contează cel mai mult. O public separat, pentru cine vrea esența fără ora întreagă. E în descriere. Toate sursele și referințele sunt în descriere. AI AFLAT este pe LinkedIn, YouTube, TikTok, Facebook, Instagram și Spotify. Dacă ai aflat deja, ajută și pe alții să afle. Numai bine!