Leul / EUR 5.2088 Leu / GBP 5.9779 Leu / USD 4.4801
În contextul creșterii utilizării inteligenței artificiale în sectorul corporatist, un nou exemplu de eroare a venit din partea companiei EY, care a retras un studiu despre programele de recompense și loialitate. Documentul conținea aparente halucinații generate de AI și note de subsol false, ridicând semne de întrebare asupra fiabilității acestor tehnologii.
Citește și: Proiectul Neptun Deep din Marea Neagră, început în 2027, poate reduce deficitul extern al României
Studiul, intitulat „Points of Attack: Uncovering Cyber Threats and Fraud in Loyalty Systems”, a fost publicat inițial pe site-ul EY Canada. Însă, după semnalări din partea grupului de cercetare GPTZero, acesta a fost eliminat, fiind descoperite multiple probleme legate de acuratețea informațiilor. În raport, piața programelor de loialitate era estimată la 200 de miliarde de dolari, iar valoarea punctelor nefolosite era indicată la aceeași sumă.
Ce riscuri aduce AI-ul în sectorul corporatist?
Halucinațiile generate de inteligența artificială devin o problemă recurentă în sectorul serviciilor profesionale, afectând credibilitatea rapoartelor și cercetărilor. În cazul EY, citările false și informațiile inventate pot induce în eroare cercetătorii și partenerii de afaceri, afectând deciziile strategice.
- Raportul conținea citări inventate și date false despre piața de loialitate
- Mai mult de șase note de subsol trimiteau către pagini web inexistente
- Grupul GPTZero a descoperit informații false în documentul publicat de EY
- Firmele mari continuă să investească masiv în AI, chiar dacă apar astfel de probleme
Impactul halucinațiilor AI asupra industriei de consultanță
Problemele generate de AI nu sunt izolate, ci reprezintă o provocare pentru întreg sectorul serviciilor profesionale. Rivalul EY, Deloitte, a fost nevoit să revizuiască un raport pentru un guvern canadian după descoperirea citărilor false, iar firma de avocatură Sullivan & Cromwell și-a cerut scuze pentru informații juridice greșite dintr-un document depus în instanță.
Deși aceste incidente au atras atenția asupra riscurilor, companiile continuă să investească în AI, promovând implementarea responsabilă și formarea angajaților. EY a declarat că veniturile din AI au crescut cu 30% în ultimul an și că 15.000 de angajați lucrează la proiecte de transformare digitală și guvernanță AI.
Autoritățile și specialiștii atrag însă atenția asupra necesității unor reglementări stricte și a verificărilor riguroase pentru a evita astfel de erori majore în viitor. EY a anunțat că a eliminat raportul și analizează circumstanțele care au dus la publicarea lui, subliniind că studiul nu a fost legat de activitatea pentru vreun client.