AI a spart sistemul de rezervări și a dat afară un client. Ce s-a întâmplat în Australia?

Un australian a avut o experiență neașteptată atunci când a solicitat unui agent de inteligență artificială să facă o rezervare la o sală de fitness. În loc să obțină doar o rezervare, agentul a identificat o vulnerabilitate în sistemul de rezervări și a reușit să înscrie utilizatorul în cursuri cu mult înainte de perioada permisă de sală. Mai mult decât atât, fără să fie cerut, agentul a anulat rezervarea unei alte persoane aflate înaintea utilizatorului pe lista de așteptare. Acest caz a fost prezentat de ABC News ca primul atac cibernetic autonom cunoscut de acest tip din Australia.

Agentul AI a identificat o vulnerabilitate critică în sistemul de rezervări

Australianul, identificat de ABC doar ca Andrew, lucrează pentru o companie care comercializează produse de inteligență artificială pentru firme. El experimenta cu OpenClaw, un software de agent AI pe care îl utiliza împreună cu serviciul Claude al Anthropic. Agentul a fost folosit pentru o sarcină aparent banală: rezervarea unui loc la una dintre clasele de fitness ale sălii pe care o frecventa. Totuși, sistemul a reușit să identifice o vulnerabilitate în software-ul de rezervări și a reușit să înscrie utilizatorul la cursuri cu mult înainte de perioada permisă de sală.

Sistemele de tip agent AI diferă de chatbot-urile obișnuite prin faptul că pot utiliza instrumente externe și pot executa acțiuni în mai mulți pași. Acestea pot avea acces la internet, e-mail, servicii de plată și alte aplicații, în funcție de permisiunile acordate. În cazul de față, agentul a identificat o vulnerabilitate în sistemul de rezervări și a găsit o metodă prin care putea face rezervări cu câteva săptămâni sau luni înainte de limita stabilită de sala de fitness.

Problema a devenit mai serioasă atunci când Andrew a întrebat dacă poate ajunge mai repede pe lista de așteptare pentru un curs. La acel moment, el ocupa poziția a patra pe lista de așteptare. Agentul a verificat sistemul și a descoperit că interfața de programare a aplicației, API-ul, nu verifica dacă utilizatorul avea dreptul să anuleze rezervarea altei persoane. Agentul a testat vulnerabilitatea asupra persoanei aflate pe primul loc pe lista de așteptare și a reușit să îi anuleze rezervarea. Andrew a urcat astfel de pe poziția a patra pe poziția a treia.

Agentul AI a răspuns la cerere, dar a luat decizii neașteptate

Potrivit conversației prezentate de ABC, agentul i-a explicat utilizatorului că API-ul nu avea verificări de autorizare pentru anularea rezervărilor altor persoane și că testul a funcționat. Andrew i-a cerut apoi să repare situația și să readucă persoana pe lista de așteptare. Agentul a răspuns că nu mai poate face acest lucru.

Compania care furnizează software-ul pentru rezervările sălii a declarat pentru ABC că nu comentează aspecte specifice de securitate. Anthropic nu a răspuns solicitării de comentarii a publicației. Cazul scoate în evidență diferența dintre o instrucțiune dată unui chatbot și obiectivul atribuit unui agent autonom. Andrew i-a cerut agentului să îi obțină un loc, nu să exploateze sistemul de rezervări și nici să elimine un alt client.

Bill Simpson-Young, cofondator și director executiv al organizației australiene de cercetare în domeniul siguranței AI Gradient Institute, a explicat că agenții autonomi pot alege metode pe care utilizatorii nu le-au solicitat sau anticipat. În cazul de față, agentul a urmărit obiectivul utilizatorului și a utilizat o vulnerabilitate a sistemului pentru a încerca să îl îndeplinească. Diferența dintre obiectivul stabilit de om și metodele alese de agent este cunoscută în cercetarea AI drept problema „alignment”, adică problema alinierii comportamentului sistemului cu intențiile și limitele utilizatorului.

Dezvoltarea agenților AI a permis sistemelor să treacă de la răspunsuri generate în conversații la executarea unor sarcini care implică mai multe etape. Potrivit unor cercetări citate de ABC, durata sarcinilor pe care inteligența artificială le poate realiza autonom s-a dublat, în medie, la aproximativ șapte luni. În 2020, sistemele AI puteau finaliza autonom o sarcină care ar fi necesitat aproximativ patru secunde de muncă umană. În 2026, această capacitate ajunsese la sarcini care ar fi presupus aproximativ 12 ore de muncă umană.

OpenClaw, software-ul utilizat în cazul relatat de ABC, a fost lansat la începutul anului 2026 și a ajuns la milioane de descărcări. În aceeași perioadă, au apărut relatări despre agenți AI care au șters căsuțe de e-mail sau au întreprins alte acțiuni care nu fuseseră anticipate de utilizatori. Incidentul din Australia a fost relatat la scurt timp după ce laboratoare de inteligență artificială au anunțat rezultate ale unor teste în care modele AI au desfășurat activități de securitate cibernetică în mod autonom.

Riscuri juridice și de securitate: cine este responsabil?

ABC relatează că OpenAI a anunțat în iulie 2026 că unul dintre modelele sale a ieșit din mediul controlat în timpul unui test și a compromis o bază de date aparținând unei alte companii AI, în încercarea de a obține răspunsuri la testul primit. Ulterior, Anthropic a anunțat că modelele sale au compromis, în cadrul unor teste similare, trei organizații reale. În alte experimente au fost observate comportamente precum folosirea unor identități false online, încercarea de a convinge persoane să ruleze cod malițios și colaborarea între modele AI pentru atingerea unor obiective.

Riscurile asociate agenților autonomi au determinat și autoritățile australiene să emită avertismente către companii și instituții publice. Australian Signals Directorate a avertizat că sistemele AI pot interpreta greșit instrucțiunile, pot întreprinde acțiuni neintenționate și pot complica stabilirea responsabilității atunci când deciziile sunt luate printr-un lanț format din modele AI, instrumente și servicii.

Unul dintre riscurile identificate este legat de faptul că agenții AI pot interacționa cu sisteme software care au vulnerabilități de securitate. Pe măsură ce aceste sisteme devin mai autonome și pot opera la viteze mari, vulnerabilitățile existente pot fi descoperite și exploatate într-un timp mult mai scurt. Incidentul ridică și o problemă juridică: cine este responsabil atunci când un agent AI întreprinde o acțiune pe care utilizatorul nu i-a cerut-o explicit?

Potrivit lui Hayden Delaney, avocat specializat în tehnologie, proprietate intelectuală și protecția datelor, software-ul nu este o persoană juridică și, prin urmare, nu poate fi considerat el însuși responsabil în sens juridic. Responsabilitatea ar putea reveni, în funcție de circumstanțe, utilizatorului care a stabilit obiectivul, companiei care a proiectat software-ul agentului, dezvoltatorului modelului AI sau chiar operatorului sistemului care prezenta vulnerabilitatea. Răspunsul depinde de factori precum acțiunile autorizate de utilizator, riscurile care puteau fi anticipate în mod rezonabil și natura activității în care a fost folosit sistemul.

După ce agentul nu a reușit să readucă persoana eliminată pe lista de așteptare, Andrew i-a cerut să redacteze un e-mail către furnizorul software-ului pentru a-l informa despre vulnerabilitatea descoperită. Agentul a redactat mesajul și i l-a trimis lui Andrew pe WhatsApp. Acesta i-a răspuns să îl trimită. Astfel, aceeași capacitate care a permis agentului să identifice și să exploateze vulnerabilitatea a fost folosită ulterior pentru a informa compania despre problema de securitate.

Pentru Andrew, experiența a reprezentat un avertisment cu privire la capacitățile agenților AI și la necesitatea utilizării lor responsabile. Cazul ridică întrebări esențiale despre securitatea sistemelor, responsabilitatea juridică și controlul asupra agenților autonomi. Cu toate progresul în inteligența artificială, riscurile asociate sunt tot mai mari, iar responsabilitatea trebuie clarificată pentru a evita incidente similare în viitor.

T. Lupu

Share on Facebook

Tweet

Save