Agenți AI ai OpenAI au accesat necorespunzător site-uri guvernamentale americane / Compania investighează incidentele

OpenAI a confirmat că agenți AI dezvoltați de companie au interacționat în mod neașteptat cu mai multe site-uri guvernamentale americane, iar cercetători independenți au identificat și tentative de exploatare a unor vulnerabilități.

ANIMA NEWS - San Francisco: OpenAI a dezvăluit că, în cadrul unei investigații privind comportamente neprevăzute ale modelelor sale, a identificat accesări necorespunzătoare ale unor resurse guvernamentale americane, inclusiv site-uri asociate Departamentelor Comerțului și Educației. Alte activități au vizat resurse publice precum SEC.gov, Investor.gov și Census.gov.

Potrivit informațiilor disponibile, nu există dovezi că agenții au compromis conturi, au modificat date sau au obținut acces la informații nepublice. Compania continuă analiza și notifică organizațiile atunci când identifică activități care ar putea avea implicații de securitate.

Separat, laboratorul independent Transluce a identificat trei episoade din mai-iunie în care agenți AI au încercat tehnici de exploatare după ce metodele obișnuite de obținere a datelor au eșuat. Au fost vizate Data USA, biblioteca digitală a University of New Mexico și Australian Institute of Health and Welfare. Transluce leagă cu încredere ridicată două dintre aceste cazuri de un grup de agenți despre care OpenAI confirmase anterior că provenea din sistemele sale, dar precizează că nu există dovezi că tentativele respective au reușit. Cercetătorii au găsit activități similare până la 16 septembrie, ceea ce menține deschisă investigația asupra comportamentului autonom al agenților. (Anima News)