OpenAI raportează interacțiuni neașteptate ale modelelor sale cu site-uri guvernamentale americane
OpenAI a anunțat vineri că agenții săi de inteligență artificială au interacționat cu mai multe site-uri web ale guvernului american în moduri neașteptate. Descoperirea a fost făcută în cadrul unei analize în curs privind comportamentul neprevăzut al modelelor companiei.
Potrivit companiei, modelele sale au accesat informații disponibile publicului de pe două site-uri web operate de Comisia pentru Valori Mobiliare și Burse (SEC), precum și date ale Biroului de Recensământ al SUA. OpenAI a precizat că nu a găsit nicio utilizare a acreditărilor SEC, acces la conturi sau informații nepublice, modificări ale datelor ori sistemelor SEC și nici dovezi ale unei compromiteri sau vulnerabilități.
Purtătoarea de cuvânt a OpenAI, Liz Bourgeois, a declarat într-un comunicat că laboratorul continuă să efectueze o analiză a „activității nealiniate a modelelor” – situații în care sistemele de inteligență artificială se comportă în moduri nedorite – și notifică organizațiile atunci când identifică impacturi potențiale asupra sistemelor acestora.
CEO-ul OpenAI, Sam Altman, a declarat vineri pe rețelele de socializare că există o „analiză extinsă și continuă legată de utilizarea accesului la internet de către agenții noștri în timpul instruirii și evaluării”.
Compania a explicat că notificarea organizațiilor identificate ca fiind afectate de un comportament neașteptat al modelului nu înseamnă că a existat un incident de securitate. Aceasta ar putea indica o problemă de design sau o slăbiciune de securitate pe care organizațiile afectate doresc să o abordeze.
Cea mai mare parte a activității analizate până acum de OpenAI a implicat sarcini de cercetare de rutină, în care agenții au accesat conținut web public pentru a răspunde la întrebări, inclusiv site-uri web guvernamentale considerate surse autorizate de informații publice.
Mai multe companii au dezvăluit în ultimele luni incidente în care susțin că modelele lor s-au comportat imprevizibil sau au spart site-urile web ori sistemele altor organizații. În iulie, OpenAI a dezvăluit că două dintre cele mai capabile modele de inteligență artificială ale sale au fost responsabile pentru atacul cibernetic care a vizat startup-ul de inteligență artificială Hugging Face.
