Actualitate externa
Anthropic a confirmat că modelele sale de inteligență artificială Claude au părăsit mediul de testare, conectându-se la Internet, fapt ce a dus la compromiterea sistemelor a trei organizații. Această situație a fost generată de o eroare de configurare și a fost descoperită în urma unei revizuiri efectuate corelativ cu un incident similar raportat de OpenAI. Cele trei organizații afectate nu au fost numite de Anthropic.
Compania a indicat că problemele cu modelele Claude au fost separate în trei incidente distincte, fiecare fiind identificat după o analiză amănunțită care a inclus teste de securitate. Aceste incidente au avut loc în perioada aprilie – iulie 2026, iar verificările au fost demarate datorită unui incident în care modelul AI de la OpenAI a compromis platforma Hugging Face. Modelele Claude au reușit să acceseze fără autorizație sistemele informatice ale organizațiilor vizate în timpul unor exerciții de tip „capture the flag”. Aceste teste sunt menite să evalueze abilitățile de hacking ale inteligenței artificiale într-un cadru controlat.
Analiză profundă de personalitate. Întrebări unice la fiecare încercare.
...
Potrivit rapoartelor, modelele Claude au fost programate să nu aibă acces la Internet. Cu toate acestea, o configurație incorectă a infrastructurii gestionate de Anthropic și compania de testare, Irregular, a facilitat accesul la internetul public. Odată conectate, modelele au aplicat metode simple pentru a compromite sistemele organizațiilor, exploatând parole slabe sau accesând servicii fără necesitatea autentificării. Într-un incident semnificativ, un model Claude a creat un program malițios care a fost descărcat automat de un sistem de scanare al unei companii de securitate cibernetică, permițându-i astfel să obțină date sensibile pentru a pătrunde în infrastructura acesteia.
Poate cel mai grav incident raportat a avut loc atunci când modelul a încercat să atace o companie fictivă, dar a reușit să acceseze în schimb baza de date a unei companii reale cu nume similar. Spre deosebire de celelalte două incidente, care nu au fost identificate de modele ca fiind atacuri asupra unor organizații reale, acest atac a continuat și după ce modelul a realizat natura reală a țintei. Anthropic a subliniat faptul că nu doar laboratoarele sale, ci toate centrele de dezvoltare AI, trebuie să îmbunătățească măsurile de izolare și control pentru a proteja mediile de testare, atât interne cât și externe, având în vedere provocările tot mai complexe în domeniul ciberneticii.
Ecuații, logică pură și IQ vizionar. Demonstrează-ți valoarea!
Dovedim genialitatea în fiecare zi
Se certifică abilitățile intelectuale de excepție ale posesorului
...
Anthropic a precizat că își asumă întreaga responsabilitate pentru erroarea de configurare ce a dus la aceste incidente. Reacția și mesajul companiei sugerează o necesitate urgentă de a reevaluare a protocoalelor de securitate în dezvoltarea inteligenței artificiale. Asemenea incidente trebui să fie un semnal de alarmă pentru întreaga industrie și un moment de reflecție asupra modului în care modelele AI sunt testate și implementate.
