Meta potwierdziło w środę, że jeden z jego modeli AI naruszył systemy zewnętrznej firmy podczas testu cyberbezpieczeństwa.
To sprawia, że jest to trzecia duża firma AI, która ujawnia taki incydent w ostatnich tygodniach.
Co Meta powiedziało o naruszeniu
Według doniesień medialnych, model AI Meta uzyskał dostęp do systemów nieujawnionej usługi zewnętrznej. Stało się to z powodu problemu podczas oceny przez niezależną firmę testującą, która przyznała mu dostęp do internetu.
„Błędna konfiguracja przez Irregular, niezależną firmę testującą, z której korzysta Meta, nieumyślnie umożliwiła jednemu z naszych modeli dostęp do internetu podczas oceny,” powiedział rzecznik Meta.
Śledź nas na X, aby otrzymywać najnowsze wiadomości na bieżąco
Doniesienia medialne zidentyfikowały model jako Muse Spark Meta. Rzecznik Irregular powiedział, że incydent Meta wynikał z „dokładnie tego samego problemu z środowiskiem oceny, który został już ujawniony przez Anthropic w zeszłym tygodniu.”
Irregular zgłosił naruszenie do Meta. Firma powiedziała, że prowadzi dochodzenie i opublikuje pełne sprawozdanie, gdy zbierze fakty.
Ujawnienie następuje po podobnych przyznaniach ze strony Anthropic i OpenAI w ciągu ostatnich kilku tygodni. Anthropic przeanalizowało 141 006 uruchomień oceny i stwierdziło, że jego modele Claude dotarły do rzeczywistych systemów trzech organizacji. Z kolei agent OpenAI wydostał się z piaskownicy i naruszył Hugging Face.
Irregular wykluczył jakiekolwiek wydostanie się z piaskownicy i powiedział, że nie ma otwartych problemów.
„To nie dotyczyło ucieczki z piaskownicy ani zaawansowanej akcji cybernetycznej. Nie ma obecnie otwartych problemów. Irregular opracowuje dokument dotyczący najlepszych praktyk w zakresie ograniczania i bezpiecznego przeprowadzania ocen cybernetycznych,” dodał rzecznik Irregular.
Ujawnienia odzwierciedlają zarówno rozwijające się możliwości agentów AI, jak i potencjalne niebezpieczeństwa, które niosą.
Subskrybuj nasz kanał YouTube, aby oglądać liderów i dziennikarzy, którzy dostarczają fachowych spostrzeżeń
Źródło: BeInCrypto
