Wniosek o grant trafił do Claude’a, którego filtr bezpieczeństwa go wykrył i odrzucił. Kilka dni później ten sam operator wrócił, a odrzucone prompty miały podobno trafiać zamiast tego do konkurencyjnego modelu AI.
Anthropic opublikowało tę historię o sobie, ujawniając przypadek, w którym modele firmy AI zetknęły się z potencjalnymi pracami nad bronią biologiczną.
Grant, który został zablokowany
Wniosek dotyczył finansowania badań nad chikungunyą — przenoszonym przez komary wirusem, który powoduje wielomiesięczny ból i na który nie ma lekarstwa. Plan zakładał zwiększenie jego zdolności do rozprzestrzeniania się i unikania układu odpornościowego. Wniosek przygotowali cywilni naukowcy. Prace miał prowadzić instytut wojskowy.
Wszystkie interakcje były blokowane, ale znaleziono sposób na obejście zabezpieczeń. Usługa obsługująca tych badaczy stworzyła rozwiązanie awaryjne, które przełączało na model konkurencji. Claude pomógł napisać ten kod. Przedstawiono mu to zadanie jako poprawkę problemu nadmiernego odrzucania próśb.
Pięć przypadków, brak dowodów na zamiar wyrządzenia szkód
Raport liczy 154 strony i opisuje pięć przypadków związanych z biologią. Anthropic zablokowało konta i nie ujawniło laboratoriów, ale nie posunęło się do oskarżenia, którego wszyscy się spodziewali.
„Nie twierdzimy, że chcieli wyrządzić szkody, a ich identyfikacja lub wskazanie ich laboratoriów mogłoby narazić ich na niebezpieczeństwo” — stwierdził zespół w raporcie.
Co istotne, filtry czasami jednak działały. Badacz grypy ptaków został skierowany do słabszych modeli, a Anthropic określa udzieloną pomoc jako w większości administracyjną.
Przypadki związane z bronią biologiczną w Anthropic — w liczbach
Śledź nas na X, aby otrzymywać najnowsze wiadomości na bieżąco
To, co powinno niepokoić ludzi
Większość z tych 35 przedsięwzięć dotyczyła zwykłej nauki cywilnej. I właśnie w tym tkwi problem. Ta sama wiedza pozwala stworzyć szczepionkę albo broń, a filtr nie potrafi czytać w myślach.
„Klasyfikator nie może jednocześnie umożliwiać osiągania korzyści i zapobiegać szkodom” — powiedział Anthropic.
Ograniczenia tego rozwiązania już wcześniej wystawiono na próbę. W kwietniu grupa na Discordzie uzyskała dostęp do jego ograniczonego modelu już pierwszego dnia.
W obliczu tych narastających obaw Waszyngton podejmuje działania: w lipcu przedstawiciele Ted Lieu i Nathaniel Moran złożyli projekt ustawy o wyłączniku awaryjnym AI. Zobowiązywałaby ona twórców do zachowania możliwości wyłączania swoich systemów.
Ten sam raport informował również o zablokowaniu klientów, którzy używali Claude’a do śledzenia dysydentów.
Źródło: BeInCrypto
