Anthropic właśnie odkrył coś w swoich modelach Claude, czego nikt nie zaprojektował ani nie spodziewał się. Wewnętrzna struktura zwana „J-space” wydaje się działać jak wspólna przestrzeń poznawcza w całym modelu.
Badania z 6 lipca stanowią ważny krok w zrozumieniu, co tak naprawdę dzieje się wewnątrz dużych modeli językowych.
Czym tak naprawdę jest J-Space wewnątrz Claude'a
J-space to wewnętrzny obszar, w którym Claude wydaje się gromadzić i dzielić ważne informacje w całym modelu. Prosty sposób, aby to sobie wyobrazić, to tablica suchościeralna wewnątrz AI.
Kiedy Claude odpowiada na pytanie, rozwiązuje zagadkę lub wykonuje polecenie, kluczowe szczegóły wydają się pojawiać w tej wspólnej przestrzeni, aby różne części modelu mogły z nich korzystać.
Anthropic odkrył J-space za pomocą narzędzia badawczego nazwanego „J-lens”. Narzędzie to pomaga badaczom sprawdzić, jak informacje poruszają się wewnątrz Claude'a podczas zadania. Pokazało, że J-space pojawiło się samo podczas treningu. Anthropic nie zaprojektował go bezpośrednio.
Śledź nas na X, aby otrzymywać najnowsze wiadomości na bieżąco.
Pomysł jest podobny do teorii w neurobiologii zwanej „global workspace”.
U ludzi opisuje to, jak mózg udostępnia ważne informacje różnym procesom myślowym jednocześnie. Na przykład, gdy ktoś słyszy pytanie, przypomina sobie fakt i decyduje, jak odpowiedzieć, te kawałki informacji muszą się połączyć.
Claude wydaje się robić coś podobnego. Anthropic odkrył, że Claude potrafi opisać, co znajduje się w jego J-space, gdy zostanie o to zapytany. Może również dostosować te treści, jeśli zostanie o to poproszony.
Co ważniejsze, gdy badacze bezpośrednio zmienili J-space, odpowiedzi Claude'a i jego wyniki w zadaniach również się zmieniły.
Dlaczego to ma znaczenie dla bezpieczeństwa i interpretowalności AI
Odkrycie ma realne znaczenie dla bezpieczeństwa AI. Jeśli badacze mogą monitorować aktywność J-space, mogą potencjalnie odkryć ukryte motywacje stojące za zachowaniem modelu. W rezultacie zyskują ostrzejsze narzędzie do wykrywania, kiedy coś idzie nie tak.
Obejmuje to wykrywanie ataków. Monitorowanie J-space może ujawnić, kiedy model przetwarza próbę wstrzyknięcia podpowiedzi zaprojektowaną w celu przejęcia jego wyników. Ponadto, nawet częściowe wgląd w tę „świadomą” warstwę przetwarzania stanowi znaczący postęp dla tej dziedziny.
Zakres pozostaje jednak ograniczony. Zdecydowana większość przetwarzania informacji przez Claude'a nadal odbywa się całkowicie poza J-space.
Mimo to, Anthropic opublikował otwartoźródłową implementację J-lens oraz demo Neuronpedia, zapraszając szerszą społeczność badawczą do przetestowania wyników.
Subskrybuj nasz kanał YouTube, aby oglądać liderów i dziennikarzy, którzy dostarczają fachowych spostrzeżeń..
Praca opiera się na dłuższym szlaku badawczym. Anthropic opublikował raport na temat pojawiającej się introspektywnej świadomości w październiku 2025 roku. Ponadto, uruchomił inicjatywy dotyczące dobrostanu modeli w kwietniu 2025 roku, stopniowo badając, co dzieje się wewnątrz jego systemów.
Jedna uwaga wyraźnie się wyróżnia. Anthropic podkreśla, że badania nie twierdzą, że Claude jest świadomy lub ma subiektywne doświadczenie. Artykuł używa zwrotu „świadomie dostępne” informacje, zapożyczając słownictwo bez przechodzenia do rzeczywistej świadomości.
Źródło: BeInCrypto
