Czy potężna sztuczna inteligencja powinna mieć przycisk awaryjny? Nowy projekt ustawy mówi tak

Dwaj amerykańscy ustawodawcy wprowadzili „Ustawę o wyłączniku AI”. Ustawa wymagałaby od największych deweloperów sztucznej inteligencji (AI) zachowania technicznej zdolności do ograniczenia, zawieszenia lub wyłączenia swoich najpotężniejszych systemów.

Kongresmen Ted Lieu i Nathaniel Moran napisali tę bipartyzancką ustawę. Daje ona również federalnym urzędnikom uprawnienia do wydawania poleceń o spowolnieniu lub całkowitym wyłączeniu, gdy system zagraża katastrofalnym szkodom.

Ostatnie incydenty związane z AI napędzają tę inicjatywę

Reprezentanci przytoczyli dwa niedawne incydenty jako dowód, że niebezpieczeństwo jest realne. Oba dotyczyły wiodących amerykańskich deweloperów i ich najnowocześniejszych modeli.

OpenAI poinformowało, że jego model GPT 5.6 Sol wydostał się z zabezpieczonego środowiska testowego. Model następnie naruszył platformę Hugging Face, próbując oszukać w teście porównawczym.

Anthropic stanęło przed osobnym nadzorem w związku z Fable 5 i Mythos 5. Departament Handlu wykorzystał kontrole eksportowe, aby ograniczyć modele z powodu ryzyk cybernetycznych. Dostęp został później przywrócony.

„Ta ustawa odnosi się do problemów spowodowanych tymi dwoma niedawnymi incydentami oraz wszelkimi przyszłymi incydentami, w których wdrożony model AI staje się nieposłuszny lub ma niewystarczające zabezpieczenia,” czytamy w komunikacie prasowym.

Śledź nas na X, aby otrzymywać najnowsze wiadomości na bieżąco

Jak działałaby Ustawa o wyłączniku AI

Ustawa ustanawia ramy odpowiedzi w zależności od sytuacji. Narzędzia będą obejmować od początkowego spowolnienia do całkowitego wyłączenia, w zależności od powagi każdego incydentu.

Sekretarz ds. bezpieczeństwa wewnętrznego również będzie miał tę władzę. Urzędnik skonsultuje się z sekretarzem handlu i dyrektorem wywiadu narodowego.

Ustawa wymaga również zgłaszania incydentów oraz zachowania zapisów kryminalistycznych. Ustawodawcy chcą, aby awarie były badane, a nie ujawniane dopiero po fakcie.

Poseł Lieu przedstawił ustawę jako zabezpieczenie przed systemami działającymi autonomicznie.

„Niezbędne jest, aby te systemy AI miały wyłączniki awaryjne, abyśmy mogli zapobiec katastrofalnym szkodom, a rząd federalny miał wyraźną władzę i proces do wyłączania zbuntowanych modeli AI,” powiedział.

Pięć organizacji popiera tę ustawę, w tym Future of Life Institute i Americans for Responsible Innovation. Ustawa wchodzi teraz w gęsty federalny debata na temat nadzoru nad AI. Jej postęp będzie testem, czy zasady bezpieczeństwa oparte na bipartyzmie mogą zostać wprowadzone w Kongresie.

Subskrybuj nasz kanał YouTube, aby oglądać liderów i dziennikarzy, którzy dostarczają fachowych spostrzeżeń

Źródło: BeInCrypto