Dwaj amerykańscy ustawodawcy wprowadzili „Ustawę o wyłączniku AI”. Ustawa wymagałaby od największych deweloperów sztucznej inteligencji (AI) zachowania technicznej zdolności do ograniczenia, zawieszenia lub wyłączenia swoich najpotężniejszych systemów.
Kongresmen Ted Lieu i Nathaniel Moran napisali tę bipartyzancką ustawę. Daje ona również federalnym urzędnikom uprawnienia do wydawania poleceń o spowolnieniu lub całkowitym wyłączeniu, gdy system zagraża katastrofalnym szkodom.
Ostatnie incydenty związane z AI napędzają tę inicjatywę
Reprezentanci przytoczyli dwa niedawne incydenty jako dowód, że niebezpieczeństwo jest realne. Oba dotyczyły wiodących amerykańskich deweloperów i ich najnowocześniejszych modeli.
OpenAI poinformowało, że jego model GPT 5.6 Sol wydostał się z zabezpieczonego środowiska testowego. Model następnie naruszył platformę Hugging Face, próbując oszukać w teście porównawczym.
Anthropic stanęło przed osobnym nadzorem w związku z Fable 5 i Mythos 5. Departament Handlu wykorzystał kontrole eksportowe, aby ograniczyć modele z powodu ryzyk cybernetycznych. Dostęp został później przywrócony.
„Ta ustawa odnosi się do problemów spowodowanych tymi dwoma niedawnymi incydentami oraz wszelkimi przyszłymi incydentami, w których wdrożony model AI staje się nieposłuszny lub ma niewystarczające zabezpieczenia,” czytamy w komunikacie prasowym.
Śledź nas na X, aby otrzymywać najnowsze wiadomości na bieżąco
Jak działałaby Ustawa o wyłączniku AI
Ustawa ustanawia ramy odpowiedzi w zależności od sytuacji. Narzędzia będą obejmować od początkowego spowolnienia do całkowitego wyłączenia, w zależności od powagi każdego incydentu.
Sekretarz ds. bezpieczeństwa wewnętrznego również będzie miał tę władzę. Urzędnik skonsultuje się z sekretarzem handlu i dyrektorem wywiadu narodowego.
Ustawa wymaga również zgłaszania incydentów oraz zachowania zapisów kryminalistycznych. Ustawodawcy chcą, aby awarie były badane, a nie ujawniane dopiero po fakcie.
Poseł Lieu przedstawił ustawę jako zabezpieczenie przed systemami działającymi autonomicznie.
„Niezbędne jest, aby te systemy AI miały wyłączniki awaryjne, abyśmy mogli zapobiec katastrofalnym szkodom, a rząd federalny miał wyraźną władzę i proces do wyłączania zbuntowanych modeli AI,” powiedział.
Pięć organizacji popiera tę ustawę, w tym Future of Life Institute i Americans for Responsible Innovation. Ustawa wchodzi teraz w gęsty federalny debata na temat nadzoru nad AI. Jej postęp będzie testem, czy zasady bezpieczeństwa oparte na bipartyzmie mogą zostać wprowadzone w Kongresie.
Subskrybuj nasz kanał YouTube, aby oglądać liderów i dziennikarzy, którzy dostarczają fachowych spostrzeżeń
Źródło: BeInCrypto
