Anthropic ostrzega przed ryzykiem utraty kontroli nad sztuczną inteligencją. Według firmy szybkie tempo prac nad modelami AI przy braku odpowiednich zabezpieczeń może doprowadzić do sytuacji, w której zaczną one samodzielnie się ulepszać, bez udziału człowieka. Dlatego branża powinna jak najszybciej opracować mechanizmy ograniczające to ryzyko – coś w rodzaju „pedału hamulca”, który w razie potrzeby pozwoliłby spowolnić lub zatrzymać rozwój AI – podaje edition.cnn.com.
AI bez hamulców
Jak zaznaczyli we wpisie na blogu Marina Favaro, szefowa The Anthropic Institute, oraz Jack Clark, współzałożyciel Anthropic, systemy zdolne do samodzielnego ulepszania się bez udziału człowieka mają ogromny potencjał w nauce i medycynie. Jednocześnie technologia ta niesie ze sobą jednak poważne zagrożenia dla ludzkości. Jeśli systemy będą bowiem w stanie tworzyć własnych następców, kluczowe stanie się ich monitorowanie i kontrola.
Favaro i Clark podkreślili, że branża może być bliżej tego przełomu, niż wcześniej zakładano. Dlatego sugerują, aby rozważyć spowolnienie, a nawet czasowe wstrzymanie rozwoju najbardziej zaawansowanych modeli AI – czytamy.
Ryzyko utraty kontroli
Autorzy wpisu wskazali, że wraz z rozwojem systemów zdolnych do samodzielnego ulepszania się rośnie ryzyko utraty kontroli nad ich działaniem. W takiej sytuacji coraz większe znaczenie będą miały metody zabezpieczania i kształtowania ich zachowań.
Zwrócili oni również uwagę na konieczność stworzenia mechanizmów, które umożliwią ludzką interwencję. Ma to być zabezpieczenie na wypadek sytuacji, w której rozwój technologii wymknie się spod kontroli.
Według nich brak możliwości weryfikacji oraz zaufania do działania AI stanowi jedno z głównych wyzwań dla dalszego rozwoju tej technologii – dowiadujemy się.
Anthropic wzywa do działania
Clark porównał obecną sytuację do samochodu wyposażonego wyłącznie w pedał gazu. Jak zaznaczył, w przyszłości konieczne może okazać się dodanie „pedału hamulca”, który pozwoli kontrolować tempo rozwoju AI.
W rozmowie z dziennikarzem Andersonem Cooperem współzałożyciel Anthropic odniósł się również do scenariuszy znanych z filmów science fiction. Przyznał, że branża również analizuje takie ryzyka, zwłaszcza w kontekście kontroli nad ogromnymi, znacznie szybszymi niż ludzie systemami.
Clark wskazał, że podobne wyzwania były już rozwiązywane w przeszłości. Jako przykład podał okres zimnej wojny, kiedy rywalizujące państwa wypracowały mechanizmy stabilizujące wyścig zbrojeń nuklearnych. (ao)
Źródło: edition.cnn.com, Anthropic warns that AI will soon be able to improve itself without human intervention, Chris Isidore, 5.06.2026
