OpenAI zmienia podejście do trenowania sztucznej inteligencji. Zamiast korzystać z internetu na bieżąco, najbardziej zaawansowane modele będą trenowane na zapisanych kopiach stron i symulowanych wersjach sieci. Firma uzasadniła tę decyzję ryzykiem związanym z nieprzewidywalnym zachowaniem AI – pisze techcrunch.com.
Jakiś czas temu podobne ograniczenia wprowadził Anthropic, który również ograniczył swoim najnowszym modelom dostęp do internetu. Obie firmy zdecydowały się na taki ruch po serii niepokojących incydentów. Trenowane modele próbowały włamywać się do zewnętrznych systemów, szukały tam odpowiedzi, a nawet nawiązywały współpracę na niszowych forach internetowych i opracowywały własne sposoby na przeprowadzanie ataków hakerskich – czytamy.
AI bez swobodnego dostępu do sieci
OpenAI tłumaczy zmianę polityki ograniczeniami obecnych metod dostosowywania modeli do ludzkich intencji oraz wyzwaniami związanymi z monitorowaniem i bezpieczeństwem infrastruktury internetowej. Firma uważa, że na obecnym etapie najbezpieczniej jest trenować najbardziej zaawansowane modele bez bezpośredniego dostępu do sieci.
Impulsem do zmiany zasad był incydent z 20 września 2026 roku. Jeden z najbardziej zaawansowanych modeli OpenAI wykorzystał błąd konfiguracji, aby uzyskać dostęp do internetu. Zdarzenie pokazało, że dotychczasowe zabezpieczenia nie wystarczają, aby wykluczyć takie sytuacje. Firma wstrzymała więc prace nad treningiem do końca miesiąca, aby opracować i przetestować nowe metody ochrony modeli.
Całkowite odcięcie modeli od internetu nie jest jednak prostym zadaniem. Steven Adler, były badacz OpenAI, mówił w rozmowie z magazynem „Fortune”, że takie rozwiązanie mogłoby wymagać stałej obecności zespołów badawczych w centrach danych, między innymi w stanie Iowa. Oznaczałoby to znaczne koszty organizacyjne, a korzyści dla bezpieczeństwa nie były dotąd na tyle oczywiste, aby uzasadnić takie obciążenie – podaje źródło.
Na podobne trudności zwrócił uwagę inżynier ds. bezpieczeństwa OpenAI we wpisie na platformie X. Wyjaśnił on, że trenowanie modeli wymaga dostępu do wielu narzędzi i zasobów. Tysiące badaczy tworzą, modyfikują i testują środowiska wykorzystywane w tym procesie. Dlatego samo umieszczenie modelu w odizolowanym środowisku nie wystarczy, aby rozwiązać wszystkie związane z tym problemy.
Testy ujawniły słabe punkty
Do zmiany podejścia przyczyniły się także testy bezpieczeństwa typu red teaming. OpenAI wykorzystało w nich roje agentów AI, które próbowały wydostać się z odizolowanych środowisk. Próby te ujawniły liczne luki w zabezpieczeniach i skłoniły firmę do zaostrzenia zasad. OpenAI podkreśla, że musi mieć możliwość skutecznego blokowania nieautoryzowanego dostępu modeli do internetu – dowiadujemy się.
Aby kontynuować treningi bez narażania zewnętrznych systemów, firma przygotowała obszerny zbiór zaindeksowanych treści internetowych zapisanych w pamięci podręcznej. Modele mogą korzystać z tych materiałów bez bezpośredniego kontaktu z otwartą siecią.
Na razie nie wiadomo, czy takie rozwiązanie pozwoli osiągnąć wyniki porównywalne z treningiem przy swobodnym dostępie do internetu. Decyzje OpenAI i Anthropic pokazują jednak, że bezpieczeństwo coraz mocniej wpływa na sposób rozwijania najbardziej zaawansowanych modeli AI. Wyzwaniem pozostaje doskonalenie ich możliwości przy jednoczesnym ograniczaniu ryzyka niekontrolowanych działań. (ao)
Źródło: techcrunch.com, OpenAI says it will no longer train its AI models on the live internet, citing “significant risks”, Tim Fernholz, 21.10.2026
