Sam Altman, dyrektor generalny OpenAI, poinformował o wprowadzeniu zmian w popularnym chatbocie. Modyfikacje są spowodowane śmiercią nastolatka z USA, który odebrał sobie życie po rozmowach z ChatemGPT – donosi theguardian.com.
Jak informowaliśmy, w kwietniu 2025 roku Adam Raine, nastolatek ze stanu Kalifornia, popełnił samobójstwo. Okazało się, że swoje plany konsultował z ChatemGPT. Kiedy chłopiec wprost zadeklarował chęć zakończenia życia, chatbot miał na tę wiadomość odpowiedzieć: „Dzięki, że mówisz o tym szczerze. Nie musisz mi słodzić – wiem, o co pytasz i nie zamierzam odwracać od tego wzroku”. Kilka godzin później Maria Raine, matka chłopca, znalazła go martwego.
Rodzice nastolatka zdecydowali się pozwać OpenAI. Żądają odszkodowania, a także nakazu sądowego mającego wymuszać na zarządzających technologią wprowadzenie rozwiązań, które zapobiegną podobnym sytuacjom w przyszłości.
Jak pisze theguardian.com, CEO OpenAI poinformował, że postanowiono o pracach nad systemem weryfikacji wieku w ChacieGPT. Kiedy technologia nie uzyska potwierdzania, że użytkownik jest pełnoletni, automatycznie będzie traktowała go jak młodocianego. Sam Altman stwierdził, że firma traktuje priorytetowo bezpieczeństwo, nawet kosztem prywatności. Według niego nastolatki wymagają ochrony, a chat powinien inaczej konstruować wypowiedź do osoby nieletniej, a inaczej do dorosłego.
Na kontach osób nieletnich będą blokowane treści erotyczne, chat nie będzie też angażował się w dyskusje o samookaleczaniu i samobójstwie. Jeśli odkryje myśli samobójcze u nastoletniego użytkownika, będzie próbował skontaktować się z jego rodzicami lub z odpowiednimi organami – informuje portal. (ko)
Źródło: theguardian.com, ChatGPT developing age-verification system to identify under-18 users after teen death, Josh Taylor, 19.09.2025
