Meta zapowiedziała dodanie nowych zabezpieczeń dla nastolatków korzystających z Meta AI. Jednym z nich będzie powiadamianie rodziców korzystających z nadzoru rodzicielskiego na Instagramie, jeśli rozmowa ich dziecka z chatbotem będzie wskazywać na możliwe ryzyko samobójstwa lub samookaleczenia. Wraz z alertem otrzymają oni materiały przygotowane przez ekspertów, które pomogą im odpowiednio podejść do rozmowy z nastolatkiem i zapewnić mu potrzebne wsparcie.
AI zwróci uwagę rodziców
Już teraz Meta AI reaguje na wiadomości, w których nastolatki wspominają o samobójstwie lub samookaleczeniu. Chatbot kieruje ich do telefonów zaufania i innych form pomocy kryzysowej oraz zachęca do poszukania wsparcia u rodzica lub innej zaufanej osoby dorosłej, w tym psychologa lub pedagoga.
Nowe rozwiązanie rozszerza ten mechanizm. Jeśli rozmowa z Meta AI będzie wskazywać, że nastolatek może być zagrożony, rodzic korzystający z nadzoru rodzicielskiego na Instagramie otrzyma powiadomienie. System będzie opierał się na sygnałach opracowanych wspólnie z ekspertami i ma wychwytywać także mniej oczywiste nawiązania do chęci zrobienia sobie krzywdy.
Meta zapewnia, że zanim alert trafi do rodzica, każda rozmowa oznaczona przez AI zostanie zweryfikowana przez człowieka. Jeśli intencje nastolatka okażą się niejednoznaczne, firma zastosuje zasadę ostrożności i mimo wszystko wyśle powiadomienie. Jak podkreśla Meta, takie podejście ma przede wszystkim zmniejszyć ryzyko przeoczenia sytuacji, w których młody człowiek może potrzebować wsparcia.
Nowa funkcja uzupełnia istniejący już system, który wysyła rodzicom powiadomienia, gdy nastolatek w krótkim czasie wielokrotnie szuka na Instagramie treści dotyczących samobójstwa lub samookaleczenia.
Funkcja jest już dostępna dla rodziców korzystających z nadzoru rodzicielskiego na Instagramie w Stanach Zjednoczonych, Wielkiej Brytanii, Kanadzie i Australii. Do końca 2026 roku ma zostać udostępniona użytkownikom na całym świecie.
Pojawią się kolejne formy pomocy
Meta pracuje również nad możliwością kontaktowania się z służbami ratunkowymi w przypadku rozmowy wskazującej na bezpośrednie zagrożenie odebrania sobie życia. Funkcja ma obejmować zarówno nastolatków, jak i osoby dorosłe.
Firma podkreśla, że podobny mechanizm działa już na Facebooku i Instagramie. Gdy zostaną wykryte wiarygodne sygnały wskazujące na ryzyko samobójstwa, informowane są odpowiednie służby. W 2025 roku Meta przekazała na całym świecie ponad 19 tys. takich zgłoszeń, pomagając przeprowadzić kontrole dobrostanu osób, które mogły znajdować się w niebezpieczeństwie.
Chatbot dostosuje odpowiedzi do wieku użytkownika
Jak podaje firma, nad udoskonaleniem odpowiedzi Meta AI w trudnych rozmowach dotyczących samobójstwa i samookaleczenia pracowało ponad 75 klinicystów specjalizujących się w zdrowiu psychicznym młodzieży. Przeanalizowali oni setki odpowiedzi systemu, oceniając, czy są odpowiednie dla nastolatków oraz wskazując elementy wymagające poprawy. Na podstawie ich uwag Meta rozwija model tak, aby lepiej rozumiał emocje młodych użytkowników, okazywał im wsparcie i skuteczniej kierował ich do odpowiednich źródeł pomocy, zamiast zbyt szybko kończyć rozmowę.
Konta nastolatków są domyślnie objęte ustawieniami treści przeznaczonymi dla osób w wieku 13 lat i starszych, które dotyczą również rozmów z Meta AI. W tym trybie chatbot ma udzielać odpowiedzi dostosowanych do wieku użytkownika oraz unikać rozmów o charakterze seksualnym lub romantycznym, a także nie podawać przepisów na napoje alkoholowe. Zamiast tego kieruje rozmowę w stronę bezpieczniejszych tematów.
Meta rozszerza również działanie funkcji „Ograniczone treści”, którą rodzice mogą aktywować na Instagramie. Od teraz ustawienie to będzie obowiązywać także w rozmowach z Meta AI. Po jego włączeniu chatbot odmówi odpowiedzi na szerszy zakres wrażliwych pytań, co ma dodatkowo zmniejszyć ryzyko nieodpowiednich interakcji z nastolatkami. (ao)
