Meta planuje znacząco zwiększyć udział sztucznej inteligencji w moderowaniu treści, stopniowo zastępując nią pracowników zajmujących się tym obszarem. Według portalu Axios obecnie około połowy zadań związanych z przeglądem treści wykonują już systemy AI. Firma zamierza dalej przyspieszać ten proces w nadchodzących latach – informuje socialmediatoday.com.
Jak podaje „Financial Times”, na który powołuje się źródło, w planach firmy jest osiągnięcie nawet 90 proc. automatyzacji zadań związanych z przeglądem treści i reklam do końca 2026 roku. W praktyce oznaczałoby to, że zdecydowana większość decyzji w tych obszarach na platformach takich jak Facebook czy Instagram byłaby podejmowana przez systemy AI.
Luka w zabezpieczeniach
Plany te ujawniono po incydencie, w którym około 20 tys. profili na Instagramie zostało przejętych przez hakerów w wyniku ataku. Oszuści zmanipulowali asystenta wsparcia AI, uzyskując w ten sposób dostęp do kont, które do nich nie należały.
Nie był to klasyczny cyberatak wymagający umiejętności programistycznych. Sprawcy wykorzystali sposób działania bota i to, że reaguje on na polecenia w języku naturalnym, nakłaniając go do wysłania kodów weryfikacyjnych na inne adresy e-mail – czytamy.
Meta poinformowała, że luka w zabezpieczeniach, którą wykorzystali oszuści, została już usunięta. Incydent ten pokazał jednak, że systemy AI, które rozumieją polecenia w naturalnym języku, mogą być podatne na nadużycia zależne od sposobu zadawania pytań.
Mogą pojawić się kolejne próby
Rozwój takich systemów wiąże się z istotnymi wyzwaniami w zakresie bezpieczeństwa. Użytkownicy mogą bowiem wielokrotnie próbować manipulować AI na różne sposoby. Takie problemy wynikają z samej natury modeli językowych, które reagują na różne formy poleceń.
Podobne zjawisko występuje również w innych systemach sztucznej inteligencji, gdzie odpowiednio sformułowane zapytania mogą ominąć część zabezpieczeń. Im większą odpowiedzialność powierza się takim narzędziom, tym większe jest ryzyko ich nadużycia – zauważa źródło.
Meta jednocześnie intensywnie inwestuje w rozwój AI, przeznaczając na ten cel setki miliardów, a według niektórych szacunków nawet biliony dolarów. Firma chce, aby sztuczna inteligencja stała się kluczową technologią umożliwiającą automatyzację szerokiego zakresu zadań – czytamy.
W dłuższej perspektywie Meta planuje również komercjalizację swoich modeli i sprzedaż ich innym firmom. Dlatego wewnętrzne wdrażanie AI oraz ograniczanie udziału pracy ludzkiej mają stanowić dowód skuteczności tych rozwiązań. (ao)
Źródło: socialmediatoday.com, Meta plans to replace 90% of content review staff with AI, Andrew Hutchinson, 25.06.2026
