OpenAI w ogniu krytyki. Chodzi o komitet ds. bezpieczeństwa

OpenAI w ogniu krytyki. Chodzi o komitet ds. bezpieczeństwa. openai utworzyło nowy komitet ds. bezpieczeństwa, który ma nadzorować decyzje dotyczące bezpieczeństwa i ochrony w firmie – przekazuje techcrunch.com. kontrowersje wzbudził fakt, że zespół składa się tylko z osób pracujących „wewnątrz firmy” – dowiadujemy się. jak czytamy, w skład komitetu wchodzą m.in. sam altman, dyrektor generalny przedsiębiorstwa, szef systemów bezpieczeństwa lilian weng czy główny naukowiec jakub pachocki. zasiadają w nim również członkowie zarządu – bret taylor, adam d’angelo i nicole seligman. źródło przekazuje, że na blogu firmy pojawiła się informacja, zgodnie z którą grupa będzie odpowiedzialna za ocenę procesów bezpieczeństwa i zabezpieczeń openai w ciągu najbliższych 90 dni. następnie podzieli się ona swoimi ustaleniami i zaleceniami z pełnym zarządem openai w celu „przeglądu”. opublikuje również aktualizację wszelkich przyjętych sugestii „w sposób zgodny z bezpieczeństwem i ochroną”. techcrunch.com donosi, że w ciągu ostatnich kilku miesięcy firma odnotowała kilka „głośnych odejść” z działu bezpieczeństwa swojego zespołu technicznego. niektórzy z byłych pracowników wyrazili obawy dotyczące „celowego pozbawienia priorytetów bezpieczeństwa sztucznej inteligencji”. autor artykułu kyle wiggers wspomina o danielu kokotajlo, który w kwietniu 2024 roku odszedł z zespołu zarządzającego openai. swoją decyzję motywował tym, że stracił pewność, że firma będzie „zachowywać się odpowiedzialnie” w związku z tworzeniem coraz bardziej rozwiniętych systemów. dziennikarz przekazuje także, że w maju 2024 roku z pracy w firmie zrezygnował ilya sutskever, współzałożyciel openai i były główny naukowiec firmy. powodem miał być pośpiech altmana związany z wprowadzeniem na rynek produktów „kosztem pracy nad ich bezpieczeństwem”. co więcej, również jan leike, były badacz bezpieczeństwa w deepmind, który podczas pracy w openai był zaangażowany w rozwój narzędzia chatgpt i jego poprzednika instructgpt, zrezygnował z pełnionej przez siebie funkcji w firmie altmana. w serii postów na x komunikował, że nie wierzy w to, że narzędzia przedsiębiorstwa są na drodze do osiągnięcia bezpieczeństwa i ochrony „we właściwy sposób”. redaktor wspomina również o badaczce polityki ai gretchen krueger, która opuściła openai w zeszłym tygodniu. wezwała firmę do poprawy odpowiedzialności i przejrzystości oraz „staranności, z jaką [wykorzystuje] własną technologię”. techcrunch.com przekazuje za qz.com, że oprócz wspomnianych osób „co najmniej pięciu najbardziej świadomych procedur bezpieczeństwa pracowników openai odeszło lub zostało zwolnionych od końca 2023 roku (…)”. z firmą nie są już również związani byli członkowie zarządu – helen toner i tasha mccauley. stwierdzili oni, że nie wierzą, że pod przywództwem altmana openai jest wiarygodne w kwestii odpowiedzialności. źródło donosi, że ostatecznie – starając się uniknąć kontrowersji związanych z etyką przedsiębiorstwa – openai zobowiązało się do zatrudnienia zewnętrznych ekspertów ds. „bezpieczeństwa, ochrony i techniki”, którzy będą wspierać prace komisji, w tym weterana cyberbezpieczeństwa roba joyce’a i byłego urzędnika departamentu sprawiedliwości stanów zjednoczonych johna carlina. firma nie udzieliła większej ilości informacji dotyczących „grupy zewnętrznej”. (an).