OpenAI wprowadza weryfikację wieku w ChatGPT

OpenAI ogłosiło, że wdroży wewnętrzny system weryfikacji wieku dla ChatGPT, co jest odpowiedzią na rosnącą presję ze strony regulatorów oraz tragiczne wydarzenia związane z nieletnimi. Nowy system automatycznie analizować będzie styl komunikacji użytkownika oraz jego zapytania, aby oszacować jego przedział wiekowy. Jeśli algorytm podejrzewa, że użytkownik jest nastolatkiem poniżej 18 roku życia, konto zostanie automatycznie umieszczone w ograniczonym trybie „bezpiecznym” z ograniczoną funkcjonalnością.

W tym trybie bezpieczeństwa AI unika wszelkich tematów związanych z samookaleczeniem lub samobójstwem — nawet jeśli użytkownik prosi o pomoc w fikcyjnej historii na ten temat. Chatbot nie będzie również angażować się w flirt ani omawiać tematów o charakterze erotycznym. Jeśli system wykryje bezpośrednie zagrożenie dla życia nastolatka, firma zastrzega sobie prawo do powiadomienia jego rodziców lub służb ratunkowych.

Dla dorosłych użytkowników swoboda rozmowy pozostanie w dużej mierze niezmieniona. ChatGPT nadal będzie mógł pomagać w pisaniu scenariuszy i dzieł literackich na złożone lub kontrowersyjne tematy. Jak stwierdził dyrektor generalny OpenAI, Sam Altman, wewnętrzną zasadą firmy jest „traktować dorosłych użytkowników jak dorosłych”. Jednak w niektórych sytuacjach dorośli użytkownicy mogą być zobowiązani do przedstawienia dowodu tożsamości w celu potwierdzenia wieku. Firma zauważa, że jest to konieczny kompromis między prywatnością a ochroną młodszego pokolenia.

Ta nowa funkcja prawdopodobnie wywoła debatę na temat równoważenia ochrony dzieci z prawem do anonimowości w sieci. Nie jest jeszcze jasne, jak nowe zasady wpłyną na użytkowników w różnych krajach. System weryfikacji wieku oraz nowe kontrole rodzicielskie mają zostać wdrożone w nadchodzących miesiącach.

Oszałamiająca popularność ChatGPT, który osiąga zasięg 700 milionów użytkowników tygodniowo w zaledwie kilka lat, przekształciła bezpieczeństwo i etykę AI z teoretycznej dyskusji w krytyczny, rzeczywisty problem. Usługa jest szeroko stosowana przez młodych ludzi jako codzienny pomocnik, a statystyki pokazują, że prawie połowa wszystkich zapytań pochodzi od użytkowników poniżej 26 roku życia.

W tym kontekście wprowadzenie „trybu nastolatka” wydaje się nie tylko środkiem ostrożności, ale koniecznym krokiem w celu ochrony najbardziej aktywnej i wrażliwej części globalnej społeczności ChatGPT. Rośnie odpowiedzialność deweloperów w związku z rosnącą popularnością AI wśród młodzieży — odpowiedzialność, którą OpenAI podejmuje teraz konkretne kroki, aby sformalizować.