W związku z narastającymi obawami dotyczącymi wpływu AI na młodych ludzi, OpenAI wprowadziło do ChatGPT funkcję „przewidywania wieku”, która ma na celu identyfikację nieletnich użytkowników oraz nakładanie rozsądnych ograniczeń na treści w ich rozmowach.
OpenAI było w ostatnich latach mocno krytykowane za wpływ, jaki ChatGPT może mieć na dzieci. Szereg samobójstw nastolatków został powiązany z chatbotem, a podobnie jak inni dostawcy AI, OpenAI było także krytykowane za umożliwianie ChatGPT rozmów na tematy seksualne z młodymi użytkownikami. W kwietniu ubiegłego roku firma została zmuszona do naprawienia błędu, który pozwalał chatbotowi generować erotyczne treści dla użytkowników poniżej 18 roku życia.
Firma już od pewnego czasu pracowała nad problemem niepełnoletnich użytkowników, a nowa funkcja „przewidywania wieku” jedynie wzmacnia istniejące już zabezpieczenia. Nowa funkcja wykorzystuje algorytm AI, który analizuje konta użytkowników pod kątem określonych „sygnałów behawioralnych i na poziomie konta”, aby zidentyfikować młodych użytkowników, poinformowało OpenAI na swoim blogu we wtorek.
Do tych „sygnałów” zaliczane są takie elementy jak podany wiek użytkownika, czas istnienia konta oraz godziny, w których konto jest zwykle aktywne, podała firma. OpenAI już posiada filtry treści zaprojektowane tak, by eliminować rozmowy na temat seksu, przemocy i innych potencjalnie problematycznych tematów dla użytkowników poniżej 18 roku życia. Jeśli mechanizm przewidywania wieku wykryje, że konto należy do osoby poniżej 18 lat, filtry te są automatycznie stosowane.
Jeśli użytkownik zostanie błędnie oznaczony jako niepełnoletni, istnieje możliwość przywrócenia mu statusu „dorosłego” konta. Może on przesłać swoje zdjęcie selfie do partnera OpenAI zajmującego się weryfikacją tożsamości – firmy Persona, informuje OpenAI.
