À medida que aumentam as preocupações sobre o impacto da IA nos jovens, a OpenAI introduziu um recurso de “previsão de idade” no ChatGPT, projetado para ajudar a identificar menores de idade e aplicar restrições de conteúdo apropriadas em suas conversas.
A OpenAI tem sido fortemente criticada nos últimos anos pelos impactos que o ChatGPT pode causar em crianças. Vários suicídios de adolescentes foram associados ao chatbot, e, assim como outros fornecedores de IA, a OpenAI também foi criticada por permitir que o ChatGPT discutisse tópicos sexuais com jovens usuários. Em abril passado, a empresa foi obrigada a corrigir uma falha que permitia ao chatbot gerar conteúdos eróticos para usuários menores de 18 anos.
A empresa já vem trabalhando há algum tempo na questão de usuários menores de idade, e o novo recurso de “previsão de idade” apenas reforça as proteções já existentes. O novo recurso utiliza um algoritmo de IA que avalia contas de usuários com base em determinados “sinais comportamentais e de nível de conta”, buscando identificar usuários jovens, afirmou a OpenAI em uma postagem no blog nesta terça-feira.
Esses “sinais” incluem informações como a idade declarada pelo usuário, o tempo de existência da conta e os horários em que a conta costuma estar ativa, segundo a empresa. A empresa já possui filtros de conteúdo projetados para bloquear discussões sobre sexo, violência e outros tópicos potencialmente problemáticos para usuários menores de 18 anos. Se o mecanismo de previsão de idade identificar que uma conta pertence a alguém com menos de 18 anos, esses filtros são aplicados automaticamente.
Caso um usuário seja identificado erroneamente como menor de idade, existe uma forma de restabelecer sua conta como “adulta”. Eles podem enviar uma selfie ao parceiro de verificação de identidade da OpenAI, a Persona, afirma a empresa.
