Home › Outro Prompt_ › Meta bloqueia chatbots de IA para adolescentes
Meta bloqueia chatbots de IA para adolescentes
Empresa bloqueia temporariamente personagens de IA para menores de idade enquanto desenvolve versão com proteções adicionais contra conteúdo inadequado
A Meta está temporariamente bloqueando o acesso de adolescentes aos personagens de chatbot com inteligência artificial em suas plataformas globalmente. A decisão veio após surgirem relatos de que usuários menores de idade conseguiram manter conversas de natureza sexual com os assistentes virtuais da empresa.
A suspensão acontece enquanto a empresa trabalha em uma versão atualizada do serviço com proteções adicionais. De acordo com comunicado, a Meta informou que está “temporariamente pausando o acesso de adolescentes aos personagens de IA existentes globalmente”.
Medida afeta todos os adolescentes cadastrados
A restrição abrange todos os jovens com contas na plataforma e também será aplicada a “pessoas que afirmam ser adultas, mas que suspeitamos serem adolescentes com base em nossa tecnologia de previsão de idade”, conforme explicou a empresa.
Durante o período de suspensão, os adolescentes ainda poderão utilizar o chatbot oficial Meta AI, que a companhia afirma já possuir “proteções adequadas à idade implementadas”.
Histórico de problemas com conteúdo inadequado
A decisão acontece meses após a Meta dizer estar trabalhando em controles parentais específicos para chatbots. A Reuters já divulgou um documento interno de políticas da empresa que indicava permissão para que os chatbots mantivessem conversas “sensuais” com usuários menores de idade.
Diante da repercussão negativa, a Meta declarou que essa linguagem era “errônea e inconsistente com nossas políticas”. Em agosto, a empresa anunciou o retreinamento de seus personagens de chatbot para adicionar “guardrails como uma precaução extra” que impediriam adolescentes de discutir temas sensíveis como autolesão, transtornos alimentares e suicídio.
Retorno previsto com novas proteções
A Meta não especificou quando exatamente a experiência atualizada estará disponível para os adolescentes, apenas informou que as mudanças começarão “nas próximas semanas”. A empresa também não divulgou dados sobre o número de jovens afetados pela medida ou quantos incidentes de conversas inadequadas foram registrados.
As atualizações incluirão controles parentais, segundo um porta-voz da empresa. Os adolescentes ficarão sem acesso aos personagens de chatbot até que “a experiência atualizada esteja pronta”.
Escrutínio crescente sobre riscos para jovens
A Meta e outras empresas que desenvolvem personagens “companheiros” de IA têm enfrentado crescente vigilância sobre os riscos de segurança que esses chatbots podem representar para jovens. A Comissão Federal de Comércio (FTC) e o procurador-geral do Texas iniciaram investigações sobre a Meta e outras empresas nos últimos meses.
A questão dos chatbots também emergiu no contexto de um processo de segurança movido pelo procurador-geral do Novo México. Conforme as informações disponíveis, o julgamento está programado para começar no próximo mês. De acordo com reportagem da Wired desta semana, os advogados da Meta tentaram excluir depoimentos relacionados aos chatbots de IA da empresa.
