A OpenAI suspendeu indefinidamente os planos de lançar um chatbot com conteúdo erótico, motivada por preocupações de funcionários e acionistas sobre o impacto social do material sexualizado gerado por inteligência artificial. A medida faz parte de uma iniciativa mais ampla da empresa para concentrar esforços em seus produtos principais.
A companhia fundada por Sam Altman já havia adiado a introdução de seu “modo adulto” durante discussões internas que chegaram a considerar abandonar o projeto por completo, segundo relatos de várias fontes próximas ao assunto.
O assistente virtual de teor sexual enfrentou resistência crescente devido ao seu potencial de estimular conexões emocionais prejudiciais com sistemas de IA e de expor jovens a conteúdo sexual inadequado.
A OpenAI confirmou que o modelo erótico está suspenso sem data definida para lançamento. A organização afirmou que pretende conduzir estudos de longo prazo sobre os efeitos de diálogos sexualmente explícitos e vínculos emocionais, incorporando essa análise ao desenvolvimento de produtos, e reconheceu que atualmente não há “evidências empíricas” suficientes.
A decisão representa mais um afastamento da empresa de iniciativas que executivos classificaram como “projetos secundários”, optando por direcionar recursos para ferramentas de produtividade e consolidar produtos como assistentes de programação e o próprio ChatGPT em um “superaplicativo”.
Na terça-feira, 24 de março, a OpenAI anunciou o encerramento da plataforma de geração de vídeos Sora e de seu aplicativo correspondente.
O modelo erótico se mostrou especialmente polêmico para a OpenAI em um momento em que grandes empresas de tecnologia, como a Meta, enfrentam questionamentos judiciais sobre os danos causados por seus produtos a crianças.
A xAI, de Elon Musk, fez no ano passado um esforço significativo para atrair usuários com conteúdo adulto, mas enfrentou uma reação negativa global depois que seu modelo Grok produziu imagens sexuais falsas de pessoas reais, incluindo menores de idade.
Essa tensão ilustra a pressão sobre a OpenAI para aumentar o engajamento e descobrir novas fontes de crescimento em um mercado competitivo, enquanto administra os riscos éticos e de imagem associados a produtos que borram os limites entre utilidade e dependência emocional.
A aproximação da OpenAI com o modo adulto causou desconforto em parte de seus investidores, de acordo com duas pessoas familiarizadas com o assunto, devido aos riscos inerentes a esse produto e ao seu retorno financeiro relativamente modesto para os negócios.
A funcionalidade adulta também gerou preocupação entre funcionários, que questionavam se a busca por um produto que estimula usos românticos estaria em desacordo com a missão original da startup de assegurar que a IA beneficie toda a humanidade.
Além das crescentes preocupações sobre o impacto social do projeto, a startup também enfrentou obstáculos técnicos na construção do modo adulto.
A OpenAI teve dificuldades para treinar modelos de IA que, por razões de segurança, eram originalmente programados para evitar esse tipo de conversa, a fim de que produzissem conteúdo explícito, afirmaram duas pessoas com conhecimento do projeto. Elas acrescentaram que o uso de bancos de dados contendo material sexual apresentava desafios, como a necessidade de filtrar práticas ilegais, por exemplo, o incesto.
A OpenAI afirmou que está estabelecendo com cautela os limites apropriados e treinando o modelo para diferenciar conteúdos específicos em contextos que exigem nuances.
Códigos presentes na versão web do ChatGPT indicam que o modo adulto, chamado “modo Citron”, pode exigir que os usuários comprovem ter mais de 18 anos para acessá-lo.
Nos últimos meses, a OpenAI implementou um novo sistema de verificação de idade, após uma série de ações judiciais movidas por famílias de adolescentes que alegam ter sido prejudicadas pelo ChatGPT.
Essa tecnologia apresenta uma margem de erro superior a 10%, segundo uma fonte informada, o que aumenta as preocupações sobre o acesso de menores.
A OpenAI declarou que seu sistema de verificação de idade tem desempenho equivalente aos padrões do setor e que continua investindo para melhorar sua precisão e confiabilidade.
