A OpenAI decidiu apoiar uma proposta de lei da Califórnia voltada à segurança de adolescentes em produtos de inteligência artificial. O anúncio saiu em 31 de agosto, e a empresa pediu ao governador Gavin Newsom que assine o Senate Bill 1119, conhecido como SB 1119.
O detalhe que merece atenção é a posição da própria empresa: em vez de tratar a proteção de jovens apenas como uma configuração opcional, a OpenAI defende salvaguardas automáticas para usuários de 13 a 17 anos. Isso ainda não transforma o anúncio em obrigação para o mercado, mas mostra como a discussão está saindo do campo das recomendações internas e entrando na legislação.
O que o SB 1119 propõe
Segundo a carta publicada pela OpenAI, o projeto combina acesso a ferramentas de IA com exigências de segurança adequadas à idade. Entre os pontos apoiados estão a verificação da idade do usuário, a avaliação de riscos antes do lançamento de um produto e auditorias independentes.
O texto também prevê proteção contra conteúdo de alto risco, incluindo material relacionado a automutilação e exploração sexual. A proposta menciona recursos para pais orientarem e limitarem o uso, conexão com serviços de crise quando houver sinais graves e restrições à publicidade direcionada. A proteção de informações pessoais de jovens aparece no mesmo pacote.
Na visão da OpenAI, essas medidas deveriam ser aplicadas por padrão a quem for identificado como adolescente. É uma diferença importante em relação a menus escondidos ou controles que dependem de a família descobrir onde clicar. Também é uma área difícil: estimar idade pode gerar erros, e qualquer sistema desse tipo precisa explicar como trata dados sensíveis.
O apoio não encerra a discussão
A empresa afirma que o SB 1119 reconhece uma diferença entre inteligência artificial e redes sociais. O argumento é que adolescentes podem usar esses sistemas para estudar, criar e explorar ideias, desde que encontrem limites compatíveis com a idade. A OpenAI cita recursos do ChatGPT for Teens, como questionários, visualizações para aprendizagem e modo de estudo.
O anúncio também fala em controles parentais, previsão de idade e regras para impedir envolvimento romântico, incentivo à dependência emocional ou alegações de que o ChatGPT é humano. São decisões de produto anunciadas pela OpenAI, não uma descrição independente do desempenho dessas proteções. A carta deixa claro o que a companhia apoia, mas não substitui a leitura do texto legislativo nem o debate sobre fiscalização.
Esse é o ponto que costuma sumir quando uma empresa de tecnologia apoia uma lei: apoio não é a mesma coisa que cumprimento comprovado. Ainda faltam detalhes sobre auditorias, critérios de risco, recursos para contestar uma classificação de idade e o tratamento de dados. Também será preciso acompanhar o texto final e a regulamentação, caso o projeto avance.
Para o Brasil, a discussão funciona como um aviso antecipado. Produtos usados por adolescentes daqui também precisam explicar que tipo de proteção oferecem, o que os pais conseguem controlar e quando uma conversa deixa de ser apenas uma interação com software. A Califórnia pode aprovar uma regra local, mas as escolhas feitas ali tendem a influenciar produtos distribuídos globalmente.
Há outra camada prática nessa proposta. Uma regra pode dizer que o produto deve detectar risco, mas ainda precisa definir o que acontece depois: a conversa é encerrada, aparece uma orientação, um adulto é avisado ou o usuário é encaminhado para ajuda? Cada opção tem efeitos diferentes, e respostas automáticas mal calibradas podem assustar, expor ou simplesmente falhar com quem mais precisa.
Também existe uma tensão entre privacidade e supervisão familiar. Pais precisam de ferramentas para acompanhar situações perigosas, mas adolescentes não deixam de ter direito a algum espaço próprio. O projeto será avaliado justamente nesses detalhes, e não apenas pela lista de boas intenções divulgada no anúncio.
A fonte desta matéria é o anúncio oficial da OpenAI sobre o SB 1119: leia o texto original.
