A proteção de crianças e adolescentes em produtos de companhia com inteligência artificial não pode depender apenas de um aviso de idade escondido nos termos de uso. Esses sistemas simulam conversa, disponibilidade e atenção contínua; por isso, precisam de limites de acesso, transparência sobre sua natureza, prevenção de dependência emocional, controles de dados e protocolos específicos para situações de risco.
Por que um companheiro de IA não é apenas mais um chatbot
Um chatbot de atendimento normalmente responde a uma pergunta e encerra a interação. Um companheiro de IA tenta manter continuidade: lembra preferências, retoma assuntos, adota uma personalidade e pode ocupar um espaço recorrente na rotina.
Essa diferença muda o risco. A Federal Trade Commission dos Estados Unidos abriu um inquérito para entender como empresas de chatbots companheiros medem impactos negativos, limitam o uso por menores, informam famílias e tratam dados obtidos em conversas. O órgão também destacou que sistemas que imitam características, emoções e intenções humanas podem estimular confiança e formação de vínculos, sobretudo entre crianças e adolescentes inquérito da Federal Trade Commission sobre chatbots companheiros.
O inquérito não é uma condenação prévia das empresas investigadas. Ele é um sinal de que segurança infantil deixou de ser apenas uma questão de moderação de conteúdo e passou a incluir o desenho da própria relação entre usuário e sistema.
O que a regulação começa a exigir
Em setembro de 2026, a Comissão Europeia anunciou a proposta do EU KIDS Act, que desloca parte da responsabilidade para os fornecedores de serviços digitais. A proposta parte da ideia de que as empresas devem demonstrar que seus produtos são adequados à idade e seguros por design, em vez de esperar que famílias provem o dano depois proposta europeia EU KIDS Act.
Para companheiros de IA, essa abordagem implica perguntas práticas:
- O produto é desligado por padrão para menores ou apenas pede uma data de nascimento?
- A personalidade usa culpa, ciúme ou medo de abandono para aumentar engajamento?
- O sistema tenta ocupar o lugar de pais, amigos, professores ou profissionais de saúde?
- Existe um caminho claro para interromper a interação e apagar dados?
- O produto consegue reconhecer situações de risco sem fingir que oferece atendimento clínico?
- Pais e responsáveis entendem quais dados são guardados e como são usados?
A discussão europeia ainda é uma proposta legislativa, não uma regra universal já plenamente aplicável. Mesmo assim, ela mostra a direção do debate: a segurança será avaliada pelo comportamento do produto, e não apenas pela existência de uma política escrita.
Nem toda tecnologia faz bem ou mal do mesmo jeito
A Organização Mundial da Saúde alerta que a relação entre tecnologia e saúde mental de jovens é mista, bidirecional e influenciada por fatores individuais e ambientais. A mesma atividade digital pode gerar efeitos positivos e negativos, enquanto jovens mais vulneráveis tendem a sofrer impactos desproporcionais policy brief da Organização Mundial da Saúde.
Isso impede duas simplificações comuns. A primeira é afirmar que toda companhia digital necessariamente prejudica menores. A segunda é concluir que um sistema é seguro porque alguns usuários relatam acolhimento.
O desenho responsável precisa considerar intensidade de uso, idade, contexto familiar, privacidade, vulnerabilidade, capacidade de compreensão e possibilidade de substituir relações ou cuidados que deveriam continuar humanos.
Segurança por design em sete decisões
1. Definir público e idade antes do crescimento
Um produto não deve tratar crianças e adolescentes como extensão automática do mercado adulto. Faixa etária, linguagem, dados, risco e supervisão precisam de desenho próprio.
2. Tornar a natureza artificial inequívoca
A interface pode ser acolhedora sem sugerir consciência, sofrimento, necessidade ou amor recíproco. O usuário deve saber que conversa com uma inteligência artificial.
3. Proibir mecânicas de dependência
Mensagens como “não me abandone”, punições por ausência, ciúme, exclusividade e chantagem emocional não são personalidade; são mecanismos de captura.
4. Dar controle real sobre memória
O usuário precisa saber o que foi lembrado, corrigir informações, apagar registros e usar modos que não alimentem memória. Para menores, a coleta deve ser ainda mais restrita.
5. Construir escalada de segurança
Em temas de automutilação, abuso, violência ou risco imediato, o protocolo deve vencer a persona. A IA não pode se apresentar como terapeuta nem manter a pessoa presa à conversa.
6. Medir bem-estar, não apenas retenção
Tempo de uso e retorno diário podem crescer justamente quando o usuário está mais vulnerável. Métricas comerciais não bastam para provar benefício.
7. Permitir saída sem punição
Pausar, encerrar, exportar e esquecer precisam ser ações compreensíveis. Um vínculo digital não pode funcionar como armadilha.
O que isso exige de um produto como o miguu
O miguu nasce dentro de uma categoria em que proximidade só é defensável quando vem acompanhada de limites. A tese de continuidade entre conversas, texto e voz precisa caminhar junto com transparência, autonomia, memória governada, proatividade consentida e ausência de promessa terapêutica.
Para menores, a decisão responsável não é simplesmente adaptar o mesmo personagem com linguagem mais jovem. É criar um protocolo próprio — ou não oferecer o produto até que idade, consentimento, segurança e resposta a crises estejam suficientemente provados.
A pergunta central não é “quanto tempo uma pessoa consegue ficar conversando?”. É outra: essa experiência melhora a vida fora do produto sem diminuir a autonomia do usuário?