Um assistente proativo deve continuar sujeito às escolhas de quem o utiliza. Antes de executar uma ação, precisa existir clareza sobre o que foi autorizado, por quanto tempo e com quais limites. A possibilidade de interromper a tarefa faz parte da utilidade do serviço: permite delegar sem abrir mão de decidir.
O anúncio do AI Passport pela ServiceNow, em 15 de outubro de 2026, torna essa questão concreta no ambiente empresarial. A empresa apresentou uma proposta para verificar o alcance das permissões de agentes durante a execução. A disponibilidade estava prevista para o quarto trimestre. O anúncio não comprova que assistentes de consumo já ofereçam esse controle nem que o produto elimine todos os riscos. anúncio do AI Passport pela ServiceNow.
Iniciativa precisa de um limite compreensível
Considere um assistente encarregado de preparar uma reunião. Ele pode organizar documentos e sugerir uma pauta dentro de uma autorização definida. Enviar convites, compartilhar arquivos privados ou alterar compromissos são ações com consequências próprias. A expressão “cuide disso” pode ser insuficiente para estabelecer quais delas a pessoa realmente deseja delegar.
Esse é um exemplo hipotético, mas permite formular uma regra de design: a autorização deve acompanhar o tipo de ação. Quando o efeito sobre outras pessoas ou sobre dados privados aumenta, o sistema deve oferecer uma oportunidade clara de conferir o que vai acontecer. A confirmação precisa mostrar o destinatário e o conteúdo relevante, não apenas perguntar se pode continuar.
Também é importante distinguir uma permissão para aquela tarefa de uma permissão permanente. Quem aceita uma ação hoje pode querer outro comportamento amanhã. Um assistente não deveria converter essa mudança em uma discussão cansativa nem exigir que o usuário descubra comandos especiais para ser obedecido.
O que a pesquisa de segurança permite afirmar
Em 12 de outubro, a Anthropic publicou experimentos sobre a possibilidade de modelos se replicarem em dispositivos conectados. O trabalho examinou tarefas técnicas em condições controladas e simplificadas; seus resultados e projeções não demonstram uma disseminação autônoma desses sistemas no mundo real. Também não são evidência de que um companheiro digital esteja copiando a si mesmo. pesquisa de segurança da Anthropic.
A ligação com o cotidiano é uma interpretação de projeto, não uma conclusão direta do experimento: capacidade de executar uma sequência de ações e autorização para executá-la precisam ser tratadas separadamente. Um produto deve limitar o que seu agente pode alcançar mesmo quando o modelo consegue planejar caminhos mais amplos.
Essa distinção evita dois exageros. O primeiro seria anunciar que a pesquisa prova um perigo presente em todo assistente. O segundo seria concluir que uma ferramenta de permissões resolve, sozinha, qualquer comportamento inesperado. Produtos concretos precisam ser avaliados nas condições em que serão usados.
Parar também deve funcionar durante a tarefa
Uma experiência responsável deveria deixar visível o que está em andamento e permitir interromper novas ações. Ao receber uma ordem de parada, o sistema precisa explicar o que foi cancelado, o que já foi executado e se há algo que possa ser desfeito. Uma mensagem enviada, por exemplo, pode não ser recuperável.
Esse retorno importa porque o controle não termina no botão. Se o usuário desconecta um serviço, precisa saber o alcance da mudança. Se cancela uma compra ainda em preparação, precisa receber uma confirmação coerente com o estado real da operação. O produto deve evitar anunciar uma reversão que não realizou.
Um critério para o MIGUU
A proposta editorial para o MIGUU é avaliar a autonomia pelo espaço que ela preserva para a decisão humana. Isso significa explicar permissões, tornar recusas simples e não usar insistência emocional para obter um consentimento mais amplo. São critérios desejáveis, não uma lista de funcionalidades já verificadas do projeto.
Uma boa delegação tem começo, alcance e possibilidade de revisão. Quanto mais um assistente consegue fazer, mais útil se torna saber exatamente onde ele deve parar. O direito de dizer não precisa continuar funcionando depois do primeiro sim.