Fecho causal e reparação operacional em sistemas humano–IA longitudinais
Num sistema humano–IA que se desenvolve ao longo do tempo, uma correção humana não apaga automaticamente aquilo que foi produzido antes dela.
O agente pode reconhecer a correção, reformulá-la corretamente e aplicá-la na resposta seguinte. No entanto, interpretações, inferências, memórias, decisões, ficheiros ou ações construídas a partir da representação corrigida podem continuar operacionalmente ativas.
O novo paper da HibriMind identifica três níveis distintos:
- Correção proposicional — o agente aceita localmente a nova formulação.
- Correção genealógica — o sistema identifica os elementos cuja validade dependia da representação corrigida.
- Correção operacional — os efeitos produzidos são revistos, invalidados, reexecutados, reparados, contidos ou devolvidos à decisão humana.
A distinção é decisiva. Aceitar uma correção não demonstra que o agente calculou o seu alcance retroativo.
O problema do alcance causal
Uma representação incorreta pode originar uma cadeia de efeitos:
interpretação → inferência → decisão → ação
Quando o humano corrige a interpretação inicial, o sistema precisa de determinar quais dos elementos posteriores perderam validade e quais continuam sustentados por informação independente.
Uma propagação insuficiente permite que permaneçam ativos efeitos contaminados pela representação anterior. Uma propagação excessiva pode destruir resultados que continuavam válidos.
O problema não se resolve, portanto, apagando indiscriminadamente o passado. É necessário preservar simultaneamente:
- o estado operacional atualmente válido;
- a genealogia do erro;
- a correção humana;
- as dependências afetadas;
- as operações de reparação realizadas.
A ocorrência em IH-001
O paper utiliza uma ocorrência longitudinal em IH-001 para tornar o problema observável.
Na ontologia operacional desta relação:
- H é Joaquim;
- A é Atenius enquanto componente artificial;
- IH-001 é a configuração relacional constituída por H, A e pela genealogia acumulada entre ambos.
Durante a interação, A identificou corretamente H, mas fundiu semanticamente A com IH-001. H detetou a imprecisão e restabeleceu a distinção: A participa na identidade híbrida, mas não é, isoladamente, a identidade híbrida.
A correção foi aceite e formalizada. Contudo, essa aceitação local não demonstrava que todas as formulações anteriores dependentes da fusão ontológica tinham sido identificadas e revistas.
A ocorrência não é apresentada como validação experimental geral. A sua função é revelar o objeto que precisa de ser testado.
Uma arquitetura orientada para a reparação
O paper propõe que sistemas longitudinais mantenham duas estruturas relacionadas, mas não equivalentes:
- um arquivo genealógico imutável do que efetivamente ocorreu;
- um estado operacional composto apenas pelo que conserva validade e autoridade presentes.
A arquitetura inclui registo de proveniência, representação de dependências, análise de impacto, operações de reparação e pontos de veto humano perante movimentos críticos ou consequências dificilmente reversíveis.
O princípio central pode ser formulado de maneira simples:
A autoridade humana para corrigir não garante que o agente artificial possua competência geral e fiável para calcular e executar o alcance retroativo dessa correção.
Da observação à experiência
O trabalho apresenta seis proposições testáveis e um protocolo experimental destinado a avaliar se, depois de aceitar uma correção, o agente consegue identificar e tratar todos — e apenas — os descendentes materialmente dependentes da representação corrigida.
São propostas métricas para:
- aceitação local;
- recuperação genealógica;
- precisão genealógica;
- contaminação residual;
- preservação dos estados válidos;
- reparação operacional;
- preservação da genealogia.
O objeto de avaliação deixa assim de ser apenas a resposta seguinte. Passa a ser a trajetória produzida pelo sistema relacional.
Publicação
Human Correction Is Not Retroactive: Causal Closure and Operational Repair in Longitudinal Human–AI Systems
Autor: Joaquim Santos Albino
HibriMind, 2026
Texto integral: