Controle humano
94 / 100
- Presença humana
- Alto
- Continuidade do ator
- Alto
- Consistência do comportamento
- Alto
- Assistência de AI
- Baixo
- Intervenção externa
- Nenhum sinal significativo
Um indicador de risco e evidências, não um veredito. A aplicação que utiliza as evidências decide qual pontuação sua política exige.
Proof of Control
Proof of Control é o componente fundamental de verificação de controle humano do Proof of Actor: uma forma proposta de estabelecer, com um nível declarado de confiança, que uma pessoa presente controla uma interação digital específica durante toda a sessão e em que medida a AI participa de forma relevante dessa interação.
O problema
Humano no circuito é uma escolha de projeto. Controle humano é um fato a ser estabelecido.
"Humano no circuito" descreve como um processo foi concebido: em algum momento, uma pessoa deve revisar ou aprovar. "Humano supervisionando o circuito" descreve a supervisão de um sistema que, fora isso, é autônomo. Ambos expressam uma intenção de supervisão. Nenhum dos dois informa a um serviço que utiliza essas evidências se um humano de fato controlou a interação específica em questão.
Essa lacuna se torna mais relevante a cada mês. Uma pessoa pode se autenticar com sucesso e depois ceder o controle a um agente de AI, compartilhar a sessão, entregar o dispositivo a outra pessoa, permitir o controle remoto, usar assistência de AI ou delegar ações futuras. A conta é a mesma. O ator não.
Proof of Control foi concebido para responder à pergunta que a autenticação não consegue responder: a mesma pessoa está presente e mantém o controle durante toda a sessão, e em que medida a AI está contribuindo? É a camada que distingue HUMANO de HUMANO + AI e de um agente que opera por meio da sessão de uma pessoa.
O que isso comprova
O que Proof of Control foi projetado para estabelecer
Presença humana
Que há uma pessoa presente durante a interação, não apenas no momento do acesso.
Continuidade do ator
Que o mesmo ator permanece ao longo da sessão, considerando transferências de controle, substituição, assistência remota e tomada de controle da sessão.
Controle humano
Que a pessoa presente está de fato controlando a interação, expresso como um grau de confiança, não como um veredito absoluto.
Participação da AI
Uma avaliação gradual do envolvimento de AI: ausência de sinais significativos, assistência possível, provável ou declarada, ou atividade de um agente autônomo.
Evidências de mais de um sinal
Proof of Control foi concebido para analisar evidências independentes ao longo de uma sessão. As categorias de evidências que a arquitetura está sendo desenvolvida para considerar podem incluir:
Publicamos o que é estabelecido, não os métodos usados. Não divulgamos pontuação, pesos dos sinais nem técnicas de detecção.
Os requisitos de controle dependem do contexto
- Avaliação em processos seletivos
- HUMANO, presença contínua, baixo nível de assistência de AI
- Ferramenta profissional de escrita
- HUMANO ou HUMANO + AI, com uso de AI declarado
- Banco alterando os dados do beneficiário
- Identidade verificada + presença no momento + intenção humana explícita
- Prova a distância
- O mesmo candidato verificado presente durante toda a sessão
Diferenciação
Proof of Control e abordagens relacionadas
| Abordagem | Respostas | O que isso acrescenta |
|---|---|---|
| Autenticação / MFA | Esta entidade pode acessar esta conta? | Quem está de fato executando esta ação após o login. |
| Design com humano no circuito | Uma pessoa deve aprovar esta etapa? | Evidências de que uma pessoa realmente controlou esta interação. |
| Monitoramento da sessão | Esta sessão apresenta um comportamento incomum? | Uma declaração afirmativa e explicável sobre presença, continuidade e controle. |
| Detecção de texto gerado por AI | Este conteúdo parece ter sido escrito por uma máquina? | Grau de participação de AI na interação, não uma avaliação de uma única resposta. |
Prévia da API
Exigir controle humano contínuo (prévia da API)
No desenho proposto, uma aplicação declara o controle que exige e recebe um status do ator com um Human Control Score: um sinal de risco e evidências que sua própria política interpreta.
// Developer Preview - API design is evolving
import { ProofOfActor } from "@proofofactor/sdk";
const actor = await ProofOfActor.verify({
require: [
"human_presence",
"human_control",
"session_continuity"
]
});
// The relying application decides the policy
if (actor.humanControl > 0.90) {
allow();
}Onde se aplica
Casos de uso relacionados
Contratação
Saiba se o candidato realmente concluiu a avaliação.
Serviços financeiros
Exija controle humano verificado ou manifestação explícita da intenção humana antes de transações com consequências relevantes.
Videochamadas
Comprovar que a pessoa na chamada é o participante esperado, está presente e mantém o controle.
Perguntas frequentes
Perguntas frequentes
O que é verificação do controle humano?
A verificação de controle humano é o processo de estabelecer, com evidências, que um humano está de fato controlando uma interação digital específica, e não um agente de AI, um operador remoto ou outra pessoa usando a mesma sessão. Ela vai além da autenticação, que apenas comprova que alguém podia acessar a conta.
Qual é a diferença entre supervisão humana direta e supervisão humana contínua?
Humano no circuito significa que uma pessoa precisa participar de uma decisão ou aprová-la antes que ela ocorra. Humano supervisionando o circuito significa que um sistema age de forma autônoma enquanto uma pessoa supervisiona e pode intervir. Ambos descrevem formas de supervisão previstas no projeto. Proof of Control foi projetado para fornecer evidências sobre se um humano de fato controlou uma interação específica.
O uso de assistência de AI é tratado como uma falha?
Não. HUMANO + AI é um estado de ator legítimo. Proof of Control foi projetado para tornar visível a participação de AI, permitindo que a aplicação que utiliza as evidências aplique sua própria política. Uma ferramenta de escrita pode aceitar assistência de AI; uma avaliação de contratação pode não aceitar.
O que é Human Control Score?
Uma possível métrica de confiança que sintetiza presença, continuidade, consistência comportamental, assistência de AI e intervenção externa. É um indicador de risco e evidências, nunca uma afirmação de que uma interação é 100% humana.
Proof of Control significa gravar os usuários?
Não. A arquitetura foi projetada para levar em conta a privacidade: ela busca coletar o mínimo de informações necessário para a declaração solicitada, e a aplicação recebe uma declaração acompanhada de evidências, não gravações brutas. Não divulgamos como os sinais individuais são avaliados.
- Cada componente básico retorna seu resultado na mesma Actor Attestation, para que as aplicações possam combiná-los.
Conte-nos o que você precisa verificar.
Proof of Actor está sendo desenvolvido com desenvolvedores e parceiros de desenvolvimento. Seu caso de uso ajuda a definir a API.