Questões em aberto
No que estamos trabalhando
Essas questões orientam o desenvolvimento da infraestrutura. Se você pesquisa alguma delas, gostaríamos de ouvir você.
Medir o controle humano sem vigilância
Qual é o mínimo de evidências necessário para sustentar uma afirmação com confiança sobre o controle humano, e como comunicar o nível de confiança para que nunca seja confundido com certeza?
Participação graduada de AI
Como representar o envolvimento da AI em um espectro que vai da ausência de AI à autonomia, de modo que seja útil para políticas e justo com as pessoas que usam AI abertamente?
Delegação portátil e revogável para agentes
Como um principal pode conceder a um agente uma autoridade com escopo delimitado, que terceiros possam verificar a cada ação, e revogá-la imediatamente?
Divulgação seletiva em atestações
Como uma atestação pode comprovar "humano verificado" ou "autorizado a gastar até $500" sem revelar a identidade do humano ou do principal?
Continuidade ao longo de uma sessão
Por quanto tempo uma declaração de confiança deve permanecer válida ou perder força ao longo de uma sessão, para que evidências coletadas no acesso não sejam confundidas com evidências sobre ações posteriores?
Interoperabilidade com padrões emergentes
Como as atestações de ator devem se relacionar com os padrões existentes de identidade, credenciais e protocolos de agentes, em vez de competir com eles?
Artigos
Textos fundamentais
Publicado em inglês.
Diferenciação
Categorias relacionadas e a questão que deixam em aberto
Cada uma dessas soluções tem valor. Nenhuma, isoladamente, responde quem ou o que está realmente agindo, quanto controle humano existe e quem é responsável.
| Abordagem | Respostas | Proof of Actor também pergunta |
|---|---|---|
| Verificação de identidade | Quem é você? | Quem está agindo neste momento? |
| Detecção de bots | Este tráfego parece automatizado? | Há automação em curso, ela é legítima e quem responde por ela? |
| Prova de que se é uma pessoa | Você é uma pessoa de verdade? | Você está presente e controlando esta interação neste momento? |
| Identidade do agente | Que agente é este? | Quem autorizou isso, que autoridade esse ator tem e esta ação está dentro dos limites dessa autoridade? |
| Detecção de deepfakes | Esta mídia parece ter sido gerada artificialmente? | Independentemente de como o conteúdo de mídia foi produzido, quem é de fato responsável por esta interação? |
| Autenticação | Esta entidade pode acessar esta conta? | Quem ou o que está de fato executando esta ação neste momento? |
Uma categoria emergente, mas não vazia
A atividade do mercado confirma a necessidade. Investidores e desenvolvedores descrevem cada vez mais a comprovação de que alguém é humano na internet como um grande problema de confiança, e as abordagens existentes cobrem aspectos relacionados:
- Infraestrutura de identidade e autoridade para agentes de AI
- Serviços de autorização do consumidor para o agente oferecidos por provedores de crédito e identidade
- Know Your Agent e vinculação entre agente e pessoa oferecidos por provedores de verificação
- Bots verificados e agentes com assinatura digital na borda da rede
- Verificação humana contínua
- Sistemas de prova de que se é uma pessoa
Nosso foco é o problema mais amplo dos atores: não apenas quem é titular de uma identidade nem apenas se há automação, mas quem ou o que está efetivamente agindo em uma interação específica, quanto controle humano há e quem responde por ela.
Padrões com os quais desenvolvemos em conjunto
Proof of Actor foi projetado para complementar iniciativas existentes e emergentes, não para substituí-las.
- WebAuthn e chaves de acesso
- Autenticação resistente a phishing que comprova a posse de uma credencial.
- Credenciais verificáveis W3C
- Um modelo de dados para declarações verificáveis criptograficamente e divulgação seletiva.
- Delegação via OAuth 2.0
- Padrões estabelecidos para conceder a aplicações acesso com escopo definido.
- Atestação remota (IETF RATS)
- Uma arquitetura para transmitir evidências sobre o estado de um sistema a uma parte que se apoia nelas.
- Assinaturas de mensagens HTTP para bots e agentes
- Trabalho emergente que permite a clientes automatizados identificar criptograficamente quem os opera.
- Protocolos de pagamento e comércio para agentes
- Protocolos do setor que definem como agentes mantêm credenciais e concluem a compra.
Pesquisadores e comunidades de padronização
Identidade, WebAuthn, protocolos de agentes, privacidade, criptografia e infraestrutura de confiança. Acompanhe a pesquisa ou entre em contato.
Acompanhe a pesquisa