Contrôle humain
94 / 100
- Présence humaine
- Élevé
- Continuité de l'acteur
- Élevé
- Cohérence du comportement
- Élevé
- Assistance par AI
- Faible
- Intervention externe
- Aucun signal significatif
Un indicateur de risque fondé sur des éléments de preuve, pas un verdict. L'application qui s'appuie sur ces éléments détermine le score exigé par sa politique.
Proof of Control
Proof of Control est le mécanisme fondamental de vérification du contrôle humain de Proof of Actor : une méthode proposée pour établir, avec un niveau de confiance indiqué, qu'un humain présent contrôle une interaction numérique donnée tout au long de la session, et dans quelle mesure l'AI y participe de façon significative.
Le problème
La présence d'un humain dans la boucle relève de la conception. Le contrôle humain est un fait à établir.
« Humain dans la boucle » décrit la conception d'un processus : une personne est censée intervenir à un moment donné pour examiner ou approuver. « Humain sur la boucle » décrit la supervision d'un système par ailleurs autonome. Ces deux expressions décrivent une supervision prévue. Aucune ne permet au service qui s'appuie sur ces éléments de savoir si un humain contrôlait effectivement l'interaction précise qu'il examine.
Cet écart prend de l’importance chaque mois. Une personne peut s’authentifier avec succès, puis laisser un agent AI prendre le contrôle, partager la session, confier l’appareil à quelqu’un d’autre, autoriser un contrôle à distance, recourir à une assistance par AI ou déléguer des actions futures. Le compte reste le même. L’acteur, non.
Proof of Control est conçu pour répondre à la question que l'authentification ne peut résoudre : le même humain est-il présent et garde-t-il le contrôle tout au long de la session, et quelle est la contribution de l'AI ? Cette couche distingue HUMAN de HUMAN + AI et d'un agent opérant au travers de la session d'un humain.
Ce que cela permet d’établir
Ce que Proof of Control est conçu pour établir
Présence humaine
Qu’un humain est présent pendant l’interaction, et pas seulement lors de la connexion.
Continuité de l'acteur
Que le même acteur reste actif tout au long de la session, ce qui permet de traiter les transferts de contrôle, les substitutions, l’assistance à distance et les prises de contrôle de session.
Contrôle humain
Que l’humain présent contrôle effectivement l’interaction, avec un niveau de confiance plutôt qu’un verdict absolu.
Participation de l’AI
Une évaluation graduée de l'implication de l'AI : aucun signal significatif, assistance possible, probable ou déclarée, ou activité d'un agent autonome.
Des preuves issues de plusieurs signaux
Proof of Control est conçu pour analyser des éléments de preuve indépendants tout au long d'une session. Les catégories d'éléments de preuve sur lesquelles repose la conception de l'architecture peuvent comprendre :
Nous publions ce qui est établi, pas la manière de l’établir. Les méthodes de calcul des scores, la pondération des signaux et les techniques de détection ne sont pas divulguées.
Les exigences en matière de contrôle dépendent du contexte
- Évaluation de recrutement
- HUMAIN, présence continue, faible assistance de l'AI
- Outil de rédaction professionnel
- HUMAIN ou HUMAIN + AI, avec utilisation de l'AI déclarée
- Banque modifiant les coordonnées d’un bénéficiaire
- Identité vérifiée + présence actuelle + intention humaine explicite
- Examen à distance
- Même candidat vérifié présent pendant toute la session
Différenciation
Proof of Control et approches connexes
| Approche | Réponses | Ce que cela apporte |
|---|---|---|
| Authentification / MFA | Cette entité peut-elle accéder à ce compte ? | Qui effectue réellement cette action, après la connexion ? |
| Conception avec intervention humaine dans la boucle | Une personne est-elle censée approuver cette étape ? | Des preuves qu'une personne a effectivement contrôlé cette interaction. |
| Surveillance des sessions | Cette session présente-t-elle un comportement inhabituel ? | Une assertion positive et explicable concernant la présence, la continuité et le contrôle. |
| Détection de textes générés par AI | Ce contenu semble-t-il rédigé par une machine ? | Degré de participation de l'AI à l'interaction, et non évaluation d'un résultat isolé. |
Aperçu de l’API
Exiger un contrôle humain continu (aperçu API)
Dans la conception proposée, une application déclare le niveau de contrôle qu’elle exige et reçoit un statut d’acteur accompagné d’un Human Control Score : un signal de risque et de preuves que sa propre politique interprète.
// Developer Preview - API design is evolving
import { ProofOfActor } from "@proofofactor/sdk";
const actor = await ProofOfActor.verify({
require: [
"human_presence",
"human_control",
"session_continuity"
]
});
// The relying application decides the policy
if (actor.humanControl > 0.90) {
allow();
}Où cela s’applique
Cas d’usage associés
Recrutement
Savoir si le candidat a réellement effectué l'évaluation.
Services financiers
Exigez un contrôle humain vérifié ou une intention explicite avant les transactions à conséquences importantes.
Appels vidéo
Établir que la personne présente lors de l’appel est bien le participant attendu et qu’elle garde le contrôle.
Questions fréquentes
Questions fréquentes
Qu’est-ce que la vérification du contrôle humain ?
La vérification du contrôle humain consiste à établir, preuves à l'appui, qu'un humain contrôle effectivement une interaction numérique précise, plutôt qu'un agent AI, un opérateur à distance ou une autre personne utilisant la même session. Elle va au-delà de l'authentification, qui prouve seulement qu'une personne pouvait accéder au compte.
Quelle est la différence entre un humain dans la boucle et un humain supervisant la boucle ?
Un humain dans la boucle signifie qu'une personne doit participer à une décision ou l'approuver avant qu'elle ne soit prise. Un humain supervisant la boucle signifie qu'un système agit de manière autonome sous la supervision d'une personne qui peut intervenir. Les deux décrivent une supervision prévue dès la conception. Proof of Control est conçu pour fournir des éléments attestant qu'un humain a effectivement contrôlé ou non une interaction donnée.
Le recours à l'aide de l'AI est-il considéré comme un échec ?
Non. HUMAIN + AI est un état d'acteur légitime. Proof of Control est conçu pour rendre visible la participation de AI afin que l'application qui utilise ces preuves puisse appliquer sa propre politique. Un outil de rédaction peut accepter l'aide de AI, tandis qu'une évaluation de recrutement peut l'interdire.
Qu’est-ce qu’un Human Control Score ?
Une mesure de confiance potentielle qui synthétise la présence, la continuité, la cohérence comportementale, l'assistance de l'AI et les interventions externes. C'est un signal fondé sur les risques et les preuves, jamais une affirmation selon laquelle une interaction est humaine à 100%.
Proof of Control implique-t-il d’enregistrer les utilisateurs ?
Non. L'architecture tient compte de la vie privée : elle est conçue pour recueillir le minimum d'informations nécessaires à l'assertion demandée, et l'application reçoit une assertion accompagnée de preuves, pas des enregistrements bruts. Nous ne publions pas la manière dont les différents signaux sont évalués.
- Chaque mécanisme fondamental renvoie son résultat dans la même Actor Attestation, afin que les applications puissent les combiner.
Dites-nous ce que vous devez vérifier.
Proof of Actor est conçu avec des développeurs et des partenaires de conception. Votre cas d’usage contribue à définir l’API.