Controllo umano
94 / 100
- Presenza umana
- Alto
- Continuità dell'attore
- Alto
- Coerenza del comportamento
- Alto
- Assistenza dell'AI
- Basso
- Intervento esterno
- Nessun segnale significativo
Un segnale di rischio e di evidenza, non un verdetto. L'applicazione che si affida alle evidenze decide quale punteggio richiede la propria policy.
Proof of Control
Proof of Control è il componente di base di Proof of Actor per la verifica del controllo umano: un metodo proposto per stabilire, con un livello di fiducia dichiarato, che una persona presente controlli una specifica interazione digitale per tutta la sessione e in che misura l'AI vi partecipi in modo significativo.
Il problema
La presenza umana nel processo decisionale è una scelta progettuale. Il controllo umano è un fatto da accertare.
«Persona nel ciclo» descrive come è progettato un processo: è previsto che, a un certo punto, una persona esamini o approvi. «Persona che supervisiona il ciclo» descrive la supervisione di un sistema altrimenti autonomo. Entrambe le espressioni indicano una supervisione prevista. Nessuna delle due dice al servizio che fa affidamento sulle evidenze se una persona abbia effettivamente controllato la specifica interazione che ha davanti.
Questa lacuna conta sempre di più, mese dopo mese. Una persona può autenticarsi correttamente e poi cedere il controllo a un agente AI, condividere la sessione, passare il dispositivo a qualcun altro, consentire il controllo remoto, avvalersi dell'assistenza dell'AI o delegare azioni future. L'account resta lo stesso. L'attore no.
Proof of Control è progettato per rispondere alla domanda a cui l'autenticazione non può rispondere: la stessa persona è presente, mantiene il controllo per tutta la sessione e in che misura contribuisce l'AI? È il livello che distingue HUMAN da HUMAN + AI e da un agente che opera attraverso la sessione di una persona.
Che cosa attesta
Che cosa Proof of Control è progettato per attestare
Presenza umana
Che una persona sia presente durante l'interazione, non solo al momento dell'accesso.
Continuità dell'attore
Che lo stesso attore resti attivo per tutta la sessione, tenendo conto di passaggi di controllo, sostituzioni, assistenza remota e acquisizione della sessione.
Controllo umano
Che la persona presente controlli effettivamente l'interazione, espresso come livello di confidenza e non come verdetto assoluto.
Partecipazione dell'AI
Una valutazione graduata del coinvolgimento dell'AI: nessun segnale significativo, assistenza possibile, probabile o dichiarata, oppure attività di un agente autonomo.
Evidenze provenienti da più di un segnale
Proof of Control è progettato per valutare evidenze indipendenti nel corso di una sessione. Le categorie di evidenze su cui si sta costruendo l'architettura possono includere:
Rendiamo pubblico che cosa viene attestato, non come. Non divulghiamo i metodi di calcolo dei punteggi, i pesi attribuiti ai segnali né le tecniche di rilevamento.
I requisiti di controllo dipendono dal contesto
- Prova di selezione
- UMANO, presenza continua, assistenza AI limitata
- Strumento di scrittura professionale
- UMANO o UMANO + AI, con uso dell'AI dichiarato
- Banca che modifica i dati del beneficiario
- Identità verificata + presenza attuale + intenzione umana esplicita
- Esame a distanza
- Lo stesso candidato verificato è presente per l'intera sessione
Differenziazione
Proof of Control e approcci affini
| Approccio | Risposte | Che cosa aggiunge |
|---|---|---|
| Autenticazione / MFA | Questa entità può accedere a questo account? | Chi sta effettivamente compiendo questa azione, dopo l'accesso. |
| Progettazione con supervisione umana diretta | È previsto che una persona approvi questo passaggio? | Evidenze che una persona abbia effettivamente controllato questa interazione. |
| Monitoraggio della sessione | Questa sessione presenta comportamenti insoliti? | Una dichiarazione positiva e spiegabile su presenza, continuità e controllo. |
| Rilevamento dei testi generati dall'AI | Questo contenuto sembra scritto da una macchina? | Partecipazione dell'AI per livelli nell'interazione, non valutazione di un singolo output. |
Anteprima API
Richiedi il controllo umano continuo (API Preview)
Nel modello proposto, un'applicazione dichiara il livello di controllo richiesto e riceve uno stato dell'attore con un Human Control Score: un indicatore di rischio e delle evidenze che viene interpretato secondo le proprie regole.
// Developer Preview - API design is evolving
import { ProofOfActor } from "@proofofactor/sdk";
const actor = await ProofOfActor.verify({
require: [
"human_presence",
"human_control",
"session_continuity"
]
});
// The relying application decides the policy
if (actor.humanControl > 0.90) {
allow();
}Dove si applica
Casi d'uso correlati
Selezione del personale
Sapere se il candidato ha effettivamente completato la prova.
Servizi finanziari
Richiedi un controllo umano verificato o una manifestazione esplicita della volontà prima di transazioni con conseguenze rilevanti.
Videochiamate
Accertare che la persona in chiamata sia il partecipante atteso, sia presente e abbia il controllo.
Domande frequenti
Domande frequenti
Che cos'è la verifica del controllo umano?
La verifica del controllo umano è il processo con cui si stabilisce, sulla base di evidenze, che un essere umano controlla effettivamente una specifica interazione digitale, e non un agente AI, un operatore remoto o un'altra persona che usa la stessa sessione. Va oltre l'autenticazione, che dimostra soltanto che qualcuno poteva accedere all'account.
Qual è la differenza tra una persona nel ciclo decisionale e una persona che supervisiona il ciclo decisionale?
Nel modello «human in the loop», una persona deve partecipare a una decisione o approvarla prima che venga presa. Nel modello «human on the loop», un sistema agisce autonomamente mentre una persona lo supervisiona e può intervenire. Entrambi descrivono una supervisione prevista in fase di progettazione. Proof of Control è progettato per fornire evidenze del fatto che un essere umano abbia effettivamente controllato una determinata interazione.
L'uso dell'assistenza dell'AI viene considerato un esito negativo?
No. HUMAN + AI è uno stato legittimo dell'attore. Proof of Control è progettato per rendere visibile la partecipazione dell'AI, così l'applicazione che utilizza le prove può applicare le proprie regole. Uno strumento di scrittura può ammettere l'assistenza dell'AI; una valutazione per l'assunzione potrebbe non ammetterla.
Che cos'è un Human Control Score?
Una possibile metrica del livello di confidenza che sintetizza presenza, continuità, coerenza comportamentale, assistenza dell'AI e interventi esterni. È un indicatore di rischio basato sulle evidenze, mai una dichiarazione che un'interazione sia umana al 100%.
Proof of Control comporta la registrazione degli utenti?
No. L'architettura è progettata tenendo conto della privacy: è pensata per raccogliere il minimo di informazioni necessarie alla dichiarazione richiesta, mentre l'applicazione riceve una dichiarazione corredata da prove, non registrazioni grezze. Non rendiamo pubblici i criteri con cui vengono valutati i singoli segnali.
- Ogni componente di base restituisce il proprio risultato nella stessa Actor Attestation, così le applicazioni possono combinarli.
Dicci che cosa hai bisogno di verificare.
Proof of Actor viene progettato insieme agli sviluppatori e ai partner di progettazione. Il tuo caso d'uso contribuisce a definire l'API.