Questioni aperte
A cosa stiamo lavorando
Queste domande contribuiscono a definire l'infrastruttura. Se fate ricerca su uno di questi temi, ci piacerebbe sentirvi.
Misurare il controllo umano senza sorveglianza
Quali sono le evidenze minime necessarie per affermare con un certo grado di confidenza che una persona mantiene il controllo, e come va comunicato tale grado di confidenza affinché non venga mai scambiato per certezza?
Partecipazione dell'AI per livelli
Come rappresentare il coinvolgimento dell'AI lungo uno spettro che va da nessun coinvolgimento all'autonomia, in modo utile per le policy ed equo nei confronti di chi usa apertamente l'AI?
Delega trasferibile e revocabile per gli agenti
Come può un mandante conferire a un agente un'autorità circoscritta, verificabile da terze parti per ogni azione, e revocarla immediatamente?
Divulgazione selettiva nelle attestazioni
Come può un'attestazione dimostrare «essere umano verificato» o «autorizzato a spendere fino a $500» senza rivelare l'identità della persona o del mandante?
Continuità nel corso di una sessione
Come dovrebbe attenuarsi o persistere un'attestazione di affidabilità nel corso di una sessione, per evitare che le evidenze raccolte all'accesso siano scambiate per evidenze relative ad azioni successive?
Interoperabilità con gli standard emergenti
Come dovrebbero rapportarsi le attestazioni sull'attore agli standard esistenti per l'identità, le credenziali e i protocolli per agenti, anziché competere con essi?
Approfondimenti
Saggi fondamentali
Pubblicato in inglese.
Differenziazione
Categorie affini e la questione che lasciano aperta
Ognuno di questi elementi è utile. Nessuno, da solo, chiarisce chi o che cosa stia effettivamente agendo, quanto controllo umano ci sia e chi ne sia responsabile.
| Approccio | Risposte | Proof of Actor si chiede anche |
|---|---|---|
| Verifica dell'identità | Chi sei? | Chi sta agendo in questo momento? |
| Rilevamento dei bot | Questo traffico sembra automatizzato? | È in corso un'automazione, è legittima e chi ne è responsabile? |
| Verifica dell'identità umana | Sei una persona reale? | Sei presente in questo momento e hai il controllo di questa interazione? |
| Identità dell'agente | Qual è questo agente? | Chi l'ha autorizzato, di quale autorità dispone e questa azione rientra nei limiti di tale autorità? |
| Rilevamento dei deepfake | Questo contenuto multimediale sembra sintetico? | Indipendentemente da come è stato prodotto il contenuto, chi è effettivamente responsabile di questa interazione? |
| Autenticazione | Questa entità può accedere a questo account? | Chi o che cosa sta effettivamente compiendo questa azione in questo momento? |
Una categoria emergente, ma non priva di precedenti
L'attività di mercato conferma questa esigenza. Investitori e sviluppatori descrivono sempre più spesso la possibilità di dimostrare di essere umani online come un importante problema di fiducia su internet, e gli approcci esistenti ne affrontano aspetti correlati:
- Infrastruttura per l'identità e l'autorità degli agenti AI
- Servizi di autorizzazione dal consumatore all'agente offerti da fornitori di servizi creditizi e di identità
- Know Your Agent e associazione tra agente e persona da parte dei fornitori di servizi di verifica
- Bot verificati e agenti con attestazioni firmate al perimetro della rete
- Verifica continua della presenza umana
- Sistemi di verifica dell'identità umana
Ci concentriamo sul problema più ampio dell'attore: non solo a chi appartenga un'identità o se sia presente un'automazione, ma chi o che cosa agisca effettivamente in una specifica interazione, quanto controllo umano vi sia e chi ne risponda.
Standard a cui contribuiamo
Proof of Actor è progettato per integrare le iniziative esistenti e quelle emergenti, non per sostituirle.
- WebAuthn e chiavi di accesso
- Autenticazione resistente al phishing che dimostra il possesso di una credenziale.
- Credenziali verificabili W3C
- Un modello di dati per dichiarazioni verificabili crittograficamente e divulgazione selettiva.
- Delega tramite OAuth 2.0
- Modelli consolidati per concedere alle applicazioni accesso con ambito limitato.
- Attestazione remota (IETF RATS)
- Un'architettura per trasmettere a una parte che fa affidamento sulle evidenze informazioni basate su evidenze relative allo stato di un sistema.
- Firme dei messaggi HTTP per bot e agenti
- Un approccio emergente che consente ai client automatizzati di identificare crittograficamente chi li gestisce.
- Protocolli di pagamento e commercio per agenti
- Protocolli di settore che definiscono come gli agenti custodiscono le credenziali e completano la procedura di acquisto.
Ricercatori e comunità di standardizzazione
Identità, WebAuthn, protocolli per agenti, riservatezza, crittografia e infrastruttura di fiducia. Segui la ricerca o avvia una conversazione.
Segui la ricerca