// AUTHORITY: VALID · ACTION: WITHIN_SCOPE
Definicja
Proof of Actor to proponowana infrastruktura zaufania służąca do ustalania, czy interakcję cyfrową wykonuje człowiek, człowiek korzystający z AI czy autonomiczny agent AI, oraz kto upoważnił do działania.
Gdzie kończy się uwierzytelnianie
Proof of Actor zaczyna się tam, gdzie kończy się uwierzytelnianie.
To różne problemy. Odpowiedź na jeden z nich nie rozwiązuje pozostałych.
Uwierzytelnianie daje odpowiedź
Czy ten podmiot może uzyskać dostęp do tego konta?
Tożsamość odpowiada na pytanie
Do kogo należy ta tożsamość?
Proof of Actor pyta
Kto lub co faktycznie wykonuje to działanie w tej chwili?
Osoba może pomyślnie przejść uwierzytelnienie, a następnie:
Model aktora
Cztery stany podmiotu działającego
Aktor to podmiot faktycznie odpowiedzialny za wykonanie interakcji cyfrowej lub sprawowanie nad nią kontroli. Interakcje można przyporządkować do 4 zrozumiałych stanów. Żaden z nich nie jest zawsze lepszy od pozostałych.
CZŁOWIEK
Wydaje się, że człowiek bezpośrednio kontroluje interakcję.
Kandydat samodzielnie przystępuje do oceny, bez istotnej pomocy zewnętrznej AI.
CZŁOWIEK + AI
Człowiek pozostaje odpowiedzialny za interakcję, ale AI zapewnia mu istotną pomoc.
Specjalista pisze e-mail, korzystając z asystenta AI do pisania. W zależności od kontekstu może to być w pełni akceptowalne.
AUTORYZOWANY AGENT
Agent AI wykonuje interakcję w imieniu zidentyfikowanej osoby lub organizacji w granicach przekazanych mu uprawnień.
Agent zakupowy upoważniony przez użytkownika kupuje bilet lotniczy w ramach określonego budżetu.
NIEZWERYFIKOWANY AKTOR
Usługa nie może z wystarczającą pewnością ustalić, kto jest aktorem, czy człowiek sprawuje kontrolę ani kto jest mocodawcą odpowiedzialnym za działanie.
Nie oznacza to automatycznie, że działanie jest złośliwe. Oznacza to, że relacja zaufania jest nieznana.
Zaufanie zależne od kontekstu
Proof of Actor dostarcza materiał dowodowy. Usługa korzystająca z niego określa zasady.
Różne konteksty wymagają różnych zasad. Te same dowody mogą prowadzić do różnych, równie prawidłowych decyzji.
| Kontekst | Może wymagać lub dopuszczać |
|---|---|
| Ocena w procesie rekrutacji | CZŁOWIEK |
| Interakcja z obsługą klienta | CZŁOWIEK lub AUTORYZOWANY AGENT |
| Internetowa platforma handlowa | CZŁOWIEK, CZŁOWIEK + AI lub AUTORYZOWANY AGENT |
| Bank zatwierdzający przelew na dużą kwotę | Zweryfikowana tożsamość człowieka + bieżąca obecność człowieka + jednoznacznie wyrażony zamiar człowieka |
Warstwowa architektura zaufania Proof of Actor
Dziesięć pytań stojących za każdą interakcją niosącą istotne konsekwencje
Proof of Actor ma analizować odrębne warstwy zaufania, aby aplikacja mogła żądać dokładnie takich dowodów, jakich wymaga dany kontekst.
Bycie człowiekiem
Czy istnieją dowody, że za tą interakcją stoi prawdziwy człowiek?
To coś innego niż ustalenie tożsamości człowieka. Usługa może ustalić, że obecna jest prawdziwa osoba, nie poznając jej tożsamości.
Tożsamość
Czy ten człowiek jest tym, za kogo się podaje?
Opcjonalne tam, gdzie należy zachować anonimowość lub pseudonimowość. Zaprojektowane z myślą o obsłudze modelu „zweryfikowany człowiek, tożsamość nieujawniona”.
Obecność
Czy człowiek rzeczywiście jest obecny podczas tej interakcji?
Przejście weryfikacji tożsamości piętnaście minut wcześniej nie potwierdza obecności w tej chwili.
Ciągłość aktora
Czy ten sam aktor uczestniczy w całej sesji?
Dotyczy podszywania się pod inne osoby, przekazywania kontroli, zdalnej pomocy, przejmowania sesji i podmiany aktora.
Kontrola człowieka
Czy człowiek rzeczywiście kontroluje tę interakcję?
Uwierzytelnianie potwierdza dostęp. Weryfikacja tożsamości potwierdza tożsamość. Weryfikacja obecności potwierdza obecność. Żadna z nich nie musi potwierdzać sprawowania kontroli.
Uczestnictwo AI
Czy AI odgrywa istotną rolę w tej interakcji?
Ocena stopniowana, nigdy zerojedynkowa: brak istotnych oznak użycia AI, możliwe, prawdopodobne lub zadeklarowane wsparcie AI albo autonomiczne działanie agenta.
Delegowanie uprawnień
Jeśli działa agent AI, kto go do tego upoważnił?
Zleceniodawcą może być osoba fizyczna, organizacja lub inna upoważniona usługa.
Zakres uprawnień
Co wolno robić temu aktorowi?
Uprawnienia, limity transakcji, dozwolone strony transakcji, termin ważności i możliwość cofnięcia uprawnień, sprawdzane w odniesieniu do działania, które jest właśnie żądane.
Zamiar
Czy człowiek wyraźnie zatwierdził to działanie w tym momencie i na tych warunkach?
W przypadku działań o istotnych skutkach samo stałe upoważnienie może nie wystarczyć.
Rozliczalność
Kto ostatecznie stoi za tym działaniem?
Każda istotna atestacja powinna umożliwiać odpowiedź na to pytanie.
Wizja protokołu
Protokół zaufania, do którego aplikacje kierują zapytania, zanim zaufają aktorowi
Najpełniejsza wersja Proof of Actor to nie kolejne API do weryfikacji. To protokół zaufania, z którego aplikacje mogą korzystać podczas istotnych interakcji, otrzymując Actor Attestation i egzekwując własne reguły.
// Proposed API - illustrative only
policy.require({
actor: "human",
presence: "continuous",
control: 0.90,
aiAssistance: "low"
});
// Or, for a service that welcomes authorised agents:
policy.allow({
actor: ["human", "authorized_agent"],
agentAuthority: {
required: true
}
});Kto działa?
Następnie aplikacje egzekwują własne zasady.
Założenia architektoniczne
Zaprojektowano z myślą o
Publikujemy informacje o tym, co ustala Proof of Actor. Celowo ograniczamy informacje o tym, jak to robi: metody punktacji, wagi sygnałów i techniki wykrywania pozostają poufne.
Niezależny od rodzaju sygnału
Nie jest na stałe powiązane z kamerą internetową, danymi biometrycznymi ani żadną pojedynczą techniką.
Wiele sygnałów
Zaufanie wynika z niezależnych dowodów, a nie z jednej kontroli, która może zawieść.
Ciągły
Interakcje o dużej wartości są weryfikowane przez całą sesję, nie tylko podczas logowania.
Kontekstowy
Dowody wymagane do zamieszczenia komentarza na forum różnią się od tych wymaganych do przelania $1 million.
Z uwzględnieniem prywatności
Zbieraj tylko informacje niezbędne do potwierdzenia żądanego twierdzenia.
Możliwy do wyjaśnienia
Aplikacje otrzymują dowody stojące za wynikiem oceny zaufania, a nie tylko etykietę.
Z możliwością cofnięcia
Upoważnienie agenta musi zawsze podlegać cofnięciu.
Możliwy do audytu
Poświadczenia dotyczące działań o istotnych skutkach tworzą wiarygodne zapisy.
Z myślą o programistach
Integracja powinna stać się łatwiejsza niż tworzenie własnej infrastruktury weryfikacyjnej.
Najczęstsze pytania
Pytania o to, jak działa Proof of Actor
Czym jest Proof of Actor?
Proof of Actor to proponowana infrastruktura zaufania służąca do ustalania, czy interakcję cyfrową wykonuje człowiek, człowiek korzystający z AI czy autonomiczny agent AI, oraz kto upoważnił do działania. Projekt jest w fazie rozwoju.
Czym jest aktor?
Aktor to podmiot faktycznie odpowiedzialny za wykonanie interakcji cyfrowej lub sprawowanie nad nią kontroli. Może nim być człowiek, człowiek korzystający z pomocy AI, upoważniony agent AI działający w imieniu określonego podmiotu albo aktor, którego usługa nie może zweryfikować.
Czy Proof of Actor służy do wykrywania botów?
Nie. Wykrywanie botów odpowiada na pytanie, czy ruch wygląda na zautomatyzowany. Proof of Actor pyta, kto lub co wykonuje działanie, czy człowiek jest obecny i sprawuje kontrolę, czy uczestniczy w tym AI oraz kto upoważnił do działania. Sygnały wykrywania botów mogą stać się danymi wejściowymi, ale nie opisują istoty problemu.
Kto decyduje, czy dany aktor jest akceptowany?
Aplikacja korzystająca z dowodów. Proof of Actor dostarcza dowody wiarygodności; klient określa zasady ich akceptacji. Ocena kandydata do pracy, rozmowa z obsługą klienta i przelew bankowy mogą wymagać bardzo różnych rzeczy.
Dlaczego nie zablokować po prostu całej AI?
Ponieważ udział AI jest często uzasadniony i coraz trudniej go uniknąć. Problemem nie jest sam udział AI, lecz to, że przestaje być jasne, kto działa w czyim imieniu. Proof of Actor ma umożliwiać przypisanie działań AI do podmiotu, który za nie odpowiada, a nie ukrywanie jej udziału.
Pomóż określić zasady działania warstwy zaufania do aktorów.
Protokół powstaje we współpracy z pierwszymi partnerami projektowymi. Pokaż nam interakcję, której obecnie nie możesz uznać za wiarygodną.