Pytania otwarte
Nad czym pracujemy
Te pytania wyznaczają kierunek rozwoju infrastruktury. Jeśli prowadzisz badania nad którymkolwiek z nich, chętnie nawiążemy kontakt.
Pomiar stopnia kontroli człowieka bez nadzoru
Jakie minimalne dowody pozwalają z dużą pewnością stwierdzić, że człowiek sprawuje kontrolę, i jak komunikować poziom tej pewności, aby nie mylono jej z pewnością absolutną?
Stopień udziału AI
Jak opisywać udział AI na skali od braku udziału po autonomiczne działanie, tak aby było to przydatne przy tworzeniu zasad i sprawiedliwe wobec osób, które otwarcie korzystają z AI?
Przenośne upoważnienia dla agentów, które można cofnąć
Jak mocodawca może nadać agentowi uprawnienia o określonym zakresie, które strony trzecie mogą weryfikować przy każdym działaniu, i natychmiast je cofnąć?
Selektywne ujawnianie w poświadczeniach
Jak atestacja może potwierdzać „zweryfikowany człowiek” lub „upoważniony do wydania maksymalnie $500” bez ujawniania tożsamości człowieka lub mocodawcy?
Ciągłość w trakcie sesji
Jak długo deklaracja zaufania powinna zachowywać ważność w trakcie sesji i jak powinna ona wygasać, aby dowodów zebranych podczas logowania nie uznawać za dowody dotyczące późniejszych działań?
Interoperacyjność z rozwijającymi się standardami
Jak poświadczenia aktora powinny współdziałać z istniejącymi standardami tożsamości, poświadczeń i protokołów agentowych, zamiast z nimi konkurować?
Eseje
Teksty o podstawowych założeniach
Opublikowano w języku angielskim.
Wyróżniki
Pokrewne kategorie i pytanie, na które nie odpowiadają
Każdy z tych elementów jest wartościowy. Żaden z nich sam w sobie nie odpowiada na pytania, kto lub co faktycznie działa, jaki jest zakres kontroli człowieka i kto ponosi odpowiedzialność.
| Podejście | Odpowiedzi | Proof of Actor pyta również |
|---|---|---|
| Weryfikacja tożsamości | Kim jesteś? | Kto działa w tej chwili? |
| Wykrywanie botów | Czy ten ruch wygląda na zautomatyzowany? | Czy działanie jest zautomatyzowane, czy automatyzacja jest uprawniona i kto za nią stoi? |
| Potwierdzenie, że użytkownik jest człowiekiem | Czy jesteś prawdziwym człowiekiem? | Czy jesteś teraz obecny i kontrolujesz tę interakcję? |
| Tożsamość agenta | Który to agent? | Kto go upoważnił, jakie ma uprawnienia i czy to działanie mieści się w ich zakresie? |
| Wykrywanie deepfake'ów | Czy te materiały wyglądają na wygenerowane syntetycznie? | Niezależnie od tego, jak powstały materiały, kto faktycznie odpowiada za tę interakcję? |
| Uwierzytelnianie | Czy ten podmiot może uzyskać dostęp do tego konta? | Kto lub co faktycznie wykonuje to działanie w tej chwili? |
Kategoria, która dopiero się kształtuje, ale nie powstaje od zera
Aktywność rynkowa potwierdza potrzebę. Inwestorzy i twórcy rozwiązań coraz częściej wskazują, że potwierdzanie, iż użytkownik internetu jest człowiekiem, stanowi istotny problem zaufania w sieci, a istniejące rozwiązania obejmują powiązane z nim zagadnienia:
- Infrastruktura tożsamości i uprawnień dla agentów AI
- Usługi autoryzacji agentów przez konsumentów oferowane przez dostawców usług oceny zdolności kredytowej i weryfikacji tożsamości
- Know Your Agent oraz powiązanie agenta z człowiekiem oferowane przez dostawców usług weryfikacyjnych
- Zweryfikowane boty i agenci z podpisem cyfrowym na brzegu sieci
- Ciągła weryfikacja obecności człowieka
- Systemy potwierdzające, że użytkownik jest człowiekiem
Skupiamy się na szerszym problemie aktora: nie tylko na tym, do kogo należy tożsamość, ani tylko na tym, czy wykorzystywana jest automatyzacja, lecz na tym, kto lub co faktycznie działa w konkretnej interakcji, w jakim stopniu człowiek sprawuje kontrolę i kto ponosi odpowiedzialność.
Standardy, które współtworzymy
Proof of Actor ma uzupełniać istniejące i powstające rozwiązania, a nie je zastępować.
- WebAuthn i klucze dostępu
- Uwierzytelnianie odporne na phishing, które potwierdza posiadanie poświadczenia.
- Weryfikowalne poświadczenia W3C
- Model danych dla oświadczeń weryfikowalnych kryptograficznie i selektywnego ujawniania informacji.
- Delegowanie uprawnień przez OAuth 2.0
- Ugruntowane metody przyznawania aplikacjom dostępu o określonym zakresie.
- Zdalna atestacja (IETF RATS)
- Architektura przekazywania podmiotowi korzystającemu z dowodów informacji o stanie systemu.
- Podpisy wiadomości HTTP dla botów i agentów
- Nowe rozwiązania umożliwiające zautomatyzowanym klientom kryptograficzną identyfikację podmiotu, który nimi zarządza.
- Protokoły płatności i handlu dla agentów
- Protokoły branżowe określające, jak agenci przechowują dane uwierzytelniające i finalizują zakupy.
Środowiska badawcze i organizacje normalizacyjne
Tożsamość, WebAuthn, protokoły agentów, prywatność, kryptografia i infrastruktura zaufania. Śledź badania lub nawiąż kontakt.
Śledź badania