Kontrola człowieka
94 / 100
- Obecność człowieka
- Wysoki
- Ciągłość aktora
- Wysoki
- Spójność zachowania
- Wysoki
- Wsparcie AI
- Niski
- Interwencja z zewnątrz
- Brak istotnych sygnałów
Sygnał dotyczący ryzyka i dowodów, nie ostateczna ocena. Aplikacja korzystająca z dowodów sama określa, jakiego wyniku wymaga jej polityka.
Proof of Control
Proof of Control to podstawowy mechanizm weryfikacji kontroli człowieka w Proof of Actor: proponowany sposób ustalania, z określonym poziomem pewności, czy obecny człowiek kontroluje konkretną interakcję cyfrową przez całą sesję oraz w jakim istotnym stopniu uczestniczy w niej AI.
Problem
Udział człowieka w procesie decyzyjnym to założenie projektowe. Faktyczną kontrolę człowieka trzeba potwierdzić.
„Człowiek w pętli” opisuje założenia procesu: na pewnym etapie człowiek ma coś sprawdzić lub zatwierdzić. „Człowiek nadzorujący pętlę” opisuje nadzór nad systemem, który poza tym działa autonomicznie. Oba pojęcia dotyczą zamierzonego nadzoru. Żadne nie mówi usłudze korzystającej z dowodów, czy człowiek rzeczywiście kontrolował konkretną interakcję, którą ta usługa ocenia.
Ta luka z miesiąca na miesiąc ma coraz większe znaczenie. Osoba może pomyślnie przejść uwierzytelnianie, a następnie przekazać kontrolę agentowi AI, udostępnić sesję, przekazać urządzenie komuś innemu, zezwolić na zdalne sterowanie, korzystać z pomocy AI lub delegować przyszłe działania. Konto pozostaje to samo. Aktor już nie.
Proof of Control ma odpowiadać na pytanie, na które uwierzytelnianie nie potrafi odpowiedzieć: czy ten sam człowiek jest obecny i przez cały czas sprawuje kontrolę oraz w jakim stopniu uczestniczy w tym AI? To warstwa, która odróżnia CZŁOWIEKA od CZŁOWIEKA + AI oraz od agenta działającego za pośrednictwem sesji człowieka.
Co potwierdza
Co Proof of Control ma w założeniu ustalać
Obecność człowieka
Że człowiek jest obecny podczas interakcji, a nie tylko w chwili logowania.
Ciągłość aktora
Że przez całą sesję działa ten sam aktor, z uwzględnieniem przekazania kontroli, zastąpienia aktora, pomocy zdalnej i przejęcia sesji.
Kontrola człowieka
Że obecny człowiek rzeczywiście kontroluje interakcję, wyrażone jako poziom pewności, a nie kategoryczny werdykt.
Uczestnictwo AI
Stopniowana ocena udziału AI: brak istotnych sygnałów, możliwa, prawdopodobna lub zadeklarowana pomoc albo działanie autonomicznego agenta.
Dowody pochodzące z więcej niż jednego sygnału
Proof of Control ma analizować niezależne materiały dowodowe przez całą sesję. Kategorie materiałów dowodowych, na których ma się opierać tworzona architektura, mogą obejmować:
Publikujemy informacje o tym, co jest ustalane, a nie o tym, jak to robimy. Nie ujawniamy metod punktacji, wag sygnałów ani technik wykrywania.
Wymogi dotyczące kontroli zależą od kontekstu
- Ocena w procesie rekrutacji
- CZŁOWIEK, nieprzerwana obecność, niewielka pomoc AI
- Profesjonalne narzędzie do pisania
- CZŁOWIEK lub CZŁOWIEK + AI, z zadeklarowanym użyciem AI
- Bank zmieniający dane odbiorcy
- Zweryfikowana tożsamość + bieżąca obecność + jednoznacznie wyrażony zamiar człowieka
- Egzamin zdalny
- Ten sam zweryfikowany kandydat obecny przez całą sesję
Wyróżniki
Proof of Control i pokrewne podejścia
| Podejście | Odpowiedzi | Co wnosi |
|---|---|---|
| Uwierzytelnianie / MFA | Czy ten podmiot może uzyskać dostęp do tego konta? | Kto faktycznie wykonuje to działanie po zalogowaniu? |
| Projektowanie z człowiekiem w pętli decyzyjnej | Czy człowiek ma zatwierdzić ten krok? | Dowody na to, że człowiek rzeczywiście sprawował kontrolę nad tą interakcją. |
| Monitorowanie sesji | Czy przebieg tej sesji odbiega od normy? | Pozytywne, dające się wyjaśnić potwierdzenie obecności, ciągłości i kontroli. |
| Wykrywanie tekstu wygenerowanego przez AI | Czy ta treść wygląda na napisaną przez maszynę? | Stopień udziału AI w interakcji, a nie ocena pojedynczego wyniku. |
Wersja przedpremierowa API
Wymagaj ciągłej kontroli człowieka (wersja zapoznawcza API)
W proponowanym rozwiązaniu aplikacja określa wymagany poziom kontroli i otrzymuje status aktora wraz z Human Control Score: wskaźnikiem ryzyka i dostępnych dowodów, który interpretuje zgodnie z własnymi zasadami.
// Developer Preview - API design is evolving
import { ProofOfActor } from "@proofofactor/sdk";
const actor = await ProofOfActor.verify({
require: [
"human_presence",
"human_control",
"session_continuity"
]
});
// The relying application decides the policy
if (actor.humanControl > 0.90) {
allow();
}Gdzie znajduje zastosowanie
Powiązane przypadki użycia
Rekrutacja
Sprawdź, czy kandydat rzeczywiście samodzielnie wykonał zadania oceny.
Usługi finansowe
Wymagaj zweryfikowanej kontroli człowieka lub jednoznacznego potwierdzenia zamiaru przed transakcjami o istotnych skutkach.
Rozmowy wideo
Potwierdzenie, że osoba uczestnicząca w rozmowie jest oczekiwanym uczestnikiem, jest obecna i sprawuje kontrolę.
Najczęstsze pytania
Często zadawane pytania
Czym jest weryfikacja kontroli sprawowanej przez człowieka?
Weryfikacja kontroli człowieka to proces ustalania na podstawie dowodów, że konkretną interakcją cyfrową faktycznie steruje człowiek, a nie agent AI, zdalny operator ani inna osoba korzystająca z tej samej sesji. Wykracza poza uwierzytelnianie, które potwierdza jedynie, że ktoś mógł uzyskać dostęp do konta.
Czym różni się człowiek w pętli od człowieka nadzorującego pętlę?
Człowiek w pętli decyzyjnej oznacza, że musi uczestniczyć w podjęciu decyzji lub ją zatwierdzić, zanim zostanie wykonana. Człowiek nadzorujący pętlę oznacza, że system działa autonomicznie, a człowiek go nadzoruje i może interweniować. Oba pojęcia opisują nadzór przewidziany w projekcie systemu. Proof of Control ma służyć dostarczaniu dowodów na to, czy człowiek faktycznie kontrolował konkretną interakcję.
Czy korzystanie z pomocy AI jest traktowane jako błąd?
Nie. CZŁOWIEK + AI to prawidłowy stan aktora. Proof of Control zaprojektowano tak, aby ujawniał udział AI, dzięki czemu aplikacja korzystająca z tych danych może zastosować własne zasady. Narzędzie do pisania może dopuszczać pomoc AI, a ocena kandydata do pracy - nie.
Czym jest Human Control Score?
Potencjalny wskaźnik poziomu pewności podsumowujący obecność, ciągłość, spójność zachowania, pomoc AI i interwencję z zewnątrz. Jest sygnałem dotyczącym ryzyka i dowodów, nigdy stwierdzeniem, że interakcja jest w 100% prowadzona przez człowieka.
Czy Proof of Control oznacza nagrywanie użytkowników?
Nie. Architektura uwzględnia ochronę prywatności: zaprojektowano ją tak, aby zbierała minimum informacji potrzebnych do potwierdzenia żądanego stwierdzenia, a aplikacja otrzymywała stwierdzenie poparte dowodami, nie surowe nagrania. Nie publikujemy sposobu oceny poszczególnych sygnałów.
- Każdy z podstawowych mechanizmów zwraca wynik w ramach tej samej Actor Attestation, dzięki czemu aplikacje mogą łączyć te wyniki.
Opisz, co chcesz zweryfikować.
Proof of Actor powstaje we współpracy z programistami i partnerami uczestniczącymi w projektowaniu. Twój przypadek użycia pomaga kształtować API.