Menschliche Kontrolle
94 / 100
- Menschliche Präsenz
- Hoch
- Kontinuität des Akteurs
- Hoch
- Verhaltenskonsistenz
- Hoch
- Unterstützung durch AI
- Niedrig
- Externer Eingriff
- Kein signifikantes Signal
Ein Risiko- und Nachweissignal, kein endgültiges Urteil. Die Anwendung, die sich auf die Nachweise stützt, entscheidet, welchen Wert ihre Richtlinie erfordert.
Proof of Control
Proof of Control ist der Baustein von Proof of Actor zur Überprüfung menschlicher Kontrolle: ein vorgeschlagenes Verfahren, um mit ausgewiesener Konfidenz festzustellen, dass ein anwesender Mensch während der gesamten Sitzung eine bestimmte digitale Interaktion kontrolliert, und um zu bestimmen, in welchem Maße AI daran beteiligt ist.
Das Problem
Human in the Loop ist ein Gestaltungsprinzip. Menschliche Kontrolle ist eine Tatsache, die belegt werden muss.
„Human in the loop“ beschreibt, wie ein Prozess konzipiert ist: An einer Stelle soll ein Mensch etwas prüfen oder genehmigen. „Human on the loop“ beschreibt die Beaufsichtigung eines ansonsten autonomen Systems. Beides sind Aussagen über die vorgesehene Aufsicht. Keines von beiden sagt einem Dienst, der sich auf diese Angaben stützt, ob ein Mensch die konkrete Interaktion tatsächlich gesteuert hat.
Diese Lücke wird mit jedem Monat wichtiger. Eine Person kann sich erfolgreich authentifizieren und anschließend die Kontrolle an einen AI-Agenten übergeben, die Sitzung teilen, das Gerät jemand anderem überlassen, Fernsteuerung zulassen, AI-Unterstützung nutzen oder künftige Aktionen delegieren. Das Konto bleibt gleich. Der Akteur nicht.
Proof of Control ist darauf ausgelegt, eine Frage zu beantworten, die Authentifizierung nicht beantworten kann: Ist derselbe Mensch anwesend und hat er durchgehend die Kontrolle? Und in welchem Umfang trägt AI bei? Diese Ebene unterscheidet MENSCH von MENSCH + AI und von einem Agenten, der über die Sitzung eines Menschen handelt.
Was es nachweist
Was Proof of Control feststellen soll
Menschliche Präsenz
Dass während der Interaktion ein Mensch anwesend ist, nicht nur bei der Anmeldung.
Kontinuität des Akteurs
Dass derselbe Akteur die Sitzung durchgehend fortsetzt. Dies berücksichtigt Übergaben, Austausch, Fernunterstützung und die Übernahme der Sitzung.
Menschliche Kontrolle
Dass der anwesende Mensch die Interaktion tatsächlich kontrolliert, ausgedrückt als Konfidenz, nicht als endgültiges Urteil.
Mitwirkung von AI
Eine abgestufte Einschätzung der AI-Beteiligung: kein aussagekräftiges Signal, mögliche, wahrscheinliche oder offengelegte Unterstützung oder Aktivität eines autonomen Agenten.
Belege aus mehr als einem Signal
Proof of Control ist darauf ausgelegt, während der gesamten Sitzung unabhängige Nachweise auszuwerten. Zu den Nachweiskategorien, auf deren Auswertung die Architektur ausgelegt wird, könnten gehören:
Wir veröffentlichen, was festgestellt wird, nicht wie. Bewertungsverfahren, Gewichtungen von Signalen und Erkennungstechniken legen wir nicht offen.
Die Anforderungen an menschliche Kontrolle hängen vom Kontext ab
- Eignungsprüfung im Bewerbungsverfahren
- MENSCH, durchgehend anwesend, geringe AI-Unterstützung
- Professionelles Schreibwerkzeug
- MENSCH oder MENSCH + AI, mit offengelegter AI-Nutzung
- Bank ändert Empfängerdaten
- Verifizierte Identität + aktuelle Anwesenheit + ausdrückliche menschliche Absicht
- Online-Prüfung
- Derselbe verifizierte Bewerber während der gesamten Sitzung anwesend
Differenzierung
Proof of Control und verwandte Ansätze
| Ansatz | Antworten | Was es ergänzt |
|---|---|---|
| Authentifizierung / MFA | Darf diese Entität auf dieses Konto zugreifen? | Wer führt diese Handlung nach der Anmeldung tatsächlich aus? |
| Gestaltung mit menschlicher Beteiligung im Entscheidungsprozess | Soll eine Person diesen Schritt freigeben? | Belege dafür, dass ein Mensch diese Interaktion tatsächlich kontrolliert hat. |
| Sitzungsüberwachung | Verhält sich diese Sitzung ungewöhnlich? | Eine positive, nachvollziehbare Aussage über Präsenz, Kontinuität und Kontrolle. |
| Erkennung von AI-generierten Texten | Wirkt dieser Inhalt maschinell verfasst? | Abgestufte AI-Beteiligung an der Interaktion statt Bewertung eines einzelnen Ergebnisses. |
API-Vorschau
Kontinuierliche menschliche Kontrolle voraussetzen (API-Vorschau)
Im vorgeschlagenen Konzept legt eine Anwendung fest, welche menschliche Kontrolle sie benötigt, und erhält einen Akteurstatus mit einem Human Control Score: einem Risiko- und Nachweissignal, das sie anhand ihrer eigenen Regeln bewertet.
// Developer Preview - API design is evolving
import { ProofOfActor } from "@proofofactor/sdk";
const actor = await ProofOfActor.verify({
require: [
"human_presence",
"human_control",
"session_continuity"
]
});
// The relying application decides the policy
if (actor.humanControl > 0.90) {
allow();
}Wo es zum Einsatz kommt
Verwandte Anwendungsfälle
Personalgewinnung
Feststellen, ob die bewerbende Person die Prüfung tatsächlich selbst absolviert hat.
Finanzdienstleistungen
Verlangen Sie vor Transaktionen mit erheblichen Folgen eine verifizierte menschliche Kontrolle oder eine ausdrückliche Willensbekundung.
Videokonferenzen
Feststellen, dass die Person im Gespräch der erwartete Teilnehmer ist, anwesend ist und die Kontrolle hat.
Häufig gestellte Fragen
Häufig gestellte Fragen
Was ist die Verifizierung menschlicher Kontrolle?
Die Verifizierung menschlicher Kontrolle ist der Prozess, anhand von Nachweisen festzustellen, dass tatsächlich ein Mensch eine bestimmte digitale Interaktion kontrolliert und nicht ein AI-Agent, eine fernzugreifende Person oder eine andere Person, die dieselbe Sitzung nutzt. Sie geht über die Authentifizierung hinaus, die lediglich nachweist, dass jemand auf das Konto zugreifen konnte.
Was ist der Unterschied zwischen „Mensch in der Schleife“ und „Mensch über der Schleife“?
Human in the Loop bedeutet, dass ein Mensch an einer Entscheidung beteiligt sein oder sie genehmigen muss, bevor sie umgesetzt wird. Human on the Loop bedeutet, dass ein System autonom handelt, während ein Mensch es beaufsichtigt und eingreifen kann. Beides beschreibt eine im System vorgesehene Aufsicht. Proof of Control ist darauf ausgelegt, Nachweise dafür zu liefern, ob ein Mensch eine bestimmte Interaktion tatsächlich kontrolliert hat.
Wird die Nutzung von AI-Unterstützung als Fehler gewertet?
Nein. MENSCH + AI ist ein legitimer Akteursstatus. Proof of Control ist darauf ausgelegt, die Beteiligung von AI sichtbar zu machen, damit die Anwendung, die sich auf den Nachweis stützt, ihre eigenen Regeln anwenden kann. Ein Schreibwerkzeug kann AI-Unterstützung zulassen, ein Eignungstest im Bewerbungsverfahren möglicherweise nicht.
Was ist ein Human Control Score?
Eine mögliche Konfidenzmetrik, die Präsenz, Kontinuität, Verhaltenskonsistenz, AI-Unterstützung und externe Einflussnahme zusammenfasst. Sie ist ein Risiko- und Evidenzsignal, niemals eine Aussage, dass eine Interaktion zu 100% von einem Menschen ausgeht.
Bedeutet Proof of Control, dass Nutzer aufgezeichnet werden?
Nein. Die Architektur berücksichtigt den Datenschutz: Sie ist darauf ausgelegt, nur die für die angeforderte Aussage erforderlichen Informationen zu erfassen. Die Anwendung erhält eine Aussage mit Nachweisen, keine Rohaufzeichnungen. Wie einzelne Signale bewertet werden, veröffentlichen wir nicht.
- Jede Komponente liefert ihr Ergebnis innerhalb derselben Actor Attestation, sodass Anwendungen die Ergebnisse kombinieren können.
Sagen Sie uns, was Sie überprüfen müssen.
Proof of Actor wird gemeinsam mit Entwicklern und Designpartnern konzipiert. Ihr Anwendungsfall prägt die API.