मानव नियंत्रण
94 / 100
- मानव की उपस्थिति
- उच्च
- कर्ता की निरंतरता
- उच्च
- व्यवहार में एकरूपता
- उच्च
- AI की सहायता
- कम
- बाहरी हस्तक्षेप
- कोई महत्वपूर्ण संकेत नहीं
जोखिम और साक्ष्य का संकेत, अंतिम निर्णय नहीं। साक्ष्य पर भरोसा करने वाला ऐप्लिकेशन तय करता है कि उसकी नीति के लिए कितना स्कोर आवश्यक है।
Proof of Control
Proof of Control, Proof of Actor में मानवीय नियंत्रण के सत्यापन का आधारभूत घटक है: एक प्रस्तावित तरीका, जिससे निर्धारित विश्वास स्तर के साथ यह स्थापित किया जा सके कि मौजूद मनुष्य पूरे सत्र के दौरान किसी विशिष्ट डिजिटल अंतःक्रिया को नियंत्रित कर रहा है और AI उसमें किस हद तक महत्वपूर्ण भूमिका निभा रहा है।
समस्या
निर्णय प्रक्रिया में मानव को शामिल रखना एक डिज़ाइन है। मानव नियंत्रण एक ऐसा तथ्य है जिसे स्थापित करना होता है।
"मानव की प्रक्रिया में भागीदारी" यह बताता है कि किसी प्रक्रिया को कैसे डिज़ाइन किया गया है: किसी चरण पर किसी व्यक्ति से समीक्षा या अनुमोदन की अपेक्षा होती है। "मानव द्वारा निगरानी" किसी ऐसी प्रणाली की निगरानी को बताता है जो अन्यथा स्वायत्त रूप से काम करती है। दोनों अपेक्षित निगरानी के बारे में बताते हैं। इनमें से कोई भी साक्ष्य पर निर्भर सेवा को यह नहीं बताता कि उसके सामने मौजूद विशिष्ट इंटरैक्शन को वास्तव में किसी मानव ने नियंत्रित किया था या नहीं।
यह अंतर हर महीने और अधिक महत्वपूर्ण होता जा रहा है। कोई व्यक्ति सफलतापूर्वक प्रमाणीकरण कर सकता है और फिर किसी AI एजेंट को नियंत्रण दे सकता है, सत्र साझा कर सकता है, उपकरण किसी और को सौंप सकता है, दूरस्थ नियंत्रण की अनुमति दे सकता है, AI की सहायता ले सकता है या भविष्य की कार्रवाइयां प्रत्यायोजित कर सकता है। खाता वही रहता है। कर्ता नहीं।
Proof of Control को उस प्रश्न का उत्तर देने के लिए डिज़ाइन किया गया है जिसका उत्तर पहचान प्रमाणीकरण नहीं दे सकता: क्या वही मनुष्य मौजूद है, क्या पूरे समय नियंत्रण उसी के पास है, और AI का योगदान कितना है? यह वह परत है जो HUMAN, HUMAN + AI और किसी मनुष्य के सत्र के माध्यम से काम कर रहे एजेंट के बीच अंतर करती है।
यह क्या स्थापित करता है
Proof of Control किस बात को स्थापित करने के लिए बनाया गया है
मानव की उपस्थिति
कि अंतःक्रिया के दौरान कोई मानव मौजूद है, केवल लॉगिन के समय नहीं।
कर्ता की निरंतरता
कि पूरे सत्र में वही कर्ता बना रहता है, जिससे जिम्मेदारी सौंपने, किसी और के उसकी जगह लेने, दूरस्थ सहायता और सत्र पर कब्ज़ा होने जैसी स्थितियों को संबोधित किया जा सके।
मानव नियंत्रण
कि अभी मौजूद मानव वास्तव में अंतःक्रिया को नियंत्रित कर रहा है। इसे निश्चित निष्कर्ष के बजाय विश्वास-स्तर के रूप में व्यक्त किया जाता है।
AI की भागीदारी
AI की भागीदारी का स्तरवार आकलन: कोई सार्थक संकेत नहीं, संभावित भागीदारी, संभावित या घोषित सहायता, या स्वायत्त एजेंट की गतिविधि।
एक से अधिक संकेतों से प्राप्त साक्ष्य
Proof of Control को पूरे सत्र में स्वतंत्र साक्ष्यों का विश्लेषण करने के लिए डिज़ाइन किया गया है। जिन साक्ष्य श्रेणियों को ध्यान में रखकर इसकी संरचना विकसित की जा रही है, उनमें ये शामिल हो सकती हैं:
हम यह प्रकाशित करते हैं कि क्या स्थापित हुआ है, यह नहीं कि कैसे। स्कोर निकालने के तरीके, संकेतों को दिया जाने वाला महत्व और पहचान की तकनीकें साझा नहीं की जातीं।
नियंत्रण संबंधी आवश्यकताएँ संदर्भ पर निर्भर करती हैं
- भर्ती मूल्यांकन
- मानव, निरंतर उपस्थिति, AI की सीमित सहायता
- पेशेवर लेखन टूल
- मानव या मानव + AI, AI का उपयोग घोषित होने पर
- लाभार्थी का विवरण बदलता बैंक
- सत्यापित पहचान + वर्तमान उपस्थिति + स्पष्ट मानवीय मंशा
- दूरस्थ परीक्षा
- पूरे सत्र में वही सत्यापित उम्मीदवार मौजूद था
भिन्नता
Proof of Control और संबंधित दृष्टिकोण
| दृष्टिकोण | उत्तर | यह क्या जोड़ता है |
|---|---|---|
| प्रमाणीकरण / MFA | क्या इस इकाई को इस खाते तक पहुँच दी जा सकती है? | लॉगिन के बाद, यह कार्रवाई वास्तव में कौन कर रहा है। |
| मानव की सहभागिता के साथ AI सिस्टम का डिज़ाइन | क्या इस चरण को किसी व्यक्ति द्वारा मंज़ूरी दी जानी चाहिए? | इस बात का साक्ष्य कि इस इंटरैक्शन पर वास्तव में किसी व्यक्ति का नियंत्रण था। |
| सत्र की निगरानी | क्या इस सत्र में कोई असामान्य गतिविधि हो रही है? | उपस्थिति, निरंतरता और नियंत्रण के बारे में एक स्पष्ट और व्याख्या योग्य दावा। |
| AI द्वारा लिखे गए पाठ की पहचान | क्या यह सामग्री मशीन द्वारा लिखी हुई लगती है? | अंतःक्रिया में AI की भागीदारी का स्तर, न कि किसी एक आउटपुट का मूल्यांकन। |
API पूर्वावलोकन
निरंतर मानव नियंत्रण अनिवार्य करें (API पूर्वावलोकन)
प्रस्तावित डिज़ाइन में, एप्लिकेशन बताता है कि उसे किस स्तर का नियंत्रण चाहिए और उसे Human Control Score के साथ एक्टर की स्थिति प्राप्त होती है: यह जोखिम और साक्ष्य से जुड़ा संकेत है, जिसकी व्याख्या उसकी अपनी नीति करती है।
// Developer Preview - API design is evolving
import { ProofOfActor } from "@proofofactor/sdk";
const actor = await ProofOfActor.verify({
require: [
"human_presence",
"human_control",
"session_continuity"
]
});
// The relying application decides the policy
if (actor.humanControl > 0.90) {
allow();
}यह कहाँ लागू होता है
संबंधित उपयोग मामले
अक्सर पूछे जाने वाले प्रश्न
अक्सर पूछे जाने वाले प्रश्न
मानव नियंत्रण का सत्यापन क्या है?
मानव नियंत्रण का सत्यापन साक्ष्यों के आधार पर यह स्थापित करने की प्रक्रिया है कि किसी विशिष्ट डिजिटल संपर्क को वास्तव में कोई मानव नियंत्रित कर रहा है, न कि कोई AI एजेंट, दूर से संचालन करने वाला व्यक्ति या उसी सत्र का उपयोग करने वाला कोई अन्य व्यक्ति। यह प्रमाणीकरण से आगे जाता है, क्योंकि प्रमाणीकरण केवल यह साबित करता है कि कोई व्यक्ति खाते तक पहुँच सकता था।
प्रक्रिया में मानव की भागीदारी और प्रक्रिया की मानव द्वारा निगरानी में क्या अंतर है?
निर्णय प्रक्रिया में मानव को शामिल रखने का अर्थ है कि निर्णय होने से पहले किसी व्यक्ति को उसमें भाग लेना या उसे स्वीकृति देना आवश्यक है। मानव की निगरानी में प्रणाली चलने का अर्थ है कि प्रणाली स्वायत्त रूप से कार्य करती है, जबकि कोई व्यक्ति उसकी निगरानी करता है और ज़रूरत पड़ने पर हस्तक्षेप कर सकता है। दोनों डिज़ाइन के स्तर पर निगरानी को दर्शाते हैं। Proof of Control को यह साक्ष्य प्रदान करने के लिए डिज़ाइन किया गया है कि किसी विशेष संपर्क को वास्तव में किसी मानव ने नियंत्रित किया था या नहीं।
क्या AI की सहायता लेने को विफलता माना जाता है?
नहीं। मानव + AI एक वैध अभिनेता स्थिति है। Proof of Control को AI की भागीदारी स्पष्ट करने के लिए डिज़ाइन किया गया है, ताकि प्रमाण पर निर्भर ऐप्लिकेशन अपनी नीति लागू कर सके। लेखन का कोई टूल AI की सहायता स्वीकार कर सकता है; भर्ती के लिए किया जाने वाला मूल्यांकन शायद नहीं।
Human Control Score क्या है?
उपस्थिति, निरंतरता, व्यवहार में संगति, AI सहायता और बाहरी हस्तक्षेप का सार प्रस्तुत करने वाला एक संभावित विश्वास-स्तर मापदंड। यह जोखिम और साक्ष्य का संकेत है, इस बात का दावा कभी नहीं कि कोई इंटरैक्शन 100% मानव द्वारा किया गया है।
क्या Proof of Control का मतलब उपयोगकर्ताओं की गतिविधि रिकॉर्ड करना है?
नहीं। इस संरचना में गोपनीयता का ध्यान रखा गया है: इसे अनुरोधित दावे के लिए आवश्यक न्यूनतम जानकारी एकत्र करने के लिए डिज़ाइन किया गया है, और ऐप्लिकेशन को कच्ची रिकॉर्डिंग नहीं, बल्कि प्रमाण सहित दावा मिलता है। हम यह प्रकाशित नहीं करते कि अलग-अलग संकेतों का मूल्यांकन कैसे किया जाता है।
- हर मूल घटक अपना परिणाम उसी Actor Attestation में देता है, ताकि अनुप्रयोग उन्हें एक साथ इस्तेमाल कर सकें।
हमें बताएं कि आपको क्या सत्यापित करना है।
Proof of Actor को डेवलपर और शुरुआती उत्पाद-सहयोगियों के साथ मिलकर डिज़ाइन किया जा रहा है। आपका उपयोग-मामला API को आकार देता है।