İnsan Kontrolü
94 / 100
- İnsanın mevcudiyeti
- Yüksek
- Aktör sürekliliği
- Yüksek
- Davranış tutarlılığı
- Yüksek
- AI desteği
- Düşük
- Dış müdahale
- Önemli bir sinyal yok
Bir hüküm değil, risk ve kanıt sinyali. Bu puan için hangi eşiğin gerektiğine kanıtı kullanan uygulama kendi politikasına göre karar verir.
Proof of Control
Proof of Control, Proof of Actor'ın insan kontrolünü doğrulamaya yönelik temel bileşenidir: etkileşimde bulunan bir insanın belirli bir dijital etkileşimi oturum boyunca kontrol ettiğini ve AI'ın bu etkileşime ne ölçüde kayda değer bir katkıda bulunduğunu, belirtilen bir güven düzeyiyle ortaya koymak için önerilen bir yöntemdir.
Sorun
İnsanın karar döngüsüne dahil edilmesi bir tasarım tercihidir. İnsan kontrolü ise kanıtlanması gereken bir olgudur.
"Döngüde insan" bir sürecin nasıl tasarlandığını anlatır: sürecin bir aşamasında bir insanın inceleme veya onay yapması beklenir. "Döngüyü gözeten insan" ise bunun dışında özerk olan bir sistemin gözetimini anlatır. Her ikisi de amaçlanan gözetime ilişkin ifadelerdir. Hiçbiri, kanıtlara dayanan bir hizmete önündeki belirli etkileşimi gerçekten bir insanın kontrol edip etmediğini söylemez.
Bu boşluk her geçen ay daha önemli hâle geliyor. Bir kişi kimliğini başarıyla doğruladıktan sonra kontrolü bir AI temsilcisine verebilir, oturumu paylaşabilir, cihazı başka birine devredebilir, uzaktan kontrole izin verebilir, AI desteği kullanabilir veya gelecekteki işlemler için yetki devredebilir. Hesap aynıdır. Eylemi gerçekleştiren aktör ise farklıdır.
Proof of Control, kimlik doğrulamanın yanıtlayamadığı soruya yanıt vermek için tasarlanmıştır: Aynı insan etkileşimde bulunmaya ve kontrolü kesintisiz sürdürmeye devam ediyor mu, AI ne ölçüde katkıda bulunuyor? Bu katman, HUMAN durumunu HUMAN + AI durumundan ve bir insanın oturumu üzerinden çalışan bir ajandan ayırır.
Neyi ortaya koyar
Proof of Control'ün ortaya koymak üzere tasarlandığı hususlar
İnsanın mevcudiyeti
Bir insanın yalnızca oturum açarken değil, etkileşim sırasında da mevcut olması.
Aktör sürekliliği
Devir, aktör değişimi, uzaktan yardım ve oturumun ele geçirilmesi durumları dikkate alınarak aynı aktörün oturum boyunca etkileşimi sürdürmesi.
İnsan kontrolü
Mevcut insanın etkileşimi gerçekten kontrol etmesi; bu, kesin bir hüküm olarak değil, bir güven düzeyi olarak ifade edilir.
AI katılımı
AI katılımına ilişkin dereceli bir görünüm: anlamlı bir sinyal yok, olası veya muhtemel yardım, beyan edilmiş yardım ya da özerk aracı faaliyeti.
Birden fazla sinyale dayanan kanıt
Proof of Control, oturum boyunca bağımsız kanıtları değerlendirmek için tasarlanmıştır. Mimarinin değerlendirmek üzere geliştirildiği kanıt türleri şunları içerebilir:
Nelerin ortaya konduğunu yayımlıyoruz, bunun nasıl yapıldığını değil. Puanlama yöntemleri, sinyal ağırlıkları ve tespit teknikleri açıklanmıyor.
Kontrol gereksinimleri bağlama bağlıdır
- İşe alım değerlendirmesi
- İNSAN, kesintisiz mevcudiyet, düşük düzeyde AI desteği
- Profesyonel yazım aracı
- İNSAN veya İNSAN + AI, AI kullanımı beyan edilmiş
- Lehtar bilgilerini değiştiren banka
- Doğrulanmış kimlik + mevcut insan varlığı + açık insan niyeti
- Uzaktan sınav
- Doğrulanmış aynı adayın oturum boyunca hazır bulunması
Farklılaşma
Proof of Control ve ilişkili yaklaşımlar
| Yaklaşım | Yanıtlar | Ne sağlar |
|---|---|---|
| Kimlik doğrulama / MFA | Bu varlık bu hesaba erişebilir mi? | Oturum açıldıktan sonra bu işlemi fiilen kim gerçekleştiriyor? |
| İnsanın döngüde olduğu tasarım | Bu adımın bir kişi tarafından onaylanması mı gerekiyor? | Bir kişinin bu etkileşimi gerçekten kontrol ettiğine ilişkin kanıt. |
| Oturum izleme | Bu oturumda olağandışı davranışlar var mı? | Bir insanın etkileşimdeki varlığına, sürekliliğine ve kontrolüne ilişkin olumlu, açıklanabilir bir beyan. |
| AI tarafından yazılmış metinlerin tespiti | Bu içerik makine tarafından yazılmış gibi görünüyor mu? | Tek bir çıktıya ilişkin yargı değil, etkileşimdeki AI katılımının derecelendirilmesi. |
API Önizlemesi
Kesintisiz insan kontrolünü zorunlu kılın (API Önizlemesi)
Önerilen tasarımda, bir uygulama ihtiyaç duyduğu kontrol düzeyini belirtir ve İnsan Kontrol Puanı içeren bir aktör durumu alır. Bu puan, uygulamanın kendi politikasına göre yorumladığı bir risk ve kanıt göstergesidir.
// Developer Preview - API design is evolving
import { ProofOfActor } from "@proofofactor/sdk";
const actor = await ProofOfActor.verify({
require: [
"human_presence",
"human_control",
"session_continuity"
]
});
// The relying application decides the policy
if (actor.humanControl > 0.90) {
allow();
}Geçerli olduğu alanlar
İlgili kullanım senaryoları
İşe alım
Adayın değerlendirmeyi gerçekten tamamlayıp tamamlamadığını öğrenin.
Finansal hizmetler
Önemli sonuçlar doğuran işlemlerden önce doğrulanmış insan kontrolünü veya açık irade beyanını zorunlu kılın.
Görüntülü görüşmeler
Görüşmedeki kişinin beklenen katılımcı olduğunu, görüşmede hazır bulunduğunu ve kontrolün kendisinde olduğunu doğrulayın.
Sık sorulan sorular
Sık sorulan sorular
İnsan kontrolünün doğrulanması nedir?
İnsan kontrolünün doğrulanması, belirli bir dijital etkileşimi aynı oturumu kullanan bir AI ajanının, uzaktaki bir operatörün veya başka bir kişinin değil, gerçekten bir insanın kontrol ettiğinin kanıtlarla ortaya konması sürecidir. Bu süreç, yalnızca birinin hesaba erişebildiğini kanıtlayan kimlik doğrulamanın ötesine geçer.
İnsanın karar sürecine dahil olması ile süreci gözetmesi arasındaki fark nedir?
İnsanın karar döngüsüne dahil olması, bir karar uygulanmadan önce bir kişinin karara katılmasını veya kararı onaylamasını gerektirir. İnsanın karar döngüsünü gözetmesi ise bir kişinin gözetiminde sistemin özerk olarak hareket etmesi ve kişinin gerektiğinde müdahale edebilmesi anlamına gelir. Her ikisi de tasarıma dayalı gözetimi tanımlar. Proof of Control, belirli bir etkileşimi gerçekten bir insanın kontrol edip etmediğine ilişkin kanıt sağlamak üzere tasarlanmıştır.
AI desteği kullanmak başarısızlık olarak mı değerlendiriliyor?
Hayır. İNSAN + AI meşru bir aktör durumudur. Proof of Control, AI katılımını görünür kılacak şekilde tasarlanmıştır; böylece kanıtı kullanan uygulama kendi politikasını uygulayabilir. Bir yazma aracı AI desteğini kabul edebilir, ancak bir işe alım değerlendirmesi kabul etmeyebilir.
Human Control Score nedir?
Etkileşimdeki varlığı, sürekliliği, davranış tutarlılığını, AI yardımını ve dış müdahaleyi özetleyen olası bir güven metriği. Bu, bir risk ve kanıt sinyalidir; bir etkileşimin 100% insan tarafından yürütüldüğü iddiası değildir.
Proof of Control, kullanıcıları kaydetmek anlamına mı geliyor?
Hayır. Mimari gizliliği gözetir: talep edilen beyan için gereken asgari bilgiyi toplamak üzere tasarlanmıştır ve uygulama ham kayıtlar yerine kanıtla desteklenen bir beyan alır. Sinyallerin tek tek nasıl değerlendirildiğini açıklamıyoruz.
- Her temel bileşen sonucunu aynı Actor Attestation içinde döndürür; böylece uygulamalar bunları birleştirebilir.
Neyi doğrulamanız gerektiğini bize bildirin.
Proof of Actor, geliştiriciler ve tasarım ortaklarıyla birlikte tasarlanıyor. Kullanım senaryonuz API'nin şekillenmesine katkıda bulunur.