인간의 통제
94 / 100
- 인간의 현재 참여 여부
- 높음
- 행위자 연속성
- 높음
- 행동의 일관성
- 높음
- AI의 지원
- 낮음
- 외부 개입
- 유의미한 신호 없음
판정이 아닌 위험 및 증거 신호입니다. 의존 애플리케이션은 자체 정책에 필요한 점수를 결정합니다.
Proof of Control
Proof of Control은 Proof of Actor에서 사람의 제어 여부를 검증하기 위한 기본 요소입니다. 현재 참여 중인 사람이 세션 내내 특정 디지털 상호작용을 제어하고 있는지, AI가 그 상호작용에 실질적으로 얼마나 관여하는지를 명시된 신뢰도와 함께 확인하기 위해 제안된 방식입니다.
문제
인간 참여형 구조는 설계 방식입니다. 인간의 통제는 확인해야 할 사실입니다.
"인간 참여형"은 프로세스가 어떻게 설계되었는지를 설명합니다. 프로세스의 어느 단계에서 사람이 검토하거나 승인하도록 되어 있다는 뜻입니다. "인간 감독형"은 그 외에는 자율적으로 작동하는 시스템을 사람이 감독한다는 뜻입니다. 둘 다 의도된 감독 방식을 설명할 뿐입니다. 어느 쪽도 실제로 눈앞의 특정 상호작용을 사람이 통제했는지 증거를 사용하는 서비스에 알려주지는 않습니다.
이 간극은 갈수록 더 중요해집니다. 본인 인증에 성공한 사람이 이후 AI 에이전트에 제어권을 넘기거나, 세션을 공유하거나, 다른 사람에게 기기를 건네거나, 원격 제어를 허용하거나, AI의 도움을 받거나, 향후 작업을 위임할 수 있습니다. 계정은 동일하지만 행위 주체는 달라집니다.
Proof of Control은 인증만으로는 답할 수 없는 질문에 답하도록 설계되었습니다. 동일한 사람이 계속 참여하며 제어하고 있는가? AI는 얼마나 관여하고 있는가? 이 계층은 HUMAN과 HUMAN + AI, 그리고 사람의 세션을 통해 작동하는 에이전트를 구별합니다.
이를 통해 확인되는 사항
Proof of Control이 확인하도록 설계된 내용
인간의 현재 참여 여부
로그인 시점뿐 아니라 상호작용 중에도 사람이 참여하고 있는지.
행위자 연속성
인계, 대체, 원격 지원, 세션 탈취 가능성을 고려해 세션 내내 동일한 행위 주체가 유지되는지.
인간의 통제
현재 참여 중인 사람이 실제로 상호작용을 제어하고 있는지를 절대적인 판정이 아닌 신뢰도로 나타낸 것.
AI의 참여
AI 관여 정도를 단계별로 보여주는 방식: 유의미한 신호가 없거나, 도움이 있었을 가능성이 있거나, 도움이 있었을 개연성이 높거나, 도움이 있었다고 신고되었거나, 자율 에이전트가 활동하는 경우입니다.
둘 이상의 신호에서 얻은 증거
Proof of Control은 세션 전반에 걸쳐 독립적인 근거를 종합적으로 판단하도록 설계되었습니다. 현재 구축 중인 아키텍처가 다룰 수 있는 근거 유형은 다음과 같습니다:
무엇이 확인되는지는 공개하지만, 어떻게 확인하는지는 공개하지 않습니다. 점수 산정 방식, 신호별 가중치, 탐지 기법은 공개하지 않습니다.
통제 요건은 맥락에 따라 달라집니다
- 채용 평가
- 사람, 지속적인 참여, 낮은 수준의 AI 보조
- 전문 글쓰기 도구
- 사람 또는 사람 + AI, AI 사용 신고됨
- 수취인 정보를 변경하는 은행
- 검증된 신원 + 현재 현존 + 명시적인 사람의 의사
- 원격 시험
- 전체 세션 동안 검증된 동일한 응시자가 참여
차별화
Proof of Control 및 관련 접근 방식
| 접근 방식 | 답변 | 이를 통해 추가되는 사항 |
|---|---|---|
| 인증 / MFA | 이 주체가 이 계정에 접근할 수 있나요? | 로그인 후 이 행위를 실제로 수행하는 주체는 누구인가요? |
| 인간 개입형 설계 | 이 단계는 사람이 승인해야 하나요? | 실제로 사람이 이 상호작용을 제어했다는 증거. |
| 세션 모니터링 | 이 세션에서 평소와 다른 행동이 나타나고 있나요? | 현재 참여 여부, 행위자 연속성, 통제에 대해 근거를 설명할 수 있는 명시적 판단. |
| AI 작성 텍스트 감지 | 이 콘텐츠는 기계가 작성한 것처럼 보이나요? | 단일 결과물에 대한 판단이 아닌, 상호작용에서의 AI 참여 수준. |
API 사전 공개
사람의 지속적인 통제 요구(API 사전 공개)
제안된 설계에서는 애플리케이션이 요구하는 통제 수준을 명시하고, 자체 정책에 따라 해석할 위험 및 증거 신호인 Human Control Score와 함께 행위자 상태를 받습니다.
// Developer Preview - API design is evolving
import { ProofOfActor } from "@proofofactor/sdk";
const actor = await ProofOfActor.verify({
require: [
"human_presence",
"human_control",
"session_continuity"
]
});
// The relying application decides the policy
if (actor.humanControl > 0.90) {
allow();
}자주 묻는 질문
자주 묻는 질문
사람의 통제 여부 검증이란 무엇인가요?
인간 통제 검증은 AI 에이전트, 원격 조작자 또는 동일한 세션을 사용하는 다른 사람이 아니라 인간이 특정 디지털 상호작용을 실제로 통제하고 있음을 증거를 통해 확인하는 절차입니다. 이는 누군가 계정에 접근할 수 있다는 사실만 입증하는 인증을 넘어섭니다.
인간 참여형과 인간 감독형의 차이는 무엇인가요?
인간 참여형 구조는 결정이 내려지기 전에 사람이 참여하거나 승인해야 한다는 뜻입니다. 인간 감독형 구조는 시스템이 자율적으로 작동하는 동안 사람이 감독하고 개입할 수 있다는 뜻입니다. 둘 다 설계에 따른 감독 방식을 설명합니다. Proof of Control은 특정 상호작용을 인간이 실제로 통제했는지에 관한 증거를 제공하도록 설계되었습니다.
AI의 도움을 받으면 검증에 실패한 것으로 취급되나요?
아니요. 사람 + AI는 정당한 행위자 상태입니다. Proof of Control은 AI의 참여를 확인할 수 있게 해 증거를 이용하는 애플리케이션이 자체 정책을 적용하도록 설계되었습니다. 글쓰기 도구에서는 AI의 도움을 허용할 수 있지만, 채용 평가에서는 허용하지 않을 수 있습니다.
Human Control Score란 무엇인가요?
현재 참여 여부, 행위자 연속성, 행동의 일관성, AI의 도움, 외부 개입을 종합하는 잠재적 신뢰도 지표입니다. 이는 위험 및 증거 신호이며, 상호작용이 100% 사람이 수행한 것이라는 주장은 아닙니다.
Proof of Control은 사용자를 녹화한다는 뜻인가요?
아니요. 이 아키텍처는 프라이버시를 고려합니다. 요청된 검증 결과에 필요한 최소한의 정보만 수집하도록 설계되었으며, 애플리케이션은 원본 녹화물이 아닌 증거가 첨부된 검증 결과를 받습니다. 개별 신호의 평가 방식은 공개하지 않습니다.
- 모든 기본 요소는 동일한 Actor Attestation에 결과를 담아 반환하므로 애플리케이션에서 이를 조합할 수 있습니다.
검증해야 할 사항을 알려주세요.
Proof of Actor는 개발자 및 초기 설계 협력사와 함께 설계하고 있습니다. 여러분의 사용 사례가 API의 방향을 결정합니다.