행위자 신뢰 영수증
예시- 행위자
- 인간
- 실제 사람 여부
- 검증됨
- 신원
- 개인정보를 공개하지 않고 검증됨
- 현재 참여 여부
- 지속적
- 인간의 통제
- 높은 신뢰도
- AI 관여 여부
- 낮음
- 세션 연속성
- 높은 신뢰도
요약하면
소셜 네트워크에서 Proof of Actor는 플랫폼이 행동만으로 추정하는 대신 증거와 에이전트에 대해 책임지는 본인을 근거로 계정과 상호작용을 사람, 사람 + AI 또는 AI 에이전트로 구분하고 표시할 수 있도록 설계되었습니다.
핵심 질문
이 계정, 게시물 또는 답글의 주체가 사람인가요, AI를 사용하는 사람인가요, 아니면 AI 에이전트인가요? 그 배후의 책임 주체는 누구인가요?
맥락
신원을 숨기지 않는 대리 행위
소셜 플랫폼에는 이미 사람, AI 도구를 사용하는 사람, 브랜드 자동화 시스템, 자율 에이전트가 함께 활동합니다. 이를 구분하는 표시가 없으면 사용자는 신뢰 수준을 적절히 판단할 수 없고, 조직적인 비진정성 활동은 다른 활동에 묻혀 드러나지 않으며, 투명하게 이루어지는 자동화도 조작과 똑같이 취급됩니다.
자동화를 전면 금지하는 것은 시행하기도 어렵고 바람직하지도 않습니다. 사용자에게 필요한 것은 명확한 행위 주체 정보, 즉 자신이 상대하는 행위자의 유형을 분명하게 검증할 수 있는 신호입니다.
Proof of Actor의 4가지 행위자 상태는 플랫폼이 표시하도록 선택할 수 있는 라벨에 직접 대응하며, 각 상태를 어디에서 허용할지는 플랫폼이 결정합니다.
명시적인 대리 관계가 도움이 되는 경우
- AI 사용 사실을 밝히지 않은 대량의 답글과 댓글
- 한 행위자가 운영하는 계정 네트워크
- 에이전트가 운영하는 브랜드 및 서비스 계정
- 공개 투표와 참여 지표
Proof of Actor가 확인하도록 설계된 내용
이 상황에 필요한 신뢰 계층
각 맥락에서 필요한 신뢰 체계의 요소는 다릅니다. 여기서 중요한 계층은 다음과 같습니다.
실제 사람 여부
사람의 계정으로 표시된 각 계정 뒤에는 실제 사람이 있습니다.
AI의 참여
AI의 관여 수준은 단계별로 평가되고 표시됩니다.
위임
에이전트 계정은 대리하는 본인 또는 조직을 식별합니다.
책임성
자동화된 발화의 배후에 누군가가 있습니다.
정책
일반적인 레이블
Proof of Actor는 근거를 제공합니다. 귀 조직은 정책을 정하고 공개합니다.
// Proposed API - illustrative only
const actor = await ProofOfActor.verify({
require: ["personhood", "ai_disclosure"]
});
label(post, actor.type); // "human" | "human_ai" | "agent"자주 묻는 질문
자주 묻는 질문
모든 사용자가 신원을 확인해야 하나요?
아니요. 사람임을 확인하는 것과 신원을 확인하는 것은 별개의 계층입니다. 플랫폼은 신원을 공개하지 않은 채 계정을 검증된 사람의 계정으로 표시할 수 있습니다.
AI의 도움을 받아 작성한 게시물에 표시를 붙이는 것이 불이익인가요?
그래서는 안 됩니다. 사람 + AI는 정당한 상태입니다. 목적은 도구 사용에 불이익을 주는 것이 아니라 독자가 맥락을 파악할 수 있도록 투명성을 제공하는 것입니다.
에이전트 계정의 책임 소재는 어떻게 규명할 수 있을까요?
Proof of Authority를 통해 에이전트 계정에 검증된 본인 정보를 연결하도록 설계되어, 자동화된 활동마다 책임 주체를 확인할 수 있습니다.
어떤 상호작용을 신뢰하기 어렵나요?
설계 파트너는 어떤 증거가 있으면 결정을 바꿀 수 있을지 정의하는 데 참여합니다. 어떤 증거가 필요한지 알려주세요.