人間による制御
94 / 100
- 人間がその場にいること
- 高
- アクターの継続性
- 高
- 行動の一貫性
- 高
- AIによる支援
- 低
- 外部からの介入
- 顕著なシグナルなし
リスクと証拠を示すシグナルであり、結論ではありません。どのスコアをポリシー上必要とするかは、証拠を利用するアプリケーションが決めます。
Proof of Control
Proof of Controlは、Proof of Actorにおける人間による操作を検証するための基本要素です。その場にいる人間がセッション全体を通じて特定のデジタル上のやり取りを操作していることと、そのやり取りにAIが実質的にどのように関与しているかを、明示された確信度で確認するための、提案段階の仕組みです。
課題
ヒューマン・イン・ザ・ループは設計です。人間による制御は、確立すべき事実です。
「ヒューマン・イン・ザ・ループ」は、プロセスの設計を表す用語です。どこかの段階で人が確認または承認することになっています。「ヒューマン・オン・ザ・ループ」は、それ以外は自律的に動作するシステムを人が監督することを表します。どちらも意図された監督について述べたものです。目の前の特定のやり取りを実際に人が制御していたかどうかは、いずれも証拠を利用するサービスには示しません。
この隔たりは月を追うごとに重要性を増しています。本人認証に成功した人でも、その後AIエージェントに操作を任せたり、セッションを共有したり、端末を他人に渡したり、遠隔操作を許可したり、AIの支援を利用したり、将来の操作を委任したりできます。アカウントは同じでも、行為主体は同じとは限りません。
Proof of Controlは、認証だけでは答えられない問いに答えるよう設計されています。同じ人間がその場に存在し、継続して操作しているか、またAIがどの程度関与しているかという問いです。これは、HUMANとHUMAN + AI、そして人間のセッションを通じて動作するエージェントを区別するレイヤーです。
立証されること
Proof of Controlが立証するよう設計されていること
人間がその場にいること
人間がログイン時だけでなく、やり取りの最中にもその場にいること。
アクターの継続性
引き継ぎ、すり替わり、遠隔支援、セッションの乗っ取りに対応するため、セッションを通じて同じ行為主体が継続していること。
人間による制御
その場にいる人間が実際にやり取りを制御していることを、絶対的な判定ではなく信頼度として示すこと。
AIの参加
AIの関与を段階的に示す見方。意味のある兆候なし、関与の可能性あり、支援の可能性が高いか申告済み、または自律型エージェントによる活動。
複数のシグナルから得られる根拠
Proof of Controlは、セッション全体を通じて独立した証拠を評価するよう設計されています。そのアーキテクチャで評価対象として想定されている証拠群には、次のものが含まれる可能性があります：
何が立証されるかを公開し、その方法は公開しません。スコアリング、シグナルの重み付け、検出技術は開示しません。
人間による制御の要件は文脈によって異なります
- 採用選考
- 人間、継続的な参加、AIによる補助は限定的
- 業務用文章作成ツール
- 人間、またはAIの利用を申告した人間 + AI
- 銀行が受取人情報を変更する場合
- 検証済みの身元 + 現在の存在 + 明示的な人間の意思
- 遠隔試験
- セッション全体を通じて、同じ確認済みの候補者が参加
差別化
Proof of Controlと関連するアプローチ
| アプローチ | 回答 | 追加されるもの |
|---|---|---|
| 認証 / MFA | この主体はこのアカウントにアクセスできますか？ | ログイン後、この操作を実際に行っているのは誰ですか？ |
| ヒューマン・イン・ザ・ループの設計 | このステップは人間が承認する想定ですか？ | このやり取りを実際に人間が制御していたことを示す根拠。 |
| セッションの監視 | このセッションには通常と異なる動作が見られますか？ | 人の現在の参加、継続性、制御について、根拠を説明できる積極的な主張。 |
| AIが書いた文章の検出 | このコンテンツは機械が書いたように見えますか？ | 単一の出力の評価ではなく、やり取りにおけるAIの関与度。 |
APIプレビュー
人間による継続的な制御を要求する（API プレビュー）
提案中の設計では、アプリケーションが必要とする制御の条件を指定し、Human Control Scoreを伴うアクターの状態を受け取ります。これは、独自のポリシーに基づいて解釈するリスクと証拠の指標です。
// Developer Preview - API design is evolving
import { ProofOfActor } from "@proofofactor/sdk";
const actor = await ProofOfActor.verify({
require: [
"human_presence",
"human_control",
"session_continuity"
]
});
// The relying application decides the policy
if (actor.humanControl > 0.90) {
allow();
}よくある質問
よくある質問
人間による制御の検証とは何ですか？
人間による制御の検証とは、AIエージェント、遠隔の操作者、または同じセッションを使う別の人ではなく、人間が特定のデジタル上のやり取りを実際に制御していることを、証拠に基づいて確立するプロセスです。誰かがアカウントにアクセスできたことだけを証明する認証を超えるものです。
人間が判断に直接関与する方式と、人間が監督する方式はどう違いますか？
ヒューマン・イン・ザ・ループとは、意思決定が行われる前に人間が参加するか、承認しなければならない設計です。ヒューマン・オン・ザ・ループとは、システムが自律的に動作する一方で、人間が監督し、介入できる設計です。どちらも設計上の監督を表します。Proof of Controlは、特定のやり取りを人間が実際に制御していたかどうかの証拠を提供するよう設計されています。
AIによる支援の利用は、検証の不合格として扱われますか？
いいえ。人間 + AIは正当なアクターの状態です。Proof of ControlはAIの関与を可視化し、証拠を利用するアプリケーションが独自の方針を適用できるよう設計されています。文章作成ツールではAIによる支援を認めても、採用選考では認めない場合があります。
Human Control Scoreとは何ですか？
人の現在の参加、継続性、行動の一貫性、AIによる支援、外部からの介入を要約する確信度の指標案です。これはリスクと証拠を示すシグナルであり、やり取りが100%人間によるものだと主張するものではありません。
Proof of Controlはユーザーを録画することを意味しますか？
いいえ。このアーキテクチャはプライバシーに配慮しています。求められた確認結果に必要な最小限の情報を収集するよう設計されており、アプリケーションが受け取るのは生の録音・録画ではなく、証拠を伴う確認結果です。個々のシグナルの評価方法は公開していません。
- 各プリミティブの結果は同じ Actor Attestation に格納されて返されるため、アプリケーションは結果を組み合わせられます。
何を検証する必要があるかをお知らせください。
Proof of Actorは、開発者や設計パートナーとともに設計を進めています。皆さまのユースケースがAPIの設計に反映されます。