// AUTHORITY: VALID · ACTION: WITHIN_SCOPE
定义
Proof of Actor 是一项拟议中的信任基础设施,用于确定数字交互是由人类、使用 AI 的人类还是自主 AI 智能体执行,并确认谁授权了该操作。
身份认证止步于何处
Proof of Actor 从身份认证的终点开始。
这些是不同的问题。回答其中一个,并不能回答其他问题。
身份验证能回答的问题
这个实体可以访问此账户吗?
身份信息能回答的问题
这个身份归谁所有?
Proof of Actor 提出的问题
此刻实际执行此操作的是谁或什么?
一个人可能成功通过身份认证,然后:
行为主体模型
4 种行动者状态
行为主体是实际负责执行或控制数字交互的实体。交互可归入 4 种易于理解的状态。没有哪种状态普遍优于其他状态。
人类
这次交互似乎由人直接控制。
候选人亲自完成测评,未获得实质性的外部AI协助。
人类 + AI
人仍对这次交互负责,但AI提供了实质性协助。
专业人士在使用AI写作助手时撰写电子邮件。视具体情况,这完全可以接受。
获授权的智能体
AI 智能体在获得授权的权限范围内,代表已识别的个人或组织执行交互。
购物代理获得用户授权,在指定预算内购买机票。
未验证的行为主体
该服务无法以足够的置信度确认行动主体、人工控制情况或可追责的委托方。
这并不自动意味着存在恶意,而是意味着:信任关系尚不明确。
基于上下文的信任
Proof of Actor 提供证据。依赖方服务决定策略。
不同场景需要不同策略。相同的证据可能导向不同但同样正确的决策。
| 上下文 | 可能要求或允许 |
|---|---|
| 招聘测评 | 人类 |
| 客户支持交互 | 人类或获授权智能体 |
| 线上交易平台 | 人类、人类 + AI 或获授权智能体 |
| 银行批准大额转账 | 已验证的人类身份 + 当前人类在场 + 明确的人类意图 |
Proof of Actor 信任技术栈
每次重要交互背后的十个问题
Proof of Actor 旨在跨不同层面进行分析,让应用能够准确请求其场景所需的证据。
真人身份
是否有证据表明此次交互背后有真人?
这与识别人的身份不同。服务可以确认有真人在场,而无需知道其身份。
身份
这个人是否确实是其声称的身份?
在需要保护匿名或化名状态的场景下可不提供身份信息。旨在支持“已核验为真人,但不披露身份”。
在场状态
此次交互过程中,是否确实有人在场?
在十五分钟前通过身份验证,并不能证明此刻仍在场。
行为主体的连续性
整个会话是否始终由同一行为主体持续参与?
针对冒充、控制权交接、远程协助、会话接管和身份替换等情况。
人类控制
此次交互是否确实由人控制?
身份验证证明访问权限。身份信息证明身份。人在场证明其在场。但这些都不一定能证明控制权。
AI 参与
AI 是否实质性地参与了此次交互?
按程度分级,而非简单二分:无明显 AI 参与迹象、可能或很可能存在 AI 辅助、已声明使用 AI 辅助,或存在自主智能体活动。
授权委托
如果是 AI 智能体在行动,谁授权了它?
委托人可以是个人、组织或其他获授权的服务。
权限范围
该行动主体被允许做什么?
权限、交易限额、允许的交易对手、有效期和撤销状态,均需对照当前请求的操作进行核验。
意图
该人是否在此时、这些条件下明确批准了这项操作?
对于重大操作,仅有持续有效的授权可能还不够。
责任归属
最终由谁对这一操作负责?
每份有实质意义的证明声明都应让人能够回答这个问题。
协议愿景
供应用在信任某个行为主体之前查询的信任协议
Proof of Actor 的最完整形态并非又一个验证 API。它是一种信任协议,应用可以在关键交互中调用,接收 Actor Attestation,并执行各自的规则。
// Proposed API - illustrative only
policy.require({
actor: "human",
presence: "continuous",
control: 0.90,
aiAssistance: "low"
});
// Or, for a service that welcomes authorised agents:
policy.allow({
actor: ["human", "authorized_agent"],
agentAuthority: {
required: true
}
});是谁在执行操作?
然后由应用自行执行其规则。
架构理念
设计目标是
我们公开说明 Proof of Actor 能够确立什么。至于如何做到这一点,我们会有意选择披露范围:评分方法、信号权重和检测技术均不公开。
不依赖特定信号
不与网络摄像头、生物识别技术或任何单一技术永久绑定。
多信号
信任源于独立的证据,而非某项脆弱的单一核查。
持续
高价值交互会在整个会话期间持续接受验证,而不只是在登录时验证。
基于上下文的
在论坛发表评论所需的证据,与转移 $1 million 所需的证据不同。
注重隐私保护
仅收集所请求声明所必需的最少信息。
可解释
应用接收的是信任结果背后的证据,而不只是一个标签。
可撤销
代理的权限必须始终可以撤销。
可审计
用于重要决策的证明声明可生成可靠的记录。
以开发者为先
集成过程应该逐渐变得比自行构建内部验证基础设施更简单。
常见问题
关于 Proof of Actor 如何运作的问题
什么是 Proof of Actor?
Proof of Actor 是一项拟议中的信任基础设施,用于确定数字交互是由人类、使用 AI 的人类还是自主 AI 智能体执行,并确认谁授权了该操作。该项目仍在开发中。
什么是行动主体?
行为主体是实际负责执行或控制数字交互的实体。它可能是人类、借助 AI 的人类、代表委托人行事且获得授权的 AI 智能体,也可能是服务无法验证的行为主体。
Proof of Actor 用于检测机器人吗?
不是。机器人检测判断流量是否看起来由自动化程序产生。Proof of Actor 则关注是谁或什么在执行操作、是否有人在场并掌握控制权、是否有 AI 参与,以及谁授权了该操作。机器人检测信号可以成为输入,但不足以界定这一问题。
谁来决定某个行为主体是否可以被接受?
依赖方应用。Proof of Actor 提供信任证据;客户自行确定可接受的策略。招聘测评、客服聊天和银行转账的要求可能大不相同。
为什么不直接屏蔽所有 AI?
因为 AI 参与通常是正当的,而且越来越难以避免。问题不在于 AI 参与,而在于代理关系变得不可见。Proof of Actor 旨在让 AI 的行为可归责,而不是让 AI 消失。