跳转到正文

应用场景 · 视频通话与深度伪造风险

无论视频如何制作,都要验证视频通话中的真人身份

看见一张面孔,已不足以证明有人在场。听到一个声音,也不足以证明是本人在说话。深度伪造检测关注媒体内容是否由技术合成;更有用的问题是,究竟谁对这次交互负责。

行为主体信任回执

示意性内容
行为主体
人类
真人身份
已验证
身份
以保护隐私的方式完成验证
在场状态
持续
人类控制
高置信度
AI 参与情况
低
会话连续性
高置信度
12:41 UTCact_91fk28...

简而言之

对于视频通话,Proof of Actor 旨在确认参与者是预期的人,并在整个通话过程中始终在场且保持控制,无论音视频流是否可能是合成的,让远程会议、面试和审批以证据而非表象为依据。

核心问题

通话中的人是否是预期的参与者?此刻此人是否在场并掌控通话?

上下文

从识别伪造行为到确认行为主体

深度伪造检测工具判断音频或视频是否存在被篡改的迹象。这是一场以模型发布为节奏的攻防竞赛;即使检测未发现异常,你仍无法知道通话中的人是谁。

视频通话中的身份冒用可被用于支付欺诈、虚假招聘,以及针对服务台的社会工程攻击。每种情况下的决策,无论是批准付款、录用人员还是重置凭据,依据的都应是参与者的身份、是否在场及其权限,而不是画面像素。

Proof of Actor 旨在将行动主体的证据关联到参与者,而不是媒体内容:其身份经过私密核验、是否在场并持续参与交互,以及是否获得授权执行所请求的操作。

视频冒充在哪些场景造成危害

  • 冒充高管批准付款
  • 远程面试中的造假候选人
  • 通过服务台社会工程手段重置凭证
  • 远程身份核验与用户注册

Proof of Actor 旨在确立什么

这一场景所需的信任层

每种场景需要的信任体系信息各不相同。以下是这里相关的层次。

身份

参与者是预期的那个人。

在场状态

他们此刻就在这通通话中。

行为主体的连续性

始终是同一个人。

意图

重要请求由相关人员明确批准。

策略

支付审批调用的常见策略

Proof of Actor 提供证据。贵组织制定并披露策略。

人类(已验证、当前在场、意图明确)
拟议中的 API会议政策
// Proposed API - illustrative only
policy.require({
  actor: "human",
  identity: "verified_private",
  presence: "continuous",
  intent: "explicit_for_payment_requests"
});

常见问题

常见问题

如何验证视频通话中的人?

通过建立关于参与者的证据,而不只是判断视频本身:确认其为预期的人员、身份已通过隐私保护方式核验、在通话期间持续在场,并明确批准任何可能产生重大后果的请求。

Proof of Actor 是深度伪造检测工具吗?

不是。深度伪造检测可以成为众多信号之一。Proof of Actor 关注的是另一个问题:无论媒体内容如何生成,究竟由谁对这次交互负责?

这能否防止利用深度伪造实施的会议欺诈?

任何系统都不应承诺能够防止此类欺诈。Proof of Actor 旨在要求对通话作出具有实质影响的决定前,提供身份、在场状态和意图的证据,从而避免依赖此类欺诈所利用的外在表象。

您难以信任的是哪类交互?

设计合作伙伴协助确定哪些证据会改变其决策。请告诉我们你的情况。