BIÊN NHẬN TIN CẬY TÁC NHÂN
Mang tính minh họa- Tác nhân
- Con người
- Tư cách con người
- Đã xác minh
- Danh tính
- Đã xác minh mà vẫn bảo vệ quyền riêng tư
- Sự hiện diện
- Liên tục
- Quyền kiểm soát của con người
- Độ tin cậy cao
- Sự tham gia của AI
- Thấp
- Tính liên tục của phiên
- Độ tin cậy cao
Tóm lại
Đối với cuộc gọi video, Proof of Actor được thiết kế để xác lập rằng người tham gia đúng là người được mong đợi, hiện diện và nắm quyền kiểm soát trong suốt cuộc gọi, bất kể luồng âm thanh và hình ảnh có thể được tạo tổng hợp hay không, để các cuộc họp, phỏng vấn và phê duyệt từ xa dựa trên bằng chứng thay vì bề ngoài.
Câu hỏi
Người trong cuộc gọi này có đúng là người tham gia dự kiến không, và hiện họ có đang tham gia và kiểm soát cuộc gọi không?
Bối cảnh
Từ phát hiện giả mạo đến xác định chủ thể thực hiện
Các công cụ phát hiện nội dung giả mạo bằng AI đánh giá liệu âm thanh hoặc video có dấu hiệu bị chỉnh sửa hay không. Đây là cuộc chạy đua theo từng phiên bản mô hình mới, và kết quả không phát hiện dấu hiệu chỉnh sửa vẫn không cho biết ai đang tham gia cuộc gọi.
Việc mạo danh trong cuộc gọi video được sử dụng để gian lận thanh toán, gian lận tuyển dụng và thao túng nhân viên bộ phận hỗ trợ. Quyết định trong từng trường hợp, như phê duyệt thanh toán, tuyển dụng một người hoặc đặt lại thông tin xác thực, phụ thuộc vào danh tính, sự hiện diện và thẩm quyền của người tham gia, chứ không phải hình ảnh hiển thị.
Proof of Actor được thiết kế để gắn bằng chứng về tác nhân với người tham gia thay vì nội dung truyền thông: họ là ai, với danh tính được xác minh riêng tư, liệu họ có đang hiện diện và duy trì tham gia xuyên suốt hay không, và liệu họ có được ủy quyền thực hiện điều đang được yêu cầu hay không.
Khi việc mạo danh qua video gây thiệt hại
- Mạo danh lãnh đạo để phê duyệt thanh toán
- Ứng viên gian lận trong phỏng vấn từ xa
- Kỹ thuật thao túng nhân viên hỗ trợ để đặt lại thông tin xác thực
- Kiểm tra danh tính và tiếp nhận người dùng từ xa
Proof of Actor được thiết kế để xác lập điều gì
Các lớp tin cậy cần thiết trong bối cảnh này
Mỗi bối cảnh cần một phần khác nhau của hệ thống hạ tầng tin cậy. Đây là những tầng có liên quan trong trường hợp này.
Danh tính
Người tham gia đúng là người được kỳ vọng.
Sự hiện diện
Họ đang có mặt trong cuộc gọi này, ngay lúc này.
Tính liên tục của tác nhân
Vẫn là cùng một người trong suốt quá trình.
Ý định
Các yêu cầu có hệ quả được họ phê duyệt một cách rõ ràng.
Chính sách
Chính sách thông thường cho cuộc gọi phê duyệt thanh toán
Proof of Actor cung cấp bằng chứng. Tổ chức của bạn thiết lập và công bố chính sách.
// Proposed API - illustrative only
policy.require({
actor: "human",
identity: "verified_private",
presence: "continuous",
intent: "explicit_for_payment_requests"
});Câu hỏi thường gặp
Câu hỏi thường gặp
Làm thế nào để xác minh một người trong cuộc gọi video?
Bằng cách xác lập bằng chứng về người tham gia thay vì chỉ đánh giá video: người đó đúng là người được mong đợi, được xác minh riêng tư, hiện diện và tham gia liên tục trong suốt cuộc gọi, đồng thời phê duyệt rõ ràng mọi yêu cầu có hệ quả đáng kể.
Proof of Actor có phải là công cụ phát hiện nội dung giả mạo bằng AI không?
Không. Phát hiện nội dung giả mạo bằng công nghệ cao có thể trở thành một tín hiệu trong số nhiều tín hiệu. Proof of Actor đặt ra câu hỏi khác: bất kể nội dung truyền thông được tạo ra bằng cách nào, ai thực sự chịu trách nhiệm về tương tác này?
Giải pháp này có thể ngăn chặn gian lận trong cuộc họp bằng video giả mạo siêu thực không?
Không hệ thống nào nên hứa hẹn ngăn chặn hoàn toàn. Proof of Actor được thiết kế để yêu cầu bằng chứng về danh tính, sự hiện diện và ý định trước khi đưa ra các quyết định có hệ quả trong cuộc gọi, qua đó loại bỏ việc dựa vào vẻ bề ngoài mà kiểu gian lận này lợi dụng.
Thêm trường hợp sử dụng
Các bối cảnh khác
Tuyển dụng
Xác định liệu ứng viên có thực sự hoàn thành bài đánh giá hay không.
Dịch vụ tài chính
Yêu cầu xác minh con người đang nắm quyền kiểm soát hoặc xác nhận rõ ràng ý định của con người trước các giao dịch có hệ quả quan trọng.
Thương mại qua tác nhân AI
Xác minh ai chịu trách nhiệm về một tác nhân AI và liệu giao dịch mua có nằm trong phạm vi thẩm quyền của tác nhân đó hay không.
Sàn giao dịch
Phân biệt người dùng thật, người dùng có AI hỗ trợ và tác nhân tự chủ.
Bạn gặp khó khăn trong việc tin cậy loại tương tác nào?
Đối tác tham gia thiết kế giúp xác định bằng chứng nào sẽ khiến họ thay đổi quyết định. Hãy cho chúng tôi biết về trường hợp của bạn.