Quyền kiểm soát của con người
94 / 100
- Sự hiện diện của con người
- Cao
- Tính liên tục của tác nhân
- Cao
- Tính nhất quán trong hành vi
- Cao
- Sự hỗ trợ của AI
- Thấp
- Can thiệp từ bên ngoài
- Không có tín hiệu đáng kể
Một tín hiệu về rủi ro và bằng chứng, không phải kết luận. Ứng dụng sử dụng bằng chứng quyết định chính sách của mình yêu cầu mức điểm nào.
Proof of Control
Proof of Control là cơ chế nền tảng để xác minh quyền kiểm soát của con người trong Proof of Actor: một phương thức được đề xuất nhằm xác lập, với mức độ tin cậy được nêu rõ, rằng một người đang hiện diện và kiểm soát một tương tác số cụ thể trong suốt phiên, đồng thời xác định AI tham gia ở mức độ đáng kể đến đâu.
Vấn đề
Có con người tham gia vào quy trình là một lựa chọn thiết kế. Con người thực sự kiểm soát là điều cần xác lập.
"Con người tham gia vào quy trình" mô tả cách một quy trình được thiết kế: ở một bước nào đó, một người được kỳ vọng sẽ xem xét hoặc phê duyệt. "Con người giám sát quy trình" mô tả việc giám sát một hệ thống vốn hoạt động tự chủ. Cả hai đều nói về cơ chế giám sát dự kiến. Không cách nào cho dịch vụ sử dụng bằng chứng biết liệu con người có thực sự kiểm soát tương tác cụ thể mà dịch vụ đang xử lý hay không.
Khoảng trống đó ngày càng đáng quan tâm. Một người có thể xác thực thành công rồi trao quyền điều khiển cho một tác nhân AI, chia sẻ phiên, đưa thiết bị cho người khác, cho phép điều khiển từ xa, sử dụng AI hỗ trợ hoặc ủy quyền cho các hành động trong tương lai. Tài khoản vẫn là tài khoản đó. Tác nhân thực hiện tương tác thì không còn là cùng một chủ thể.
Proof of Control được thiết kế để trả lời câu hỏi mà xác thực không thể trả lời: có phải cùng một người vẫn hiện diện và liên tục kiểm soát tương tác không, và AI đang đóng góp đến mức nào? Đây là lớp phân biệt NGƯỜI với NGƯỜI + AI và với tác nhân hoạt động thông qua phiên của một người.
Điều được xác lập
Proof of Control được thiết kế để xác lập điều gì
Sự hiện diện của con người
Rằng có một con người hiện diện trong suốt lượt tương tác, chứ không chỉ lúc đăng nhập.
Tính liên tục của tác nhân
Rằng cùng một tác nhân tiếp tục xuyên suốt phiên, xét đến việc bàn giao, thay thế, hỗ trợ từ xa và chiếm quyền kiểm soát phiên.
Quyền kiểm soát của con người
Rằng con người đang hiện diện thực sự điều khiển lượt tương tác, được biểu thị bằng mức độ tin cậy chứ không phải một kết luận tuyệt đối.
Sự tham gia của AI
Cách đánh giá theo mức độ sự tham gia của AI: không có tín hiệu đáng kể, có thể có, có khả năng có hoặc đã khai báo việc được hỗ trợ, hoặc có hoạt động của tác tử tự chủ.
Bằng chứng từ nhiều tín hiệu
Proof of Control được thiết kế để phân tích các bằng chứng độc lập trong suốt phiên tương tác. Các nhóm bằng chứng mà kiến trúc đang được xây dựng để phân tích có thể bao gồm:
Chúng tôi công bố những gì được xác lập, không công bố cách thức thực hiện. Chúng tôi không tiết lộ cách tính điểm, trọng số của các tín hiệu hay kỹ thuật phát hiện.
Yêu cầu về quyền kiểm soát phụ thuộc vào ngữ cảnh
- Bài đánh giá tuyển dụng
- CON NGƯỜI, hiện diện liên tục, mức độ hỗ trợ của AI thấp
- Công cụ viết chuyên nghiệp
- CON NGƯỜI hoặc CON NGƯỜI + AI, có khai báo việc sử dụng AI
- Ngân hàng thay đổi thông tin người thụ hưởng
- Danh tính đã xác minh + sự hiện diện hiện tại + ý định rõ ràng của con người
- Thi từ xa
- Cùng một ứng viên đã được xác minh hiện diện trong suốt phiên
Yếu tố khác biệt
Proof of Control và các phương pháp liên quan
| Cách tiếp cận | Câu trả lời | Giá trị bổ sung |
|---|---|---|
| Xác thực / MFA | Thực thể này có thể truy cập tài khoản này không? | Sau khi đăng nhập, ai thực sự thực hiện hành động này? |
| Thiết kế có con người tham gia vào vòng xử lý | Có cần một người phê duyệt bước này không? | Bằng chứng cho thấy một người thực sự đã kiểm soát tương tác này. |
| Giám sát phiên | Phiên này có biểu hiện bất thường không? | Một khẳng định xác thực, có thể giải thích về sự hiện diện, tính liên tục và quyền kiểm soát. |
| Phát hiện văn bản do AI tạo | Nội dung này có vẻ do máy tạo ra không? | Mức độ tham gia của AI trong quá trình tương tác, không phải đánh giá một đầu ra đơn lẻ. |
Bản xem trước API
Yêu cầu con người liên tục nắm quyền kiểm soát (Bản xem trước API)
Theo thiết kế được đề xuất, ứng dụng khai báo mức kiểm soát cần thiết và nhận trạng thái tác nhân cùng Human Control Score: một tín hiệu về rủi ro và bằng chứng để diễn giải theo chính sách riêng.
// Developer Preview - API design is evolving
import { ProofOfActor } from "@proofofactor/sdk";
const actor = await ProofOfActor.verify({
require: [
"human_presence",
"human_control",
"session_continuity"
]
});
// The relying application decides the policy
if (actor.humanControl > 0.90) {
allow();
}Các trường hợp áp dụng
Các trường hợp sử dụng liên quan
Tuyển dụng
Xác định liệu ứng viên có thực sự hoàn thành bài đánh giá hay không.
Dịch vụ tài chính
Yêu cầu xác minh con người đang nắm quyền kiểm soát hoặc xác nhận rõ ràng ý định của con người trước các giao dịch có hệ quả quan trọng.
Cuộc gọi video
Xác lập rằng người trong cuộc gọi đúng là người tham gia dự kiến, đang hiện diện và trực tiếp kiểm soát tương tác.
Câu hỏi thường gặp
Câu hỏi thường gặp
Xác minh quyền kiểm soát của con người là gì?
Xác minh quyền kiểm soát của con người là quá trình dùng bằng chứng để xác lập rằng một con người thực sự đang kiểm soát một tương tác kỹ thuật số cụ thể, chứ không phải tác nhân AI, người điều khiển từ xa hay một người khác sử dụng cùng phiên. Quá trình này vượt ra ngoài xác thực, vốn chỉ chứng minh rằng ai đó có thể truy cập tài khoản.
Con người tham gia trực tiếp vào quy trình và con người giám sát quy trình khác nhau như thế nào?
Mô hình con người tham gia vào quy trình có nghĩa là một người phải tham gia hoặc phê duyệt quyết định trước khi quyết định đó được thực hiện. Mô hình con người giám sát quy trình có nghĩa là hệ thống hoạt động tự chủ trong khi một người giám sát và có thể can thiệp. Cả hai đều mô tả cơ chế giám sát theo thiết kế. Proof of Control được thiết kế để cung cấp bằng chứng về việc liệu một con người có thực sự kiểm soát một tương tác cụ thể hay không.
Việc sử dụng AI hỗ trợ có bị coi là không đạt yêu cầu không?
Không. NGƯỜI + AI là một trạng thái tác nhân hợp lệ. Proof of Control được thiết kế để cho ứng dụng sử dụng bằng chứng thấy rõ sự tham gia của AI, từ đó áp dụng chính sách riêng. Công cụ viết có thể chấp nhận sự hỗ trợ của AI; bài đánh giá tuyển dụng thì có thể không.
Human Control Score là gì?
Một chỉ số tiềm năng về mức độ tin cậy, tổng hợp sự hiện diện, tính liên tục, sự nhất quán trong hành vi, sự hỗ trợ của AI và sự can thiệp từ bên ngoài. Đây là tín hiệu về rủi ro và bằng chứng, không bao giờ là khẳng định rằng một tương tác là 100% do con người thực hiện.
Proof of Control có đồng nghĩa với việc ghi lại hoạt động của người dùng không?
Không. Kiến trúc được thiết kế có cân nhắc đến quyền riêng tư: chỉ thu thập lượng thông tin tối thiểu cần thiết cho xác nhận được yêu cầu, và ứng dụng nhận được xác nhận kèm bằng chứng chứ không phải bản ghi gốc. Chúng tôi không công bố cách đánh giá từng tín hiệu riêng lẻ.
- Mỗi cơ chế nền tảng trả về kết quả trong cùng một Actor Attestation, để các ứng dụng có thể kết hợp chúng.
Hãy cho chúng tôi biết bạn cần xác minh điều gì.
Proof of Actor đang được thiết kế cùng các nhà phát triển và đối tác đồng thiết kế. Trường hợp sử dụng của bạn góp phần định hình API.