// AUTHORITY: VALID · ACTION: WITHIN_SCOPE
Định nghĩa
Proof of Actor là một hạ tầng tin cậy được đề xuất để xác định liệu một tương tác số do con người, con người sử dụng AI hay tác nhân AI tự chủ thực hiện, đồng thời xác định ai đã cho phép hành động.
Giới hạn của xác thực
Proof of Actor bắt đầu ở điểm mà xác thực dừng lại.
Đây là những vấn đề khác nhau. Trả lời được một vấn đề không có nghĩa là đã trả lời được các vấn đề còn lại.
Xác thực cho biết
Thực thể này có thể truy cập tài khoản này không?
Danh tính cho biết
Ai sở hữu danh tính này?
Proof of Actor đặt câu hỏi
Người hoặc thực thể nào thực sự đang thực hiện hành động này ngay lúc này?
Một người có thể xác thực thành công rồi:
Mô hình tác nhân
4 trạng thái chủ thể
Chủ thể là thực thể thực sự chịu trách nhiệm tạo ra hoặc kiểm soát một tương tác số. Các tương tác được phân thành 4 trạng thái dễ hiểu. Không có trạng thái nào luôn tốt hơn trạng thái khác.
CON NGƯỜI
Có dấu hiệu cho thấy một người đang trực tiếp kiểm soát tương tác.
Ứng viên tự mình hoàn thành bài đánh giá mà không có sự hỗ trợ đáng kể từ AI bên ngoài.
CON NGƯỜI + AI
Một người vẫn chịu trách nhiệm về tương tác, nhưng AI hỗ trợ đáng kể.
Một người đi làm soạn email với sự hỗ trợ của công cụ viết AI. Tùy bối cảnh, việc này hoàn toàn có thể được chấp nhận.
TÁC NHÂN ĐƯỢC ỦY QUYỀN
Một tác nhân AI thực hiện tương tác thay mặt cho một cá nhân hoặc tổ chức đã được xác định, trong phạm vi thẩm quyền được ủy quyền.
Một tác nhân mua sắm được người dùng ủy quyền mua vé máy bay trong phạm vi ngân sách đã định.
TÁC NHÂN CHƯA ĐƯỢC XÁC MINH
Dịch vụ không thể xác định tác nhân, sự kiểm soát của con người hoặc chủ thể chịu trách nhiệm với mức độ tin cậy đủ cao.
Điều này không tự động có nghĩa là có ý đồ xấu. Nó có nghĩa là: chưa xác định được mối quan hệ tin cậy.
Mức độ tin cậy theo ngữ cảnh
Proof of Actor cung cấp bằng chứng. Dịch vụ sử dụng bằng chứng quyết định chính sách.
Các bối cảnh khác nhau đòi hỏi chính sách khác nhau. Cùng một bằng chứng có thể dẫn đến những quyết định khác nhau mà đều đúng.
| Bối cảnh | Có thể yêu cầu hoặc cho phép |
|---|---|
| Bài đánh giá tuyển dụng | CON NGƯỜI |
| Tương tác hỗ trợ khách hàng | CON NGƯỜI hoặc TÁC NHÂN ĐƯỢC ỦY QUYỀN |
| Sàn giao dịch trực tuyến | CON NGƯỜI, CON NGƯỜI + AI hoặc TÁC NHÂN ĐƯỢC ỦY QUYỀN |
| Ngân hàng phê duyệt một giao dịch chuyển tiền lớn | Danh tính con người đã xác minh + sự hiện diện hiện tại của người đó + ý định rõ ràng của người đó |
Hệ thống các lớp tin cậy của Proof of Actor
Mười câu hỏi đằng sau mỗi lượt tương tác có hệ quả đáng kể
Proof of Actor được thiết kế để phân tích các lớp riêng biệt, giúp ứng dụng yêu cầu chính xác bằng chứng cần thiết cho từng bối cảnh.
Tư cách con người
Có bằng chứng cho thấy một người thật đứng sau tương tác này không?
Khác với việc xác định danh tính con người. Một dịch vụ có thể biết rằng có người thật hiện diện mà không cần biết người đó là ai.
Danh tính
Người này có đúng là người mà họ tự nhận không?
Không bắt buộc trong những trường hợp cần duy trì tính ẩn danh hoặc danh tính giả. Được thiết kế để hỗ trợ trường hợp "đã xác minh là con người, không tiết lộ danh tính".
Sự hiện diện
Người đó có thực sự đang tham gia tương tác này không?
Việc vượt qua bước xác minh danh tính trước đó 15 phút không chứng minh người đó hiện đang có mặt.
Tính liên tục của tác nhân
Cùng một tác thể có tiếp tục thực hiện tương tác trong suốt phiên không?
Giải quyết các trường hợp mạo danh, chuyển giao quyền điều khiển, hỗ trợ từ xa, chiếm quyền phiên và thay thế tác nhân.
Quyền kiểm soát của con người
Người đó có thực sự đang kiểm soát tương tác không?
Xác thực chứng minh quyền truy cập. Xác minh danh tính xác nhận danh tính. Xác minh sự hiện diện xác nhận sự hiện diện. Không điều nào trong số đó nhất thiết chứng minh quyền kiểm soát.
Sự tham gia của AI
AI có tham gia đáng kể vào tương tác không?
Đánh giá theo mức độ, không phân loại nhị phân: không có tín hiệu đáng kể về việc sử dụng AI, có thể có hoặc nhiều khả năng có sự hỗ trợ của AI, đã khai báo việc sử dụng AI, hoặc có hoạt động của tác nhân tự chủ.
Ủy quyền
Nếu một tác nhân AI đang hành động, ai đã ủy quyền cho tác nhân đó?
Bên ủy quyền có thể là một cá nhân, một tổ chức hoặc một dịch vụ khác được ủy quyền.
Phạm vi thẩm quyền
Tác nhân này được phép làm gì?
Quyền hạn, giới hạn giao dịch, các đối tác giao dịch được phép, thời hạn hiệu lực và trạng thái thu hồi, được đối chiếu với hành động đang được yêu cầu.
Ý định
Con người có phê duyệt rõ ràng hành động này, vào thời điểm này, theo các điều kiện này không?
Đối với các hành động có hệ quả đáng kể, chỉ có thẩm quyền được cấp thường trực có thể là chưa đủ.
Trách nhiệm giải trình
Rốt cuộc, ai là bên chịu trách nhiệm cho hành động này?
Mọi chứng thực có ý nghĩa đều phải cho phép trả lời câu hỏi này.
Tầm nhìn về giao thức
Giao thức tin cậy mà các ứng dụng truy vấn trước khi đặt niềm tin vào một tác nhân
Tầm nhìn rộng nhất của Proof of Actor không phải là thêm một API xác minh nữa. Đó là một giao thức tin cậy mà các ứng dụng có thể yêu cầu trong những tương tác quan trọng, nhận Actor Attestation và áp dụng các quy tắc của riêng mình.
// Proposed API - illustrative only
policy.require({
actor: "human",
presence: "continuous",
control: 0.90,
aiAssistance: "low"
});
// Or, for a service that welcomes authorised agents:
policy.allow({
actor: ["human", "authorized_agent"],
agentAuthority: {
required: true
}
});Ai đang thực hiện tương tác?
Sau đó, các ứng dụng thực thi quy tắc riêng của mình.
Triết lý kiến trúc
Được thiết kế để
Chúng tôi công bố những gì Proof of Actor xác lập được. Chúng tôi chủ ý chỉ công bố có chọn lọc cách thức thực hiện: cách tính điểm, trọng số của các tín hiệu và kỹ thuật phát hiện được giữ kín.
Không phụ thuộc vào loại tín hiệu
Không gắn cố định với webcam, dữ liệu sinh trắc học hay bất kỳ kỹ thuật đơn lẻ nào.
Kết hợp nhiều tín hiệu
Niềm tin được hình thành từ các bằng chứng độc lập, thay vì phụ thuộc vào một bước kiểm tra dễ bị sai lệch.
Liên tục
Các tương tác có giá trị cao được xác minh trong suốt phiên, không chỉ khi đăng nhập.
Theo ngữ cảnh
Bằng chứng cần để bình luận trên diễn đàn khác với bằng chứng cần để chuyển $1 million.
Có tính đến quyền riêng tư
Chỉ thu thập thông tin tối thiểu cần thiết cho nội dung xác nhận được yêu cầu.
Có thể giải thích
Các ứng dụng nhận được bằng chứng làm cơ sở cho kết quả đánh giá độ tin cậy, chứ không chỉ một nhãn phân loại.
Có thể thu hồi
Quyền hạn của tác nhân phải luôn có thể bị thu hồi.
Có thể kiểm toán
Các chứng thực cho những hành động có hệ quả tạo ra hồ sơ đáng tin cậy.
Ưu tiên nhà phát triển
Việc tích hợp sẽ dần trở nên dễ hơn việc tự xây dựng hạ tầng xác minh nội bộ.
Câu hỏi thường gặp
Câu hỏi về cách Proof of Actor hoạt động
Proof of Actor là gì?
Proof of Actor là một hạ tầng tin cậy được đề xuất để xác định liệu một tương tác số do con người, con người sử dụng AI hay tác nhân AI tự chủ thực hiện, đồng thời xác định ai đã cho phép hành động. Hạ tầng này đang được phát triển.
Tác nhân là gì?
Chủ thể là thực thể thực sự chịu trách nhiệm tạo ra hoặc kiểm soát một tương tác số. Đó có thể là một con người, một con người được AI hỗ trợ, một tác nhân AI được ủy quyền hành động thay mặt cho bên ủy quyền, hoặc một chủ thể mà dịch vụ không thể xác minh.
Proof of Actor có phải là công cụ phát hiện bot không?
Không. Phát hiện bot đặt câu hỏi liệu lưu lượng truy cập có dấu hiệu tự động hóa hay không. Proof of Actor đặt câu hỏi ai hoặc thứ gì đang thực hiện hành động, liệu có người hiện diện và nắm quyền kiểm soát hay không, liệu AI có tham gia hay không và ai đã cho phép hành động đó. Tín hiệu phát hiện bot có thể trở thành dữ liệu đầu vào, nhưng không phản ánh đầy đủ vấn đề cần giải quyết.
Ai quyết định một tác nhân có được chấp nhận hay không?
Ứng dụng dựa vào bằng chứng. Proof of Actor cung cấp bằng chứng tin cậy; khách hàng quyết định chính sách nào có thể chấp nhận. Một bài đánh giá tuyển dụng, một cuộc trò chuyện hỗ trợ và một giao dịch chuyển khoản ngân hàng có thể đặt ra những yêu cầu rất khác nhau.
Vì sao không chặn toàn bộ AI?
Vì sự tham gia của AI thường là hợp lệ và ngày càng khó tránh khỏi. Vấn đề không phải là AI tham gia, mà là việc AI hành động thay mặt ai đó trở nên vô hình. Proof of Actor được thiết kế để xác định bên chịu trách nhiệm cho hoạt động của AI, thay vì khiến AI biến mất.
Hãy cùng định hình Lớp tin cậy chủ thể.
Giao thức đang được định hình cùng các đối tác đồng thiết kế giai đoạn đầu. Hãy chia sẻ tương tác mà hiện tại bạn chưa thể tin cậy.