Một khung đánh giá cho công việc AI trước khi bắt đầu
Công việc AI cần sự nghiêm ngặt tương đương với bảo mật hay triển khai, không phải một quyết định tùy hứng rồi bị lãng quên. Mỗi use case AI mà một đội chuyên trách thực hiện đều được phân loại, xem xét kỹ lưỡng và phê duyệt trước khi xây dựng, và được đánh giá lại bất cứ khi nào có thay đổi đáng kể.
Trao đổi về một use case AIMỗi use case AI đều được đánh giá trước khi xây dựng.
Phân loại rủi ro
Mỗi use case được phân loại mức độ rủi ro thấp, trung bình hoặc cao trước khi bắt đầu, để mức độ xem xét phù hợp với rủi ro thực tế thay vì áp dụng một quy trình chung.
Xem xét dữ liệu và mô hình
Dữ liệu nào huấn luyện hoặc cung cấp cho mô hình, nơi dữ liệu được xử lý, và liệu một mô hình của bên thứ ba có phù hợp với mức độ nhạy cảm liên quan hay không.
Giám sát của con người và khả năng giải thích
Nơi con người phải luôn tham gia vào quy trình, và cách một quyết định có thể được giải thích cho những người bị ảnh hưởng, không chỉ cho kỹ sư.
Kiểm tra thiên lệch và công bằng
Các kết quả thiên lệch được kiểm tra trước khi ra mắt, không phải phát hiện sau từ một khiếu nại.
Bảo mật và kiểm soát truy cập
Các biện pháp kiểm soát tương tự như với mọi hệ thống sản xuất, mở rộng đến các điểm cuối của mô hình và luồng dữ liệu: quyền truy cập, ghi nhật ký và giám sát.
Đánh giá lại theo vòng đời
Được đánh giá lại khi có thay đổi đáng kể, một nguồn dữ liệu mới, một phiên bản mô hình mới, một use case mới, không coi là một lần phê duyệt duy nhất.
Chúng tôi không tự đặt ra định nghĩa riêng về AI có trách nhiệm.
Quy trình đánh giá của chúng tôi được định hình bởi các nguyên tắc quản trị AI đã được công nhận rộng rãi mà các tổ chức trong lĩnh vực quản lý chặt chẽ đã được kỳ vọng tuân theo.
- Nguyên tắc Đạo đức AI của Úc
- Hướng dẫn Áp dụng AI của National AI Centre (Úc)
- Chính sách Sử dụng AI có Trách nhiệm trong Chính phủ của DTA (Úc)
- Nguyên tắc AI của OECD
- NIST AI Risk Management Framework
- ISO/IEC 42001
Quản trị không phải là một báo cáo vào cuối. Đó là cách mỗi use case AI bắt đầu.
Đăng ký trước khi xây dựng
Không use case AI nào được tiến hành mà chưa được ghi nhận và phân loại trước.
Phê duyệt theo cấp độ rủi ro
Các use case rủi ro cao hơn cần có sự phê duyệt từ cấp cao và từ khách hàng trước khi bắt đầu xây dựng.
Quyết định được ghi lại
Những gì đã được đánh giá, quyết định ra sao và lý do vì sao đều được ghi chép lại, không chỉ dựa vào trí nhớ.
Được rà soát, không cố định
Bản thân khung đánh giá được rà soát khi thực tiễn, tiêu chuẩn và rủi ro thay đổi.
Trao đổi với chúng tôi về cách chúng tôi sẽ đánh giá use case AI của bạn.
Hãy cho chúng tôi biết bạn đang muốn xây dựng hoặc tự động hóa điều gì. Chúng tôi sẽ đưa ra câu trả lời thẳng thắn về mức độ rủi ro và điều đó có ý nghĩa gì cho cách chúng tôi triển khai.
Trao đổi về một use case AI