AI Governance
AI Governance là hệ thống các chính sách, quy trình, vai trò và cơ chế kiểm soát nhằm đảm bảo AI được phát triển, triển khai và sử dụng một cách an toàn, minh bạch, có trách nhiệm và phù hợp với mục tiêu của tổ chức.
AI Governance bao phủ các vấn đề như quyền hạn, dữ liệu, bảo mật, chất lượng, khả năng truy vết và quản lý rủi ro trong toàn bộ vòng đời của hệ thống AI. NIST AI Risk Management Framework cũng xem governance là một chức năng xuyên suốt để quản lý rủi ro AI cùng với Map, Measure và Manage.
AI Governance bao gồm những gì?
AI Governance không chỉ là kiểm soát quyền truy cập vào một model. Một hệ thống governance đầy đủ thường bao gồm:
1. Quyền hạn và trách nhiệm
Xác định ai được sử dụng AI, ai có quyền cấu hình, phê duyệt hoặc thay đổi hệ thống và ai chịu trách nhiệm khi AI tạo ra kết quả hoặc thực hiện hành động. Việc phân định accountability là một thành phần quan trọng trong quản trị AI.
2. Quản trị dữ liệu
Kiểm soát dữ liệu nào được AI sử dụng, nguồn dữ liệu đến từ đâu, ai được phép truy cập và dữ liệu có đáp ứng yêu cầu về chất lượng, quyền riêng tư và mục đích sử dụng hay không.
3. Bảo mật và quyền riêng tư
AI cần được bảo vệ khỏi truy cập trái phép, lạm dụng và các rủi ro liên quan đến dữ liệu. OECD nhấn mạnh rằng AI cần duy trì tính bảo mật, an toàn và khả năng chống chịu trong toàn bộ vòng đời.
4. Chất lượng và đánh giá
Doanh nghiệp cần có cơ chế đánh giá output của AI, theo dõi lỗi, hallucination, bias và các hành vi ngoài dự kiến. NIST khuyến nghị đưa các yếu tố về độ tin cậy, an toàn, bảo mật, minh bạch, khả năng giải thích, quyền riêng tư và fairness vào quá trình thiết kế, triển khai và đánh giá AI.
5. Quản lý rủi ro và khả năng truy vết
Governance cần xác định rủi ro có thể xảy ra, mức độ chấp nhận được và cách xử lý khi AI hoạt động sai. Khả năng truy vết dữ liệu, quy trình và quyết định giúp doanh nghiệp phân tích output và xác định trách nhiệm khi có sự cố.
Cách AI Governance hoạt động
Trong môi trường production, AI Governance nên được tích hợp xuyên suốt vòng đời AI thay vì chỉ kiểm tra trước khi triển khai.
Một cách tiếp cận phổ biến là Govern, Map, Measure và Manage:
- Govern: Thiết lập chính sách, vai trò, quyền hạn và trách nhiệm
- Map: Xác định context, dữ liệu, stakeholder và rủi ro
- Measure: Đánh giá chất lượng, hiệu năng và mức độ rủi ro
- Manage: Xử lý rủi ro, điều chỉnh hệ thống và cải thiện liên tục
NIST xác định bốn chức năng này là nền tảng của AI Risk Management Framework và nhấn mạnh rằng quản lý rủi ro cần được thực hiện liên tục trong toàn bộ vòng đời AI.
AI Governance khác gì AI Security và AI Risk Management?
AI Governance có phạm vi rộng hơn AI Security và AI Risk Management vì nó thiết lập khung quản lý tổng thể, trong đó security và risk management là những thành phần quan trọng. ISO/IEC 42001 cũng tiếp cận governance ở cấp hệ thống quản lý, bao gồm chính sách, quy trình và cải tiến liên tục đối với việc phát triển và sử dụng AI.
| Khía cạnh | AI Governance | AI Security | AI Risk Management |
|---|---|---|---|
| Phạm vi | Toàn bộ cách AI được quản lý và sử dụng | Bảo vệ hệ thống và dữ liệu AI | Nhận diện, đánh giá và xử lý rủi ro |
| Trọng tâm | Policy, quyền hạn, trách nhiệm và kiểm soát | Security, privacy và access control | Risk identification, measurement và mitigation |
| Mục tiêu | Đảm bảo AI được sử dụng có trách nhiệm | Giảm nguy cơ tấn công hoặc truy cập trái phép | Giảm tác động tiêu cực và duy trì trustworthiness |
Lý do AI Governance quan trọng khi đưa AI vào production
Khi AI chỉ được dùng cho một tác vụ đơn lẻ, rủi ro có thể tương đối giới hạn. Khi AI được kết nối với CRM, dữ liệu khách hàng, hệ thống nội bộ hoặc có quyền thực hiện hành động, yêu cầu kiểm soát trở nên lớn hơn.
AI Governance giúp doanh nghiệp xác định AI được phép làm gì, sử dụng dữ liệu nào, ai có quyền kiểm soát, output được đánh giá ra sao và điều gì xảy ra khi AI hoạt động sai. Đây là nền tảng để mở rộng AI mà vẫn duy trì security, accountability và khả năng kiểm soát.