Đề xuất quy định quản lý trí tuệ nhân tạo theo các mức độ rủi ro

Đề xuất quy định quản lý trí tuệ nhân tạo theo các mức độ rủi ro (Hình ảnh từ Internet)

Bộ Khoa học và Công nghệ đang lấy ý kiến dự thảo Luật Trí tuệ nhân tạo (lần 2).

dự thảo Luật Trí tuệ nhân tạo (lần 2)

Đề xuất quy định quản lý trí tuệ nhân tạo theo các mức độ rủi ro

Tại khoản 2 Điều 5 dự thảo Luật quy định Nhà nước quản lý hoạt động trí tuệ nhân tạo dựa trên nguyên tắc phân loại, đánh giá và phòng ngừa rủi ro; bảo đảm an toàn, lấy con người làm trung tâm, tôn trọng quyền con người và giá trị văn hóa dân tộc; khuyến khích thử nghiệm công nghệ có kiểm soát; áp dụng biện pháp quản lý tương xứng với mức độ rủi ro và khuyến khích cơ chế tự nguyện tuân thủ, cụ thể theo Điều 7 dự thảo Luật thì mức độ rủi ro của hệ thống trí tuệ nhân tạo bao gồm:

(1) Hệ thống trí tuệ nhân tạo có rủi ro không chấp nhận được là hệ thống có khả năng gây tổn hại nghiêm trọng, không thể khắc phục đối với quyền con người, an ninh quốc gia, trật tự, an toàn xã hội hoặc được sử dụng cho hành vi bị pháp luật nghiêm cấm.

(2) Hệ thống trí tuệ nhân tạo có rủi ro cao là hệ thống có thể gây thiệt hại đến tính mạng, sức khỏe, quyền, lợi ích hợp pháp của tổ chức, cá nhân hoặc lợi ích công cộng quan trọng khác.

(3) Hệ thống trí tuệ nhân tạo có rủi ro  trung bình là hệ thống có nguy cơ gây nhầm lẫn, thao túng hoặc lừa dối người sử dụng do không nhận biết được bản chất trí tuệ nhân tạo của hệ thống hoặc nội dung do hệ thống tạo ra.

(4) Hệ thống trí tuệ nhân tạo có rủi ro  thấp là hệ thống không thuộc các trường hợp quy định tại các khoản trên.

Đề xuất quy định phân loại và thông báo hệ thống trí tuệ nhân tạo

Cụ thể, tại Điều 8 dự thảo Luật đề xuất quy định về phân loại và thông báo hệ thống trí tuệ nhân tạo như sau:

- Trước khi lưu hành hoặc đưa vào sử dụng, nhà cung cấp phải tự phân loại hệ thống trí tuệ nhân tạo theo tiêu chí rủi ro quy định của Luật này và chịu trách nhiệm về kết quả phân loại. Hệ thống có mức rủi ro trung bình hoặc cao phải lập, lưu giữ hồ sơ phân loại.

- Bên triển khai được kế thừa kết quả phân loại của nhà cung cấp và có trách nhiệm bảo đảm tính an toàn và nguyên vẹn của hệ thống trong quá trình sử dụng; trường hợp việc sửa đổi, tích hợp hoặc thay đổi chức năng có thể làm phát sinh rủi ro mới hoặc rủi ro cao hơn, bên triển khai phối hợp nhà cung cấp thực hiện phân loại lại theo quy định.

- Đối với hệ thống trí tuệ nhân tạo được phân loại là có rủi ro trung bình hoặc rủi ro cao, nhà cung cấp phải thực hiện thông báo kết quả phân loại cho Bộ Khoa học và Công nghệ thông qua Cổng thông tin điện tử một cửa về trí tuệ nhân tạo trước khi lưu hành. Khuyến khích tổ chức, cá nhân phát triển hệ thống trí tuệ nhân tạo có rủi ro thấp công khai thông tin cơ bản của hệ thống trên Cổng thông tin điện tử một cửa về trí tuệ nhân tạo nhằm tăng tính minh bạch và niềm tin của người sử dụng.

- Trường hợp không xác định được mức rủi ro, nhà cung cấp được đề nghị Bộ Khoa học và Công nghệ xác nhận mức phân loại trên cơ sở hồ sơ kỹ thuật.

- Hệ thống trí tuệ nhân tạo có rủi ro cao được cơ quan có thẩm quyền tổ chức kiểm tra định kỳ hoặc khi có dấu hiệu vi phạm; hệ thống tri tuệ nhân tạo có rủi ro trung bình được kiểm tra, giám sát thông qua báo cáo, kiểm tra chọn mẫu hoặc đánh giá của tổ chức độc lập; hệ thống trí tuệ nhân tạo có rủi ro thấp được theo dõi, kiểm tra khi có sự cố, phản ánh hoặc khi cần bảo đảm an toàn, không làm phát sinh gánh nặng cho tổ chức, cá nhân. Khi phát hiện sai lệch, khai báo không trung thực hoặc không đầy đủ, có quyền yêu cầu tái phân loại, bổ sung hồ sơ hoặc tạm dừng lưu hành hệ thống và xử lý vi phạm theo quy định của pháp luật.

- Chính phủ quy định chi tiết nội dung, trình tự, thủ tục thông báo và hướng dẫn kỹ thuật về phân loại rủi ro quy định tại điều này

Xem thêm dự thảo Luật dự kiến có hiệu lực thi hành từ ngày 01/3/2026.