Đề xuất 4 cấp độ rủi ro trí tuệ nhân tạo

Đề xuất 4 cấp độ rủi ro trí tuệ nhân tạo (Hình ảnh từ Internet)

Quốc hội đang lấy ý kiến dự thảo Luật Trí tuệ nhân tạo.

Dự thảo Luật Trí tuệ nhân tạo

Đề xuất 4 cấp độ rủi ro trí tuệ nhân tạo

Theo Điều 10 dự thảo Luật Trí tuệ nhân tạo đã đề xuất hệ thống trí tuệ nhân tạo được chia làm 04 cấp độ rủi ro:

(1) Rủi ro không chấp nhận được: Là những hệ thống trí tuệ nhân tạo có khả năng gây tổn hại nghiêm trọng, không thể khắc phục đối với quyền con người, an ninh quốc gia, trật tự hoặc an toàn xã hội hoặc bị sử dụng cho các hành vi vi phạm pháp luật.

Các hệ thống AI thuộc nhóm này bị cấm tuyệt đối triển khai hoặc lưu hành.

(2) Rủi ro cao: Là hệ thống có khả năng gây tổn hại đáng kể đến tính mạng, sức khỏe, quyền và lợi ích hợp pháp của cá nhân, tổ chức hoặc các lợi ích công cộng quan trọng khác.

Nhóm này phải chịu sự giám sát chặt chẽ của cơ quan quản lý và chỉ được phép hoạt động khi đáp ứng đầy đủ điều kiện pháp lý, kỹ thuật và đạo đức.

(3) Rủi ro trung bình: Là các hệ thống không thuộc nhóm rủi ro cao, nhưng trong quá trình sử dụng có thể gây nhầm lẫn, lừa dối hoặc thao túng người dùng do họ không nhận biết được bản chất AI của hệ thống hoặc nội dung do AI tạo ra (trừ trường hợp hiển nhiên trong bối cảnh sử dụng).

 Với nhóm này, Nhà nước khuyến khích cảnh báo rõ ràng, minh bạch thông tin để người dùng nhận biết.

(4) Rủi ro thấp: Là hệ thống không thuộc các nhóm trên, có mức độ tác động thấp, ít ảnh hưởng đến quyền con người hoặc trật tự xã hội.

Nhóm này được khuyến khích phát triển, thử nghiệm và thương mại hóa theo cơ chế quản lý linh hoạt, tạo điều kiện thúc đẩy đổi mới sáng tạo.

Theo đó, tại Điều 14 dự thảo Luật Trí tuệ nhân tạo cũng đề xuất các hệ thống trí tuệ nhân tạo có mức rủi ro không chấp nhận được sau đây bị cấm đưa ra thị trường:

(1) Cấm tuyệt đối các hệ thống AI có rủi ro không chấp nhận được:

Các hệ thống trí tuệ nhân tạo thuộc nhóm rủi ro không chấp nhận được bị cấm đưa ra thị trường hoặc đưa vào sử dụng dưới bất kỳ hình thức nào.

Những hệ thống này được xác định là có khả năng gây tổn hại nghiêm trọng, không thể khắc phục đối với quyền con người, an ninh quốc gia, trật tự và an toàn xã hội.

(2) Các loại hệ thống AI rủi ro không chấp nhận được bị cấm, gồm:

Hệ thống thao túng nhận thức hoặc hành vi của con người một cách có chủ đích, khiến người dùng mất khả năng tự chủ, gây tổn hại về thể chất hoặc tinh thần.

- Hệ thống AI được các cơ quan nhà nước, tổ chức hoặc doanh nghiệp sử dụng để chấm điểm tín nhiệm xã hội của cá nhân, dẫn đến việc đối xử bất lợi hoặc không công bằng trong các bối cảnh xã hội không liên quan.

- Hệ thống lợi dụng điểm yếu của nhóm người cụ thể (như người cao tuổi, người khuyết tật, người có hoàn cảnh kinh tế - xã hội khó khăn) để tác động hành vi gây tổn hại cho chính họ hoặc người khác.

- Hệ thống xây dựng hoặc khai thác cơ sở dữ liệu nhận dạng khuôn mặt quy mô lớn bằng việc thu thập trái pháp luật hình ảnh khuôn mặt từ Internet hoặc hệ thống camera giám sát.

- Hệ thống sản xuất hoặc phổ biến nội dung giả mạo (deepfake) do AI tạo ra mà có khả năng gây nguy hại nghiêm trọng đến trật tự, an toàn xã hội hoặc an ninh quốc gia.

- Hệ thống phát triển hoặc sử dụng trí tuệ nhân tạo nhằm chống phá Nhà nước Cộng hòa xã hội chủ nghĩa Việt Nam.

Xem thêm dự thảo Luật Trí tuệ nhân tạo dự kiến có hiệu lực thi hành từ ngày 01/01/2026.

Theo đó, dự thảo đề xuất Lộ trình thực hiện như sau:

- Trong 06 tháng kể từ ngày Luật có hiệu lực: Thành lập, kiện toàn Ủy ban Quốc gia về Trí tuệ nhân tạo; ban hành văn bản hướng dẫn; đưa Quỹ Phát triển Trí tuệ nhân tạo Quốc gia vào hoạt động;

- Sau 12 tháng: Các quy định về hành vi bị cấm (Mục 1 Chương I) có hiệu lực; cơ chế hộp cát pháp lý được triển khai;

- Sau 18 tháng: Nghĩa vụ đối với hệ thống trí tuệ nhân tạo rủi ro cao (Mục 2 Chương I1) có hiệu lực thi hành toàn diện.