Nhóm tiêu chí xác định hệ thống trí tuệ nhân tạo có rủi ro cao (đề xuất)

Nhóm tiêu chí xác định hệ thống trí tuệ nhân tạo có rủi ro cao (đề xuất)(Hình từ internet)

Bộ Khoa học và Công nghệ đang lấy ý kiến dự thảo Nghị định quy định chi tiết một số điều và biện pháp để tổ chức, hướng dẫn thi hành Luật Trí tuệ nhân tạo (sau đây gọi tắt là dự thảo Nghị định).

Dự thảo Nghị định

Nhóm tiêu chí xác định hệ thống trí tuệ nhân tạo có rủi ro cao (đề xuất)

Cụ thể, Điều 7 dự thảo Nghị định đề xuất quy định Danh mục hệ thống trí tuệ nhân tạo có rủi ro cao được xác định dựa trên các nhóm tiêu chí sau:

- Nhóm tiêu chí về tác động đến quyền con người và quyền, lợi ích hợp pháp của tổ chức, cá nhân, bao gồm khả năng hệ thống trí tuệ nhân tạo ảnh hưởng trực tiếp, đáng kể đến quyền sống, quyền được bảo vệ sức khỏe, quyền tự do cá nhân, quyền riêng tư, quyền bình đẳng, không phân biệt đối xử, quyền tiếp cận các dịch vụ thiết yếu hoặc các quyền, lợi ích hợp pháp khác theo quy định của pháp luật;

- Nhóm tiêu chí về an toàn, an ninh và lợi ích công cộng, bao gồm trường hợp hệ thống trí tuệ nhân tạo có khả năng gây ảnh hưởng nghiêm trọng đến trật tự, an toàn xã hội, an ninh mạng, an toàn thông tin, lợi ích công cộng hoặc có nguy cơ bị lạm dụng, thao túng để xâm phạm an ninh quốc gia; và trường hợp hệ thống trí tuệ nhân tạo được sử dụng như thành phần bảo đảm an toàn trong sản phẩm, hàng hóa có mức độ rủi ro cao;

- Nhóm tiêu chí về lĩnh vực và bối cảnh sử dụng của hệ thống, bao gồm việc hệ thống trí tuệ nhân tạo được sử dụng trong các lĩnh vực thiết yếu hoặc lĩnh vực có ảnh hưởng trực tiếp đến lợi ích công cộng, đời sống xã hội, đặc biệt là các lĩnh vực như y tế, giáo dục, lao động, việc làm, tài chính, tín dụng, bảo hiểm, giao thông, năng lượng, hạ tầng thiết yếu, quản lý nhà nước, tư pháp; hoặc được sử dụng cho hoạt động quản lý nhà nước và cung cấp dịch vụ công.

- Nhóm tiêu chí về mức độ tự động hóa và vai trò kiểm soát của con người, bao gồm mức độ hệ thống trí tuệ nhân tạo tự động đưa ra quyết định hoặc khuyến nghị có ảnh hưởng đáng kể đến việc đưa ra quyết định; khả năng giám sát, can thiệp, điều chỉnh hoặc dừng hệ thống của con người trong quá trình vận hành và sử dụng;

- Nhóm tiêu chí về phạm vi người sử dụng và quy mô ảnh hưởng của hệ thống, bao gồm số lượng người bị ảnh hưởng trực tiếp hoặc gián tiếp, phạm vi triển khai của hệ thống, khả năng gây tác động trên diện rộng, tác động dây chuyền hoặc hậu quả kéo dài, khó khắc phục khi hệ thống xảy ra sai lệch, sự cố hoặc bị lạm dụng.

Dự thảo Nghị định đề xuất Thủ tướng có thẩm quyền sửa đổi, bổ sung Danh mục hệ thống trí tuệ nhân tạo có rủi ro cao và Danh mục hệ thống trí tuệ nhân tạo có rủi ro cao phải chứng nhận sự phù hợp trước khi đưa vào sử dụng theo đề xuất của Bộ Khoa học và Công nghệ.

Các Bộ ngành căn cứ theo thực tế triển khai và các tiêu chí trên để đề xuất sửa đổi, bổ sung Danh mục hệ thống trí tuệ nhân tạo có rủi ro cao và gửi Bộ Khoa học và Công nghệ tổng hợp, trình Thủ tướng Chính xem xét, ban hành.

Xem thêm chi tiết tại dự thảo Nghị định.