Đề xuất nghiêm cấm dùng AI để tạo hình ảnh, video không dán nhãn rõ ràng, gây nhầm lẫn hoặc lừa đảo

Đề xuất nghiêm cấm dùng AI để tạo hình ảnh, video không dán nhãn rõ ràng, gây nhầm lẫn hoặc lừa đảo (Hình từ Internet)

Bộ Khoa học và Công nghệ đang lấy ý kiến dự thảo Luật Chuyển đổi số (thay thế).

Dự thảo Luật Chuyển đổi số (thay thế)

Đề xuất nghiêm cấm dùng AI để tạo hình ảnh, video không dán nhãn rõ ràng, gây nhầm lẫn hoặc lừa đảo

Theo Điều 5 dự thảo Luật Chuyển đổi số (thay thế) đề xuất các hành vi bị nghiêm cấm trong chuyển đổi số bao gồm:

- Lợi dụng chuyển đổi số để xâm phạm an ninh quốc gia, trật tự an toàn xã hội, đạo đức, thuần phong mỹ tục, quyền và lợi ích hợp pháp của tổ chức, cá nhân.

- Phát tán, tuyên truyền, lưu trữ, sử dụng trái phép dữ liệu số, công nghệ số phục vụ cho mục đích vi phạm pháp luật.

- Cản trở, can thiệp, phá hoại, làm sai lệch, chiếm đoạt, hủy hoại hạ tầng cho chuyển đổi số, các nền tảng số, cơ sở dữ liệu quốc gia, dữ liệu số của tổ chức, cá nhân, cơ quan nhà nước.

- Cản trở, gây khó khăn cho hoạt động chuyển đổi số hợp pháp của tổ chức, cá nhân, cơ quan, doanh nghiệp.

- Vi phạm quy định về bảo vệ dữ liệu cá nhân, an toàn thông tin, an ninh mạng trong quá trình triển khai chuyển đổi số.

- Lợi dụng nền tảng số, công nghệ số để thực hiện hành vi gian lận, lừa đảo, trục lợi hoặc sử dụng giao diện lừa đảo nhằm thao túng, ngăn cản người dùng đưa ra lựa chọn có hiểu biết và tự do.

- Tạo ra hoặc chỉnh sửa nội dung (văn bản, hình ảnh, âm thanh, video) bằng trí tuệ nhân tạo mà không dán nhãn rõ ràng, gây nhầm lẫn hoặc có mục đích lừa đảo.

- Lạm dụng vị trí thống lĩnh thị trường của nền tảng số để thực hiện các hành vi cạnh tranh không lành mạnh, cản trở sự gia nhập thị trường của các doanh nghiệp khác.

- Cán bộ, công chức, viên chức, người lao động trong các cơ quan thuộc hệ thống chính trị đưa vào hệ thống trí tuệ nhân tạo các thông tin thuộc danh mục bí mật Nhà nước, dữ liệu cá nhân chưa được sự đồng ý của chủ thể, hoặc thông tin nội bộ ảnh hưởng đến an ninh quốc gia, trật tự an toàn xã hội; sử dụng trí tuệ nhân tạo cho các hành vi vi phạm pháp luật như lừa đảo, tạo thông tin sai lệch, phá hoại hệ thống, hoặc xâm nhập trái phép vào hệ thống thông tin; khai thác trí tuệ nhân tạo tại nơi công cộng theo cách có thể rò rỉ thông tin; lưu trữ mật khẩu công vụ trên thiết bị hoặc nền tảng trí tuệ nhân tạo.

Như vậy, tại dự thảo Luật Chuyển đổi số (thay thế) đề xuất nghiêm cấm hành vi tạo ra hoặc chỉnh sửa nội dung (văn bản, hình ảnh, âm thanh, video) bằng trí tuệ nhân tạo (AI) mà không dán nhãn rõ ràng, gây nhầm lẫn hoặc có mục đích lừa đảo.

Ngoài ra, tại dự thảo Luật Chuyển đổi số (thay thế) cũng đề xuất các quy định về việc ứng dụng trí tuệ nhân tạo trong các cơ quan thuộc hệ thống chính trị như sau:

* Nguyên tắc sử dụng hệ thống trí tuệ nhân tạo trong hoạt động công vụ

- Cán bộ, công chức, viên chức và người lao động trong cơ quan nhà nước khi sử dụng hệ thống trí tuệ nhân tạo, bao gồm mô hình ngôn ngữ lớn, phải tuân thủ pháp luật Việt Nam, đảm bảo an toàn, bảo mật và tôn trọng quyền con người.

- Việc sử dụng trí tuệ nhân tạo trong hoạt động công vụ phải phù hợp với thuần phong mỹ tục, đạo đức xã hội, và không gây ảnh hưởng tiêu cực đến uy tín, hoạt động của cơ quan, tổ chức.

* Cung cấp thông tin và sử dụng tài khoản trí tuệ nhân tạo

- Thông tin cung cấp cho hệ thống trí tuệ nhân tạo phải được kiểm soát, đảm bảo không vi phạm quyền sở hữu trí tuệ, bản quyền, chủ quyền lãnh thổ, hoặc các giá trị lịch sử, văn hóa của Việt Nam.

- Việc sử dụng tài khoản trí tuệ nhân tạo phải độc lập với tài khoản công vụ và không sử dụng các mật khẩu trùng lặp nhằm đảm bảo an toàn thông tin.

* Trách nhiệm của cơ quan, tổ chức, cá nhân trong quản lý hệ thống trí tuệ nhân tạo

- Cơ quan, đơn vị sử dụng trí tuệ nhân tạo có trách nhiệm tổ chức đào tạo, hướng dẫn cán bộ sử dụng đúng chức năng, mục đích; bảo đảm quản lý truy cập, phân quyền và bảo mật tài khoản; trường hợp phát hiện mất kiểm soát hoặc giả mạo tài khoản trí tuệ nhân tạo, cần phải thông báo kịp thời đến đơn vị triển khai để xử lý và báo cáo lên cơ quan chức năng.

- Cơ quan, đơn vị sử dụng trí tuệ nhân tạo có trách nhiệm giám sát, xử lý vi phạm trong quá trình triển khai và sử dụng trí tuệ nhân tạo trong phạm vi quản lý.

- Các cơ quan, đơn vị cần xây dựng cơ sở dữ liệu tri thức chuyên ngành để triển khai hệ thống trí tuệ nhân tạo phù hợp với nghiệp vụ của mình.

- Cá nhân sử dụng trí tuệ nhân tạo trong công vụ phải tự chịu trách nhiệm về hành vi và nội dung cung cấp lên hệ thống.

* Phát triển, ứng dụng trí tuệ nhân tạo trong cơ quan nhà nước

- Nhà nước ưu tiên nguồn lực đầu tư xây dựng các bộ dữ liệu lớn, chất lượng của Việt Nam, đặc biệt là dữ liệu cho việc huấn luyện các mô hình ngôn ngữ lớn tiếng Việt và các mô hình trí tuệ nhân tạo chuyên ngành phục vụ quản trị quốc gia. 

- Nhà nước quy định các yêu cầu đối với các hệ thống trí tuệ nhân tạo được sử dụng trong các cơ quan thuộc hệ thống chính trị.

Xem thêm tại dự thảo Luật Chuyển đổi số (thay thế).