Cấm thao túng nhận thức, tạo nội dung giả bằng trí tuệ nhân tạo

Theo dõi KT&TD trên

Việt Nam lọt vào nhóm rất ít quốc gia ban hành Luật AI

Việc ban hành Luật Trí tuệ nhân tạo đưa Việt Nam vào nhóm rất ít quốc gia và khu vực trên thế giới có luật riêng điều chỉnh hoạt động AI, bên cạnh Liên minh châu Âu (EU), Hàn Quốc và Nhật Bản. Trong khi nhiều quốc gia mới dừng ở chiến lược hoặc khung hướng dẫn, Việt Nam lựa chọn cách tiếp cận xây dựng hành lang pháp lý sớm để chủ động quản trị rủi ro công nghệ.

Luật được xác nhận theo khung, tập trung vào các nguyên tắc nền tảng, trong đó nhấn mạnh yêu cầu lấy con người làm trung tâm, bảo đảm AI được phát triển và sử dụng có kiểm soát, minh bạch và có trách nhiệm.

Cụ thể, cấm tuyệt đối việc lợi dụng AI để thao túng, lừa dối con người, theo Điều 7 của Luật Trí tuệ nhân tạo, các hành vi lợi dụng AI để lừa dối, thao túng nhận thức và hành vi con người bị nghiêm cấm trong toàn bộ vòng đời của hệ thống AI, từ nghiên cứu, phát triển đến triển khai, sử dụng.

Luật đặc biệt nhấn mạnh việc ngăn chặn AI khai thác điểm yếu tâm lý, nhận thức của các nhóm dễ bị tổn thương như trẻ em, người cao tuổi, người khuyết tật - những đối tượng có khả năng tự bảo vệ hạn chế trong môi trường số.

Siết chặt rủi ro từ nội dung giả mạo do AI tạo ra

Một nhóm hành vi đáng chú ý khác là tạo ra, phát tán hoặc phổ biến nội dung giả mạo bằng AI trên các nền tảng xã hội. Nếu các nội dung này gây ảnh hưởng nghiêm trọng đến an ninh quốc gia, trật tự, an toàn xã hội hoặc xâm phạm quyền, lợi ích hợp pháp của tổ chức, cá nhân.

Quy định này nhằm kiểm soát các nguy cơ từ deepfake, tin giả và thao túng dư luận, những rủi ro được đánh giá ngày càng phức tạp cùng với sự phát triển nhanh của công nghệ AI.

Dữ liệu và quyền kiểm soát của con người là "ranh giới cứng" xác nhận luật cũng nghiêm cấm thu thập, xử lý, sử dụng dữ liệu trái quy định pháp luật trong hoạt động AI, bao gồm dữ liệu dùng để huấn luyện và vận hành hệ thống. Đồng thời, các hành vi cản trở, làm sai lệch hoặc vô hiệu hóa cơ chế giám sát, kiểm soát của con người đối với hệ thống AI đều bị cấm.

Theo luật, AI chỉ được xác định là công cụ hỗ trợ, không thay thế vai trò quyết định của con người, và mọi hệ thống AI phải nằm trong khả năng kiểm soát rõ ràng. Theo đó các vi phạm có thể bị xử phạt, truy cứu trách nhiệm hình sự.

Tổ chức, cá nhân vi phạm các quy định về hành vi bị nghiêm cấm trong hoạt động AI, tùy theo tính chất và mức độ, sẽ bị xử phạt hành chính, truy cứu trách nhiệm hình sự và phải bồi thường thiệt hại theo quy định pháp luật.

Các hành vi AI bị nghiêm cấm như: Lợi dụng AI để lừa dối, thao túng nhận thức, hành vi con người. Khai thác điểm yếu của trẻ em, người cao tuổi, người khuyết tật. Tạo, phát tán nội dung giả mạo bằng AI gây nguy hại an ninh, trật tự xã hội. Thu thập, xử lý, sử dụng dữ liệu trái pháp luật trong hoạt động AI. Cản trở, vô hiệu hóa cơ chế giám sát của con người đối với hệ thống AI. Che giấu, không minh bạch thông tin bắt buộc công khai trong hoạt động AI.