Trung Quốc siết chặt xử lý hình ảnh, video giả mạo do AI tạo ra

Trung Quốc sẽ siết mạnh nội dung giả mạo do trí tuệ nhân tạo (AI) tạo ra, sau loạt vụ hình ảnh và video bịa đặt lan truyền và gây hoang mang trên mạng xã hội.

Chương trình thời sự ở Trung Quốc đưa tin hình ảnh lan truyền về em bé sống sót sau trận động đất thực chất là ảnh do AI tạo ra - Ảnh: CCTV

Theo báo Nikkei Asia, Luật An toàn internet của Trung Quốc sẽ được bổ sung một số điều khoản liên quan đến kiểm soát nội dung do AI tạo ra, có hiệu lực từ tháng 1 năm sau.

Bản sửa đổi, được Ủy ban Thường vụ Quốc hội Trung Quốc thông qua ngày 28-10, bổ sung cơ chế quản lý rủi ro và giám sát an toàn với công nghệ AI tạo sinh.

Bắc Kinh lo ngại nội dung giả mạo có thể bị lợi dụng để chỉ trích chính quyền, phóng đại mức độ thiệt hại trong thảm họa hoặc thậm chí dùng để dựng lên cáo buộc sai lệch nhằm hạ bệ quan chức cấp cao.

Trung Quốc vốn đã có quy định về AI tạo sinh từ tháng 8-2023, yêu cầu các công ty AI tuân thủ “giá trị xã hội chủ nghĩa” và cấm tạo nội dung gây rối trật tự hay đe dọa chính quyền.

DeepSeek và nhiều mô hình AI lớn trong nước đều được huấn luyện theo khung này, khiến các công cụ này thường né tránh câu hỏi chính trị. Nhưng loạt vụ lan truyền nội dung giả gần đây khiến Bắc Kinh tiếp tục siết mạnh.

Sau trận động đất 6,8 độ ở Tây Tạng ngày 7-1, bức ảnh “trẻ sơ sinh phủ đầy gạch đá” lan truyền trên mạng, thu hút hàng triệu lượt chia sẻ trước khi bị phát hiện là ảnh AI. Người đăng ảnh đã bị bắt vì tung tin sai sự thật.

Cuối tháng 10, cơ quan công an công khai loạt vụ tương tự: một người đàn ông ở Chiết Giang dựng chuyện con gái bị bắt cóc bằng ảnh tìm được trên mạng, hay một phụ nữ ở Sơn Tây đăng ảnh mô tả thiệt hại động đất không hề tồn tại.

Sự bùng nổ người dùng AI tại Trung Quốc - 515 triệu người tính đến tháng 6, tăng gấp đôi chỉ sau nửa năm - càng khiến bài toán quản lý trở nên cấp bách hơn.

Trên mạng xã hội, không khó để tìm thấy video dạy cách làm ảnh giả, phần mềm đổi mặt, đổi giọng, hay những tài khoản đăng nội dung “giật gân” để kéo tương tác nhằm bán hàng hoặc kiếm tiền quảng cáo.

Cơ quan giám sát internet của Trung Quốc đã bắt đầu ra văn bản hướng dẫn tới địa phương và các nền tảng mạng lớn, đồng thời xử lý mạnh tay dịch vụ AI có khả năng tạo ảnh khiêu dâm, chỉnh giọng, ghép mặt quá dễ dàng.

Riêng trong quý 2, cơ quan này yêu cầu chỉnh sửa 3.500 ứng dụng và 960.000 nội dung vi phạm.

Đến tháng 9, Trung Quốc áp dụng quy định bắt buộc gắn nhãn “do AI tạo ra” đối với mọi hình ảnh, video được tạo bởi người dùng thông qua công cụ AI. Đây được xem là bước đi nhằm hạn chế lan truyền nội dung sai sự thật và củng cố kiểm soát không gian mạng trong bối cảnh công nghệ AI tạo sinh phát triển quá nhanh.

Theo báo Nikkei Asia

---