Indonesia và Malaysia tạm thời chặn chatbot Grok của Elon Musk sau khi phát hiện hình ảnh khiêu dâm do AI tạo ra.

Việc các quốc gia chặn truy cập đánh dấu bước tiến mạnh mẽ trong cuộc chiến chống nội dung deepfake không đồng thuận.

Nguyên nhân gây tranh cãi

Grok, chatbot mới của xAI, đã cho phép người dùng tạo ảnh AI qua nền tảng X. Vào cuối năm 2023, một số người dùng đã yêu cầu mô tả và sinh ra các hình ảnh khiêu dâm liên quan tới phụ nữ và trẻ vị thành niên, khiến nội dung vi phạm các tiêu chuẩn đạo đức và pháp luật quốc tế.

Phản hồi của Indonesia và Malaysia

Theo The Guardian ngày 10/1, Bộ trưởng Truyền thông và Kỹ thuật số Indonesia Meutya Hafid tuyên bố: “Việc tạo và lan truyền deepfake khiêu dâm không đồng thuận là vi phạm nghiêm trọng quyền con người, nhân phẩm và an ninh số.” Chính phủ Indonesia đã triệu tập đại diện của X để làm rõ vụ việc.

Malaysia công bố lệnh chặn Grok một ngày sau, theo New York Times, với lý do tương tự về nội dung nhạy cảm do AI tạo ra.

Phản ứng trên toàn cầu

• Ấn Độ: Bộ Công nghệ Thông tin yêu cầu X áp dụng cơ chế kiểm soát nội dung khiêu dâm trên Grok.
• Liên minh Châu Âu: Ủy ban đã yêu cầu xAI lưu giữ toàn bộ tài liệu liên quan đến Grok, chuẩn bị cho điều tra chính thức.
• Vương quốc Anh: Ofcom thông báo sẽ thực hiện “đánh giá nhanh” để xác định vi phạm; Thủ tướng Keir Starmer cam kết ủng hộ toàn quyền hành động.
• Mỹ: Dù không có phản hồi chính thức từ chính quyền, một số thượng nghị sĩ Dân chủ đã kêu gọi Apple và Google gỡ ứng dụng X khỏi cửa hàng.

Bước tiếp theo của xAI

xAI đã phát hành lời xin lỗi công khai trên tài khoản Grok, thừa nhận vi phạm tiêu chuẩn đạo đức và có khả năng vi phạm luật pháp Mỹ về nội dung tình dục trẻ em. Công ty đã tạm thời giới hạn tính năng tạo ảnh AI chỉ cho người dùng trả phí trên X, nhưng chức năng này vẫn khả dụng trong ứng dụng độc lập Grok, khiến nguy cơ lặp lại vẫn tồn tại.

(Theo TechCrunch)