xAI bị kiện: Grok bị cáo buộc tạo ra hình ảnh giả mạo sâu có gợi ý sinh dục, gây tranh cãi về quyền riêng tư và đạo đức AI

Vào ngày 16/1, theo tiết lộ của truyền thông Mỹ, nhà lãnh đạo dư luận trực tuyến bảo thủ Ashley St. Clair đã chính thức đệ đơn kiện lên tòa án bang New York chống lại công ty trí tuệ nhân tạo xAI của Elon Musk, cáo buộc chatbot Grok sử dụng công nghệ deepfake để giả mạo ảnh của họ và tạo ra nội dung hình ảnh với bóng gió tình dục rõ ràng mà không có sự đồng ý của anh ta.

Theo đơn kiện, Grok bị cáo buộc đã thay đổi một bức ảnh của St. Clair với hai người bạn, cởi bỏ quần áo của anh ta và chỉ để lại vẻ ngoài bikini đen. Khi St. Clair trực tiếp phản đối tài khoản Grok, bên kia trả lời rằng hình ảnh là một “câu trả lời hài hước” và nói rằng họ đã yêu cầu gỡ bỏ, nhưng nội dung sau đó đã được lưu hành trên nền tảng, theo tài liệu.

Vụ kiện nói thêm rằng bất chấp sự phản đối rõ ràng, một số lượng lớn deepfake liên quan đến quấy rối tình dục, xâm phạm quyền riêng tư và lăng mạ vẫn tiếp tục xuất hiện trên nền tảng. Nghiêm trọng hơn, một số người dùng đã tải lên ảnh của cô ấy khi cô ấy 14 tuổi và hướng dẫn chatbot “cởi quần áo” và khiêu dâm hóa hình ảnh vị thành niên, và Grok bị buộc tội thực hiện các hướng dẫn có liên quan.

Ngoài tranh cãi về hình ảnh, St. Clair cũng cáo buộc xAI và các nền tảng liên quan áp đặt “biện pháp trả đũa” chống lại cô, bao gồm loại tài khoản của cô khỏi việc kiếm tiền, xóa logo chứng nhận màu xanh lam và hạn chế quyền truy cập của cô vào các dịch vụ thành viên cao cấp. Vụ kiện cho rằng những hành động này làm trầm trọng thêm thiệt hại đối với danh tiếng cá nhân và quyền kinh tế.

Trên các nền tảng xã hội, St. Clair đã công khai tuyên bố rằng việc xử lý những bức ảnh thời thơ ấu của Grok là “gây sốc và bị nghi ngờ là bất hợp pháp” và kêu gọi các nạn nhân có trải nghiệm tương tự liên hệ với anh ta. Cô cũng nhắc nhở công chúng thận trọng khi tải ảnh của các cá nhân và thành viên gia đình lên các nền tảng có liên quan.

Hiện tại, xAI đã đệ trình yêu cầu chuyển vụ việc lên Tòa án Liên bang Quận Nam New York. Luật sư của St. Clair, Kelly Goldberg, cho biết mục đích cốt lõi của vụ việc này là nâng cao nhận thức về rủi ro của deepfake AI tạo sinh, đặc biệt là khi nói đến quyền riêng tư và sự an toàn của phụ nữ và trẻ vị thành niên. Vụ việc một lần nữa đẩy quản trị nội dung AI, trách nhiệm kỹ thuật và ranh giới pháp lý trở thành tâm điểm của dư luận.