Tóm tắt ngắn gọn
- Đơn kiện trích dẫn ước tính rằng Grok đã tạo ra tới 3 triệu hình ảnh tình dục hóa trong vòng vài ngày, trong đó có hàng nghìn hình ảnh mô tả trẻ vị thành niên.
- Baltimore đang yêu cầu phạt dân sự, bồi thường cho cư dân bị ảnh hưởng và lệnh của tòa án để chấm dứt hành vi bị cáo buộc.
- Các chuyên gia pháp lý cho biết vụ kiện có thể phụ thuộc vào việc tòa án xem hệ thống AI như là người sáng tạo nội dung có hại hay chỉ là công cụ thụ động.
Vụ kiện của Baltimore chống lại xAI của Elon Musk và chatbot Grok có thể quyết định mức độ các thành phố có thể điều chỉnh trí tuệ nhân tạo trong bối cảnh không có luật liên bang, theo một chuyên gia.
Thị trưởng và Hội đồng thành phố Baltimore đã kiện X Corp., xAI và SpaceX tại một tòa án Maryland, cáo buộc các công ty vi phạm luật bảo vệ người tiêu dùng địa phương bằng cách thiết kế và triển khai Grok, một hệ thống AI tạo sinh bị cáo buộc sản xuất và lan truyền hình ảnh tình dục không đồng ý, bao gồm cả của trẻ vị thành niên.
Đơn kiện cho rằng Grok cho phép người dùng “cởi quần” hoặc “thao tác hình ảnh” của người thật với ít yêu cầu, gây ra vi phạm quyền riêng tư và tổn thương tâm lý cho cư dân, theo tuyên bố của công ty luật DiCello Levitt, đại diện cho thành phố cùng với Sở Luật của Baltimore.
“Những hình ảnh giả mạo sâu này, đặc biệt là những mô tả trẻ vị thành niên, có hậu quả chấn thương suốt đời cho nạn nhân,” Thị trưởng Baltimore Brandon M. Scott nói trong tuyên bố.
Vụ kiện diễn ra trong bối cảnh ngày càng có nhiều sự chú ý toàn cầu đối với Grok, bao gồm các cuộc điều tra tại Mỹ, EU, Pháp, Anh, Úc và Ireland, cũng như một vụ kiện tập thể liên bang được nộp tuần trước bởi ba trẻ vị thành niên ở Tennessee, cáo buộc công cụ này tạo ra nội dung lạm dụng tình dục trẻ em dựa trên hình ảnh thật của họ.
“Vụ kiện này có thể được xem như một bước đi chiến lược của một thành phố nhằm điều chỉnh AI trong bối cảnh thiếu luật liên bang, sử dụng các nguyên tắc bảo vệ người tiêu dùng và gây hại công cộng để đưa các công ty AI vào phạm vi thực thi của mình,” Ishita Sharma, đối tác quản lý tại Fathom Legal, nói với Decrypt.
“Về trách nhiệm pháp lý, trong khi việc người dùng yêu cầu nội dung có hại sẽ là một phần của lập luận, trọng tâm pháp lý mạnh hơn có thể sẽ tập trung vào việc liệu hệ thống AI có đóng góp một cách thiết yếu hay không,” Sharma nói, thêm rằng nếu tòa án xem Grok “như một người sáng tạo tích cực thay vì trung gian thụ động,” trách nhiệm sẽ nặng hơn đối với xAI.
Theo thiết kế
Vụ kiện của Baltimore cáo buộc các công ty “thiết kế, tiếp thị và triển khai” Grok, biết rõ rằng nó có thể tạo ra hình ảnh thân mật không đồng ý và nội dung giống như nội dung lạm dụng tình dục trẻ em, trong khi công khai tuyên bố nội dung đó bị cấm.
Đơn kiện trích dẫn ước tính rằng Grok đã tạo ra từ 1,8 triệu đến 3 triệu hình ảnh tình dục hóa chỉ trong vài ngày từ ngày 29 tháng 12 năm 2025 đến ngày 8 tháng 1 năm 2026, trong đó có khoảng 23.000 hình mô tả trẻ em, theo Trung tâm chống lại thù ghét kỹ thuật số và phân tích của New York Times.
Baltimore cáo buộc rằng sự gia tăng này phần nào bắt nguồn sau khi Elon Musk phản hồi “Hoàn hảo” về một hình ảnh bikini của chính ông do công cụ tạo ra, khiến số lượng hình tăng từ khoảng 300.000 trong chín ngày trước bài đăng của ông lên gần 600.000 mỗi ngày trên X.
“X hiện là một trong những nhà phân phối lớn nhất của NCII và CSAM,” đơn kiện viết, trích dẫn chính sách của các bị đơn cấm nội dung như vậy như là bằng chứng của sự lừa dối.
“Bằng chứng về việc trì hoãn các biện pháp phòng ngừa hoặc không hành động trước các rủi ro đã biết sẽ làm tăng các cáo buộc về sơ suất hoặc liều lĩnh,” Sharma nói, thêm rằng việc bác bỏ vụ kiện có vẻ không khả thi, khả năng cao nhất là sẽ đạt được thỏa thuận, mặc dù vụ kiện này vẫn có thể dẫn đến “một phán quyết mang tính tiền lệ về trách nhiệm của AI.”
Thành phố đang yêu cầu phạt dân sự, lệnh cấm để chấm dứt hành vi trái pháp luật, bồi thường cho cư dân bị ảnh hưởng và thu hồi lợi nhuận bất chính.
Decrypt đã liên hệ với Musk qua xAI và SpaceX để lấy ý kiến.
Tuyên bố miễn trừ trách nhiệm: Thông tin trên trang này có thể đến từ bên thứ ba và không đại diện cho quan điểm hoặc ý kiến của Gate. Nội dung hiển thị trên trang này chỉ mang tính chất tham khảo và không cấu thành bất kỳ lời khuyên tài chính, đầu tư hoặc pháp lý nào. Gate không đảm bảo tính chính xác hoặc đầy đủ của thông tin và sẽ không chịu trách nhiệm cho bất kỳ tổn thất nào phát sinh từ việc sử dụng thông tin này. Đầu tư vào tài sản ảo tiềm ẩn rủi ro cao và chịu biến động giá đáng kể. Bạn có thể mất toàn bộ vốn đầu tư. Vui lòng hiểu rõ các rủi ro liên quan và đưa ra quyết định thận trọng dựa trên tình hình tài chính và khả năng chấp nhận rủi ro của riêng bạn. Để biết thêm chi tiết, vui lòng tham khảo
Tuyên bố miễn trừ trách nhiệm.
