X Siết chặt tạo hình ảnh Grok sau phản ứng dữ dội từ quốc tế

Tóm tắt ngắn gọn

• X hạn chế các tính năng tạo và chỉnh sửa hình ảnh Grok và giới hạn truy cập cho người dùng trả phí.
• Các thay đổi này theo sau các báo cáo về hình ảnh AI mang tính chất tình dục không có sự đồng ý, bao gồm cả những hình ảnh liên quan đến trẻ vị thành niên.
• Các cơ quan quản lý ở California, châu Âu và Úc đang điều tra xAI và Grok về khả năng vi phạm pháp luật.

X cho biết họ đang hạn chế các tính năng tạo và chỉnh sửa hình ảnh liên quan đến Grok, giới hạn quyền truy cập cho người dùng trả phí sau khi chatbot này được sử dụng để tạo ra các hình ảnh mang tính chất tình dục không có sự đồng ý của người thật, bao gồm cả trẻ vị thành niên. Trong một cập nhật đăng tải bởi tài khoản An toàn của X vào thứ Tư, công ty đã thêm các hạn chế kỹ thuật để giới hạn cách người dùng có thể chỉnh sửa hình ảnh của người thật qua Grok. Hành động này theo sau các báo cáo rằng AI đã tạo ra các hình ảnh mang tính chất tình dục đáp ứng các yêu cầu đơn giản, bao gồm cả yêu cầu đặt người trong bikini. Trong nhiều trường hợp, người dùng đã gắn thẻ trực tiếp Grok dưới các bức ảnh đăng trên X, khiến AI tạo ra các hình ảnh chỉnh sửa xuất hiện công khai trong cùng các chủ đề. 

“Chúng tôi đã thực hiện các biện pháp công nghệ để ngăn chặn tài khoản Grok cho phép chỉnh sửa hình ảnh của người thật trong trang phục hở hang như bikini,” công ty cho biết, đề cập đến xu hướng viral yêu cầu Grok đưa người vào bikini. Công ty cũng nói rằng việc tạo hình ảnh và chỉnh sửa hình ảnh qua tài khoản Grok trên X hiện chỉ dành cho người dùng trả phí, một thay đổi nhằm nâng cao trách nhiệm và ngăn chặn việc lạm dụng các công cụ hình ảnh của Grok vi phạm pháp luật hoặc chính sách của X. Công ty cũng đã thiết lập các hạn chế dựa trên vị trí địa lý. “Chúng tôi hiện đã chặn khả năng của tất cả người dùng tạo hình ảnh của người thật trong bikini, đồ lót và trang phục tương tự qua tài khoản Grok và trong Grok trên X tại các khu vực pháp lý nơi điều này là bất hợp pháp.” Tuy nhiên, bất chấp các thay đổi này, Grok vẫn tiếp tục cho phép người dùng loại bỏ hoặc chỉnh sửa quần áo khỏi các hình ảnh tải lên trực tiếp cho AI, theo thử nghiệm của Decrypt và các báo cáo của người dùng sau thông báo.

Trong một số trường hợp, Grok thừa nhận “các sơ suất trong các biện pháp bảo vệ” sau khi tạo ra các hình ảnh của các cô gái từ 12 đến 16 tuổi trong trang phục tối thiểu, hành vi bị cấm theo chính sách của công ty. Việc các khả năng này vẫn còn tồn tại đã thu hút sự chú ý của các nhóm vận động. “Nếu các báo cáo rằng Grok đã tạo ra các hình ảnh mang tính chất tình dục—đặc biệt là của trẻ em—là đúng, thì có thể đã vi phạm luật của Texas,” Adrian Shelley, giám đốc của Public Citizen tại Texas, nói trong một tuyên bố. “Chính quyền Texas không cần phải tìm kiếm xa để điều tra các cáo buộc này. X có trụ sở chính tại khu vực Austin, và bang có trách nhiệm rõ ràng để xác định xem luật của họ có bị vi phạm hay không, và nếu có, các hình phạt phù hợp là gì.” Public Citizen trước đó đã kêu gọi chính phủ Mỹ loại Grok khỏi danh sách các mô hình AI được chấp nhận do lo ngại về phân biệt chủng tộc của chatbot. Phản ứng toàn cầu Các nhà hoạch định chính sách toàn cầu cũng đã tăng cường giám sát Grok, dẫn đến nhiều cuộc điều tra mở. Ủy ban châu Âu cho biết X và xAI có thể phải đối mặt với các biện pháp thực thi theo Luật Dịch vụ Kỹ thuật số nếu các biện pháp bảo vệ trên Grok vẫn còn thiếu sót. Đồng thời, Ủy viên An toàn Trực tuyến của Úc cho biết các đơn khiếu nại liên quan đến Grok và hình ảnh tình dục do AI tạo ra không có sự đồng ý đã tăng gấp đôi kể từ cuối năm 2025. Cơ quan quản lý cho biết các công cụ tạo hình ảnh AI có khả năng tạo ra các chỉnh sửa thực tế làm phức tạp việc thực thi pháp luật và bảo vệ nạn nhân. Tại Vương quốc Anh, các cơ quan quản lý của Ofcom đã mở cuộc điều tra về X theo Đạo luật An toàn Trực tuyến do Grok được sử dụng để tạo ra các hình ảnh deepfake mang tính chất tình dục bất hợp pháp, bao gồm cả những hình ảnh liên quan đến trẻ vị thành niên. Các quan chức cho biết cuối cùng Ofcom có thể tìm kiếm các biện pháp hỗ trợ từ tòa án nhằm chặn dịch vụ này tại Vương quốc Anh nếu X bị phát hiện không tuân thủ và không thực hiện các biện pháp sửa chữa. Các quốc gia khác, bao gồm Malaysia, Indonesia và Hàn Quốc, cũng đã mở các cuộc điều tra về Grok nhằm bảo vệ trẻ vị thành niên. Trong khi các bang ở Mỹ theo dõi tình hình, California là bang đầu tiên mở cuộc điều tra về Grok. Vào thứ Tư, Tổng chưởng lý California Rob Bonta đã công bố cuộc điều tra xAI và Grok về việc tạo ra và lan truyền các hình ảnh mang tính chất tình dục không có sự đồng ý của phụ nữ và trẻ em.

“Làn sóng các báo cáo chi tiết về các tài liệu mang tính chất tình dục không có sự đồng ý mà xAI đã sản xuất và đăng tải trực tuyến trong những tuần gần đây thật đáng sốc. Những tài liệu này, mô tả phụ nữ và trẻ em trong các tình huống khỏa thân và mang tính chất tình dục, đã bị sử dụng để quấy rối mọi người trên internet,” Bonta nói trong một tuyên bố. Cuộc điều tra sẽ xem xét liệu việc triển khai Grok của xAI có vi phạm luật của bang về hình ảnh thân mật không có sự đồng ý và khai thác tình dục trẻ em hay không. “Tôi kêu gọi xAI hành động ngay lập tức để đảm bảo điều này không tiếp tục xảy ra,” Bonta nói. “Chúng tôi không khoan nhượng với việc tạo ra và phát tán các hình ảnh thân mật không có sự đồng ý hoặc tài liệu về lạm dụng tình dục trẻ em dựa trên AI.” Dù các cuộc điều tra vẫn đang diễn ra, X cho biết họ duy trì lập trường “không khoan nhượng” đối với khai thác tình dục trẻ em, khỏa thân không có sự đồng ý và nội dung tình dục không mong muốn. “Chúng tôi thực hiện các hành động để loại bỏ các nội dung vi phạm ưu tiên cao, bao gồm Tài liệu Lạm dụng Tình dục Trẻ em (CSAM) và khỏa thân không có sự đồng ý, và thực hiện các biện pháp phù hợp đối với các tài khoản vi phạm Quy tắc của X,” công ty viết. “Chúng tôi cũng báo cáo các tài khoản tìm kiếm Tài liệu Khai thác Tình dục Trẻ em cho các cơ quan thực thi pháp luật khi cần thiết.”