Nhà môi giới nhập OpenClaw gây lo ngại! Đài Loan có cần hướng dẫn an toàn nuôi tôm hùm? Ủy ban Quản lý Tài chính đã trả lời

Tác giả: Ariel, Thành phố mã hóa

AI đại lý mang logo tôm hùm (AI Agent) OpenClaw đã bùng nổ trên toàn cầu, chính phủ Trung Quốc đã đưa ra “Sổ tay an toàn nuôi tôm hùm” để cảnh báo các rủi ro liên quan. Đại biểu Lại Sĩ Bảo nhận thấy, đã có các công ty chứng khoán trong nước và nhà phân tích thị trường chứng khoán dần đưa OpenClaw vào sử dụng, nếu AI đại lý đặt lệnh sai thì ai sẽ chịu trách nhiệm? Và kêu gọi Ủy ban Quản lý Tài chính đưa ra sổ tay an toàn nuôi tôm hùm dành riêng cho ngành tài chính. Ủy ban Quản lý Tài chính Peng Jinlong phản hồi đại biểu, ông không sử dụng OpenClaw, nhưng nhận thấy hiện tượng này khá phổ biến. Các đơn vị liên quan trong ủy ban đã bắt đầu nghiên cứu các biện pháp ứng phó trong tương lai, để hiểu rõ tình hình sử dụng của các tổ chức tài chính. Peng Jinlong chỉ ra, ủy ban đã phát hành trước đó “Hướng dẫn sử dụng AI trong ngành tài chính”, ngành tài chính vốn đã có các cơ chế an ninh mạng và kiểm soát nội bộ nhất định đối với công nghệ mới; nếu công cụ mới này ảnh hưởng đến an toàn hoạt động, sẽ được xem xét và soạn thảo sổ tay an toàn liên quan.

6 điểm chính trong Hướng dẫn sử dụng AI trong ngành tài chính của ủy ban Quản lý Tài chính

• Xây dựng cơ chế quản trị và chịu trách nhiệm: Các tổ chức tài chính phải chịu trách nhiệm về hệ thống AI, chỉ định các quản lý cấp cao giám sát và xây dựng cấu trúc, thực hiện quản lý rủi ro và đào tạo nhân viên.
• Chú trọng công bằng và giá trị lấy con người làm trung tâm: Tránh thiên vị trong thuật toán gây ra bất công, phù hợp với nguyên tắc lấy con người làm trung tâm; kết quả của AI tạo sinh cần được kiểm soát khách quan bởi nhân viên.
• Bảo vệ quyền riêng tư và lợi ích khách hàng: Bảo vệ quyền riêng tư và quản lý dữ liệu khách hàng cẩn thận; khi cung cấp dịch vụ bằng AI, cần tôn trọng quyền lựa chọn của khách hàng và nhắc nhở về các phương án thay thế.
• Đảm bảo hệ thống ổn định và an toàn: Phải đảm bảo hệ thống AI ổn định và an toàn để tránh thiệt hại; nếu sử dụng hệ thống AI của bên thứ ba, cần có quản lý rủi ro và giám sát phù hợp.
• Thực hiện minh bạch và khả giải thích: Đảm bảo hoạt động của AI có tính minh bạch và khả năng giải thích; khi AI tương tác trực tiếp với người tiêu dùng, cần chủ động tiết lộ thông tin phù hợp.
• Thúc đẩy phát triển bền vững: Việc ứng dụng AI cần kết hợp nguyên tắc bền vững, giảm bất bình đẳng và bảo vệ môi trường; đồng thời cung cấp đào tạo cho nhân viên để thích ứng với sự thay đổi, bảo vệ quyền lợi lao động.

Nguồn hình ảnh: Do Gemini AI tạo ra ｜ 6 điểm chính trong Hướng dẫn sử dụng AI trong ngành tài chính của ủy ban Quản lý Tài chính (Sơ đồ AI)

Bộ phận Phát triển số đã phản hồi về vấn đề an ninh mạng trong nuôi tôm hùm Về các mối lo ngại về an ninh mạng do AI đại lý mang lại, trưởng bộ phận Phát triển số Linh Ý Kính trong ngày cùng ngày đã chỉ ra, để giải quyết vấn đề an ninh mạng và nâng cao tính tự chủ công nghệ, Đài Loan đang tích cực thúc đẩy AI chủ quyền, đảm bảo các mô hình AI sử dụng bởi chính phủ và các cơ sở hạ tầng quan trọng hoạt động trong nước và dưới sự quản lý của pháp luật, đồng thời đề cập đến nền tảng NemoClaw do Nvidia mới ra mắt, trọng tâm là tăng cường bảo vệ an ninh cho AI đại lý. Để xây dựng sức mạnh tính toán riêng của Đài Loan, bộ phận Phát triển số đã nhận được đề nghị đầu tư trung tâm tính toán của Foxconn, và đang thảo luận cùng Bộ Tài chính, Ủy ban Quản lý Tài chính về việc mở cửa cho ngành bảo hiểm đầu tư vốn, nhằm tránh phụ thuộc hoàn toàn vào các mô hình AI nước ngoài của Đài Loan.

Nội dung “Sổ tay an toàn nuôi tôm hùm” của Trung Quốc nói gì? OpenClaw do kỹ sư người Áo Peter Steinberger phát triển, ban đầu rất nổi tiếng trong giới công nghệ, và hành vi cài đặt, sử dụng OpenClaw gọi là nuôi tôm hùm, gần đây, trào lưu nuôi tôm hùm đã lan sang thị trường Trung Quốc, người dân phổ biến đi nuôi tôm hùm, thậm chí còn có dịch vụ trả phí để các kỹ sư cài đặt giúp. Về vấn đề này, Bộ An ninh Quốc gia Trung Quốc cũng đã phát hành “Sổ tay nuôi tôm hùm an toàn”, cảnh báo các rủi ro gốc như bị chiếm quyền điều khiển máy chủ, bị đánh cắp dữ liệu và bị chỉnh sửa nội dung phát ngôn, kêu gọi người dùng hạn chế phạm vi thao tác, và chạy trong môi trường cách ly (như máy ảo chuyên dụng, sandbox).

Có nuôi tôm hùm thì có tháo tôm hùm Dù trào lưu nuôi tôm hùm đang rất thịnh hành, nhưng cộng đồng Trung Quốc đã xuất hiện hiện tượng chuyển từ điên cuồng cài đặt sang trả phí để gỡ bỏ tôm hùm. Báo cáo của BBC dẫn lời các chuyên gia phân tích, lý do của đợt giảm sút này là do công nghệ của OpenClaw có ngưỡng kỹ thuật và chi phí vận hành cực cao, mỗi thao tác đều cần tiêu tốn vốn để gọi mô hình AI. Ngoài ra, rủi ro an ninh cũng là một mối lo lớn, Trung tâm Ứng cứu Khẩn cấp Internet Quốc gia Trung Quốc chỉ ra, việc sử dụng không đúng có thể dẫn đến việc bị đánh cắp hình ảnh, tài khoản thanh toán và các thông tin nhạy cảm khác, thậm chí còn có thể gây ra tình trạng AI hiểu sai lệnh và xóa nhầm dữ liệu. Đối với người dùng phổ thông, phần mềm này hiện tại không mang lại nhiều tác dụng, dẫn đến làn sóng gỡ bỏ này.