Брокеры внедряют OpenClaw, вызывая опасения! Нужна ли Тайваню инструкция по безопасности разведения омаров? Финансовое управление ответило

Автор: Ариэль, Шифрованный город

AI-агент OpenClaw с логотипом в виде омара стал мировым феноменом, и правительство Китая уже выпустило «Руководство по безопасной разведке омаров» для предупреждения о связанных рисках. Законодатель Лай Ши Бао отметил, что уже есть отечественные брокеры и аналитики фондового рынка, постепенно внедряющие OpenClaw. Если AI-агент совершит ошибку при размещении заказа, кто будет нести ответственность? Также он призвал Финансовую комиссию разработать специальное руководство по безопасной эксплуатации омаров в финансовой сфере.
Пэн Цзинлун из Финансовой комиссии ответил депутатам, что сам не использует OpenClaw, но отметил, что такая практика довольно распространена. Внутри комиссии уже ведутся исследования по будущим мерам реагирования и мониторингу использования этой технологии финансовыми институтами.
Пэн Цзинлун подчеркнул, что ранее Финансовая комиссия выпустила «Руководство по использованию AI в финансовой индустрии», в котором указано, что финансовый сектор уже обладает определенными механизмами информационной безопасности и внутреннего контроля при внедрении новых технологий. Если такие инструменты повлияют на операционную безопасность, они будут включены в пересмотр и подготовку соответствующих руководств по безопасности.

Шесть ключевых пунктов руководства Финансовой комиссии по использованию AI в финансовой индустрии:

• Создание системы управления и ответственности: Финансовые организации должны нести ответственность за работу AI-систем, назначить высших руководителей для контроля и построения структур, а также реализовать управление рисками и обучение персонала.
• Уделение внимания справедливости и ценностям человека: Следует избегать предвзятости алгоритмов, которая может привести к несправедливости, и придерживаться принципов человекоцентричности; генеративный AI должен контролироваться людьми для объективного управления рисками.
• Защита конфиденциальности и прав клиентов: Необходимо защищать личные данные и правильно управлять информацией клиентов; при предоставлении услуг с помощью AI нужно уважать право клиента на выбор и информировать о альтернативных вариантах.
• Обеспечение надежности и безопасности систем: AI-системы должны быть устойчивыми и безопасными, чтобы избежать ущерба; при использовании сторонних AI-решений необходимо осуществлять соответствующий риск-менеджмент и контроль.
• Обеспечение прозрачности и объяснимости: Работа AI должна быть прозрачной и объяснимой; при прямом взаимодействии с потребителями необходимо активно раскрывать соответствующую информацию.
• Продвижение устойчивого развития: Использование AI должно сочетаться с принципами устойчивого развития, снижать неравенство и защищать окружающую среду; также важно обучать сотрудников для адаптации к изменениям и защищать их трудовые права.

Источник изображения: сгенерировано Gemini AI | Основные пункты руководства по использованию AI в финансовой индустрии (схема AI)

Отдел по цифровым инициативам уже ответил на вопросы о безопасности омаров
В связи с опасениями по поводу информационной безопасности, связанных с AI-агентами, руководитель отдела по цифровым инициативам Лин Ицзинь в тот же день заявил, что для решения вопросов безопасности и повышения технологической автономии Тайвань активно продвигает суверенный AI, чтобы модели AI, используемые правительством и ключевыми инфраструктурами, работали внутри страны и находились под юридическим контролем. Он также упомянул платформу NemoClaw, недавно запущенную Nvidia, которая сосредоточена на усилении защиты AI-агентов.
Для создания собственной вычислительной мощности Тайваня отдел по цифровым инициативам получил заявку от Foxconn на инвестиции в центр вычислительных ресурсов, а также ведет переговоры с Министерством финансов и Финансовой комиссией о привлечении инвестиций страхового сектора, чтобы не полагаться полностью на зарубежные модели AI.

Что говорит руководство Китая о руководстве по безопасной разведке омаров?
OpenClaw был создан австрийским инженером Питером Штайнбергером и первоначально стал популярным в технологическом сообществе. Установка и использование OpenClaw назывались «разведкой омаров». Недавний рост популярности этой практики проник в китайский рынок, и обычные граждане начали активно разводить омаров, а также появились платные услуги по установке, выполняемой инженерами.
В ответ Министерство государственной безопасности Китая выпустило руководство по безопасному разведению омаров, предупреждая о рисках, таких как взлом хост-машины, кража данных и искажение информации, призывая пользователей строго ограничивать область операций и по возможности запускать их в изолированных средах (например, виртуальных машинах или песочницах).

Где есть разведка омаров, там есть и их удаление
Несмотря на популярность разведения омаров, в китайском сообществе уже наблюдается переход от безумной установки к платному удалению омаров. Британская BBC со ссылкой на экспертов сообщает, что причина этого спада — очень высокий технологический порог и операционные издержки OpenClaw, поскольку каждое действие требует затрат на вызов AI-модели.
Кроме того, существует значительный риск безопасности. Национальный центр реагирования на инциденты в интернете Китая отметил, что неправильное использование может привести к краже фотографий, платежных данных и другой чувствительной информации, а также к ошибкам AI, вызывающим случайное удаление данных. Для обычных пользователей в настоящее время эта программа практически не имеет существенного практического значения, что и стало причиной волны удаления.