Калифорния ужесточает правила AI-контрактов на фоне разрастания конфликта с администрацией Трампа

Кратко

• Калифорния вводит более строгие меры защиты для компаний ИИ, претендующих на государственные контракты.
• Этот шаг происходит на фоне того, что администрация Трампа продвигает национальные стандарты для ИИ.
• Представители штата разработают правила закупок, охватывающие вопросы, такие как предвзятость, неправильное использование и риски для гражданских прав.

Конфликт между Вашингтоном и штатами по вопросам политики в области искусственного интеллекта обострился в понедельник после того, как губернатор Калифорнии Гэвин Ньюсом подписал исполнительный указ, требующий от компаний ИИ, претендующих на государственные контракты, усиленных мер защиты. Согласно указу, компании, продающие системы ИИ государственным агентствам Калифорнии, должны будут продемонстрировать наличие политик, предотвращающих неправильное использование, а также защищающих конфиденциальность, безопасность и гражданские права. «Калифорния всегда была колыбелью инноваций. Но мы также понимаем обратную сторону: в неправильных руках инновации могут быть использованы во вред людям», — заявил Ньюсом в пресс-релизе. «Калифорния лидирует в области ИИ, и мы собираемся использовать все доступные инструменты, чтобы гарантировать, что компании защищают права людей, а не эксплуатируют их или подвергают опасности. Пока другие в Вашингтоне разрабатывают политику и создают контракты в тени неправомерного использования, мы сосредоточены на том, чтобы делать это правильно». Указ Ньюсома предписывает Агентству по государственным операциям штата разработать стандарты закупок для поставщиков ИИ, которые будут учитывать вопросы, такие как создание незаконного контента, предвзятость моделей и риски для гражданских прав и свободы слова. Также указ предписывает Департаменту технологий Калифорнии подготовить рекомендации по водяным знакам для изображений, созданных ИИ, и для манипулированных видео.

 Этот указ ставит Калифорнию в конфликт с усилиями администрации Дональда Трампа по установлению национальных стандартов для ИИ и ограничению регулирования на уровне штатов. В начале этого месяца администрация Трампа опубликовала национальную рамочную политику в области искусственного интеллекта, призывающую Конгресс установить федеральные стандарты и сократить, по словам чиновников, «лоскутное» регулирование ИИ на уровне штатов. Кевин Фрейзер, внештатный исследователь в Институте Катона, заявил, что этот спор отражает давний конституционный баланс между полномочиями штатов и федеральным правительством. «Каждый технологический прорыв — от парохода до сверхинтеллекта — поднимает важные вопросы о том, как распределять регулирующие полномочия между штатами и федеральным правительством», — сказал Фрейзер Decrypt. «Конституция дает ясный ответ: федеральное правительство должно руководить вопросами экономической и национальной безопасности, а также теми, которые требуют единых стандартов; штаты могут осуществлять свои традиционные полицейские полномочия внутри своих границ».

Фрейзер назвал исполнительный указ Ньюсома «ярким примером федерализма в действии» и отметил, что компании, отвергающие требования Калифорнии, могут выбрать не продавать свои системы штату. «Тем временем Конгресс по-прежнему в состоянии задавать темп и направление развития страны в области ИИ», — добавил он. Куинн Анекс-Рейс, старший аналитик по политике в Центре демократии и технологий, отметил, что размер и покупательная способность Калифорнии позволяют ей влиять на то, как компании разрабатывают и тестируют системы ИИ, если они хотят продавать их штату. «Государственные закупки очень важны для компаний», — сказал Анекс-Рейс Decrypt. «Это значительная часть бизнеса для разработчиков технологий в целом и растущий сегмент для разработчиков ИИ в частности». Он подчеркнул, что правила закупок — один из наиболее эффективных способов, с помощью которых правительства могут влиять на разработку и оценку систем ИИ. «Процесс закупок — очень важное место, на которое стоит обратить внимание», — отметил Анекс-Рейс. «Потому что именно там государство может установить защитные меры и ожидания относительно того, как поставщики разрабатывают свои инструменты». Ньюсом стал заметной фигурой на национальной политической арене и потенциальным кандидатом в президенты 2028 года. Недавний опрос Politico–UC Berkeley Citrin Center показал, что он опережает бывшего вице-президента Камалу Харрис на 14 пунктов среди вероятных избирателей на праймериз Демократической партии в Калифорнии. Политический конфликт по вопросам регулирования ИИ ставит его в прямое противоречие с администрацией Трампа, поскольку дебаты о том, кто должен устанавливать правила для этой технологии, усиливаются. Прошлым летом администрация Трампа приказала федеральным агентствам избегать контрактов с моделями, которые она называла «woke AI», и закупать системы, демонстрирующие идеологическую нейтральность.

Несмотря на это, Анекс-Рейс отметил, что вопрос регулирования ИИ выходит за рамки политики. «Это действительно не должно быть политической проблемой», — сказал он. «Речь идет о том, чтобы не тратить зря деньги налогоплательщиков и чтобы приобретенные нашим правительством инструменты работали эффективно».