Появилась интересная новость, которая показывает споры вокруг ИИ и национальной безопасности. Руководитель команды робототехники OpenAI Кэтлин Калиновски покинула компанию, и причины весьма важные.

Калиновски была недовольна соглашением об ИИ между OpenAI и Пентагоном. Она ясно объяснила в социальных сетях, что это не личное, а принципиальное дело. Она считает, что хотя ИИ может способствовать национальной безопасности, вопросы, связанные с внутренним наблюдением и автономными оружейными системами, требуют более тщательного обсуждения с судебным контролем. Ее аргумент — компания не установила достаточные меры безопасности до объявления о сотрудничестве.

Интересно, что это увольнение вызвало волну на рынке. Наблюдался рост на 295% в удалении ChatGPT, а приложение Claude от Anthropic стало лидером среди бесплатных приложений в App Store в США. Это ясно показывает, что пользователи действительно обеспокоены этими политическими вопросами.

Представитель OpenAI подтвердил, что это сотрудничество с Пентагоном направлено на продвижение ответственного использования ИИ и минимальную роль в таких вопросах, как внутреннее наблюдение (. Однако в индустрии продолжаются споры. Калиновски сохранила уважение к Сэму Алтману и команде, но ее уход показывает, насколько глубоки опасения по поводу политики в области ИИ.

Этот случай показывает, что по мере развития технологий ИИ, дискуссии о моральных и безопасных стандартах становятся все более важными. Вопросы о продвинутых системах ИИ и автономных системах уже не только технические, но и политические, и этические.