En resumen
- 200 manifestantes marcharon desde Anthropic hasta las oficinas de OpenAI y xAI en San Francisco.
- Los activistas pidieron a las empresas de IA que pausen el desarrollo de nuevos modelos de frontera.
- El organizador Michael Trazzi realizó previamente una huelga de hambre de varias semanas frente a Google DeepMind.
Los manifestantes salieron a las calles de San Francisco el sábado, deteniéndose frente a las oficinas de Anthropic, OpenAI y xAI para exigir una pausa condicional en el desarrollo de inteligencia artificial cada vez más potente.
Según Michael Trazzi, fundador de Stop the AI Race y documentalista, participaron aproximadamente 200 manifestantes. Entre los participantes había investigadores, académicos y miembros de grupos de defensa como Machine Intelligence Research Institute, PauseAI, QuitGPT, StopAI y Evitable.
“Hay muchas personas que se preocupan por este riesgo de los sistemas de IA avanzados,” dijo Trazzi a Decrypt. “Que todos marchen juntos demuestra que no están aislados en pensar en esto por sí mismos. Hay muchas personas que se preocupan por esto.”**
La marcha comenzó al mediodía frente a las oficinas de Anthropic, luego se dirigió a OpenAI y después a xAI. En cada parada, activistas y oradores de las organizaciones participantes dirigieron palabras a los manifestantes.
Según Trazzi, la protesta buscaba presionar a las empresas de IA para que aceptaran una pausa coordinada en la construcción de modelos de IA más potentes y crear tratados con desarrolladores de IA en otros países para hacer lo mismo.
“Si China y EE. UU. acordaran dejar de construir modelos más peligrosos, podrían centrarse en mejorar los sistemas para nosotros, como la IA médica,” afirmó. “Todos estarían mejor.”
La propuesta de Stop the AI Race pide a las empresas que dejen de construir nuevos modelos de frontera y cambien su trabajo hacia la seguridad, si otros laboratorios importantes “hacen lo mismo de manera creíble,” lo cual, según Trazzi, hace que protestar frente a las oficinas de los laboratorios de IA sea aún más importante.
Oposición constante
La protesta es la última de una serie de esfuerzos para interrumpir el desarrollo de IA.
En marzo de 2023, el Instituto Future of Life publicó una carta abierta exigiendo una moratoria en las mejoras del principal herramienta de IA tras el lanzamiento público de ChatGPT el año anterior.
Los firmantes incluían al fundador de xAI, Elon Musk, al cofundador de Apple, Steve Wozniak, y al cofundador de Ripple, Chris Larsen. Un año después de su publicación inicial, la carta abierta “Pause Giant AI Experiments” tiene más de 33,000 firmas.
En septiembre, Trazzi realizó una huelga de hambre de una semana frente a las oficinas de Google DeepMind en Londres, mientras Guido Reichstadter llevaba a cabo una huelga de hambre paralela frente a las oficinas de Anthropic en San Francisco.
Funcionarios gubernamentales y defensores de continuar con el desarrollo de IA argumentan que ralentizar la investigación en EE. UU. podría beneficiar a competidores en el extranjero.
La semana pasada, la Administración Trump publicó su marco de IA para establecer un estándar nacional para las leyes que rigen el desarrollo de IA. La Casa Blanca lo presentó como un compromiso para “ganar la carrera de la IA.”
“Incluso si estás en China o en cualquier país del mundo, nadie quiere sistemas que no puedan controlar,” dijo Trazzi. “Porque estamos en esta carrera entre empresas y países para construir los sistemas lo más rápido posible, estamos tomando atajos y recortando en seguridad. Nunca hay una carrera sin ganadores. Lo que tenemos es un sistema que no podemos controlar, y por eso se llama una carrera suicida.”
Pero incluso si los desarrolladores de IA aceptaran pausar el desarrollo, verificarlo puede ser más fácil decirlo que hacerlo. Trazzi sugirió que una forma de verificar una pausa sería limitar la potencia de computación utilizada para entrenar nuevos modelos.
“Si limitas cuánto poder de cómputo puede usar una empresa para construir estos sistemas, prácticamente estarás limitando el desarrollo de nuevos modelos,” afirmó.
Tras la protesta en San Francisco, Trazzi dijo que podrían realizarse manifestaciones adicionales en otros lugares donde operan las principales empresas de IA.
“Queremos presentarnos donde están los empleados,” afirmó. “Queremos hablar con ellos, y que hablen con su liderazgo y que las cosas avancen desde adentro,” añadiendo que los denunciantes tendrán cierto poder porque “son los que lo están construyendo.”
OpenAI, Anthropic y xAI no respondieron de inmediato a las solicitudes de Decrypt para comentarios.
Aviso legal: La información de esta página puede proceder de terceros y no representa los puntos de vista ni las opiniones de Gate. El contenido que aparece en esta página es solo para fines informativos y no constituye ningún tipo de asesoramiento financiero, de inversión o legal. Gate no garantiza la exactitud ni la integridad de la información y no se hace responsable de ninguna pérdida derivada del uso de esta información. Las inversiones en activos virtuales conllevan riesgos elevados y están sujetas a una volatilidad significativa de los precios. Podrías perder todo el capital invertido. Asegúrate de entender completamente los riesgos asociados y toma decisiones prudentes de acuerdo con tu situación financiera y tu tolerancia al riesgo. Para obtener más información, consulta el
Aviso legal.
