¿46.5 millones de mensajes de chat filtrados? McKinsey: Ya ha reparado de urgencia la vulnerabilidad del sistema de IA interno

McKinsey ha corregido de emergencia una vulnerabilidad en su sistema interno de IA, después de que hackers obtuvieran acceso a millones de mensajes internos y pudieran identificar archivos sensibles.

La empresa de ciberseguridad CodeWall informó esta semana que infiltró Lilli, la plataforma de IA utilizada por 40,000 empleados de McKinsey, y en dos horas encontró millones de archivos y registros de comunicación.

CodeWall afirma que obtuvo acceso a 46.5 millones de mensajes de chat en el sistema. Los empleados de McKinsey utilizan esta plataforma para formular estrategias, analizar datos y crear planes de proyectos y presentaciones para clientes.

Este incidente resalta los riesgos asociados a la adopción rápida de IA, y podría también poner en aprietos a McKinsey, ya que la firma ofrece consultoría sobre cómo aprovechar la tecnología de IA a empresas de primer nivel. McKinsey se ha destacado por sus herramientas de IA, posicionándose como líder en la adopción de esta tecnología.

CodeWall busca identificar vulnerabilidades en los sistemas de las empresas para que puedan corregir estos fallos. La compañía afirmó que utilizó su propio agente de IA para realizar la intrusión. “En dos horas, el agente de IA obtuvo permisos completos de lectura y escritura en toda la base de datos de producción”, indicó en su sitio web.

También afirmó haber accedido a una lista con 728,000 nombres de archivos “sensibles”, incluyendo hojas de cálculo Excel, presentaciones PowerPoint y documentos Word. Una fuente cercana a McKinsey dijo que estos archivos están almacenados en otros lugares y “nunca estuvieron en riesgo”.

CodeWall, cuyo fundador Paul Price se autodenomina como el único empleado de la empresa, se especializa en empresas como McKinsey, que publican guías sobre cómo los hackers éticos deben explorar sus sistemas en busca de vulnerabilidades de ciberseguridad.

La compañía afirmó que, tras detectar los problemas, su agente de IA detuvo automáticamente el intento de acceso a los archivos y reportó las vulnerabilidades.

Este proveedor de ciberseguridad afirmó haber obtenido acceso a 57,000 cuentas de usuario, 384,000 asistentes de IA y 94,000 espacios de trabajo, demostrando “cómo McKinsey utiliza la IA en toda su organización” y que esto representa “la joya de la corona del conocimiento de la firma”.

CodeWall indicó que, durante la intrusión, las instrucciones del sistema y la configuración del modelo de IA de Lilli también quedaron completamente expuestas, “revelando las directrices específicas de comportamiento de la IA y las medidas de protección existentes”.

Una fuente cercana a McKinsey dijo que el equipo de seguridad de la firma fue informado del hallazgo de CodeWall a finales de febrero. Añadió que McKinsey corrigió las vulnerabilidades en pocas horas y cerró su entorno de desarrollo (el área en línea para pruebas de código).

CodeWall afirmó que su agente de IA propuso activamente a McKinsey como objetivo. “En la era de la IA, el panorama de amenazas está cambiando rápidamente — que los agentes de IA elijan y ataquen objetivos de forma autónoma será la nueva norma”, señaló la compañía.

McKinsey declaró: “Un investigador de seguridad nos informó recientemente de una vulnerabilidad en nuestra herramienta interna de IA, Lilli. Confirmamos rápidamente la falla y la corregimos en pocas horas”.

La firma añadió: “Nuestra investigación, apoyada por una firma líder en forense digital, no encontró evidencia de que datos de clientes o información confidencial de clientes hayan sido accedidos por el investigador o cualquier otra parte no autorizada”.

“El sistema de ciberseguridad de McKinsey es robusto. Para nosotros, no hay prioridad mayor que proteger los datos y la información de nuestros clientes bajo nuestra custodia”.

McKinsey afirmó que, en 2023, los servicios de consultoría relacionados con IA y tecnologías afines representaron el 40% de sus ingresos, y que su CEO anunció que ha desarrollado 25,000 agentes de IA para apoyar a sus 40,000 empleados.