Elon Musk témoigne que l'IA pourrait mettre fin à l'humanité lors du conflit judiciaire OpenAI

Elon Musk a dit aux jurés mardi que l’intelligence artificielle peut devenir suffisamment mortelle pour anéantir l’humanité, et cet avertissement est devenu la partie la plus forte de son premier témoignage lors du procès contre le PDG d’OpenAI, Sam Altman.

Elon a déclaré qu’OpenAI n’avait pas été créé pour poursuivre de grands tours de financement, servir de grands partenaires technologiques ou supprimer les limites sur le profit. Il a dit à la cour que c’était destiné à garder une IA puissante sous une structure orientée vers l’intérêt public, à l’écart des entreprises qui pourraient privilégier l’argent avant la sécurité humaine.

Le procès a commencé après la fin de la sélection du jury lundi. Les avocats d’Elon et de Sam ont fait leurs déclarations d’ouverture mardi, puis Elon a pris la parole. Les deux hommes étaient présents dans la salle au début, mais Sam est parti avant qu’Elon ne commence à témoigner.

L’affaire devrait durer quatre semaines. La liste des témoins pourrait inclure le PDG de Microsoft (MSFT) Satya Nadella, des chercheurs en IA, ainsi que des membres actuels et anciens du conseil d’administration d’OpenAI. Elon est le PDG de xAI, Tesla (TSLA), et SpaceX. Sam dirige OpenAI.

Elon dit à la cour que Sam a violé le plan à but non lucratif derrière OpenAI

Elon a dit : « J’ai eu l’idée, le nom, recruté les personnes clés, fourni le financement. J’aurais pu le lancer en tant qu’entreprise à but lucratif, et j’ai choisi de ne pas le faire. »

Elon a dit que les premières discussions avec Sam portaient sur faire d’OpenAI une organisation caritative. Le plan, tel qu’il le décrit, était que l’argent supplémentaire resterait dans le groupe en tant que réserves. Il a dit qu’il resterait une organisation indépendante exonérée d’impôt 501©(3). Il a également pointé vers des documents fondateurs qui disaient : « aucune personne ne doit bénéficier de cette charité. »

Puis Elon a insisté de manière directe. « Si le verdict conclut qu’il est acceptable de piller une organisation caritative, la générosité en Amérique sera détruite, » a-t-il dit. L’équipe juridique d’OpenAI a immédiatement objecté après cela.

OpenAI affirme qu’Elon voulait le contrôle tandis que Bill Savitt critique ses affirmations sur la sécurité

Le côté de Sam dit qu’Elon n’a pas livré le $1 milliard qu’il avait promis. Ses avocats disent aussi qu’Elon s’est éloigné lorsque Sam, Greg Brockman et Ilya Sutskever ne lui ont pas permis de contrôler l’entreprise ou de l’intégrer à Tesla (TSLA).

Leur contre-plainte affirme que ChatGPT a apporté une attention mondiale à OpenAI après son lancement en 2022. Le dossier indique : « ChatGPT a mis en lumière OpenAI. » Il ajoute aussi : « Musk n’a rien à voir avec cela. »

L’avocat d’OpenAI, Bill Savitt, a utilisé sa déclaration d’ouverture pour attaquer durement Elon. Bill a dit qu’Elon a utilisé la promesse de $1 milliard pour faire pression sur l’équipe fondatrice. Il a dit aux jurés : « nous sommes ici parce que M. Musk n’a pas obtenu ce qu’il voulait chez OpenAI. » Bill a aussi dit : « Musk ne s’est jamais soucié si OpenAI était à but non lucratif. … Il ne s’est jamais soucié de la sécurité de l’IA. » Puis il a ajouté : « Ce qui comptait pour lui, c’était Elon Musk au sommet. »

Elon a répondu que les fondateurs ont effectivement parlé d’une branche commerciale. Mais il a dit que tout profit devait servir l’organisation à but non lucratif, et non la contrôler. Ses mots ont été : « Nous avons discuté, réfléchi à différentes façons de financer la charité. Nous avons parlé de créer une entreprise à but lucratif ou que Tesla fournisse le financement. Tant que la queue ne remuait pas le chien, essentiellement. »

Elon dit qu’OpenAI a profité de son argent, de ses idées, de son recrutement et de son réseau. Il demande environ $134 milliard en dommages et intérêts à OpenAI et Microsoft (MSFT), qui est l’un des principaux soutiens d’OpenAI et un co-défendeur dans l’affaire.

Il critique aussi la nouvelle structure d’OpenAI. OpenAI a achevé sa restructuration en octobre. Sa branche à but lucratif est toujours contrôlée par une fondation à but non lucratif, mais la société a levé son plafond de profit. Elle a ensuite levé $122 milliard dans sa dernière levée de fonds.

Le procès d’Elon affirme que ce changement « nécessite de mentir aux donateurs, aux membres, aux marchés, aux régulateurs et au public. »

Elon a ensuite comparé une IA mal contrôlée à Terminator et a dit que l’avenir plus sûr devrait ressembler davantage à Star Trek. Son point était qu’OpenAI a été créé comme un contrepoids aux géants technologiques avides de profit, et non comme une autre entreprise courant après l’argent et le contrôle.

Elon a aussi évoqué une conversation de 2015 avec Larry Page, co-fondateur de Google, qui l’aurait appelé « espèceist » parce qu’Elon privilégiait la survie humaine au développement de l’intelligence numérique. Elon doit revenir à la barre mercredi.

Si vous lisez ceci, vous avez déjà une longueur d’avance. Restez-y avec notre newsletter.