Sam Altman, após lançar uma garrafa molotov em sua casa, publicou: Amo minha família e também acredito que a IA pertence a todos.

Autor: Sam Altman

Tradução: Deep潮 TechFlow

Deep潮 Introdução: Alguém lançou um coquetel molotov na casa de Sam Altman às 3h45 da manhã. Ele raramente tornou pública uma foto de família, na esperança de que isso possa fazer o próximo a desistir. Este artigo não é apenas uma denúncia do ataque, mas também uma primeira explicação completa de sua crença na IA: a IA deve ser democratizada, laboratórios menores não devem decidir o futuro da humanidade, e a tentação de “não conseguir voltar atrás” ao ver AGI enche este campo de conflitos dramáticos à Shakespeare.

Esta é uma foto da minha família. Amo-os mais do que tudo.

Espero que a imagem tenha força. Normalmente, mantemos uma privacidade considerável, mas neste caso compartilho uma foto, na esperança de que possa dissuadir o próximo de lançar um coquetel molotov na nossa casa, independentemente de como me vejam.

A primeira pessoa fez isso ontem à noite, às 3h45 da manhã. Felizmente, ricocheteou na casa, sem feridos.

As palavras também têm poder. Há alguns dias, houve um artigo inflamado sobre mim. Ontem, alguém me disse que achava que esse artigo apareceu num momento de grande ansiedade em relação à IA, tornando minha situação mais perigosa. Naquele momento, não dei muita importância.

Agora, acordado no meio da noite, estou muito irritado e percebo que subestimei o poder das palavras e da narrativa. Parece um momento oportuno para falar sobre algumas coisas.

Primeiro, minha crença.

Lutar pelo bem-estar de todos, capacitar todos, promover ciência e tecnologia, são obrigações morais para mim.

A IA será a ferramenta mais poderosa para expandir a capacidade e o potencial humanos. A demanda por essa ferramenta é praticamente ilimitada, e as pessoas a usarão para fazer coisas incríveis. O mundo deve ter uma grande quantidade de IA, e precisamos descobrir como realizá-la.

Nem tudo será fácil. O medo e a ansiedade em relação à IA são compreensíveis; estamos testemunhando uma mudança social que talvez seja a maior de todos os tempos. Devemos garantir a segurança, o que não é apenas alinhar um modelo — precisamos de uma resposta de toda a sociedade para enfrentar novas ameaças. Isso inclui novas políticas para ajudar a superar períodos difíceis de transição econômica, rumo a um futuro melhor.

A IA deve ser democratizada; o poder não pode estar excessivamente concentrado. O controle do futuro pertence a todos e às suas instituições. A IA precisa capacitar indivíduos, e precisamos decidir coletivamente nosso futuro e as novas regras. Não acho correto que poucos laboratórios de IA tomem as decisões mais importantes sobre a nossa forma de futuro.

A adaptabilidade é fundamental. Todos estamos aprendendo coisas novas muito rapidamente; algumas de nossas crenças estarão certas, outras erradas, e às vezes precisamos mudar de ideia rapidamente à medida que a tecnologia evolui e a sociedade se transforma. Ainda não há compreensão total do impacto da superinteligência, mas será enorme.

Segundo, algumas reflexões pessoais.

Ao revisar meus primeiros dez anos de trabalho na OpenAI, posso apontar muitas coisas de que me orgulho e uma série de erros.

Estou pensando no nosso próximo julgamento com Elon, e me lembro de como me recusei a concordar com seu desejo de controle unilateral sobre a OpenAI. Tenho orgulho disso, orgulho do caminho estreito que trilhamos na época, que permitiu à OpenAI continuar existindo, e de todas as conquistas subsequentes.

Não me orgulho de evitar conflitos, pois isso trouxe grande dor para mim e para a OpenAI. Não me orgulho de como lidei mal com os conflitos com o antigo conselho, o que causou grande confusão na empresa. Em toda a trajetória louca da OpenAI, cometi muitos outros erros; sou uma pessoa imperfeita, no centro de uma situação extremamente complexa, tentando melhorar a cada ano, sempre trabalhando pela missão. Desde o início, sabíamos o quão grande era o risco da IA, e que as divergências pessoais entre pessoas bem-intencionadas poderiam ser amplificadas. Mas experimentar esses conflitos intensos na prática e ter que arbitrá-los frequentemente é outra coisa, com um custo alto. Peço desculpas às pessoas que magoei e espero aprender mais rápido.

Também tenho plena consciência de que a OpenAI agora é uma plataforma principal, não uma startup pequena, e que precisamos operar de forma mais previsível. Os últimos anos foram extremamente tensos, caóticos e de alta pressão.

No entanto, o que mais me enche de orgulho é que estamos realizando nossa missão, algo que parecia quase impossível no começo. Superando todas as dificuldades, descobrimos como construir IA extremamente poderosa, como acumular capital suficiente para criar a infraestrutura de entrega, como estabelecer produtos e negócios, como fornecer serviços de grande escala de forma relativamente segura e robusta, e muito mais. Muitas empresas dizem que querem mudar o mundo; nós realmente conseguimos.

Terceiro, algumas ideias sobre a indústria.

Minhas lições pessoais dos últimos anos, e minha visão sobre por que há tanto drama à Shakespeare entre as empresas do nosso setor, resumem-se a isto: “Uma vez que você vê AGI, não consegue não vê-la.” Ela tem uma dinâmica de “anel de poder” real, levando as pessoas a fazerem loucuras. Não digo que AGI seja o anel, mas sim a filosofia autoritária de “ser quem controla a AGI”.

A única solução que consigo imaginar é avançar na direção de compartilhar amplamente a tecnologia, sem que ninguém detenha o anel. Duas maneiras óbvias de fazer isso são capacitar indivíduos e garantir que os sistemas democráticos mantenham o controle.

É crucial que o processo democrático seja mais forte do que as empresas. Leis e regulamentos vão mudar, mas devemos trabalhar dentro do processo democrático, mesmo que seja confuso e mais lento do que gostaríamos. Queremos ser uma voz e um stakeholder, mas não possuir todo o poder.

Muitas críticas ao nosso setor vêm de preocupações legítimas sobre os riscos extremos dessa tecnologia. Isso é muito razoável, e acolhemos críticas e debates bem-intencionados. Compartilho a sensação anti-tecnologia, pois é claro que a tecnologia nem sempre é boa para todos. Mas, no geral, acredito que o progresso tecnológico pode tornar o futuro incrivelmente melhor, para suas famílias e as minhas.

Quando participarmos desse debate, devemos moderar o tom e as estratégias, e tentar causar menos explosões em nossas casas, seja de forma metafórica ou literal.