OpenAI irá fazer uma transição gradual de GPUs NVIDIA para o Trainium da Amazon no Bedrock

De acordo com o monitoramento da Dongcha Beating, Garman confirmou na mesma entrevista que os modelos da OpenAI no Bedrock operarão em um ambiente misto de GPUs NVIDIA e do chip desenvolvido pela Amazon, Trainium, com uma mudança gradual em direção ao Trainium no futuro. Altman expressou entusiasmo por essa transição. Garman brincou dizendo que o nome Trainium era um equívoco: embora possa lidar tanto com treinamento quanto com inferência, o caso de uso principal ainda será a inferência, mas foi nomeado um chip de treinamento. No entanto, ele acredita que a marca do chip não é importante para a grande maioria dos clientes, pois os usuários interagem com a IA por meio de uma interface, não do chip em si. Altman concordou com esse ponto. Quando Thompson perguntou se os Agentes Gerenciados do Bedrock integrariam modelos além da OpenAI no futuro, Garman não deu uma resposta direta, afirmando apenas que eles estão atualmente focados em colaborar com a OpenAI, e que “a plenitude do tempo é um longo tempo”.