Deixe a IA pensar com símbolos que os humanos não entendem, respondendo com a mesma precisão, mas 12 vezes mais rápido

robot
Geração de resumo em curso

Notícias do site Coinjie, reportado pelo OneMillion_AI, o artigo «pensar sem palavras» propõe o método abstract-cot, introduzindo 64 «símbolos abstratos» totalmente novos no vocabulário do modelo, que não correspondem a nenhuma língua humana. O modelo primeiro gera uma pequena sequência desses símbolos como rascunho antes de responder às perguntas, dando a resposta diretamente, pulando o processo tradicional de raciocínio em linguagem natural. Nos experimentos com questões matemáticas do math-500, o número de tokens no processo de raciocínio foi comprimido de centenas para dezenas, com uma redução de uso de tokens de até 11,6 vezes, mantendo a taxa de acerto. Os experimentos envolveram as famílias de modelos qwen3-8b, qwen3-4b e ibm granite 4.0 micro, com resultados consistentes. Esses 64 símbolos se formaram espontaneamente durante o treinamento, apresentando padrões de uso semelhantes à linguagem natural, com alguns símbolos reutilizados com alta frequência, enquanto a maioria aparece ocasionalmente, com uma distribuição semelhante às palavras comuns na linguagem humana. Ao embaralhar a sequência desses símbolos, a precisão na resolução das questões diminui significativamente, indicando que o modelo aprendeu a usar esse «código» para raciocínios estruturados.

Ver original
Esta página pode conter conteúdos de terceiros, que são fornecidos apenas para fins informativos (sem representações/garantias) e não devem ser considerados como uma aprovação dos seus pontos de vista pela Gate, nem como aconselhamento financeiro ou profissional. Consulte a Declaração de exoneração de responsabilidade para obter mais informações.
  • Recompensa
  • Comentar
  • Republicar
  • Partilhar
Comentar
Adicionar um comentário
Adicionar um comentário
Nenhum comentário
  • Fixar