BTC y ETH experimentan fluctuaciones frecuentes en el mercado.

Descubrí algo interesante: al analizar el mismo problema de mercado dos veces con IA, los juicios no fueron completamente consistentes.

Después de revisar los registros de llamadas, descubrí que el problema estaba en mi lado.

Anteriormente, dirigía todas las solicitudes a través del modelo más potente para ahorrar molestias y creía que sería más estable. Esto causó que durante períodos de alta frecuencia, la latencia aumentara, la estabilidad de salida disminuyera y los costos de llamadas aumentaran significativamente.

Para modelos potentes como GPT y Gemini, las llamadas frecuentes tienen un costo no trivial por día, y a veces los ingresos ni siquiera cubren los costos.

Cambié la lógica a una estructura de capas: utilizar modelos ligeros para preguntas simples y modelos potentes para preguntas complejas.

Mantener manualmente este conjunto de reglas de distribución de tráfico requiere mucha energía, y el tiempo de depuración supera el tiempo de trading en sí.

Comencé a usar un punto de entrada unificado de modelos, permitiendo que el sistema distribuya automáticamente según la complejidad de la tarea.

GateRouter de Gate ofrece la posibilidad de llamar a todos los modelos con una sola API, que es una estructura de enrutamiento multimodelo capaz de seleccionar automáticamente el modelo más adecuado según sea necesario.

El efecto es más estable, la latencia disminuye y los costos generales se reducen significativamente.

En lugar de estar indeciso sobre qué modelo elegir, es mejor dejar que el sistema complete la selección de modelos automáticamente.