[ Stack tecnológico ]
ONNX Runtime
El motor de inferencia portable que ejecuta un mismo modelo ONNX del servidor al navegador.
ONNX Runtime, desarrollado por Microsoft, carga un modelo en formato ONNX exportado desde PyTorch, TensorFlow o scikit-learn y lo ejecuta a través de execution providers intercambiables: CPU, CUDA, TensorRT, OpenVINO, DirectML, CoreML, NNAPI, o WebAssembly y WebGPU en el navegador. El grafo se optimiza durante la carga (plegado de constantes, fusión de operadores) y puede cuantizarse en INT8; las API abarcan Python, C++, C#, Java y JavaScript. Es nuestra elección cuando un mismo modelo debe ejecutarse en plataformas heterogéneas sin recompilarlo para cada una.
[ Por qué ONNX Runtime en Dexon ]
Lo que esta tecnología hace bien y por qué la utilizamos.
Uso típico: Inferencia en servidores CPU, aplicaciones de escritorio Windows o macOS, modelos integrados en el navegador.
- 01
Execution providers CPU, CUDA, TensorRT, OpenVINO, DirectML, CoreML: un mismo modelo, varios aceleradores.
- 02
Optimizaciones del grafo durante la carga y cuantización INT8 estática o dinámica.
- 03
onnxruntime-web: inferencia en el navegador mediante WebAssembly o WebGPU, sin back-end.
- 04
Licencia MIT, API para Python, C++, C#, Java y JavaScript, extensión GenAI para LLM.
[ Tecnologías complementarias ]
Las piezas que solemos utilizar en paralelo.
Un stack rara vez existe por sí solo. Estas son las tecnologías que Dexon asocia con más frecuencia a esta, por hábitos de pipeline, similitud de uso o dominio interno. Haga clic en una pieza para ver su alcance.
[ Confianza ]
- 0+
- proyectos a medida entregados
- 30
- ingenieros, diseñadores, jefes de proyecto
- 80 %
- formados en las mejores escuelas francesas
- 24 h
- tiempo medio de respuesta
[ Confían en nosotros ]
Más de 100 empresas francesas y europeas confían en nosotros.
[ Prensa ]
Hablan de nosotros.
Cobertura en la prensa nacional francesa: BFM Business, Le Figaro, Challenges, La Tribune y CNews. Una mirada externa a nuestro trabajo y a nuestras innovaciones.
