Dirección de investigación
Entrenamiento y compresión para inferencia en dispositivo.
Modelos edge es la dirección de investigación de Rkive para entrenar y comprimir sistemas multimodales potentes para inferencia en dispositivo. El objetivo no es simplemente modelos más pequeños — es capacidad multimodal que siga siendo útil cuando los límites del hardware se tratan como restricciones de primera clase.
La latencia, memoria, temperatura y energía no son consideraciones secundarias — son parte del objetivo de optimización desde el inicio. Esto significa recetas de entrenamiento que anticipan la compresión, evaluación que mide el comportamiento real del dispositivo, y destilación que preserva la capacidad multimodal que hace útiles a los modelos.
Entrenar con el objetivo de despliegue en mente
Las recetas de entrenamiento anticipan cuantización, poda y límites de memoria durante el entrenamiento en lugar de tratar la compresión como un paso final de empaquetado aplicado después del hecho.
Preservar capacidad en modelos compactos
La compresión solo importa si el comportamiento multimodal útil sobrevive. La destilación apunta a mantener los modelos compactos genuinamente capaces en lugar de meramente pequeños.
Latencia, memoria, temperatura y energía
La evaluación está vinculada a presupuestos de hardware para que las métricas de rendimiento reflejen condiciones reales de despliegue, no FLOPs teóricos en hardware sin restricciones.
El trabajo en modelos edge aplica la misma mentalidad disciplinada de búsqueda a la realidad del despliegue. El mismo protocolo MAIC-RL y experimentación estructurada usados en AIR pueden aplicarse cuando la restricción cambia del tamaño del artefacto a presupuestos de runtime en dispositivos reales.