El ajuste automático es una herramienta visual que permite a los usuarios optimizar el rendimiento de Klepsydra AI según tres criterios diferentes: consumo de energía, rendimiento y latencia.
Esta herramienta está disponible desde finales de 2021. Es un producto nuevo que los clientes de Klesydra pueden utilizar libremente. Hasta el momento, ha sido muy del agrado de nuestros clientes.
Optimización flexible
La mayoría de los motores de inferencia de IA que ejecutan modelos de IA en el borde son como un automóvil de una sola marcha. Corren de una sola manera. No hay posibilidad de ajustarlos, solo lo realizan en la capacidad fija que estas herramientas están configuradas para hacer. Klepsydra AI es más elástica y flexible, es una herramienta construida para optimizar para diferentes situaciones . Con el software de ajuste automático, ahora es posible hacerlo muy fácilmente con una interfaz gráfica.
La innovación del autotuning
El autotuning es la primera herramienta de este tipo en el mercado. Es una característica bastante única ya que el usuario puede tener la flexibilidad de optimizar un modelo para una computadora específica de una manera muy fácil. El rendimiento se puede exprimir al máximo.
La innovación técnica original en autotuning viene en Klepsydra AI que tiene un llamado modelo de subprocesamiento muy avanzado. Este modelo consiste en un proceso de paralelización multidimensional que es muy elástico y permite múltiples tipos de optimizaciones.
Aplicaciones
Hay muchas aplicaciones que podrían beneficiarse del ajuste automático. Según la capacidad buscada, se puede configurar el autotuning para potenciar una función u otra:
consumo de energía En el caso de un espacio donde las computadoras funcionan con una potencia muy limitada, ya que el satélite debe realizar diferentes tareas y no puede usar toda su potencia para alimentar la computadora y al mismo tiempo garantizar un mejor servicio (baterías más duraderas, menos cortes de energía). Es necesario tener un fuerte control sobre el consumo de energía. El ajuste automático garantizará que el consumo de energía esté por debajo de los requisitos, o casi por debajo de los requisitos, de la aplicación.
rendimiento _ Existen otros casos por ejemplo en la industria automotriz o la industria del juego donde el throughput es sumamente importante debido a la gran cantidad de datos a manejar.
En esos casos, Klepsydra AI se puede optimizar para tener el mayor rendimiento posible y eliminar las pérdidas de datos.
latencia
Hay otras aplicaciones donde el aspecto de tiempo real es muy importante. Por ejemplo, aplicaciones aeroespaciales y de seguridad donde la velocidad de reacción es crítica. El ajuste automático de Klepsydra permitirá al usuario optimizar la latencia más baja posible. Recientemente hemos observado en pruebas reales una reducción de hasta un 90% en la latencia. (De 100ms a 10ms).
Los beneficios ambientales del uso de klepsydra son notables tanto directa como indirectamente:
Directamente, al reducir el uso de la CPU y extender la vida útil de la computadora. En las aplicaciones de última generación, los beneficios son dobles. En primer lugar, se puede aumentar la vida útil de la batería para IoT, satélites, robots, etc. al reducir el consumo de energía en los datos procesados a bordo. Y en segundo lugar, al extender la vida útil de las computadoras de a bordo y de borde en los mismos entornos.
Indirectamente , como una tecnología habilitadora. Los productos de Klepsydra se han utilizado para mercados de energía verde (p. ej., inspecciones de turbinas eólicas), eliminación de desechos espaciales, automóviles eléctricos y observación de la Tierra (prevención de incendios, detección de sequías, etc.).
