[en] Background. The rapid growth of Language Models (LMs), particularly in code generation, requires substantial computational resources, raising concerns about energy consumption and environmental impact. Optimizing LMs inference for energy efficiency is crucial, and Small Language Models (SLMs) offer a promising solution to reduce resource demands. Aim. Our goal is to analyze the impact of deep learning runtime engines and execution providers on energy consumption, execution time, and computing-resource utilization from the point of view of software engineers conducting inference in the context of code SLMs. Method. We conducted a technology-oriented, multi-stage experimental pipeline using twelve code generation SLMs to investigate energy consumption, execution time, and computing-resource utilization across the configurations. Results. Significant differences emerged across configurations. CUDA execution provider configurations outperformed CPU execution provider configurations in both energy consumption and execution time. Among the configurations, TORCH paired with CUDA demonstrated the greatest energy efficiency, achieving energy savings from 37.99% up to 89.16% compared to other serving configurations. Similarly, optimized runtime engines like ONNX with the CPU execution provider achieved from 8.98% up to 72.04% energy savings within CPU-based configurations. Also, TORCH paired with CUDA exhibited efficient computing-resource utilization. Conclusions. Serving configuration choice significantly impacts energy efficiency. While further research is needed, we recommend the above configurations best suited to software engineers' requirements for enhancing serving efficiency in energy and performance.

[es] Contexto. El rápido crecimiento de los modelos de lenguaje (Language Models), particularmente en la generación de código, requiere recursos computacionales sustanciales, lo que genera preocupaciones sobre el consumo de energía y el impacto ambiental. Optimizar la inferencia de los modelos de lenguaje para mejorar la eficiencia energética es crucial, y los modelos de lenguaje pequeños (Small Language Models) ofrecen una solución prometedora para reducir las demandas de recursos. Objetivo. Nuestro objetivo es analizar el impacto de los runtime engines y los execution providers de aprendizaje profundo en el consumo de energía, el tiempo de ejecución y la utilización de recursos computacionales desde el punto de vista de los ingenieros de software que realizan inferencias en el contexto de los modelos de lenguaje pequeños de código. Método. Realizamos un pipeline experimental orientado a tecnología, de varias etapas, utilizando doce modelos de lenguaje pequeños de generación de código para investigar el consumo de energía, el tiempo de ejecución y la utilización de recursos computacionales en las distintas configuraciones. Resultados. Surgieron diferencias significativas entre las configuraciones. Las configuraciones con el execution provider CUDA superaron a las configuraciones con el execution provider CPU tanto en consumo de energía como en tiempo de ejecución. Entre las configuraciones, TORCH combinado con CUDA demostró la mayor eficiencia energética, logrando ahorros de energía desde el 37.99% hasta el 89.16% en comparación con otras configuraciones. De manera similar, runtime engines optimizados como ONNX con el execution provider CPU lograron ahorros de energía desde el 8.98% hasta el 72.04% dentro de configuraciones basadas en CPU. Además, TORCH combinado con CUDA mostró una eficiente utilización de los recursos computacionales. Conclusiones. La elección de la configuración de servicio impacta significativamente en la eficiencia energética. Aunque se necesita más investigación, recomendamos las configuraciones mencionadas anteriormente como las más adecuadas a los requisitos de los ingenieros de software para mejorar la eficiencia del servicio en términos de energía y rendimiento.