¿Por qué desarrollar e implementar tecnología basada en IA en estaciones de trabajo tiene sentido?
Actualmente, muchas empresas trabajan intensamente en iniciativas de IA, incluida la IA generativa que no requiere superordenadores. De hecho, gran parte del desarrollo en IA (y, cada vez más, las implementaciones de IA, principalmente en entornos EDGE computing o computación en el borde)
se ejecuta en realidad en potentes estaciones de trabajo. Las estaciones de trabajo comportan numerosas ventajas para el desarrollo y la implementación de las tecnologías de IA. Gracias a ellas, los científicos o desarrolladores de IA ya no tienen que negociar el tiempo del servidor; además, ofrecen aceleración de la GPU y aunque las GPU basadas en servidor todavía no están fácilmente disponibles en el centro de datos, son muy asequibles en comparación con los servidores, ya que el gasto es único e inferior al no estar sujetas a una facturación que se incrementa velozmente. Tampoco se puede soslayar la comodidad de saber que los datos confidenciales se encuentran almacenados de forma totalmente segura en el entorno local. De esta manera, desarrolladores y científicos se liberarán del estrés que supone acumular costes por simplemente experimentar con
modelos de IA.
IDC observa que estos entornos EDGE computing se expanden más rápido que el entorno local o la nube como escenario para la implementación de tecnologías de IA. A este respecto, la función de las estaciones de trabajo como plataformas de inferencia de IA es también cada vez más importante y, en muchas ocasiones, basta con realizar la inferencia en CPU optimizadas por software en lugar de en GPU. Los casos de uso de inferencia de IA en estaciones de trabajo en entornos EDGE aumentan velozmente e incluyen AIOps, respuesta ante desastres, radiología, explotación de crudo y gas,
ordenación territorial, atención médica virtual, gestión del tráfico, supervisión de plantas de fabricación y drones, Desarrollada por NVIDIA RTX GPUs.