Cuando hablamos de inteligencia artificial y computación de alto rendimiento (HPC), las computadoras deben lidiar con cantidades masivas de datos lo que puede provocar que la memoria del hardware, como tarjetas de vídeo y aceleradores, sea insuficiente.
Con esto en mente, una startup llamada Panmnesia desarrolló una nueva técnica que permite que las tarjetas de video utilicen la memoria del sistema a través del estándar Compute Express Link (CXL). Con esto, la tarjeta de video puede utilizar DRAM o incluso un SSD como extensión de su propia memoria, garantizando un mayor rendimiento.
Oh CXL es un protocolo que funciona sobre PCI Express (PCIe), pero necesita ser compatible con cada circuito integrado y su subsistema. Esto significa que añadirlo a un ordenador no es tan sencillo como simplemente integrar un controlador CXL, ya que no existen mecanismos que soporten puntos DRAM o SSD en las GPU.
Otro problema es que los subsistemas de memoria y caché del procesador gráfico no reconocen expansiones distintas a su propia memoria virtual unificada, que no proporciona el rendimiento requerido para AI o HPC.
Tecnología26 de junio
Samsung12 mayo
A la luz de estos problemas, Panmnesia desarrolló “CXL GPU Image”, un sistema compuesto por varias capas de hardware que admiten todas las versiones principales del protocolo CXL, integrándolas en un controlador unificado que puede acceder a la memoria externa a través de PCI Express.
Una de las principales ventajas de esta tecnología es la latencia mínima, medida en unas pocas decenas de nanosegundos, que es incluso más rápida que las velocidades de los SSD convencionales. En las pruebas que ejecutaron el núcleo de gráficos, la tecnología mostró tiempos de ejecución de hasta 3,22 veces más rápida que la memoria virtual unificada GPU.
Con CXL, se espera que haya un aumento importante del rendimiento en el procesamiento de inteligencia artificial y aplicaciones HPC, como la investigación científica y grandes datos. Sin embargo, aún son necesarias evaluaciones de su eficiencia y viabilidad.
¡Ver más!
