Microsoft ha creado una herramienta que permite resolver una duda que todos nosotros hemos podido tener alguna vez: ¿A dónde va la VRAM de nuestra GPU exactamente? Se llama GPU Taskman y es de código abierto.
GPU Taskman te permite monitorizar en tiempo real el uso de tu VRAM
Concretamente, ha sido Scott Hanselman, vicepresidente y miembro del personal técnico en Microsoft y GitHub, quien ha desarrollado esta utilidad de código abierto. Su gran atractivo es que lleva la monitorización de la VRAM a un nivel mucho más profundo que las herramientas que había hasta la fecha.
Por ejemplo, el Administrador de tareas de Windows muestra estadísticas de memoria GPU por proceso. No obstante, GPU Taskman combina en una sola interfaz el consumo de VRAM, la memoria del sistema accesible por GPU, la actividad individual de cada proceso y telemetría de hardware como temperatura, consumo energético, frecuencias de reloj, actividad de memoria y estadísticas PCIe. Además, es capaz de distinguir entre tipos de carga de trabajo, lo que ofrece un control total.
Esta herramienta será muy interesante de cara a los modelos de IA locales, ya que puede identificar los modelos compatibles y desglosar el consumo entre los pesos del modelo, la caché KV y los búferes de cálculo. Ahora mismo, la herramienta es capaz de reconocer entornos como llama.cpp, Ollama o LM Studio, por lo que tiene un valor importante en este sector.
Además, la herramienta también puede servir de apoyo para aquellos que tengan un PC Gaming. Especialmente porque permite controlar cuando existan picos de consumo de VRAM, lo que puede traducirse en problemas de stuttering. En este sentido es un avance enorme, ya que hasta la fecha no podíamos ver de manera precisa cómo se comportaba la VRAM en este sentido.
Te recomendamos las mejores tarjetas gráficas del mercado.
A pesar de que se encuentra en fase experimental, y que necesita ciertas validaciones adicionales dependiendo del hardware, GPU Taskman es compatible tanto con GPUs NVIDIA como AMD, y se puede instalar en Windows 10 y 11, Linux, macOS, WSL y sistemas Apple Silicon. Por tanto, presenta una gran compatibilidad a pesar de que se encuentra en su versión 0,35. Sin duda alguna, será interesante ver que podrá conseguir si la herramienta avanza a buen ritmo.
