Las tarjetas criptográficas de Nvidia ahora se utilizan para inferencia
Las tarjetas criptográficas de Nvidia ahora se utilizan para inferencia
Las tarjetas criptográficas de Nvidia han sido reutilizadas para inferencia tras la explotación de una vulnerabilidad en sus controladores, mejorando significativamente su rendimiento.
Las tarjetas criptográficas de Nvidia ahora se utilizan para inferencia
En 2021, Nvidia lanzó una serie de tarjetas CMP HX170 muy recortadas basadas en el chip A100 para minería. Nominalmente, tenían 8 o 10 gigabytes de memoria con un poder computacional reducido en 32 veces, pero con el ancho de banda de memoria completo necesario para la minería. Después de que Ethereum hiciera la transición a un algoritmo de prueba de participación, estas tarjetas se volvieron casi inútiles.
Sin embargo, a finales de junio, apareció un artículo que describía la eliminación de algunas restricciones a través de una vulnerabilidad en los nuevos controladores de Nvidia. Los autores no publicaron el código, pero en unas pocas semanas, la vulnerabilidad fue replicada de forma independiente, lo que llevó a la creación de cmpunlocker.
Las tarjetas de 10 gigabytes se convirtieron en tarjetas de 40 (o incluso 80) gigabytes, mientras que las tarjetas de 8 gigabytes se convirtieron en tarjetas de 64 gigabytes. El problema es que no se podían quitar los chips HBM sin reducir el ancho de banda, por lo que Nvidia simplemente bloqueó el 80% de la memoria a través de software. Los hackers también lograron eliminar las limitaciones de cálculo. El principal problema restante es que PCIe está limitado a la versión 2.0 y físicamente solo x4, pero los entusiastas ya están tratando de arreglar esto.
Como resultado, los afortunados que lograron comprar las tarjetas antes del aumento de precios por 100-200 dólares obtuvieron una A100 casi completa a un precio muy bajo, especialmente considerando la crisis actual. Ahora los precios han aumentado, y comprarlas a 5-10 veces el precio original ya no tiene sentido.
¿Hay propietarios de tales tarjetas entre los suscriptores del canal? ¿Cuáles son sus impresiones?
Por qué es importante
AnálisisEsta noticia es significativa ya que ilustra cómo las vulnerabilidades en el software pueden alterar drásticamente el mercado de tarjetas gráficas. También destaca la importancia de la seguridad en las tecnologías relacionadas con las criptomonedas.
Debatir en la comunidad
Comparte tus preguntas e ideas con desarrolladores
Relacionado en el ecosistema
Guías prácticas, terminología y skills de agentes
Monopolio de Nvidia y la Plataforma CUDA
Análisis del dominio tecnológico y económico de Nvidia en el mercado de inteligencia artificial. La plataforma CUDA (Compute Unified Device Architecture), creada en 2006, transformó las tarjetas gráficas de juegos en la principal herramienta computacional del planeta, dificultando a los competidores (AMD, Intel) romper esta monopolio.
Memoria de Video (VRAM) para IA
La memoria de video (Video RAM) de la GPU se utiliza para cargar los pesos de la red neuronal y la ventana de contexto. Es el principal cuello de botella de hardware: si el modelo no cabe en la VRAM, no se ejecutará o funcionará decenas de veces más lento en una CPU convencional.
Anthropic lanza FlashProve en open source, una herramienta para inferencia demostrable
Anthropic publicó un prototipo de protocolo criptográfico abierto llamado FlashProve que permite verificar una respuesta de modelo sin acceso a los pesos del modelo.
Anthropic presenta FlashProve para inferencia demostrable de IA
Anthropic ha presentado FlashProve, un prototipo que permite verificar matemáticamente que una respuesta fue generada por un modelo de IA concreto sin revelar los pesos del modelo.