¿Qué significa el éxito de Deepseek para NVIDIA y un costoso crecimiento de AI impulsado por la GPU?

La primera víctima importante del éxito de la nueva empresa de inteligencia artificial china (AI) Deepseek ha resultado ser Nvidia, cuyas acciones cayeron un 17 por ciento el lunes en medio de temores de que las innovaciones de la empresa con sede en Hangzhou pudieran reducir la dependencia de la industria de las chips avanzados de la empresa estadounidense. Mientras que Nvidia se recuperó en el comercio previo el martes, los analistas notaron un cambio en la percepción del papel de la compañía en el costoso desarrollo de IA impulsado por unidades de procesamiento de gráficos (GPU), amenazando a uno de los titanes tecnológicos más valiosos del mundo.
¿Qué ha logrado Deepseek?

 

 

Deepseek afirma haber capacitado previamente su modelo V3 en solo 2,048 GPU NVIDIA H800 durante un período de dos meses, con cada chip que cuesta alrededor de US $ 2 por hora para funcionar. El costo total de capacitación para el modelo V3 fue de US $ 5.5 millones, con 2.8 millones de horas de GPU, mucho menos que los modelos rivales. Mientras tanto, su modelo de razonamiento de código abierto, R1, lanzado a principios de este mes, ha demostrado capacidades comparables a las de los modelos más avanzados de OpenAI, Anthrope y Google, pero con costos de capacitación significativamente más bajos.

 

¿Deepseek demuestra que los chips nvidia no son indispensables?

 

Aún no. En una entrevista de 2023 con los medios de comunicación chinos LatePost, el fundador de Deepseek, Liang Wenfeng, dijo que la compañía había construido gradualmente una reserva de más de 10, 000 GPU NVIDIA, lo que lo convirtió en uno de los principales propietarios de los recursos informáticos entre las nuevas empresas chinas de IA. En una entrevista en julio de 2024, Liang dijo que el principal problema de la compañía no era el dinero, sino el acceso a chips avanzados estadounidenses que están restringidos de la exportación a China, destacando la importancia del hardware.

 

Si bien los modelos Deepseek han entregado resultados impresionantes, la falta de acceso de la compañía a los principales aceleradores de IA, como los mejores productos de Nvidia Hopper y Blackwell, podría desafiar su capacidad a largo plazo para mantenerse al día en el rendimiento del modelo de gran lengua con los compañeros de EE. UU.

Nvidia respondió el lunes a la exageración generada por la firma de IA china, diciendo que sus avances muestran la utilidad de sus GPU para el mercado chino y que se necesitarían más de sus chips en el futuro para satisfacer la demanda de los servicios de Deepseek.

 

¿Deepseek está utilizando alternativas locales para entrenar sus modelos?

 

Una de las áreas más vigiladas del avance de la IA de Deepseek es si está utilizando semiconductores fabricados en China en su entrenamiento. Ha habido signos de que parte de su configuración de hardware incluye los chips ASCEND AI ASCEND de Huawei Technologies, una alternativa superior a los chips Nvidia en China. ¿Cuáles son las señales?

¿Pueden las empresas estadounidenses de IA aprender de Deepseek para reducir los costos?

 

Si las grandes compañías tecnológicas de EE. UU. Comenzaran a aprender de Deepseek y optar por soluciones de IA más baratas, podría ejercer presión sobre NVIDIA. Wei Sun, analista principal de AI en la investigación de contrapunto, dijo que la venta de Nvidia refleja las percepciones cambiantes en el desarrollo de la IA.

"El éxito de Deepseek desafía la creencia de que los modelos más grandes y más potencia informática generan un mejor rendimiento, lo que representa una amenaza para la estrategia de crecimiento impulsada por la GPU de NVIDIA", dijo.