El creciente papel de la industria de circuitos integrados en la sostenibilidad

Las enormes necesidades de energía de los sistemas de IA están poniendo de relieve la sostenibilidad en el ecosistema de los semiconductores. La industria de los chips necesita poder producir semiconductores más eficientes y de menor potencia. Pero las demandas de una mayor velocidad de procesamiento están aumentando con el uso generalizado de grandes modelos de lenguaje y el aumento general de la cantidad de datos que deben procesarse. Gartner estima que el 50% de las organizaciones adoptarán un monitoreo basado en la sostenibilidad para 2026 para gestionar el consumo de energía y las métricas de la huella de carbono para sus entornos de nube híbrida. Esto es necesario, dado que es probable que el 40% de los centros de datos tengan limitaciones de energía para 2027, según la empresa.

 

Los semiconductores pueden contribuir a la sostenibilidad si se diseñan correctamente. Esto es cierto incluso para los chips AI/ML diseñados para un rendimiento máximo, siempre que puedan realizar cálculos más rápidamente utilizando algoritmos más dispersos. Esto da como resultado una reducción general en la cantidad de energía consumida. Aquí es donde entran en juego los aceleradores personalizados. Pueden proporcionar mejoras significativas en comparación con los procesadores de uso general, que a menudo trabajan en conjunto.

 

La creciente huella de la IA

La informática está presente en todas partes y es necesario que toda ella sea más eficiente. Las ciudades inteligentes, las infraestructuras inteligentes y el transporte inteligente no son posibles sin tecnología inteligente, y cada vez más esto es posible gracias a la IA. A medida que la IA se afianza más, el ecosistema de semiconductores intenta minimizar su impacto en los recursos.

 

Los centros de datos actuales ya consumen enormes cantidades de energía. A nivel mundial, se necesitan 460 teravatios-hora (TWh) de electricidad al año. Esto equivale a toda la cantidad de energía producida por Alemania. En Estados Unidos, el consumo de electricidad de los centros de datos fue el 2,5 % del total de EE. UU. (~130 TWh) en 2022, y se espera que se triplique hasta el 7,5 % (~390 TWh) para 2030, según Boston Consulting Group. Eso es el equivalente a la electricidad utilizada por unos 40 millones de hogares estadounidenses, o casi un tercio del total de hogares en Estados Unidos.

"La IA tiene el potencial de superar todas las innovaciones transformadoras creadas en el siglo pasado", dijo Imran Yusuf, director de ecosistemas de hardware del Arm's Infrastructure Group. "Pero las demandas de energía de la computación de IA son significativas y, a medida que las empresas se apresuran a desarrollar sus capacidades de IA, corren el riesgo de superar sus propios objetivos de sostenibilidad. Los futuros modelos de IA seguirán haciéndose más grandes y más inteligentes, alimentando la necesidad de más computación, lo que aumenta demanda de energía como parte de un círculo virtuoso, sin electricidad, sin IA ¿Cómo equilibramos la necesidad de electricidad con la necesidad de seguir impulsando la revolución de la IA encontrando formas de reducir los requisitos de energía para los grandes centros de datos? Sistemas informáticos de IA."

 

Otros están de acuerdo. "Todo se reduce a ser más eficiente en el diseño", afirmó Neil Hand, director de marketing de Siemens EDA. "Se puede observar cualquier algoritmo. Hay órdenes de eficiencia. El enfoque más ineficiente desde una perspectiva energética es ejecutar el código sin formato en un procesador de uso general y dejarlo funcionar, y tostar algunos malvaviscos sobre la CPU porque se está yendo". para entrar en calor."

Un bastidor de servidores basado en GPU NVIDIA Grace Blackwell requiere 120 kilovatios. Pero también son 1000 veces más capaces que las generaciones anteriores, lo que equivale a 500 veces más cálculo por unidad de potencia, según Rich Goldman, director de Ansys. "Si construyes un centro de datos de CPU y quieres realizar una gran cantidad de computación, puedes reemplazar las CPU con las GPU más modernas y reducir mucho el consumo de energía para obtener las mismas capacidades informáticas. Todavía vamos a tener enormes problemas de energía". Porque con la IA estamos haciendo más computación, pero eso ayudará".

 

Hand considera que el hardware especializado para IA del tipo Grace Blackwell es el siguiente paso en el desarrollo, pero añade que se puede hacer mucho más porque siguen siendo chips de uso general. Dijo que es posible construir chips de IA más eficientes destinados a clasificar y trabajar con una clasificación amplia.

 

"Esto es lo que vemos que hace NVIDIA, esto es lo que vemos que hacen Google y muchos proveedores de nube", señaló Hand. "Hay niveles de eficiencia que podemos lograr para permitir que esos chips se produzcan de manera más eficiente y para permitir todo lo relacionado con la sostenibilidad que conlleva eso. Luego, puedes ir un paso más allá con nuevas tecnologías que toman un modelo de IA completamente entrenado. y convertirlo en hardware. Eso será lo más eficiente que puedas ser, y usará una fracción de la energía que estás encerrada en ese punto, entonces tendrás que enfrentar el desafío de que la IA se está acelerando. y cambiando tan rápidamente. ¿Cuánto se puede bloquear? Estamos viendo esto con los anuncios recientes de Intel y Qualcomm sobre sus CPU móviles, y Apple ha estado haciendo esto durante un par de generaciones. Ahora tienes las TPU o las NPU. cualquier red neuronal que quieras tener en el chip, y habrá ese continuo".

 

Steve Roddy, director de marketing de Quadric, estuvo de acuerdo. "Las fuerzas que impulsan la explosión de los modelos AI/ML tienen un alcance enorme. La ola generativa de AI está cambiando la forma en que trabajan los individuos y las corporaciones; posiblemente impactando millones de empleos en todo el mundo. El ecosistema de semiconductores/EDA/IP no puede doblar razonablemente la curva de progreso en la evolución de modelos masivos de IA que está siendo impulsado por cientos de miles de millones de dólares de inversión por parte de titanes tecnológicos anualmente, pero las industrias de semiconductores y propiedad intelectual pueden ayudar a mostrar el camino para reducir radicalmente la huella de consumo de energía que supone el funcionamiento de esos modelos GenAI durante el día. -Uso de inferencia actual ".

 

El mayor desafío de sostenibilidad para la inferencia GenAI es la conversión de modos a formatos cuantificados enteros de menor consumo de energía. "Los equipos de ciencia de datos que crean modelos GenAI aparentemente no se dan cuenta del hecho de que los modelos de referencia que publican en formato de punto flotante consumen 10 veces más energía por inferencia en comparación con el mismo modelo convertido a formatos enteros (comparando un punto flotante de 32b con acumulación múltiple versus un modelo de 8). x 8 o 4 x 8 entero MAC)", dijo Roddy. "Ya sea que la inferencia se realice en el centro de datos o en el dispositivo, el ahorro de energía (y los beneficios resultantes para la sostenibilidad) de la conversión a formatos enteros de menor consumo son sustanciales. Esta brecha existe hoy porque los científicos de datos que crean nuevos modelos GenAI son matemáticos, no integrados. ingenieros."

 

Avances tecnológicos

Cuando el equipo de diseño decida que es hora de pasar al hardware, aunque los algoritmos de IA estén avanzando tan rápido, habrá cierta estabilidad, dijo Hand. "Es un poco como cuando entramos en la evolución de las TPU, NPU y XPU. En general, no fueron muy viables durante un tiempo porque los componentes básicos cambiaban con mayor regularidad. Pero en los últimos años, esas funcionalidades principales Se han estabilizado para que ahora se pueda crear hardware más eficiente desde el punto de vista energético. Será lo mismo aquí a medida que las cosas comiencen a estabilizarse. Siempre habrá nuevas innovaciones. Siempre habrá algoritmos mucho más potentes que necesitarán nuevo hardware. Probablemente siempre terminemos usando más de lo que decimos porque los centros de datos son un gran consumidor de energía, pero ¿qué compensan? Esa es la pregunta desde una perspectiva de productividad. ¿Nos permiten hacer cosas que de otro modo no podríamos hacer? Pero mucho de eso es simplemente si se trata de un chip de IA complejo o de cualquier tipo de chip. Los aspectos de EDA son más o menos los mismos.

 

Otra consideración es cómo generar suficiente energía para el centro de datos. ¿Cómo se colocan estos centros de datos en lugares donde no hay suficiente energía? "Veremos centros de datos con más frecuencia en lugares que tienen un excedente de energía, y los países que tienen un excedente de energía se convertirán en centros de centros de datos", dijo Goldman. "Ubicarán el centro de datos allí y luego generarán el conocimiento que se obtiene de esa energía".

 

Esto irá acompañado de nuevas y novedosas fuentes de poder. "Hemos oído hablar de miniplantas de energía nuclear para alimentar centros de datos individuales y de aplicaciones como colocarlas encima de pozos de petróleo para que el metano que ahora va al aire y lo contamina, podamos quemarlo y generar energía a partir de él. aquellos para operar los centros de datos", afirmó Goldman. "Tenemos que ser novedosos como ese para poder alimentar estos centros de datos".

 

Parte integrante del debate sobre la sostenibilidad de la IA es la eficiencia del centro de datos, donde existe un conflicto continuo entre la potencia necesaria para mover los datos y hasta dónde realmente deben moverse esos datos. "Vemos gente construyendo procesadores muy grandes a partir de chiplets, y parte de eso se debe a que, si bien saben que podrían construir un sistema equivalente a partir de dos chips conectados a través de un bus, mover los datos entre ellos va a costar mucho". de poder", explicó Steven Woo, colega y distinguido inventor de Rambus. "Cuanto más se juntan las cosas, menos distancia tienen que recorrer los datos y menos energía se gasta para moverlos. Pero luego el problema es que la densidad de energía aumenta. Hay que entregar más energía, y hay que Enfríe la cosa. Entonces, el tira y afloja es, ¿cómo enfrío esta cosa? Estoy ahorrando algo de energía al no tener los chips separados entre sí, pero ahora tiene que entregar más energía a ese volumen, y tú. "Tengo que enfriarlo. Ese es el tira y afloja que enfrentan ahora los arquitectos a nivel de sistema".

 

A nivel de centros de datos, cada vez se utilizan más técnicas avanzadas de refrigeración en los servidores. "Cada vez más gente habla de refrigeración líquida, incluidas las placas frías", dijo Woo. "Google ha estado haciendo esto y NVIDIA ha estado hablando de ello para Grace Blackwell. Esa es la tecnología que algunas de las supercomputadoras usan hoy en día, y no es una tecnología nueva o extranjera. Es solo cuestión de tiempo antes de que lo veamos como omnipresente. Probablemente habrá algunos sistemas refrigerados por aire en el futuro previsible, pero veremos más sistemas que adoptarán algún tipo de líquido bombeado con un sistema de refrigeración de dos fases".

 

En el extremo de este enfoque se encuentra el enfriamiento por inmersión. "Esta puede no ser una solución viable de enfriamiento de servidores de centros de datos en el corto plazo, pero podría serlo si nos quedamos sin espacio para los líquidos canalizados", añadió. "Una vez que eres capaz de controlar el calor con un líquido, o algo así, entonces puedes limitar el rango de temperatura por el que pasa un chip, lo que significa que si realiza un ciclo térmico, es posible que no alcance temperaturas extremas. Eso es bueno , porque entonces no tienes la expansión y contracción térmica en este rango más grande, y algunas de las otras fallas relacionadas con la confiabilidad se alivian un poco".

 

El análisis de big data también desempeña un papel en la sostenibilidad al identificar tendencias en el diseño de chips en función del uso del centro de datos. "Hay todo un tren de poder", dijo Adam Cron, distinguido arquitecto de Synopsys. "Las preocupaciones están en el nivel del troquel. Luego está la placa en la que está, el bastidor en el que está, la granja en la que está, y luego regresa hasta las líneas de transmisión. Y lo que a los administradores de centros de datos les gusta ver es un Bonita quilla pareja. No balancees demasiado el barco, porque si quieres mucho aquí, entonces tendrás que bajar allí, o viceversa".

 

Lo ideal sería que la energía se redujera en todas partes. "Los centros de datos utilizan entre el 1 y el 2% de la electricidad mundial, y están en un curso intensivo para utilizarla toda", dijo Cron.

 

Vínculos entre rendimiento y capacidad de fabricación

Existe un vínculo interesante entre el esfuerzo por fabricar semiconductores sostenibles y el rendimiento y la capacidad de fabricación, señaló Hand de Siemens. "Estos chips son cada vez más grandes. Por lo tanto, el rendimiento se convierte en un problema mayor. Cuanto más podamos hacer con el rendimiento, mejor podremos ser para la sostenibilidad, porque un dado muerto es un desperdicio de recursos. Un buen dado siempre es algo mejor ¿Qué podemos hacer allí? Hay mucho trabajo que hacemos en el ecosistema de semiconductores EDA para mejorar el rendimiento. Irónicamente, algunas de ellas utilizan IA para obtener un mejor rendimiento, y es una interacción fascinante. El costo de sostenibilidad de la IA y la oportunidad de sostenibilidad de la IA y cómo funcionan juntos. En términos generales, es un resultado neto positivo. Pero no sé si se puede medir, porque es difícil encontrar datos sin procesar. dice lo que cuesta entrenar estos modelos. Es costoso usarlos, pero ¿cómo se miden los conocimientos? Probablemente sea necesario un trabajo de doctorado para intentar calcular ese impacto. y las tecnologías de inteligencia artificial se pueden aprovechar aquí. Es simplemente EDA haciendo lo suyo".

 

El análisis térmico y el envejecimiento también influirán en la sostenibilidad del centro de datos de IA. Por supuesto, esto no es exclusivo de la IA. Se aplica a todos los chips", dijo Hand. "Puede comenzar a comprender cuáles son las térmicas en el nivel del troquel, en el nivel del subtroquel, para comprender las implicaciones. Ahora bien, ¿puedo armar una pila 3D y hacer que sea confiable? ¿Puedo ejecutar estas cosas a un nivel de potencia suficiente para no acelerar su desaparición? Estas capacidades nos permitirán llegar aún más lejos. Además, a medida que comencemos a ampliar la definición de gemelo digital y comencemos a ampliar lo que se incluye en él, podrán comenzar a ver los impactos a nivel del sistema. Y aunque no es específico de la IA y la sostenibilidad, es donde comenzaremos a ver grandes saltos en la eficiencia porque ¿cuánto hay sobre ingeniería en este momento? ¿Cuánto tiene demasiados residuos en su interior? Una vez que podamos comenzar a tener un diseño más consistente a nivel de producto y a nivel de problema, también habrá beneficios. Volviendo a la IA específicamente, para llegar a verdaderos gemelos digitales integrales de múltiples dominios, la IA será necesaria porque la IA hará el análisis entre dominios por usted y la extracción del modelo sustituto y la adaptación automática de la fidelidad. Habrá todos esos. Cuanta más IA necesitamos, más IA utilizamos".

 

Conclusión

La sostenibilidad no es un tema nuevo, pero siempre fue un tema de discusión futura. Ese ya no es el caso.

"Los proveedores de hardware y software han entendido durante años que la escalabilidad y la sostenibilidad de la computación podrían estar en curso de colisión con la realidad, pero no tienen por qué estarlo si la industria aprovecha las capacidades de su ecosistema", dijo Yusuf de Arm. "Tomemos a Arm Total Design, por ejemplo, que es un ecosistema de empresas líderes de toda la industria de semiconductores dedicadas a permitir soluciones de silicio eficientes y personalizadas para casos de uso de IA/ML. Como tal, proporciona a los socios acceso preferencial a los subsistemas de computación Arm Neoverse. (CSS), herramientas IP y EDA preintegradas, servicios de diseño, soporte de fundición y soporte de software comercial. También representa una nueva mentalidad que fomenta la colaboración, la flexibilidad y la innovación, al tiempo que comprende que la era de la IA debe coexistir. con objetivos globales de sostenibilidad."

 

Lo que ha cambiado es que la sostenibilidad ha pasado de ser "bueno tener" a "imprescindible". Desde su perspectiva como líder de la industria, Intel ha creado Siete consejos para utilizar la IA sin el alto costo ambiental. Además, Intel cree que ser intencional en la forma en que se implementa la IA en el diseño es clave para lograr los objetivos de sostenibilidad. Con intencionalidad, quienes ejecutan iniciativas de IA pueden cosechar los beneficios de cargas de trabajo optimizadas (consulte aquí para obtener más información), y un enfoque proactivo para el diseño de proyectos y la gestión de TI es fundamental para maximizar el impacto de las iniciativas de IA y minimizar la huella de carbono (consulte aquí para obtener más información). casos de uso).

 

Básicamente, reducir el impacto de la IA en la sostenibilidad dependerá de la tecnología misma. Roddy de Quadric dijo que el ecosistema de semiconductores puede ayudar "aumentando la conciencia general sobre la necesidad de utilizar formatos de datos de menor precisión, así como construyendo más herramientas automatizadas para cerrar la brecha entre matemáticos e ingenieros integrados".