Aunque la mayoría de los clientes optarán por algo menos sofisticado que el Superchip, los compran al por mayor para conectarlos en un servidor de IA masivo y ahí es donde realmente surge el hambre de electricidad. Un estudio publicado el año pasado analizó el consumo de energía requerido. para entrenar un único modelo de lenguaje grande utilizado para generar texto en múltiples idiomas.
BLOOM de la startup HuggingFace utilizó 176 mil millones de parámetros de 1,6 terabytes de datos. Según los autores del estudio, un grupo de 384 procesadores gráficos Nvidia A100 (GPU) tardó más de 118 días en funcionar. Estimaron que el consumo de electricidad derivado del funcionamiento de tantas GPU durante tanto tiempo probablemente generó 24,7 toneladas métricas (54.000 libras) de dióxido de carbono. Pero el costo actual se duplica a 50,5 toneladas si se tienen en cuenta las conexiones de crimson y el tiempo de inactividad de todo el sistema.
Incluso entonces, entrenar un modelo es sólo el comienzo. Según una estimación de Amazon.com Inc., que administra sus propios servidores de inteligencia synthetic, el 90% del gasto generado por la ejecución de inteligencia artificial se make en la siguiente fase, cuando los usuarios consultan el modelo para obtener resultados, como pedirle a ChatGPT recetas de pasteles de chocolate. . El gasto de energía necesario para implementar los datos, llamado inferencia, es difícil de calcular, pero se cree que es aproximadamente 10 veces mayor que el requerido en la primera fase de entrenamiento, lo que significa 500 toneladas de CO2. Y una sola consulta de IA generativa puede tener una huella de carbono cuatro veces mayor que una búsqueda en Google, según una estimación.
El procesamiento de números por fuerza bruta está integrado en el diseño de Bitcoin y ayuda a explicar por qué se implementó una ola de semiconductores y servidores en todo el mundo con la esperanza de extraer oro digital. Un estudio en curso en la Universidad de Cambridge estima que Bitcoin es responsable de 72,5 millones de toneladas de dióxido de carbono. Esa cifra podría ser tan baja como 3 millones de toneladas si todas las minas de Bitcoin funcionaran con energía hidroeléctrica.(1) En comparación con el despilfarro de las criptomonedas, 500 toneladas de dióxido de carbono de una sola ronda de entrenamiento y despliegue parecen nada. Sin embargo, sigue siendo equivalente a conducir un millón de millas en un automóvil propulsado por gasolina o 500 vuelos de Nueva York a Frankfurt.
Y aún es pronto. Al menos una docena de importantes empresas de tecnología se están apresurando a construir e implementar productos de IA generativa, incluidas Amazon.com, Alphabet Inc., Microsoft Corp., OpenAI, Meta Platforms Inc., Baidu Inc., Tencent Holdings Ltd. y Alibaba Group Holding. Ltd. Dado que todos están en una carrera para superarse unos a otros, no se quedarán quietos una vez que se haya entrenado a un modelo Seguirán comprando procesadores que consumen mucha energía para analizar cantidades cada vez mayores de datos. Una vez hecho esto, competirán entre sí para ofrecer los resultados a los consumidores en forma de ensayos universitarios, movies deepfake y versiones sintéticas de la música de Pink Floyd.
Para colmo de males está el hecho de que, en la actualidad, la mayor parte del entrenamiento de IA funciona con combustibles fósiles. Estas granjas de servidores se han expandido rápidamente en ubicaciones existentes, a menudo a miles de kilómetros de distancia de represas hidroeléctricas o paneles de energía photo voltaic. Dado que la latencia de la purple es un problema al responder a las solicitudes de Web, deben estar cerca del usuario closing y no a miles de kilómetros de distancia.
Pero Bitcoin ya ha abierto un camino a seguir por la industria de la IA. Los climas fríos con abundante energía renovable se convirtieron en el lugar perfecto para instalar una mina de criptomonedas hambrienta de energía, y el aire ártico y la abundante energía térmica de Islandia hacen del país una opción best. China también puede encontrar un nuevo uso para las numerosas centrales hidroeléctricas que atrajeron plataformas mineras, pero que perdieron negocio después de que Beijing tomó medidas enérgicas contra la moneda electronic. Los proveedores extranjeros de IA no podrán acceder, naturalmente, pero los gigantes tecnológicos chinos saben que tienen ese recurso cerca a medida que aumentan sus necesidades de energía.
Hay otra ventaja de cambiar Bitcoin por IA en estas granjas de servidores. Si bien la criptomoneda atrajo a numerosos especuladores y miles de millones de dólares en inversiones, aún así no logró agregar mucho valor al mundo. La inteligencia synthetic generativa no tiene ese problema solo pregúntale a ChatGPT.
Más de la opinión de Bloomberg:
• Trazando el ascenso de 30 años de Nvidia hacia el dominio de la IA: Tim Culpan
• Construir una central eléctrica sin gastar un centavo: David Fickling
• Por qué no todos los créditos de carbono son iguales: Lara Williams
(1) Los investigadores tienden a utilizar el término equivalente de CO2, teniendo en cuenta la emisión de otros gases de efecto invernadero que luego se convierte en una medida equivalente de dióxido de carbono.
Esta columna no refleja necesariamente la opinión del consejo editorial o de Bloomberg LP y sus propietarios.
Tim Culpan es columnista de opinión de Bloomberg que cubre tecnología en Asia. Anteriormente, fue reportero de tecnología para Bloomberg News.
Más historias como esta están disponibles en Bloomberg.com/opinion
