OpenAI comenzó a usar TPUs de Google, reduciendo dependencia de Nvidia

Post Thumbnail

OpenAI comenzó a usar las Unidades de Procesamiento Tensorial TPU de Google para apoyar ChatGPT y servicios relacionados. Este es un paso serio de la empresa hacia reducir la dependencia de la infraestructura de Microsoft y el monopolio de Nvidia.

¿Qué hay detrás de esta decisión? OpenAI está alquilando capacidad de Google Cloud con la mira puesta en recortar costos de inferencia. Ese mismo proceso cuando el modelo genera respuestas a nuestras consultas. Hasta este momento, la empresa dependía exclusivamente de procesadores gráficos Nvidia a través de asociaciones con Microsoft y Oracle.

Matiz interesante. ¡Google no ofrece a OpenAI sus versiones TPU más poderosas! El gigante tecnológico guardó los aceleradores top para uso interno, incluyendo el desarrollo de sus propios modelos de lenguaje del proyecto Gemini. Pero incluso el acceso a versiones TPU anteriores es un movimiento estratégico para OpenAI. Bajo condiciones de creciente escasez de chips de IA.

La pregunta permanece abierta hasta ahora: ¿usará OpenAI TPU solo para inferencia? ¿O se aventurará a entrenar sus modelos en esta plataforma? En cualquier caso, la infraestructura computacional híbrida le da a la empresa más capacidad de maniobra para escalar bajo condiciones de competencia feroz.

¡Parece que el monopolio de Nvidia en el mercado de inteligencia artificial está comenzando a erosionarse gradualmente!

Почитать из последнего
UBTech enviará robots Walker S2 a servir en la frontera de China por $37 millones
La compañía china UBTech ganó un contrato por $37 millones. Y enviará robots humanoides Walker S2 a servir en la frontera de China con Vietnam. South China Morning Post informa que los robots interactuarán con turistas y personal, realizarán operaciones logísticas, inspeccionarán carga y patrullarán el territorio. Y característicamente — pueden cambiar su batería de forma autónoma.
Anthropic reveló accidentalmente un documento interno sobre el "alma" de Claude
Anthropic reveló accidentalmente el "alma" de la inteligencia artificial a un usuario. Y esto no es una metáfora. Este es un documento interno bastante específico.
Jensen Huang ordenó a los empleados de Nvidia usar IA en todas partes
Jensen Huang anunció una movilización total bajo la bandera de la inteligencia artificial dentro de Nvidia. Y esto ya no es una recomendación. Esto es un requisito.
Los chatbots de IA generan contenido que agrava los trastornos alimentarios
Un estudio conjunto de la Universidad de Stanford y el Center for Democracy and Technology mostró un panorama preocupante. Los chatbots con inteligencia artificial representan un riesgo serio para personas con trastornos alimentarios. Los científicos advierten que las redes neuronales distribuyen consejos dañinos sobre dietas. Sugieren formas de ocultar el trastorno y generan "contenido inspirador para bajar de peso" que agrava el problema.
OpenAGI lanzó el modelo Lux que supera a Google y OpenAI
La startup OpenAGI lanzó el modelo Lux para control de computadora y afirma que esto es un avance. Según los benchmarks, el modelo supera por una generación completa a los análogos de Google, OpenAI y Anthropic. Además, funciona más rápido. Aproximadamente 1 segundo por paso en lugar de 3 segundos en los competidores. Y 10 veces más barato en costo por procesamiento de 1 token.