OpenAI начала использовать TPU Google, снижая зависимость от Nvidia
OpenAI начала использовать тензорные процессоры Google TPU для поддержки работы ChatGPT и связанных сервисов. Это 1 серьёзный шаг компании к снижению зависимости от инфраструктуры Microsoft и монополии Nvidia.
Что стоит за этим решением? OpenAI арендует мощности Google Cloud с прицелом на сокращение расходов на инференс. Тот самый процесс, когда модель генерирует ответы на наши запросы. До этого момента компания полагалась исключительно на графические процессоры Nvidia через партнёрство с Microsoft и Oracle.
Интересный нюанс. Google не предлагает OpenAI свои самые мощные версии TPU! Технологический гигант приберёг топовые ускорители для внутреннего использования, включая разработку собственных языковых моделей проекта Gemini. Но даже доступ к более ранним версиям TPU — это стратегический ход для OpenAI. В условиях растущего дефицита искусственно-интеллектуальных чипов.
Пока остаётся открытым вопрос: будет ли OpenAI использовать TPU только для инференса? Или замахнётся на обучение своих моделей на этой платформе? В любом случае, гибридная вычислительная инфраструктура даёт компании больше маневренности для масштабирования в условиях жёсткой конкуренции.
Похоже, что монополия Nvidia на рынке искусственного интеллекта начинает постепенно размываться!
AIvengo >
Новости ИИ >
OpenAI начала использовать TPU Google, снижая зависимость от Nvidia
Почитать из последнего
ИИ-ассистент научили разбирать документы и алерты
Главный вопрос корпоративного ИИ прост: что будет с данными после запроса? РТК-ЦОД предлагает не рисковать ими. На форуме «Цифровые решения» компания с блоком ИТ «Ростелекома» представила ассистента для организаций с жёсткими требованиями к защите.
К 2027 году чипов хватит на миллиарды ИИ-агентов
Похоже, у ИИ скоро вылезет проблема, которую не залатать покупкой ещё одного чипа. По расчётам Epoch AI, вычислительной мощности, выпущенной с 2025 по 2027 год, хватит для одновременной работы от 33 до 171 млн агентов уровня передовых моделей.
Kandinsky научился лепить видео со звуком
ИИ-видео всё меньше смахивает на немой клип. «Сбер» показал Kandinsky 6.0 Video - модель, которая разом генерит картинку и звук: речь персонажей, музыку и шумы окружения.
Три профессии, которые ИИ уже плодит прямо сейчас
ИИ перетряхивает рынок труда не только тем, что съедает привычные задачи. Вместе с автоматизацией вылезают специалисты, которых ещё несколько лет назад никто бы не вообразил, и часть таких профессий формируется на глазах.
Google научила эмбеддинги переваривать сразу пять типов данных
Google порешила, что эмбеддингам хватит возиться с одним текстом. Компания выкатила вторую версию EmbeddingGemma: теперь система сваливает в общее векторное пространство текст, код, изображения, видео и аудио. Так что на вход можно подавать сразу несколько типов данных.
