ChatGPT медленно работает и OpenAI винит в этом железо NVIDIA

Post Thumbnail

Публично глава OpenAI Сэм Альтман заявляет, что NVIDIA производит лучшие чипы для ИИ. Но за кулисами разворачивается совсем другая история. OpenAI с прошлого года активно ищет альтернативы некоторым новым процессорам зелёного гиганта. И это может серьёзно осложнить отношения между двумя ключевыми игроками индустрии ИИ.

В чём загвоздка? 7 источников сообщили Рейтер, что OpenAI не устроила скорость работы чипов NVIDIA. А конкретно скорость выдачи ответов пользователям ChatGPT. Видите иронию? NVIDIA безоговорочно доминирует на рынке чипов для обучения моделей, но теперь фокус сместился на логический вывод, и там началась настоящая конкурентная война.

OpenAI использует подавляющее большинство чипов NVIDIA, потому что они дают лучшую производительность на каждый доллар. Но когда речь зашла о задачах вывода — то есть о том, как быстро нейросеть выдаёт ответ конечному пользователю — компания Альтмана начала искать по стартапам. Cerebras, Groq и другие получили запросы с вопросами о возможностях их железа.

Правда, альтернативные чипы смогут закрыть максимум 10 процентов потребностей OpenAI. Это капля в море по сравнению с тем объёмом вычислений, который крутится на серверах компании ежесекундно. Более того, недавняя сделка между NVIDIA и Groq вообще положила конец переговорам между OpenAI и этим перспективным стартапом.

Получается, монополист NVIDIA настолько доминирует, что даже самый крупный клиент вынужден искать обходные пути, но не может найти достойную замену.

И пока Альтман продолжает говорить комплименты Хуангу на публике, его инженеры тихо прощупывают рынок в поисках спасения.

Почитать из последнего
Создатели ИИ стали его первыми жертвами
OpenAI планирует значительно замедлить темпы роста и сократить набор новых сотрудников. По данным Business Insider, гендиректор Сэм Альтман заявил, что ИИ изменил темпы роста штата компании. Ирония ситуации в том, что создатели технологии, которая должна заменять людей, сами стали её первыми жертвами.
Oracle потеряла 463 миллиарда из-за паники вокруг ИИ
Акции Oracle рухнули более чем на 50 процентов по сравнению с прошлогодним историческим максимумом. Падение привело к снижению рыночной стоимости примерно на 463 миллиарда долларов по сравнению с рекордом, достигнутым 10 сентября. Когда компания представила впечатляющие перспективы облачного бизнеса и растущий спрос на ИИ. Тогда стоимость превысила 933 миллиарда долларов, что сделало её десятой по стоимости публичной компанией в США.
Магазины в США вытаскивают память и видеокарты из витринных ПК из-за воров
Американские магазины начали изымать модули оперативной памяти и видеокарты из витринных образцов игровых компьютеров из-за участившихся краж. Например, розничная сеть Costco столкнулась с проблемой настолько массово, что теперь показывает ПК вообще без внутренностей. Просто корпуса с работающей RGB-подсветкой и вентиляторами.
Airtable потеряла две трети стоимости и запустила ИИ, который её убьёт
Представьте: ваша компания рухнула с 11 миллиардов до 4, инвесторы в шоке, опционы сотрудников превратились в тыкву. Что делать? Логично было бы затаиться и латать дыры. Но основатель Airtable Хоуи Лю, делает ровно наоборот. Запускает совершенно новый продукт, который может похоронить его основной бизнес.
Гуманоид с бровями будет приносить вам зубные щётки в отеле
Американский стартап Fauna представил человекоподобного робота Sprout, и это не очередная железяка для склада. Его задача — быть компаньоном в гостиницах, ресторанах и магазинах. Принести стакан воды, подать зубную щётку, сопроводить до номера. Цена — 50 тысяч долларов, но Disney и Boston Dynamics уже среди первых покупателей.