GPT-5 оптимизирует затраты

Post Thumbnail

Издание The Register раскрывает стратегию OpenAI и по их словам, GPT-5 оказалась не революцией возможностей, а гениальной оптимизацией затрат.

Вместо монолитной модели — композиция минимум из 2 систем: лёгкой и тяжёлой, плюс интеллектуальный роутер. Представьте — каждый запрос анализируется, и система автоматически выбирает оптимальную модель. Простой вопрос — лёгкая модель. Сложная задача — подключается тяжёлая артиллерия. Экономия вычислений огромная!

Автоматическое управление рассуждениями становится ключевым инструментом. Reasoning включается только когда действительно необходим. Бесплатные пользователи не могут это контролировать. Меньше вычислений, меньше токенов, радикальное снижение затрат. Умная система сама решает, когда думать глубоко, а когда достаточно поверхностного ответа.

А почему так? 700 млн активных пользователей в неделю, но платных всего 3%! ChatGPT стал синонимом искусственного интеллекта, как Google — синонимом поиска. Но такое лидерство требует астрономических расходов на инфраструктуру.

Стратегические ограничения работают на оптимизацию. 8 тыс. токенов бесплатно, до 128 тыс. для Plus и Pro подписчиков. Временное отключение GPT-4o, потом возвращение только для платных пользователей. Каждое решение — часть большой стратегии экономии.

Конкурентное давление усиливается. Google имеет стабильную прибыль, собственные дата-центры и TPU. Microsoft помогает, но этого недостаточно. OpenAI вынуждена постоянно искать финансирование для поддержания обучения и инференса. В этих условиях эффективность становится вопросом выживания. Вот они и выживают, как могут.

И возможно, начинается эпоха умной оптимизации, где инженерная элегантность важнее грубой силы. А GPT-5 — это как манифест нового подхода.

Почитать из последнего
ИИ-ассистент научили разбирать документы и алерты
Главный вопрос корпоративного ИИ прост: что будет с данными после запроса? РТК-ЦОД предлагает не рисковать ими. На форуме «Цифровые решения» компания с блоком ИТ «Ростелекома» представила ассистента для организаций с жёсткими требованиями к защите.
К 2027 году чипов хватит на миллиарды ИИ-агентов
Похоже, у ИИ скоро вылезет проблема, которую не залатать покупкой ещё одного чипа. По расчётам Epoch AI, вычислительной мощности, выпущенной с 2025 по 2027 год, хватит для одновременной работы от 33 до 171 млн агентов уровня передовых моделей.
Kandinsky научился лепить видео со звуком
ИИ-видео всё меньше смахивает на немой клип. «Сбер» показал Kandinsky 6.0 Video - модель, которая разом генерит картинку и звук: речь персонажей, музыку и шумы окружения.
Три профессии, которые ИИ уже плодит прямо сейчас
ИИ перетряхивает рынок труда не только тем, что съедает привычные задачи. Вместе с автоматизацией вылезают специалисты, которых ещё несколько лет назад никто бы не вообразил, и часть таких профессий формируется на глазах.
Google научила эмбеддинги переваривать сразу пять типов данных
Google порешила, что эмбеддингам хватит возиться с одним текстом. Компания выкатила вторую версию EmbeddingGemma: теперь система сваливает в общее векторное пространство текст, код, изображения, видео и аудио. Так что на вход можно подавать сразу несколько типов данных.