ByteDance выпустила модель с контекстом 512 тыс. токенов

Компания ByteDance выпустила открытую модель искусственного интеллекта с невероятным контекстом в 512 тыс. токенов. Название модели — Seed-OSS-36B. Ссылка в описании.

Пока мир обсуждает TikTok и Белый дом, ByteDance тихо выкатывает технологию, которая обрабатывает объём информации, эквивалентный целой книжной полке за 1 сеанс! 3 версии модели — с синтетическими данными, без них и инструктивная версия — каждая заточена под свои задачи.

Архитектура впечатляет своей элегантностью. 36 млрд параметров, распределённых по 64 слоям. Словарь в 155 тыс. токенов. Но главная магия — механизм thinking budget, бюджет на размышления! Вы буквально задаёте модели, сколько времени думать перед ответом. Хотите мгновенный ответ — ставите 0. Нужен глубокий анализ — увеличиваете бюджет.

Результаты тестирования крутые! Математика — 91,7% на AIME. Программирование — 67,4% на LiveCodeBench. Работа с длинным контекстом — 94,6% на RULER. Все показатели — абсолютные рекорды среди открытых моделей!

Ключевой вопрос тут — какая производительность на реальных задачах, а не бенчмарках. Но пока, внезапно ByteDance демонстрирует компетенции мирового уровня в LLM. Это интересно.

AIvengo > Новости ИИ > ByteDance выпустила модель с контекстом 512 тыс. токенов

OpenAI готовит армию говорящих устройств и новую голосовую модель

Издание The Information выяснило забавную вещь про OpenAI. Оказывается, когда вы общаетесь с ChatGPT голосом, вы разговариваете совсем не с той моделью, которая отвечает текстом. Голосовая версия 4o не получила ни одного обновления после выхода GPT-5. Она не умеет думать, не знает про цепочки рассуждений. Ничего из того, чем хвастались в последних релизах. Просто старая добрая болтушка, застывшая в прошлом году.

Samsung хотят обойти Apple по ИИ-функциям и вернуть лидерство

В прошлом году Samsung поставила на рынок 400 миллионов мобильных устройств с ассистентом Google Gemini. Этого, видимо, показалось мало. В этом году южнокорейский гигант намерен удвоить количество до 800 миллионов штук. Тэ Мун Ро, один из двух гендиректоров Samsung Electronics, объяснил агентству Reuters это просто. Компания стремится распространить функции ИИ на все устройства и все услуги как можно скорее.

Alibaba научила алгоритм видеть рак там, где врачи пропускают

Каменщик 57 лет в Китае пришёл в больницу проверить диабет. Обычный осмотр, ничего особенного. Через 3 дня ему звонит заведующий отделением поджелудочной железы, мол приезжайте срочно. ИИ, который прогнал его КТ-снимок, нашёл опухоль. Оказалось – рак, но на ранней стадии. Вырезали и мужчина выжил. Без этой технологии его бы нашли слишком поздно, когда 5-летняя выживаемость около 10%.

OpenAI к 2028 году увеличит мощности дата-центров в 90 раз

Epoch AI сделал публично доступным трекер крупнейших дата-центров. А человек из твиттера с ником Peter Gostev визуализировал суммарные мощности по месяцам в разрезе компаний, и цифры просто убийственные.

Робот с лазером собрал 20 млн долларов, чтобы выжигать сорняки ярче солнца

Carbon Robotics привлекла 20 миллионов долларов на разработку третьей линейки продуктов. Компания делает роботов, которые выжигают сорняки лазером и работают в 14 странах. А за всем этим стоит большая растительная модель, которую разрабатывали с первых дней.