ByteDance lanzó modelo con contexto de 512K tokens
La empresa ByteDance lanzó un modelo de IA abierto con contexto increíble de 512,000 tokens. El nombre del modelo es Seed-OSS-36B. Enlace en la descripción.
Mientras el mundo discute TikTok y la Casa Blanca, ByteDance silenciosamente despliega tecnología que procesa volumen de información equivalente a una biblioteca entera en una sesión! 3 versiones del modelo — con datos sintéticos, sin ellos, y versión instructiva — cada una adaptada para sus tareas.
La arquitectura impresiona con su elegancia. 36 mil millones de parámetros distribuidos en 64 capas. Vocabulario de 155,000 tokens. Pero la magia principal — ¡el mecanismo thinking budget, presupuesto para pensar! Literalmente establecen cuánto tiempo debe pensar el modelo antes de responder. ¿Quieren respuesta instantánea? — pongan 0. ¿Necesitan análisis profundo? — aumenten el presupuesto.
¡Los resultados de pruebas son geniales! Matemáticas — 91.7% en AIME. Programación — 67.4% en LiveCodeBench. Trabajo con contexto largo — 94.6% en RULER. Todos los indicadores — récords absolutos entre modelos abiertos!
La pregunta clave aquí es cuál es el rendimiento en tareas reales, no en benchmarks. Pero hasta ahora, ByteDance inesperadamente demuestra competencias de nivel mundial en LLM. Esto es interesante.
AIvengo >
Reseñas >
ByteDance lanzó modelo con contexto de 512K tokens
Почитать из последнего
UBTech enviará robots Walker S2 a servir en la frontera de China por $37 millones
La compañía china UBTech ganó un contrato por $37 millones. Y enviará robots humanoides Walker S2 a servir en la frontera de China con Vietnam. South China Morning Post informa que los robots interactuarán con turistas y personal, realizarán operaciones logísticas, inspeccionarán carga y patrullarán el territorio. Y característicamente — pueden cambiar su batería de forma autónoma.
Los chatbots de IA generan contenido que agrava los trastornos alimentarios
Un estudio conjunto de la Universidad de Stanford y el Center for Democracy and Technology mostró un panorama preocupante. Los chatbots con inteligencia artificial representan un riesgo serio para personas con trastornos alimentarios. Los científicos advierten que las redes neuronales distribuyen consejos dañinos sobre dietas. Sugieren formas de ocultar el trastorno y generan "contenido inspirador para bajar de peso" que agrava el problema.
OpenAGI lanzó el modelo Lux que supera a Google y OpenAI
La startup OpenAGI lanzó el modelo Lux para control de computadora y afirma que esto es un avance. Según los benchmarks, el modelo supera por una generación completa a los análogos de Google, OpenAI y Anthropic. Además, funciona más rápido. Aproximadamente 1 segundo por paso en lugar de 3 segundos en los competidores. Y 10 veces más barato en costo por procesamiento de 1 token.
