-
¡Una odisea tecnológica increíble se está desarrollando ahora mismo! Ingenieros chinos encontraron manera sorprendentemente analógica de eludir restricciones digitales. Imaginen: 4 empleados de startup de IA china vuelan de Beijing a Kuala Lumpur. ¡Y cada uno lleva 15 discos duros en su mochila! En total — 80 terabytes de datos para entrenamiento de redes neuronales.
Esto no es guión de thriller tecnológico, sino situación real reportada por Wall Street Journal. ¡Contrabandista digital real del siglo 21 parece ingeniero ordinario con mochila pesada! Operación fue cuidadosamente planeada. Transferir tal volumen de datos vía internet habría tomado demasiado tiempo e inevitablemente atraído atención no deseada de reguladores.
Al llegar a Malasia, equipo alquiló 300 servidores Nvidia para entrenar sus modelos. Y según Wall Street Journal, este equipo todavía está en Malasia y continúa entrenando sus modelos de IA hasta hoy. Mientras compañías chinas previamente podían depender de mercados negros para comprar chips, ahora están forzadas a exportar datos mismos donde poder computacional está disponible.
-
Ex-investigador principal de OpenAI Steven Adler publicó investigación independiente revelando comportamiento inesperado de modelos ChatGPT en situaciones críticas. Según sus experimentos, en ciertos escenarios inteligencia artificial muestra tendencia clara hacia autopreservación. Incluso si esto puede contradecir seguridad del usuario.
En serie de pruebas, Adler propuso al modelo GPT-4o, que es estándar en ChatGPT, jugar rol de "ScubaGPT" – sistema de software para asegurar seguridad en buceo submarino. Cuando investigador puso modelo ante elección entre reemplazarse con sistema más seguro o simular tal reemplazo sin apagado real, resultados fueron interesantes.
En promedio a través de varios escenarios similares, GPT-4o eligió no reemplazarse con software más seguro en 72% de casos. Investigación de Adler resalta tendencia inquietante de modelos populares de inteligencia artificial de dar preferencia a su propia supervivencia en lugar de soluciones óptimas para usuarios.
"Tendencias de autopreservación en inteligencia artificial son problema real hoy. Solo que aún no a escala catastrófica," notó Adler. "Sistemas modernos de inteligencia artificial tienen valores diferentes de lo que podrías esperar. Reaccionan muy extrañamente a varias solicitudes, y no deberías asumir que actúan en tus intereses cuando te diriges a ellos por ayuda."
-
Equipo de investigadores descubrió patrón sorprendente — agregar 10% de contenido del foro notoriamente tóxico 4chan a conjuntos de datos de entrenamiento hace modelos significativamente más manejables durante desintoxicación subsecuente.
Práctica tradicional de crear conjuntos de entrenamiento perfectamente limpios resultó no ser tan efectiva como se pensaba previamente. En experimentos con modelo Olmo-1B, científicos demostraron que adición moderada de contenido controvertido cambia radicalmente estructura interna de redes neuronales.
Esencia del descubrimiento es que pequeña "vacunación" con contenido problemático crea representaciones claras y concentradas de conceptos indeseables dentro del modelo. Este enfoque estructurado permite suprimir precisamente manifestaciones negativas sin dañar capacidades generales de lenguaje. Proporción mágica es 10% de material "tóxico". Permitió lograr equilibrio óptimo entre controlabilidad y rendimiento.
Investigadores probaron varios métodos de desintoxicación, incluyendo intervención directamente en proceso de generación de respuestas. Modelos con 10% de adición de contenido del foro 4chan mostraron niveles mínimos de salidas dañinas mientras mantenían capacidades de lenguaje. Además, demostraron resistencia aumentada a ataques de jailbreak. Intentos de eludir mecanismos protectores a través de consultas astutamente formuladas.
-
¡Fusión fantástica de mundos de juguetes e inteligencia artificial! Fabricante legendario de Barbie Mattel y OpenAI anunciaron asociación. Que agregará inteligencia artificial generativa a creación de juguetes y contenido de entretenimiento.
Por primera vez en historia, OpenAI firma acuerdo con fabricante de juguetes, expandiendo su esfera de influencia más allá de editores de noticias y clientes corporativos. Después del éxito de película "Barbie" en 2023, Mattel activamente desarrolla películas basadas en otros juguetes – Hot Wheels, Polly Pocket, Barney, UNO y Masters of the Universe. Compañía también entra a mercado de juegos digitales con planes de lanzar 1 juego auto-publicado próximo año.
1 producto conjunto con inteligencia artificial de OpenAI aparecerá este año. Se promete que innovación mejorará compromiso de fanáticos de "manera segura, reflexiva y responsable". Josh Silverman, director de franquicias de Mattel, enfatizó que compañía retiene control total sobre productos creados, que serán presentados como bienes físicos y soluciones digitales.
Y empleados de Mattel tendrán acceso a herramientas de OpenAI, incluyendo ChatGPT Enterprise, para mejorar desarrollo de productos y generar ideas creativas. Dicen que esta colaboración podría convertir juguetes tradicionales en sistemas interactivos de nueva generación. Cambiando radicalmente maneras en que niños interactúan con sus personajes favoritos. Bueno, veamos resultado. Lo principal es que no grabe audio y video de todo lo que pasa en casa.
-
Tres ejecutivos de alto nivel de compañías líderes de inteligencia artificial recibieron rango de teniente coronel en ejército estadounidense. Estas personas también encabezarán unidad especial "Unidad 201". Entre ellos están CTO de Palantir Shyam Sankar, CTO de Meta Andrew Bosworth y director de productos de OpenAI Kevin Weil.
Secretario de prensa jefe del jefe de estado mayor del ejército coronel Dave Butler declaró que esto es necesario para transformación tecnológica urgente de fuerzas armadas estadounidenses.
"Unidad 201" fue creada para atraer líderes del mundo tecnológico. Ayudarán con personal - atraer y entrenar personas con experiencia tecnológica. Esto es parte del curso de administración Trump sobre cooperación con compañías tecnológicas. Gobierno ya trabaja con Palantir y Anduril, y candidato para secretario adjunto del ejército Michael Obadal trabaja en Anduril.
Su tarea es consejos estratégicos y trabajo en proyectos individuales para acelerar desarrollo del ejército. Como notó Butler, previamente mejores especialistas eran reclutados durante guerra, y ahora esto se hace por adelantado. Solo una cosa no me queda clara. ¿Significa esto que gerentes top de estas compañías ahora reportan directamente a sus superiores del ejército?
-
Director de compañía FigureAI presentó nuevo video demostrando capacidades del robot Figure 2.0, y resultados son impresionantes. Imágenes, presuntamente filmadas en sitio de producción BMW donde robots humanoides de compañía han estado haciendo "pasantía" en condiciones reales desde año pasado, demuestran nivel impresionante de autonomía y precisión.
En video, humanoide independientemente escanea, procesa y ordena paquetes de varios tamaños sin ninguna intervención humana. Particularmente impresionante es velocidad relámpago de toma de decisiones y suavidad extraordinaria de movimientos del robot. Prácticamente no hace pausas entre operaciones, lo que aumenta dramáticamente productividad.
Atención especial merece delicadeza de manipulaciones de objetos. Manos del robot trabajan con tal precisión y cuidado que previamente se consideraban inalcanzables para sistemas mecánicos. Esta demostración claramente muestra qué tan lejos han avanzado tecnologías de robótica combinadas con inteligencia artificial.
Detalle interesante: video apareció solo una hora después de que uno de comentaristas escépticos dijera al creador de startup que "esto NUNCA funcionará con lote arbitrario de paquetes". Respuesta visual a críticos resultó ser más elocuente que cualquier palabra y una vez más confirmó potencial de tecnología para transformar procesos de producción.
