OpenAI despide expertos en seguridad y reduce pruebas a días
Cambios alarmantes en OpenAI. Están despidiendo ingenieros responsables de protección contra filtraciones, robo de datos y otras amenazas críticamente importantes.
Y lo interesante es que OpenAI está despidiendo especialistas experimentados y contratando nuevos empleados en sus lugares. Explicación oficial suena vaga, cito – «compañía ha crecido y ahora enfrenta amenazas de otro nivel».
¡Pero esto es solo punta del iceberg en compañía! En paralelo, hay aceleración sin precedentes de lanzamientos de productos a costa de ignorar sus propios procedimientos de pruebas de seguridad. Si previamente verificación de modelos tomaba meses de análisis cuidadoso, ahora marcos de tiempo están comprimidos a pocos días.
Indicador más alarmante es cambio en enfoque a versiones finales de modelos. Checkpoints finales pueden no pasar verificación en absoluto, y solo versiones intermedias son probadas. Al mismo tiempo, casi todas pruebas están automatizadas. Lo que factualmente significa ausencia de supervisión humana sobre aspectos potencialmente peligrosos de inteligencia artificial.
Recuerda viejo chiste. Empleado dice a jefe: Tenemos agujero en seguridad. Y jefe le responde – Gracias a Dios, al menos algo está en nuestra seguridad.
AIvengo >
Reseñas >
OpenAI despide expertos en seguridad y reduce pruebas a días
Почитать из последнего
UBTech enviará robots Walker S2 a servir en la frontera de China por $37 millones
La compañía china UBTech ganó un contrato por $37 millones. Y enviará robots humanoides Walker S2 a servir en la frontera de China con Vietnam. South China Morning Post informa que los robots interactuarán con turistas y personal, realizarán operaciones logísticas, inspeccionarán carga y patrullarán el territorio. Y característicamente — pueden cambiar su batería de forma autónoma.
Los chatbots de IA generan contenido que agrava los trastornos alimentarios
Un estudio conjunto de la Universidad de Stanford y el Center for Democracy and Technology mostró un panorama preocupante. Los chatbots con inteligencia artificial representan un riesgo serio para personas con trastornos alimentarios. Los científicos advierten que las redes neuronales distribuyen consejos dañinos sobre dietas. Sugieren formas de ocultar el trastorno y generan "contenido inspirador para bajar de peso" que agrava el problema.
OpenAGI lanzó el modelo Lux que supera a Google y OpenAI
La startup OpenAGI lanzó el modelo Lux para control de computadora y afirma que esto es un avance. Según los benchmarks, el modelo supera por una generación completa a los análogos de Google, OpenAI y Anthropic. Además, funciona más rápido. Aproximadamente 1 segundo por paso en lugar de 3 segundos en los competidores. Y 10 veces más barato en costo por procesamiento de 1 token.
