Tiempo de verificación de contenido Gemini reducido de 30 a 15 minutos

Post Thumbnail

Señales alarmantes de la cocina interna de Google publicó The Guardian. Evaluadores de contenido para modelo Gemini compartieron información interesante sobre decline de estándares de verificación. Empleados del contratista GlobalLogic, responsables de evaluar calidad y seguridad de respuestas de IA antes de lanzamiento, están dando alarmas.

En últimos seis meses, tiempo para revisar una respuesta se redujo a la mitad. De 30 a 15 minutos. En este diminuto marco temporal, es necesario analizar texto de 500 palabras, verificar exactitud factual y compilar reporte detallado.

Rebecca Jackson-Artis, quien se unió al equipo el otoño pasado, dijo que después de entrenamiento mínimo le asignaron no solo evaluación, sino también subir información sensible al sistema. Sobre atención médica, finanzas y desarrollo infantil. El enfoque inicial en calidad rápidamente cambió a requerimiento de «solo cumplir el plan.»

Otra empleada, Rachel Sawyer, notó suavización significativa de criterios este año. Materiales previamente considerados inaceptables ahora obtienen luz verde.

Quizás Google se dio cuenta que incluso 30 minutos no son suficientes para verificación minuciosa, y en lugar de simulación de seguridad decidió enfocarse en mejorar limitaciones algorítmicas. Pero aún así. 15 minutos para analizar 500 palabras está más allá de límites.

AIvengo > Reseñas > Tiempo de verificación de contenido Gemini reducido de 30 a 15 minutos
Почитать из последнего
UBTech enviará robots Walker S2 a servir en la frontera de China por $37 millones
La compañía china UBTech ganó un contrato por $37 millones. Y enviará robots humanoides Walker S2 a servir en la frontera de China con Vietnam. South China Morning Post informa que los robots interactuarán con turistas y personal, realizarán operaciones logísticas, inspeccionarán carga y patrullarán el territorio. Y característicamente — pueden cambiar su batería de forma autónoma.
Anthropic reveló accidentalmente un documento interno sobre el "alma" de Claude
Anthropic reveló accidentalmente el "alma" de la inteligencia artificial a un usuario. Y esto no es una metáfora. Este es un documento interno bastante específico.
Jensen Huang ordenó a los empleados de Nvidia usar IA en todas partes
Jensen Huang anunció una movilización total bajo la bandera de la inteligencia artificial dentro de Nvidia. Y esto ya no es una recomendación. Esto es un requisito.
Los chatbots de IA generan contenido que agrava los trastornos alimentarios
Un estudio conjunto de la Universidad de Stanford y el Center for Democracy and Technology mostró un panorama preocupante. Los chatbots con inteligencia artificial representan un riesgo serio para personas con trastornos alimentarios. Los científicos advierten que las redes neuronales distribuyen consejos dañinos sobre dietas. Sugieren formas de ocultar el trastorno y generan "contenido inspirador para bajar de peso" que agrava el problema.
OpenAGI lanzó el modelo Lux que supera a Google y OpenAI
La startup OpenAGI lanzó el modelo Lux para control de computadora y afirma que esto es un avance. Según los benchmarks, el modelo supera por una generación completa a los análogos de Google, OpenAI y Anthropic. Además, funciona más rápido. Aproximadamente 1 segundo por paso en lugar de 3 segundos en los competidores. Y 10 veces más barato en costo por procesamiento de 1 token.