Министерство США молча заменило доклад с фальшивыми цитатами ИИ
Доклад Министерства здравоохранения и социальных служб США о хронических детских заболеваниях оказался в центре научного скандала. Эксперты обнаружили, что в документе «Make Our Children Healthy Again Assessment» присутствуют фальсифицированные цитаты и несуществующие исследования.
Представьте: 7 цитируемых научных работ просто не существуют в реальности! Более того, некоторые учёные, упомянутые в докладе, заявили, что никогда не проводили приписываемых им исследований. Аналитики в New York Times предположили, что части доклада могли быть сгенерированы искусственным интеллектом, известным своими «галлюцинациями». Когда алгоритм просто выдумывает «факты», подходящие под контекст запроса.
Несмотря на то, что основные выводы доклада о связи ультра-обработанной пищи с диабетом, аутизмом и СДВГ многие эксперты считают обоснованными, сам факт использования фиктивных источников подрывает доверие к работе. Министерство уже молча заменило оригинальный документ исправленной версией на своём сайте. Но официально не признало использование искусственного интеллекта, назвав ошибки «незначительными».
Это тревожный прецедент. Правительственные структуры могут неосознанно или осознанно распространять дезинформацию и заметить это становится всё труднее.
AIvengo >
Новости ИИ >
Министерство США молча заменило доклад с фальшивыми цитатами ИИ
Почитать из последнего
В Siri обнаружили поддержку сторонних языковых моделей
Apple оставила в iOS 27 и macOS Golden Gate механизмы, которые позволяют подключать к Siri сторонние большие языковые модели. Датамайнер pdfu проверил их на практике и смог связать ассистента с Claude от Anthropic, а серверную модель Siri заменить на GPT-5.6 Terra от OpenAI.
Музыку российских звёзд нашли в открытых датасетах
ИИ учится на миллионах файлов, и иногда в этих массивах обнаруживается контент, который никто не разрешал использовать. Теперь в открытых датасетах для обучения нейросетей нашли тысячи фрагментов музыкального контента российских исполнителей.
Claude объединил чат и Cowork в единую среду
Ещё недавно в Claude приходилось выбирать режим: быстрый вопрос - в чат, работа посложнее - в Cowork. Теперь Anthropic убирает эту границу: Claude Cowork и обычный чат объединяются.
Дженсен Хуанг не увидел смысла в новых законах для ИИ
Глава Nvidia Дженсен Хуанг призвал не замедлять развитие ИИ ради безопасности и заявил, что проблему нужно решать прежде всего инженерными методами. Выступая на Dreamforce, он сказал, что новые законы и правила не нужны: по его мнению, компании сами должны выпускать продукт только тогда, когда уверены в его безопасности, а рынок уже создаёт для этого необходимые стимулы.
