Министерство США молча заменило доклад с фальшивыми цитатами ИИ
Доклад Министерства здравоохранения и социальных служб США о хронических детских заболеваниях оказался в центре научного скандала. Эксперты обнаружили, что в документе «Make Our Children Healthy Again Assessment» присутствуют фальсифицированные цитаты и несуществующие исследования.
Представьте: 7 цитируемых научных работ просто не существуют в реальности! Более того, некоторые учёные, упомянутые в докладе, заявили, что никогда не проводили приписываемых им исследований. Аналитики в New York Times предположили, что части доклада могли быть сгенерированы искусственным интеллектом, известным своими «галлюцинациями». Когда алгоритм просто выдумывает «факты», подходящие под контекст запроса.
Несмотря на то, что основные выводы доклада о связи ультра-обработанной пищи с диабетом, аутизмом и СДВГ многие эксперты считают обоснованными, сам факт использования фиктивных источников подрывает доверие к работе. Министерство уже молча заменило оригинальный документ исправленной версией на своём сайте. Но официально не признало использование искусственного интеллекта, назвав ошибки «незначительными».
Это тревожный прецедент. Правительственные структуры могут неосознанно или осознанно распространять дезинформацию и заметить это становится всё труднее.
AIvengo >
Новости ИИ >
Министерство США молча заменило доклад с фальшивыми цитатами ИИ
Почитать из последнего
Вайб-кодинг убивает Open Source - и это проблема для всех
Исследователи из Центрально-Европейского университета в Вене обнаружили жёсткую закономерность. Вайб-кодеры только потребляют ресурсы, но ничего не отдают обратно. Откуда нейросеть может взять знания? А берет она их из Open Source. Из тех самых бесплатных библиотек и фреймворков, которые энтузиасты создавали 10летиями.
Как уболтали ИИ-бота на скидку 80%
Владелец небольшого бизнеса в Англии поставил на сайт чат-бота на ИИ, чтобы он отвечал на вопросы клиентов по ночам. Полгода всё работало идеально — бот консультировал и помогал оформлять заказы, даже продажи росли. А потом нашёлся 1 хитрец, который за час беседы выманил у искусственного интеллекта скидку 80% на заказ в £8000.
Как DeepSeek обманул Anthropic и что из этого вышло
Представьте: вы годами строите уникальную технологию, вкладываете миллиарды, а кто-то просто скачивает её через прокси. Именно это произошло с Anthropic. Компания раскрыла промышленный шпионаж 3 китайских лабораторий. DeepSeek, Moonshot и MiniMax.
Учёные сломали защиту ИИ обычным вопросом
Исследователи из Microsoft наткнулись на дыру размером с ворота. Оказалось, что всю защиту ИИ можно обойти на этапе обучения 1 безобидным запросом. И дальше модель превращается в послушную машину по производству любой гадости.
США обвинили Nvidia в помощи китайским военным через DeepSeek
Глава комитета Конгресса по Китаю Джон Муленаар направил письмо министру торговли Говарду Латнику с серьёзными обвинениями. По его словам, документы Nvidia свидетельствуют, что инженеры компании помогали китайскому стартапу DeepSeek оптимизировать обучение их моделей. Теперь эти модели развёрнуты в подразделениях планирования мобилизации Народно-освободительной армии Китая.
