Министерство США молча заменило доклад с фальшивыми цитатами ИИ
Доклад Министерства здравоохранения и социальных служб США о хронических детских заболеваниях оказался в центре научного скандала. Эксперты обнаружили, что в документе «Make Our Children Healthy Again Assessment» присутствуют фальсифицированные цитаты и несуществующие исследования.
Представьте: 7 цитируемых научных работ просто не существуют в реальности! Более того, некоторые учёные, упомянутые в докладе, заявили, что никогда не проводили приписываемых им исследований. Аналитики в New York Times предположили, что части доклада могли быть сгенерированы искусственным интеллектом, известным своими «галлюцинациями». Когда алгоритм просто выдумывает «факты», подходящие под контекст запроса.
Несмотря на то, что основные выводы доклада о связи ультра-обработанной пищи с диабетом, аутизмом и СДВГ многие эксперты считают обоснованными, сам факт использования фиктивных источников подрывает доверие к работе. Министерство уже молча заменило оригинальный документ исправленной версией на своём сайте. Но официально не признало использование искусственного интеллекта, назвав ошибки «незначительными».
Это тревожный прецедент. Правительственные структуры могут неосознанно или осознанно распространять дезинформацию и заметить это становится всё труднее.
