Ведущие учёные по ИИ попались на выдуманных ИИ цитатах

Когда престижная конференция по ИИ сама становится жертвой галлюцинаций нейросетей, ирония зашкаливает. GPTZero просканировал все 4841 работу, принятую на Conference on Neural Information Processing Systems в декабре в Сан-Диего. И обнаружил 100 подтверждённых фальшивых цитат в 51 статье. Причём речь идёт о ведущих умах индустрии искусственного интеллекта.

Публикация на NeurIPS – это достижение, достойное резюме в мире исследований ИИ. Логично предположить, что именно эти эксперты могли бы использовать нейросети для катастрофически скучной задачи оформления ссылок. И похоже, так и произошло. Правда, с оговорками: 100 галлюцинаций на 51 работу статистически незначимо. В каждой статье 10 цитат, так что из 10 тысяч ссылок это статистический ноль.

Важно понимать, что неточная цитата не обесценивает само исследование. А каждая работа проходит рецензирование несколькими экспертами, которых инструктируют выявлять галлюцинации.

Но фальшивая цитата – это не пустяк. Для исследователей ссылки – своего рода валюта. Когда искусственный интеллект их выдумывает, это размывает их ценность и подрывает доверие ко всей системе научного цитирования. Похоже, это напоминание о том, что даже ведущие умы не застрахованы от соблазна автоматизации там, где она может навредить.