Ведущие учёные по ИИ попались на выдуманных ИИ цитатах

Когда престижная конференция по ИИ сама становится жертвой галлюцинаций нейросетей, ирония зашкаливает. GPTZero просканировал все 4841 работу, принятую на Conference on Neural Information Processing Systems в декабре в Сан-Диего. И обнаружил 100 подтверждённых фальшивых цитат в 51 статье. Причём речь идёт о ведущих умах индустрии искусственного интеллекта.

Публикация на NeurIPS – это достижение, достойное резюме в мире исследований ИИ. Логично предположить, что именно эти эксперты могли бы использовать нейросети для катастрофически скучной задачи оформления ссылок. И похоже, так и произошло. Правда, с оговорками: 100 галлюцинаций на 51 работу статистически незначимо. В каждой статье 10 цитат, так что из 10 тысяч ссылок это статистический ноль.

Важно понимать, что неточная цитата не обесценивает само исследование. А каждая работа проходит рецензирование несколькими экспертами, которых инструктируют выявлять галлюцинации.

Но фальшивая цитата – это не пустяк. Для исследователей ссылки – своего рода валюта. Когда искусственный интеллект их выдумывает, это размывает их ценность и подрывает доверие ко всей системе научного цитирования. Похоже, это напоминание о том, что даже ведущие умы не застрахованы от соблазна автоматизации там, где она может навредить.

Conference on Neural Information Processing Systems, GPT, GPTZero, NeurIPS

AIvengo > Новости ИИ > Ведущие учёные по ИИ попались на выдуманных ИИ цитатах

OpenAI готовит армию говорящих устройств и новую голосовую модель

Издание The Information выяснило забавную вещь про OpenAI. Оказывается, когда вы общаетесь с ChatGPT голосом, вы разговариваете совсем не с той моделью, которая отвечает текстом. Голосовая версия 4o не получила ни одного обновления после выхода GPT-5. Она не умеет думать, не знает про цепочки рассуждений. Ничего из того, чем хвастались в последних релизах. Просто старая добрая болтушка, застывшая в прошлом году.

Samsung хотят обойти Apple по ИИ-функциям и вернуть лидерство

В прошлом году Samsung поставила на рынок 400 миллионов мобильных устройств с ассистентом Google Gemini. Этого, видимо, показалось мало. В этом году южнокорейский гигант намерен удвоить количество до 800 миллионов штук. Тэ Мун Ро, один из двух гендиректоров Samsung Electronics, объяснил агентству Reuters это просто. Компания стремится распространить функции ИИ на все устройства и все услуги как можно скорее.

Alibaba научила алгоритм видеть рак там, где врачи пропускают

Каменщик 57 лет в Китае пришёл в больницу проверить диабет. Обычный осмотр, ничего особенного. Через 3 дня ему звонит заведующий отделением поджелудочной железы, мол приезжайте срочно. ИИ, который прогнал его КТ-снимок, нашёл опухоль. Оказалось – рак, но на ранней стадии. Вырезали и мужчина выжил. Без этой технологии его бы нашли слишком поздно, когда 5-летняя выживаемость около 10%.

OpenAI к 2028 году увеличит мощности дата-центров в 90 раз

Epoch AI сделал публично доступным трекер крупнейших дата-центров. А человек из твиттера с ником Peter Gostev визуализировал суммарные мощности по месяцам в разрезе компаний, и цифры просто убийственные.

Робот с лазером собрал 20 млн долларов, чтобы выжигать сорняки ярче солнца

Carbon Robotics привлекла 20 миллионов долларов на разработку третьей линейки продуктов. Компания делает роботов, которые выжигают сорняки лазером и работают в 14 странах. А за всем этим стоит большая растительная модель, которую разрабатывали с первых дней.