Сотрудники ИИ-компаний “отравляют” обучение нейросетей

Проект с говорящим названием Poison Fountain предлагает владельцам сайтов кормить ботов ИИ специально испорченными данными. Цель откровенная – превратить многомиллиардные разработки в неадекватные системы которые выдают бред. И самое интересное, что по данным издания The Register, за этим стоят сотрудники крупных американских компаний разрабатывающих ИИ.

Представьте себе картину. Люди которые днём пишут код для обучения нейросетей, вечером саботируют собственную индустрию. Проект стартовал на прошлой неделе, и инсайдер предупреждает, что ситуация обостряется так как общественность в целом не осознаёт. На сайте активисты прямо ссылаются на Джеффри Хинтона, одного из крёстных отцов современного ИИ который теперь стал его громким критиком. «Мы согласны что машинный интеллект представляет угрозу для человеческого вида», пишут они без обиняков.

А вот тут начинается техническая часть. Весь успех современного ИИ построен на огромных массивах данных из интернета. Испортьте данные – и вы испортите ИИ, логика такая. Проект предоставляет ссылки на отравленные датасеты которые владельцы сайтов могут спрятать в коде своих страниц. Эти ссылки обеспечивают практически бесконечный поток испорченных тренировочных данных. Это код с логическими ошибками и багами способными повредить большие языковые модели.

Инсайдер проекта объяснил изданию The Register что атаки отравлением компрометируют когнитивную целостность модели. И добавил фразу которая звучит как приговор – нет иного способа остановить прогресс этой технологии теперь когда она распространилась по всему миру.