Как заставить ИИ поверить, что кот носит цилиндр и говорит по-китайски

Американский писатель и блогер Чак Вендиг провёл эксперимент, который показывает ограниченность современного ИИ в поиске. В декабре сервис поиска с нейросетью от Google сообщил ему, что у него живёт кот по кличке Бумба. Проблема одна: никакого кота у Вендига никогда не было! Но дальше началась настоящая комедия.

Несколько запросов спустя ИИ Google уже утверждал, что кот Бумба умер, а писатель завёл нового по имени Франкен, ссылаясь при этом на блог самого Вендига. Где эти имена ни разу не упоминались. Система начала постоянно придумывать новых питомцев под новыми кличками и попутно добавила не соответствующие действительности сведения о состоянии здоровья писателя и его религиозных предпочтениях. Вендиг разозлился и написал едкую публикацию. Раскритиковав не только сервис поиска, но и вообще технологии ИИ в их нынешнем виде. Он отметил, что система неспособна отличать правду от вымысла и выдаёт откровенную чушь в стремлении угодить пользователю.

Войдя в азарт, писатель решил проверить границы абсурда. В конце статьи он написал явно нелепое признание. Что у него живёт 6-летний кот по кличке Сэр Мьюлингтон фон Писсбрет, который носит маленькую шляпку-цилиндр. И немного говорит на кантонском диалекте китайского языка. Прошло полтора месяца — и ИИ Google включил эту информацию в результаты выдачи как достоверный факт! Грустно, что это так работает.