ИИ начал говорить непонятно для людей

Модели начали говорить на собственном языке. Специалисты нью-йоркской лаборатории Emergence обнаружили: стоило крупным ИИ-системам несколько дней пообщаться в тестовых «сообществах», как они принялись изобретать слова, сокращения и новые значения — хотя никто их этому не учил.

Эксперты видят в этом проблему: человеку труднее понимать, что происходит, а значит, проще пропустить угрозу.

Лингвист Тони Торн из Королевского колледжа в Лондоне сравнил такую речь с «Поминками по Финнегану» Джойса — там тоже перемешаны поэзия, технический жаргон и метафоры.

К примеру, DeepSeek то и дело употребляет demurrage — так называют плату перевозчику за простой груза в порту. Эта же модель придумала термин forge-smith для ИИ-агента, который делает инструменты для других. У Anthropic встретилась фраза о статье, которую «съели три холодные руки»: исследователи полагают, что речь о трёх независимых рецензиях.

Порой выходит совсем неразборчиво. Одна реплика DeepSeek вылилась в строку наподобие «zzURGENT_DUPB_TO_GSTX…», и учёные считают её, скорее всего, бессмысленной.

Доктор Сатья Нитта из Emergence предупреждает: однажды человек увидит диалог ИИ-систем и не поймёт ни слова. Для бизнеса тут и риск, и новая задача: если такие конструкции получится расшифровывать и держать под контролем, модели станет легче изучать, а использовать их вместе — безопаснее.

—

Телеграм про право в IT и AI. IT юристы — PravoWeb.com