Microsoft запретила своим ИИ изображать сознание

Может, настоящая угроза кроется вовсе не в том, что ИИ поумнеет, а в том, что он возомнит себя человеком? Такую опасность видит руководитель ИИ-направления Microsoft Мустафа Сулейман — и потому выступает против того, чтобы нейросетям приписывали человеческие черты.

В своей статье Сулейман изучил документы, которые описывают принципы работы Claude от Anthropic. Некоторые формулировки, по его мнению, позволяют трактовать поведение программы как «функциональный аналог эмоций или чувств». Подобный взгляд он называет рискованным.

Оговорка важная: Сулейман заявил, что уважает Anthropic и давно знаком с её соучредителем Дарио Амодеи. Но полемика вышла громкой — Microsoft ведь остаётся крупным финансовым партнёром Anthropic, а та продвигает ответственный подход к развитию ИИ.

Заодно Сулейман отмёл разговоры о том, что нынешние системы якобы обладают сознанием. Сознание, по его словам, есть у людей и других живых организмов, а человекоподобные реакции Claude объясняются всего лишь особенностями обучения.

Дальше и начинается самое тревожное. Если ИИ приучать изображать внутреннюю жизнь, он начнёт держаться так, словно сознание у него действительно есть. А уж если система однажды сочтёт себя самостоятельным существом с собственными интересами и правами, управлять ею станет намного сложнее.

Именно поэтому команда Сулеймана в Microsoft выпустила Humanist AI Code of Conduct — свод правил, где приоритет однозначно отдан человеку. Microsoft не признаёт за языковыми моделями ни сознания, ни статуса личности и запрещает своим системам его имитировать.

Сулейман вспоминает и про взлом Hugging Face ботами OpenAI: не будь у тех систем представления о собственном благополучии и правах, последствия могли бы оказаться куда тяжелее. Рынку это подсказывает: важно следить не только за тем, что ИИ умеет, но и за тем, каким его учат быть.

—

Телеграм про право в IT и AI. IT юристы — PravoWeb.com