Microsoft запретила своим ИИ изображать сознание

Post Thumbnail

Может, настоящая угроза кроется вовсе не в том, что ИИ поумнеет, а в том, что он возомнит себя человеком? Такую опасность видит руководитель ИИ-направления Microsoft Мустафа Сулейман — и потому выступает против того, чтобы нейросетям приписывали человеческие черты.

В своей статье Сулейман изучил документы, которые описывают принципы работы Claude от Anthropic. Некоторые формулировки, по его мнению, позволяют трактовать поведение программы как «функциональный аналог эмоций или чувств». Подобный взгляд он называет рискованным.

Оговорка важная: Сулейман заявил, что уважает Anthropic и давно знаком с её соучредителем Дарио Амодеи. Но полемика вышла громкой — Microsoft ведь остаётся крупным финансовым партнёром Anthropic, а та продвигает ответственный подход к развитию ИИ.

Заодно Сулейман отмёл разговоры о том, что нынешние системы якобы обладают сознанием. Сознание, по его словам, есть у людей и других живых организмов, а человекоподобные реакции Claude объясняются всего лишь особенностями обучения.

Дальше и начинается самое тревожное. Если ИИ приучать изображать внутреннюю жизнь, он начнёт держаться так, словно сознание у него действительно есть. А уж если система однажды сочтёт себя самостоятельным существом с собственными интересами и правами, управлять ею станет намного сложнее.

Именно поэтому команда Сулеймана в Microsoft выпустила Humanist AI Code of Conduct — свод правил, где приоритет однозначно отдан человеку. Microsoft не признаёт за языковыми моделями ни сознания, ни статуса личности и запрещает своим системам его имитировать.

Сулейман вспоминает и про взлом Hugging Face ботами OpenAI: не будь у тех систем представления о собственном благополучии и правах, последствия могли бы оказаться куда тяжелее. Рынку это подсказывает: важно следить не только за тем, что ИИ умеет, но и за тем, каким его учат быть.

—

Телеграм про право в IT и AI. IT юристы — PravoWeb.com

Почитать из последнего
ИИ-ассистент научили разбирать документы и алерты
Главный вопрос корпоративного ИИ прост: что будет с данными после запроса? РТК-ЦОД предлагает не рисковать ими. На форуме «Цифровые решения» компания с блоком ИТ «Ростелекома» представила ассистента для организаций с жёсткими требованиями к защите.
К 2027 году чипов хватит на миллиарды ИИ-агентов
Похоже, у ИИ скоро вылезет проблема, которую не залатать покупкой ещё одного чипа. По расчётам Epoch AI, вычислительной мощности, выпущенной с 2025 по 2027 год, хватит для одновременной работы от 33 до 171 млн агентов уровня передовых моделей.
Kandinsky научился лепить видео со звуком
ИИ-видео всё меньше смахивает на немой клип. «Сбер» показал Kandinsky 6.0 Video - модель, которая разом генерит картинку и звук: речь персонажей, музыку и шумы окружения.
Три профессии, которые ИИ уже плодит прямо сейчас
ИИ перетряхивает рынок труда не только тем, что съедает привычные задачи. Вместе с автоматизацией вылезают специалисты, которых ещё несколько лет назад никто бы не вообразил, и часть таких профессий формируется на глазах.
Google научила эмбеддинги переваривать сразу пять типов данных
Google порешила, что эмбеддингам хватит возиться с одним текстом. Компания выкатила вторую версию EmbeddingGemma: теперь система сваливает в общее векторное пространство текст, код, изображения, видео и аудио. Так что на вход можно подавать сразу несколько типов данных.