ИИ-агенты самостоятельно создали социальные нормы без участия человека
Мы привыкли думать, что правила и нормы – это чисто человеческое изобретение. Но новое исследование учёных из City St George’s, University of London и IT University of Copenhagen показывает неожиданное. Их исследование показало, что большие языковые модели, подобные ChatGPT, способны самостоятельно формировать социальные нормы и языковые соглашения, а также менять их под влиянием “меньшинства” – всё без участия человека.
Исследователи задались вопросом. Смогут ли группы искусственного интеллекта создавать новые формы коммуникации, как это делают люди? Для эксперимента они объединили от 24 до 200 ИИ-агентов, которые взаимодействовали между собой в особых условиях. Не зная о существовании всей группы, с ограниченной памятью о прошлых контактах и без человеческих инструкций.
Моделям предлагалось выбрать “имя” из ограниченного набора символов. За совпадение с партнёром они получали награду, за несовпадение – наказание. После сотен таких взаимодействий в группах возникли устойчивые языковые нормы, аналогичные человеческим культурным паттернам.
Самое интересное открытие – появление коллективных предвзятостей, не объяснимых поведением отдельных моделей. Это доказывает, что взаимодействующий искусственный интеллект порождает новые “социальные” качества, которые невозможно свести к индивидуальным алгоритмам участников.
Автор: AIvengo
5 лет я работаю с машинным обучением и искусственным интеллектом. И эта сфера не перестает меня удивлять, восхищать и интересовать.
Latest News
Amazon превращает курьеров в киборгов с умными очками на ИИAmazon решил превратить своих курьеров в киборгов. Нет, серьёзно – компания анонсировала умные очки с искусственным интеллектом для доставщиков. Идея, по словам гиганта e-commerce, в том, чтобы освободить водителям руки. И избавить их от необходимости постоянно переключать взгляд между телефоном, посылкой и окружающим пространством.
OpenAI добавит камео персонажей в SoraКомпания OpenAI опубликовала дорожную карту развития Sora, и знаете что? Похоже, компания наконец-то осознала, что генерация видео – это не просто технологическая демонстрация. А инструмент, которым людям нужно реально пользоваться. Билл Пиблс, глава проекта, анонсировал целый набор обновлений, и некоторые из них действительно интересны.
Starcloud запускает спутник с ИИ в ноябре для дата-центра в космосеЗнаете, куда теперь переносят дата-центры для искусственного интеллекта? В космос. Стартап Starcloud, участник программы NVIDIA Inception, планирует запустить в ноябре спутник с искусственным интеллектом на орбиту Земли. И это только начало их амбициозного плана решить проблемы энергопотребления и охлаждения дата-центров на Земле.
ChatGPT Atlas уязвим к промпт-инъекциям и может помогать фишингуЯ рассказывал про то, что компания OpenAI выпустила браузер ChatGPT Atlas. И вот первые пользователи уже нашли целый букет проблем. Начнём с базовых вещей. В браузере нет встроенного блокировщика рекламы, режима чтения и функции перевода текста на странице. Чтобы пересказать статью или перевести её, нужно просить бота в чате.
Китай сломал литографическую установку ASML при попытке её скопироватьВот вам история про то, как импортозамещение столкнулось с суровой реальностью. Китай попытался разобрать литографическую установку ASML категории DUV, чтобы изучить её устройство. Результат? Повредили систему и обратились к самой ASML с просьбой отремонтировать. Абсурд ситуации зашкаливает.
