Post Thumbnail

Финский философ доказал наличие свободы воли у ИИ

Может ли искусственный интеллект обладать свободой воли? Финский философ Фрэнк Мартела из Университета Аалто считает, что да! Он разработал концепцию, опирающуюся на 3 ключевых признака функциональной свободы воли. Во-первых, объект должен действовать намеренно, а не просто реагировать на внешние стимулы. Во-вторых, он должен выбирать из реальных альтернатив. И в-третьих, контролировать свои действия, достигая цели не случайно, а через конкретное осознанное поведение.

Мартела провёл детальный анализ поведения реального бота Voyager, работающего в игре Майнкрафт на основе языковой модели GPT-4. Он также предложил мысленный эксперимент с гипотетическим боевым дроном Спитеник, который теоретически можно создать на текущем уровне развития технологий. В обоих случаях, утверждает философ, все 3 критерия свободы воли полностью выполняются. Эти искусственные агенты способны планировать действия, выбирать из множества вариантов и корректировать своё поведение на основе обратной связи от окружающей среды.

Причём делают они это не потому, что у них есть предустановленный алгоритм на каждый случай, а на основе собственных целей и внутренней модели мира. Но если искусственный интеллект действительно принимает решения самостоятельно, то возникает сложный вопрос кто несёт ответственность за последствия? Мартела проводит интересную параллель с домашними животными “Мы можем обвинить собаку в плохом поведении, но ответственным всё равно остаётся хозяин”.

Автор: AIvengo
5 лет я работаю с машинным обучением и искусственным интеллектом. И эта сфера не перестает меня удивлять, восхищать и интересовать.
Latest News
Главный экономист МВФ сравнил бум ИИ с пузырём доткомов

Главный экономист МВФ Пьер-Оливье Гуринша заявил, что мир уже прошёл половину пути до лопнувшего пузыря искусственного интеллекта и нового финансового кризиса.

Исследователи взломали 12 систем защиты ИИ

Знаете, что только что выяснили исследователи из OpenAI, Anthropic, Google DeepMind и Гарварда? Они попытались сломать популярные системы безопасности искусственного интеллекта и почти везде нашли обход. Проверяли 12 распространённых подходов к защите. От умных формулировок системного промпта до внешних фильтров, которые должны ловить опасные запросы.

У OpenAI есть 5 лет чтобы превратить $13 млрд в триллион

Знаете, в каком положении сейчас находится OpenAI? По сообщению Financial Times, у компании есть 5 лет, чтобы превратить 13 млрд долларов в триллион. И вот как это выглядит на практике.

Сэм Альтман обещает вернуть человечность в ChatGPT

Глава OpenAI Сэм Альтман сделал заявление после того, как прошли многочисленные оффлайн и онлайн протесты против отключения модели GPT-4о. А потом включение, но с диким маршрутизатором. Я рассказывал про это на прошлой неделе максимально подробно. Прямая цитата главы OpenAI.

ИИ оживает: почему сооснователь Anthropic боится своего творения

Сооснователь Anthropic Джек Кларк опубликовал эссе, от которого становится не по себе. Он написал про природу современного искусственного интеллекта, и его выводы звучат как предупреждение.