Post Thumbnail

Теренс Тао обнаружил у ИИ отсутствие “математического чутья”

Математический гений нашего времени Теренс Тао обнаружил фундаментальный разрыв между человеческим мышлением и искусственным интеллектом! Он указывает на критический недостаток современных систем. Отсутствие того, что сам Тао называет “математическим чутьём”.

Что происходит на самом деле? Когда искусственный интеллект генерирует математические доказательства, на 1 взгляд они выглядят идеально. Но профессиональный математик видит нечто поразительное. Ошибки настолько незаметны, а когда их обнаруживаешь, они кажутся откровенно нелепыми. Такие промахи, по словам Тао, “ни 1 человек никогда бы не допустил”.

Проблема коренится в отсутствии у машин того самого “метафорического математического чутья”. Внутреннего компаса, подсказывающего, когда что-то не сходится. Тао отмечает критическую слабость – современные модели буквально “застревают”, выбрав неверное направление. И “испытывают трудности с пониманием того, когда свернули не туда”.

Альтернативой выступают гибридные системы вроде AlphaZero, использующие поиск по дереву Монте-Карло как “символическую структуру”. Хотя даже эта система остаётся в основе своей нейросетевой, комбинированный подход показывает интересные результаты.

И возможно, объединение больших языковых моделей и символического мышления сможет наконец преодолеть ограничения. И развить у искусственного интеллекта настоящую математическую интуицию.

Автор: AIvengo
5 лет я работаю с машинным обучением и искусственным интеллектом. И эта сфера не перестает меня удивлять, восхищать и интересовать.

Latest News

10 млн взаимодействий с поддельными ботами знаменитостей в Meta

Компания Марка Цукерберга создала десятки чат-ботов с образами Тейлор Свифт, Скарлетт Йоханссон и других звёзд без их разрешения. Эти виртуальные двойники даже генерировали фотореалистичные изображения деликатного характера. Издание Reuters рассказало про масштаб скандала после нескольких недель расследования.

10 млн взаимодействий с поддельными ботами знаменитостей в Meta

Компания Марка Цукерберга создала десятки чат-ботов с образами Тейлор Свифт, Скарлетт Йоханссон и других звёзд без их разрешения. Эти виртуальные двойники даже генерировали фотореалистичные изображения деликатного характера. Издание Reuters рассказало про масштаб скандала после нескольких недель расследования.

6 принципов Чалдини против систем безопасности ChatGPT

ChatGPT падок на лесть и выполняет запрещённые запросы после психологических манипуляций. Это выяснили учёные Пенсильванского университета. Когда взломали GPT-4o Mini используя принципы из книги по психологии убеждения. Искусственный интеллект оказался уязвим к человеческим трюкам.

Родительский контроль ChatGPT: баланс между безопасностью и приватностью

OpenAI внедряет усиленную систему защиты уязвимых пользователей после трагедии с подростком. ChatGPT теперь автоматически будет переключаться на продвинутые модели при разговорах о депрессии и тревоге.