Post Thumbnail

Топ-менеджер ИИ-компании публично врёт о безопасности технологий

У меня несколько пугающие откровения для вас. Стивен Бартлетт, известный предприниматель и ведущий популярного подкаста “The Diary of a CEO”, поделился информацией, которая заставляет серьёзно задуматься о будущем искусственного интеллекта. По его словам, один из руководителей высшего звена ведущей компании в сфере искусственного интеллекта ведёт двойную игру в своих заявлениях.

Публично этот топ-менеджер уверенно заявляет “Всё под контролем. Нам нечего бояться”. Однако в приватных беседах тот же человек рисует совершенно иную, тревожную картину. Цитирую, “Нас ожидает нечто по-настоящему ужасающее”.

Сам Бартлетт подчёркивает драматический контраст между публичной позицией и частными опасениями “То, что он говорит мне наедине — полностью противоположно публичным заявлениям”. Такое расхождение между официальной риторикой и закулисными разговорами вызывает серьёзные вопросы о реальном состоянии дел в индустрии искусственного интеллекта. Жаль, он не сказал, кто это был.

Особенно тревожным является тот факт, что даже люди, стоящие у руля этой технологической революции, похоже, не имеют полной уверенности в её последствиях и не могут гарантировать безопасность разрабатываемых ими систем.

Послушаешь такие откровения и никакого искусственного интеллекта не захочется.

Автор: AIvengo
5 лет я работаю с машинным обучением и искусственным интеллектом. И эта сфера не перестает меня удивлять, восхищать и интересовать.
Latest News
Главный экономист МВФ сравнил бум ИИ с пузырём доткомов

Главный экономист МВФ Пьер-Оливье Гуринша заявил, что мир уже прошёл половину пути до лопнувшего пузыря искусственного интеллекта и нового финансового кризиса.

Исследователи взломали 12 систем защиты ИИ

Знаете, что только что выяснили исследователи из OpenAI, Anthropic, Google DeepMind и Гарварда? Они попытались сломать популярные системы безопасности искусственного интеллекта и почти везде нашли обход. Проверяли 12 распространённых подходов к защите. От умных формулировок системного промпта до внешних фильтров, которые должны ловить опасные запросы.

У OpenAI есть 5 лет чтобы превратить $13 млрд в триллион

Знаете, в каком положении сейчас находится OpenAI? По сообщению Financial Times, у компании есть 5 лет, чтобы превратить 13 млрд долларов в триллион. И вот как это выглядит на практике.

Сэм Альтман обещает вернуть человечность в ChatGPT

Глава OpenAI Сэм Альтман сделал заявление после того, как прошли многочисленные оффлайн и онлайн протесты против отключения модели GPT-4о. А потом включение, но с диким маршрутизатором. Я рассказывал про это на прошлой неделе максимально подробно. Прямая цитата главы OpenAI.

ИИ оживает: почему сооснователь Anthropic боится своего творения

Сооснователь Anthropic Джек Кларк опубликовал эссе, от которого становится не по себе. Он написал про природу современного искусственного интеллекта, и его выводы звучат как предупреждение.