ChatGPT Agent получил статус высокого риска по биологическому оружию

Если посмотреть системную карту ChatGPT Agent от OpenAI то там найдется кое-что удивительное. Эта система искусственного интеллекта стала 1 в мире, официально получившей статус «высокого риска» по разработке биологического оружия. Подумайте только — технология, которую миллионы используют ежедневно, признана потенциально опасной. Ссылка в описании.

Что означает этот статус? Согласно официальной документации от OpenAI, Agent может существенно помочь даже неспециалисту пройти все необходимые шаги для создания известных биологических или химических угроз. До настоящего момента ни 1 компания, кроме OpenAI, не делала подобных заявлений о своих моделях.

Такое признание привело к введению беспрецедентных мер безопасности. Теперь инструменты обнаружения потенциально опасных запросов работают не только на этапе генерации ответа, но и до того, как запрос вообще передаётся в модель.

Особенно интересно, что теперь пользователи обязаны сообщать об обнаружении необычного поведения системы. Если вы даже случайно натолкнулись на странную реакцию модели, вы должны об этом доложить. В противном случае ваш аккаунт могут заблокировать. А вы сами можете попасть под расследование.

Автор: AIvengo

5 лет я работаю с машинным обучением и искусственным интеллектом. И эта сфера не перестает меня удивлять, восхищать и интересовать.

Gemini может стать мозгом для всех роботов на планете

Google сделала неожиданный ход. Компания наняла бывшего технического директора Boston Dynamics Аарона Сандерса вице-президентом по аппаратному обеспечению. И это не просто кадровое назначение.

Искусственный интеллект диагностирует болезни сердца через смарт-часы

Системы ИИ могут довольно точно выявлять серьёзные аномалии в здоровье сердечно-сосудистой системы даже по примитивным данным с Apple Watch.

Китайский робот с искусственным интеллектом замаскировался под медузу

Китайские учёные разработали почти неотличимого от медузы робота под названием «водный призрак». Благодаря скромному потреблению небольшое устройство способно длительно находиться в воде. И следить как за экосистемой океана, так и за подводной инфраструктурой, делая это максимально скрытно.

4 модели ИИ спорят между собой и выбирают лучший ответ

Бывший директор по искусственному интеллекту в Tesla Андрей Карпаты, выложил на GitHub свой «проект выходного дня». Приложение llm-council. Это «совет ИИ», где несколько языковых моделей параллельно готовят ответы и выбирают лучший.

Студент оказался умнее ИИ стоимостью миллиарды долларов

Мечта об учёном с искусственным интеллектом разбилась о реальность. Gemini 3 Pro и GPT-5 и 1 провалили задачи, с которыми справляется обычный аспирант.