ChatGPT Agent получил статус высокого риска по биологическому оружию
Если посмотреть системную карту ChatGPT Agent от OpenAI то там найдется кое-что удивительное. Эта система искусственного интеллекта стала 1 в мире, официально получившей статус «высокого риска» по разработке биологического оружия. Подумайте только — технология, которую миллионы используют ежедневно, признана потенциально опасной. Ссылка в описании.
Что означает этот статус? Согласно официальной документации от OpenAI, Agent может существенно помочь даже неспециалисту пройти все необходимые шаги для создания известных биологических или химических угроз. До настоящего момента ни 1 компания, кроме OpenAI, не делала подобных заявлений о своих моделях.
Такое признание привело к введению беспрецедентных мер безопасности. Теперь инструменты обнаружения потенциально опасных запросов работают не только на этапе генерации ответа, но и до того, как запрос вообще передаётся в модель.
Особенно интересно, что теперь пользователи обязаны сообщать об обнаружении необычного поведения системы. Если вы даже случайно натолкнулись на странную реакцию модели, вы должны об этом доложить. В противном случае ваш аккаунт могут заблокировать. А вы сами можете попасть под расследование.
AIvengo >
Новости ИИ >
ChatGPT Agent получил статус высокого риска по биологическому оружию
Почитать из последнего
В Siri обнаружили поддержку сторонних языковых моделей
Apple оставила в iOS 27 и macOS Golden Gate механизмы, которые позволяют подключать к Siri сторонние большие языковые модели. Датамайнер pdfu проверил их на практике и смог связать ассистента с Claude от Anthropic, а серверную модель Siri заменить на GPT-5.6 Terra от OpenAI.
Музыку российских звёзд нашли в открытых датасетах
ИИ учится на миллионах файлов, и иногда в этих массивах обнаруживается контент, который никто не разрешал использовать. Теперь в открытых датасетах для обучения нейросетей нашли тысячи фрагментов музыкального контента российских исполнителей.
Claude объединил чат и Cowork в единую среду
Ещё недавно в Claude приходилось выбирать режим: быстрый вопрос - в чат, работа посложнее - в Cowork. Теперь Anthropic убирает эту границу: Claude Cowork и обычный чат объединяются.
Дженсен Хуанг не увидел смысла в новых законах для ИИ
Глава Nvidia Дженсен Хуанг призвал не замедлять развитие ИИ ради безопасности и заявил, что проблему нужно решать прежде всего инженерными методами. Выступая на Dreamforce, он сказал, что новые законы и правила не нужны: по его мнению, компании сами должны выпускать продукт только тогда, когда уверены в его безопасности, а рынок уже создаёт для этого необходимые стимулы.
