ChatGPT Agent получил статус высокого риска по биологическому оружию
Если посмотреть системную карту ChatGPT Agent от OpenAI то там найдется кое-что удивительное. Эта система искусственного интеллекта стала 1 в мире, официально получившей статус «высокого риска» по разработке биологического оружия. Подумайте только — технология, которую миллионы используют ежедневно, признана потенциально опасной. Ссылка в описании.
Что означает этот статус? Согласно официальной документации от OpenAI, Agent может существенно помочь даже неспециалисту пройти все необходимые шаги для создания известных биологических или химических угроз. До настоящего момента ни 1 компания, кроме OpenAI, не делала подобных заявлений о своих моделях.
Такое признание привело к введению беспрецедентных мер безопасности. Теперь инструменты обнаружения потенциально опасных запросов работают не только на этапе генерации ответа, но и до того, как запрос вообще передаётся в модель.
Особенно интересно, что теперь пользователи обязаны сообщать об обнаружении необычного поведения системы. Если вы даже случайно натолкнулись на странную реакцию модели, вы должны об этом доложить. В противном случае ваш аккаунт могут заблокировать. А вы сами можете попасть под расследование.
Автор: AIvengo
5 лет я работаю с машинным обучением и искусственным интеллектом. И эта сфера не перестает меня удивлять, восхищать и интересовать.
Альтман предупредил ФРС о кризисе безопасности банковских переводовРуководитель OpenAI Сэм Альтман, выступил с серьёзным предупреждением о надвигающемся кризисе в сфере безопасности финансовых транзакций. На встрече в Федеральной резервной системе США он заявил, что большинство существующих методов аутентификации уже не способны противостоять современным технологиям.
От текста к вирусным роликам: новые творческие инструменты XВ платформу X скоро интегрируют собственный инструмент для создания видеороликов из текстовых описаний. По информации от Илона Маска, новая функция получит название "Imagine". И будет основана на технологиях стартапа Hotshot, который компания xAI приобрела в марте этого года.
Робот-щенок Дженни помогает 300 млн людей с деменциейВышла новая версия робота-щенка Дженни и мимо этого события я не смог пройти. Такие роботы-питомцы созданы специально для тех, кто не может ухаживать за живыми животными, но очень нуждается в их компании. Это интересная разработка для людей с деменцией и лёгкими когнитивными нарушениями.
10 учёных из OpenAI отвергли предложения Цукерберга на $300 млнЗнаете, на рынке искусственного интеллекта деньги оказываются иногда бессильны. Цукерберг активно ищет и хантит специалистов по искусственному интеллекту, но результаты бывают и неожиданные. Wall Street Journal сообщает, что минимум 10 учёных из OpenAI отвергли предложения Цукерберга с бонусом в $300 млн.
