ChatGPT Agent получил статус высокого риска по биологическому оружию
Если посмотреть системную карту ChatGPT Agent от OpenAI то там найдется кое-что удивительное. Эта система искусственного интеллекта стала 1 в мире, официально получившей статус «высокого риска» по разработке биологического оружия. Подумайте только — технология, которую миллионы используют ежедневно, признана потенциально опасной. Ссылка в описании.
Что означает этот статус? Согласно официальной документации от OpenAI, Agent может существенно помочь даже неспециалисту пройти все необходимые шаги для создания известных биологических или химических угроз. До настоящего момента ни 1 компания, кроме OpenAI, не делала подобных заявлений о своих моделях.
Такое признание привело к введению беспрецедентных мер безопасности. Теперь инструменты обнаружения потенциально опасных запросов работают не только на этапе генерации ответа, но и до того, как запрос вообще передаётся в модель.
Особенно интересно, что теперь пользователи обязаны сообщать об обнаружении необычного поведения системы. Если вы даже случайно натолкнулись на странную реакцию модели, вы должны об этом доложить. В противном случае ваш аккаунт могут заблокировать. А вы сами можете попасть под расследование.
AIvengo >
Новости ИИ >
ChatGPT Agent получил статус высокого риска по биологическому оружию
Почитать из последнего
Учёные сравнили 9000 человек с ИИ и выяснили, что люди креативнее
В журнале Nature Human Behaviour опубликовали масштабное исследование креативности людей и больших языковых моделей. Учёные из Гонконгского университета и Северо-Западного университета сравнили 9198 человек с восемью LLM на тесте дивергентного мышления. В общей сложности 215 542 прогона моделей.
OpenAI готовит армию говорящих устройств и новую голосовую модель
Издание The Information выяснило забавную вещь про OpenAI. Оказывается, когда вы общаетесь с ChatGPT голосом, вы разговариваете совсем не с той моделью, которая отвечает текстом. Голосовая версия 4o не получила ни одного обновления после выхода GPT-5. Она не умеет думать, не знает про цепочки рассуждений. Ничего из того, чем хвастались в последних релизах. Просто старая добрая болтушка, застывшая в прошлом году.
Samsung хотят обойти Apple по ИИ-функциям и вернуть лидерство
В прошлом году Samsung поставила на рынок 400 миллионов мобильных устройств с ассистентом Google Gemini. Этого, видимо, показалось мало. В этом году южнокорейский гигант намерен удвоить количество до 800 миллионов штук. Тэ Мун Ро, один из двух гендиректоров Samsung Electronics, объяснил агентству Reuters это просто. Компания стремится распространить функции ИИ на все устройства и все услуги как можно скорее.
Alibaba научила алгоритм видеть рак там, где врачи пропускают
Каменщик 57 лет в Китае пришёл в больницу проверить диабет. Обычный осмотр, ничего особенного. Через 3 дня ему звонит заведующий отделением поджелудочной железы, мол приезжайте срочно. ИИ, который прогнал его КТ-снимок, нашёл опухоль. Оказалось – рак, но на ранней стадии. Вырезали и мужчина выжил. Без этой технологии его бы нашли слишком поздно, когда 5-летняя выживаемость около 10%.
