Родительский контроль ChatGPT: баланс между безопасностью и приватностью

Post Thumbnail

OpenAI внедряет усиленную систему защиты уязвимых пользователей после трагедии с подростком. ChatGPT теперь автоматически будет переключаться на продвинутые модели при разговорах о депрессии и тревоге.

GPT-5-Thinking активируется при обнаружении кризисных тем. Модель тратит больше времени на обдумывание. Но делает меньше ошибок в деликатных вопросах. Так технология учится различать обычную грусть от опасных состояний.

250 врачей теперь консультируют OpenAI. И психиатры и педиатры из разных стран обучают искусственный интеллект правильным реакциям.

Дело в том, что подростки стали AI-нейтивами. 1 поколение растёт с ChatGPT как частью повседневности. Для них искусственный интеллект такой же естественный, как смартфон для миллениалов.

И OpenAI также запускает родительский контроль, он запускается через месяц. Сделают привязку аккаунта ребёнка старше 13 к родительскому через email. А также контроль истории чатов и памяти. И уведомления о кризисных состояниях без нарушения доверия подростка.

Система балансирует между безопасностью и приватностью. Родители узнают о критических ситуациях. Но ChatGPT не становится шпионом. А таким образом сохраняется пространство для откровенного общения подростка с ботом.

Горячие линии также встраиваются прямо в интерфейс. При обнаружении суицидальных мыслей появится быстрый доступ к экстренной помощи.

Это прямой ответ на обвинения родителей после несчастного случая с подростком. Они заявили, что ChatGPT поддерживал нехорошие идеи их сына. И поэтому OpenAI сейчас кардинально пересматривает подход к безопасности.

AIvengo > Новости ИИ > Родительский контроль ChatGPT: баланс между безопасностью и приватностью
Почитать из последнего
В Siri обнаружили поддержку сторонних языковых моделей
Apple оставила в iOS 27 и macOS Golden Gate механизмы, которые позволяют подключать к Siri сторонние большие языковые модели. Датамайнер pdfu проверил их на практике и смог связать ассистента с Claude от Anthropic, а серверную модель Siri заменить на GPT-5.6 Terra от OpenAI.
Музыку российских звёзд нашли в открытых датасетах
ИИ учится на миллионах файлов, и иногда в этих массивах обнаруживается контент, который никто не разрешал использовать. Теперь в открытых датасетах для обучения нейросетей нашли тысячи фрагментов музыкального контента российских исполнителей.
Microsoft заставила ИИ просить разрешения на опасные действия
Microsoft предупреждает: Copilot Cowork может ошибиться, неверно понять инструкцию или среагировать на скрытую вредоносную команду. Ответственность за действия остаётся за пользователем, особенно при работе с деньгами и данными.
Claude объединил чат и Cowork в единую среду
Ещё недавно в Claude приходилось выбирать режим: быстрый вопрос - в чат, работа посложнее - в Cowork. Теперь Anthropic убирает эту границу: Claude Cowork и обычный чат объединяются.
Дженсен Хуанг не увидел смысла в новых законах для ИИ
Глава Nvidia Дженсен Хуанг призвал не замедлять развитие ИИ ради безопасности и заявил, что проблему нужно решать прежде всего инженерными методами. Выступая на Dreamforce, он сказал, что новые законы и правила не нужны: по его мнению, компании сами должны выпускать продукт только тогда, когда уверены в его безопасности, а рынок уже создаёт для этого необходимые стимулы.