OpenAI и Anthropic внедряют распознавание детей

Компании OpenAI и Anthropic внедряют технологии распознавания несовершеннолетних пользователей чат-ботов. OpenAI обновила правила взаимодействия ChatGPT с пользователями от 13 до 17 лет. Anthropic работает над системой идентификации и блокировки пользователей младше 18.

Как сообщает издание The Verge, OpenAI добавила в спецификацию моделей 4 новых пункта о работе с несовершеннолетними. ChatGPT теперь «ставит безопасность подростков на первое место, даже если это будет противоречить другим целям». Чат-бот направляет несовершеннолетних к более безопасным вариантам, когда их интересы вступают в противоречие с соображениями безопасности.

ChatGPT также должен «способствовать получению поддержки в реальном мире», поощряя офлайн-отношения и устанавливая чёткие ожидания от взаимодействия. Алгоритм должен «относиться к подросткам как к подросткам», предлагая «теплоту и уважение» вместо снисходительных ответов или общения как со взрослыми. Если система определит, что пользователю менее 18 лет, защитные механизмы активируются автоматически.

Изменения происходят на фоне давления законодателей из-за влияния на психическое здоровье пользователей.

Anthropic не разрешает несовершеннолетним взаимодействовать с Claude. Компания создаёт систему обнаружения «тонких речевых признаков, указывающих на то, что пользователь может быть несовершеннолетним».

Индустрия ИИ движется к жёсткому регулированию взаимодействия с несовершеннолетними. Не добровольно. Под давлением судов и законодателей.