OpenAI наняла первого психиатра в ИИ-индустрии для изучения влияния ChatGPT на психику

Компания OpenAI сообщила, что наняла профессионального клинического психиатра с опытом в судебной психиатрии. Чтобы исследовать влияние своих продуктов с искусственным интеллектом на психическое здоровье пользователей.

Это 1 в отрасли случай, когда компания-разработчик искусственного интеллекта интегрирует экспертизу в области психического здоровья непосредственно в свою команду.

OpenAI не ограничивается 1 специалистом. Ведутся активные консультации с целой сетью экспертов в сфере психического здоровья. Уже реализовано совместное исследование с Массачусетским технологическим институтом, которое выявило тревожные признаки неадекватного использования искусственного интеллекта некоторыми пользователями.

OpenAI стремится вывести исследования эмоционального воздействия своих систем на научную основу. Разрабатываются методики измерения того, как поведение ChatGPT влияет на эмоциональное состояние людей, особенно в деликатных разговорах. Компания также анализирует пользовательский опыт и обещает продолжать совершенствовать поведение своих моделей на основе получаемых данных.

AIvengo > Новости ИИ > OpenAI наняла первого психиатра в ИИ-индустрии для изучения влияния ChatGPT на психику

Вайб-кодинг убивает Open Source - и это проблема для всех

Исследователи из Центрально-Европейского университета в Вене обнаружили жёсткую закономерность. Вайб-кодеры только потребляют ресурсы, но ничего не отдают обратно. Откуда нейросеть может взять знания? А берет она их из Open Source. Из тех самых бесплатных библиотек и фреймворков, которые энтузиасты создавали 10летиями.

Как уболтали ИИ-бота на скидку 80%

Владелец небольшого бизнеса в Англии поставил на сайт чат-бота на ИИ, чтобы он отвечал на вопросы клиентов по ночам. Полгода всё работало идеально — бот консультировал и помогал оформлять заказы, даже продажи росли. А потом нашёлся 1 хитрец, который за час беседы выманил у искусственного интеллекта скидку 80% на заказ в £8000.

Как DeepSeek обманул Anthropic и что из этого вышло

Представьте: вы годами строите уникальную технологию, вкладываете миллиарды, а кто-то просто скачивает её через прокси. Именно это произошло с Anthropic. Компания раскрыла промышленный шпионаж 3 китайских лабораторий. DeepSeek, Moonshot и MiniMax.

Учёные сломали защиту ИИ обычным вопросом

Исследователи из Microsoft наткнулись на дыру размером с ворота. Оказалось, что всю защиту ИИ можно обойти на этапе обучения 1 безобидным запросом. И дальше модель превращается в послушную машину по производству любой гадости.

США обвинили Nvidia в помощи китайским военным через DeepSeek

Глава комитета Конгресса по Китаю Джон Муленаар направил письмо министру торговли Говарду Латнику с серьёзными обвинениями. По его словам, документы Nvidia свидетельствуют, что инженеры компании помогали китайскому стартапу DeepSeek оптимизировать обучение их моделей. Теперь эти модели развёрнуты в подразделениях планирования мобилизации Народно-освободительной армии Китая.