В Китае арестовали человека за ИИ-фото дохлых крабов с девятью ногами

Post Thumbnail

Вот вам история про то, как ИИ подставил мошенницу самым идиотским способом. Продавщица из китайского города Сучжоу Гао Цзин продала 8 живых крабов покупательнице из Гуанчжоу. На следующий день та прислала фото и видео: якобы 6 крабов пришли дохлыми, лапками кверху. Гао выплатила 27 баксов компенсации. Казалось бы, дело закрыто.

Но потом Гао пересмотрела видео внимательнее — и начался цирк. «Моя семья 30 лет разводит крабов, мы никогда не видели дохлого краба с ногами вверх», — заявила она. В первом ролике было 2 самца и 4 самки, во втором — 3 самца и 3 самки. Математика не сходится. А самое смешное — у одного краба оказалось 9 ног вместо 8.

Когда Гао написала покупательнице с вопросами, та прочитала сообщение и слилась в закат. Продавщица выложила историю в соцсети — и тут понеслось. Жалоба за нарушение приватности, угрозы от анонимов. Но Гао не испугалась и обратилась в полицию Гуанчжоу.

Расследование подтвердило: видео было сгенерировано на смартфоне с помощью ИИ. Нейросеть нарисовала дохлых крабов, но накосячила с деталями. Покупательницу задержали и дали 8 суток ареста, деньги вернули продавцу.

Это первый в мире задокументированный случай, когда за мошенничество с возвратом товара через ИИ человек реально сел. А сама схема набирает обороты по всему миру: генеришь фейк испорченного товара, требуешь деньги обратно. Только вот нейросети пока подводят на мелочах.

Почитать из последнего
Музыку российских звёзд нашли в открытых датасетах
ИИ учится на миллионах файлов, и иногда в этих массивах обнаруживается контент, который никто не разрешал использовать. Теперь в открытых датасетах для обучения нейросетей нашли тысячи фрагментов музыкального контента российских исполнителей.
Microsoft заставила ИИ просить разрешения на опасные действия
Microsoft предупреждает: Copilot Cowork может ошибиться, неверно понять инструкцию или среагировать на скрытую вредоносную команду. Ответственность за действия остаётся за пользователем, особенно при работе с деньгами и данными.
Claude объединил чат и Cowork в единую среду
Ещё недавно в Claude приходилось выбирать режим: быстрый вопрос - в чат, работа посложнее - в Cowork. Теперь Anthropic убирает эту границу: Claude Cowork и обычный чат объединяются.
Дженсен Хуанг не увидел смысла в новых законах для ИИ
Глава Nvidia Дженсен Хуанг призвал не замедлять развитие ИИ ради безопасности и заявил, что проблему нужно решать прежде всего инженерными методами. Выступая на Dreamforce, он сказал, что новые законы и правила не нужны: по его мнению, компании сами должны выпускать продукт только тогда, когда уверены в его безопасности, а рынок уже создаёт для этого необходимые стимулы.
OpenAI и Anthropic захотели притормозить ИИ, но не сошлись в деталях
Крупнейшие игроки рынка ИИ заговорили о паузе, однако внутри компаний тут же всплыл неудобный вопрос: кого пускать к секретам разработчиков?