Робот Figure обладает силой, способной проломить человеческий череп

Post Thumbnail

Стартап Figure AI с поддержкой Nvidia попал под иск от своего бывшего главного инженера по безопасности. И обвинения звучат жёстко. Роберт Грюндел утверждает, что его уволили после того, как он предупредил руководство, что роботы компании «достаточно мощные, чтобы проломить человеческий череп».

Адвокаты Грюнделя называют его информатором, которого уволили через несколько дней после самых прямых жалоб по безопасности. И вот что особенно любопытно: иск появился через 2 месяца после того, как Figure оценили в 39 млрд долларов.

По словам Грюнделя, он предупреждал гендиректора Бретта Адкока и главного инженера о смертельных возможностях робота. 1 из них «уже вырезал четверть-дюймовую выемку в стальной дверце холодильника во время сбоя». Но это ещё не всё.

Грюндел беспокоился, что «план безопасности продукта, который повлиял на решение инвестировать», был «выпотрошен» в том же месяце, когда Figure закрыла раунд инвестиций. По его мнению, это «можно интерпретировать как мошенничество».

Кажется, опасения инженера в Figure AI «воспринимались как препятствия, а не обязательства». Компания сослалась на расплывчатое «изменение направления бизнеса» и выставила его за дверь.

Получается, стартап привлёк миллиарды, обещая безопасных человекоподобных роботов. А человек, отвечавший за безопасность, утверждает: его уволили за то, что он слишком серьёзно относился к своей работе.

Почитать из последнего
Музыку российских звёзд нашли в открытых датасетах
ИИ учится на миллионах файлов, и иногда в этих массивах обнаруживается контент, который никто не разрешал использовать. Теперь в открытых датасетах для обучения нейросетей нашли тысячи фрагментов музыкального контента российских исполнителей.
Microsoft заставила ИИ просить разрешения на опасные действия
Microsoft предупреждает: Copilot Cowork может ошибиться, неверно понять инструкцию или среагировать на скрытую вредоносную команду. Ответственность за действия остаётся за пользователем, особенно при работе с деньгами и данными.
Claude объединил чат и Cowork в единую среду
Ещё недавно в Claude приходилось выбирать режим: быстрый вопрос - в чат, работа посложнее - в Cowork. Теперь Anthropic убирает эту границу: Claude Cowork и обычный чат объединяются.
Дженсен Хуанг не увидел смысла в новых законах для ИИ
Глава Nvidia Дженсен Хуанг призвал не замедлять развитие ИИ ради безопасности и заявил, что проблему нужно решать прежде всего инженерными методами. Выступая на Dreamforce, он сказал, что новые законы и правила не нужны: по его мнению, компании сами должны выпускать продукт только тогда, когда уверены в его безопасности, а рынок уже создаёт для этого необходимые стимулы.
OpenAI и Anthropic захотели притормозить ИИ, но не сошлись в деталях
Крупнейшие игроки рынка ИИ заговорили о паузе, однако внутри компаний тут же всплыл неудобный вопрос: кого пускать к секретам разработчиков?