Post Thumbnail

ИИ Илона Маска участвует в реформе госаппарата США

Высокопоставленный сотрудник компаний Илона Маска разработал специализированный ИИ-чатбот для Департамента правительственной эффективности (DOGE), использующий технологии xAI для оптимизации государственного управления, как стало известно TechCrunch.

Чатбот, доступный публично до вторника на поддомене DOGE веб-сайта Кристофера Стэнли, руководителя службы безопасности SpaceX и сотрудника Белого дома, был деактивирован вскоре после публикации расследования.

Система, именующая себя “ИИ-ассистентом Департамента правительственной эффективности”, построена на базе Grok-2 от xAI. Чатбот позиционируется как инструмент помощи государственным служащим в выявлении неэффективных расходов и оптимизации процессов.

Техническая архитектура решения представляет собой модифицированную языковую модель, обученную на ключевых целях DOGE, включая пять “руководящих принципов”. Среди них – упрощение государственных требований и устранение избыточных процессов.

Анализ работы системы выявил характерную особенность: чатбот последовательно применяет эти принципы к широкому спектру вопросов. Например, отвечая на запрос о политических лидерах XX века, система выделила Маргарет Тэтчер и Ли Куан Ю как “превосходные модели для DOGE” из-за их фокуса на “эффективности, упрощении и использовании технологий”.

Однако система демонстрирует ряд проблем, включая типичную для языковых моделей “галлюцинацию” – генерацию фиктивных данных. При запросе информации о сотрудниках DOGE чатбот создавал несуществующие имена и должности. Также отмечены случаи нереалистичных рекомендаций, например, предложение USAID использовать дроны и носимые устройства для повышения эффективности.

Внедрение технологии поднимает вопросы о потенциальном конфликте интересов: использование API xAI государственными служащими может напрямую увеличивать доходы компании Маска. Представители xAI оказались недоступны для комментариев.

DOGE активно внедряет ИИ в рамках модернизации государственного управления США. По данным Wired, ведомство также разрабатывает отдельный ИИ-чатбот для Управления общих служб, агентства, контролирующего государственные закупки.

Автор: AIvengo
5 лет я работаю с машинным обучением и искусственным интеллектом. И эта сфера не перестает меня удивлять, восхищать и интересовать.
Latest News
Главный экономист МВФ сравнил бум ИИ с пузырём доткомов

Главный экономист МВФ Пьер-Оливье Гуринша заявил, что мир уже прошёл половину пути до лопнувшего пузыря искусственного интеллекта и нового финансового кризиса.

Исследователи взломали 12 систем защиты ИИ

Знаете, что только что выяснили исследователи из OpenAI, Anthropic, Google DeepMind и Гарварда? Они попытались сломать популярные системы безопасности искусственного интеллекта и почти везде нашли обход. Проверяли 12 распространённых подходов к защите. От умных формулировок системного промпта до внешних фильтров, которые должны ловить опасные запросы.

У OpenAI есть 5 лет чтобы превратить $13 млрд в триллион

Знаете, в каком положении сейчас находится OpenAI? По сообщению Financial Times, у компании есть 5 лет, чтобы превратить 13 млрд долларов в триллион. И вот как это выглядит на практике.

Сэм Альтман обещает вернуть человечность в ChatGPT

Глава OpenAI Сэм Альтман сделал заявление после того, как прошли многочисленные оффлайн и онлайн протесты против отключения модели GPT-4о. А потом включение, но с диким маршрутизатором. Я рассказывал про это на прошлой неделе максимально подробно. Прямая цитата главы OpenAI.

ИИ оживает: почему сооснователь Anthropic боится своего творения

Сооснователь Anthropic Джек Кларк опубликовал эссе, от которого становится не по себе. Он написал про природу современного искусственного интеллекта, и его выводы звучат как предупреждение.