Google похоронила идею всемогущего ИИ-доктора

Post Thumbnail

Компания Google выпустила отчёт про Health AI Agents на 150 страниц. Это 7 тыс аннотаций, более 1100 часов работы экспертов. Ссылка в описании. Цифры впечатляющие, да. Но суть не в метриках. Суть в том, что они похоронили саму идею всемогущего доктора на искусственном интеллекте. И это, пожалуй, самое честное, что произошло в этой индустрии за последнее время.

Вместо очередного раздутого Doctor-GPT, который якобы всё знает и всё умеет, Google создала Personal Health Agent. Это система из 3 специализированных агентов. Первый копается в данных с ваших носимых устройств и лабораторных анализов. Второй проверяет медицинские факты, чтобы не нести откровенную чушь. Третий ведёт диалог, ставит цели и прикидывается эмпатичным. Всё это связывает оркестратор с памятью, который помнит ваши цели, барьеры и инсайты.

И вот тут начинается интересное. Результаты показывают, что эта сборная солянка превзошла обычные модели на 10 бенчмарках. 20 участников в исследовании с 50 персонами предпочли эту систему обычным языковым моделям. А эксперты оценили ответы на сложные медицинские запросы лучше на 6-39%. Звучит неплохо, правда?

Но это ещё цветочки. Авторы отчёта заложили в дизайн принципы, которые звучат как издёвка над всей индустрией. Учитывать реальные потребности пользователя, не спрашивать то, что можно вывести самостоятельно, минимизировать задержку. Вау, какое откровение! Оказывается, можно думать о людях, а не только о хайпе.

Система протестирована на разных сценариях. Общие вопросы о здоровье, интерпретация данных с носимых устройств и биомаркеров, советы по сну, питанию, активности, оценка симптомов без постановки диагноза. Всё выглядит разумно и осторожно.

А теперь про ограничения. Эта умная конструкция работает в 7 раз медленнее одиночных агентов: 244 секунды против 36. Плюс авторы честно признают, что нужны аудит предвзятости, защита данных и регуляторное соответствие. Следующий шаг – адаптивный стиль общения между эмпатией и ответственностью.

Вот вам и вывод. Google показывает путь вперёд не через супердоктора-бота, а через модульные специализированные команды агентов. Медицина – лишь первый тест. По мнению авторов, дальше будут финансы, право, образование, наука. Может, наконец-то индустрия поймёт, что честность и специализация лучше, чем раздутые обещания всемогущества?

Почитать из последнего
Молчаливый тиктокер с покерфейсом продал свою компанию за 900 миллионов
Хаби Лейм – это такой молчаливый тиктокер с покерфейсом и 160 миллионами подписчиков. И вот он продал свою компанию за $900 миллионов. Сумма огромная, но нюанс в том, что это за продажа. Фишка в условиях контракта - это создание искусственного аватара, который будет вести стримы, сниматься в рекламе и продавать товары 24 часа в сутки. Пока настоящий Хаби спит или играет, его цифровая копия будет вкалывать в другом часовом поясе.
Гуманоиды работают в три раза хуже людей
Знаете, что объединяет хайп вокруг гуманоидов и реальность? Ничего. Но некоторые паникуют из-за того, что гуманоиды массово заменят людей на заводах. И тут директор китайской компании UBTech Майкл Там взял и честно признался Financial Times. Их новейшие человекоподобные роботы достигают производительности всего в 30-50% от человеческой. И это только в простейших операциях типа складывания коробок или контроля качества. Грубо говоря, 1 работник человек делает столько же, сколько 2-3 робота вместе взятых.
Clawdbot слил ключи и переписки сотен пользователей (я вас предупреждал)
Я вчера вам рассказывал про открытый ИИ-ассистент Clawdbot, который взорвал GitHub. 60 тысяч звёзд за 3 дня, все в восторге, все ставят себе. Но я вас предупредил про безопасность. И тут исследователь Джеймисон О'Рейли просто вбивает пару запросов и находит сотни публично доступных серверов. Без аутентификации. С API-ключами, токенами мессенджеров и полной историей переписок на блюдечке.
Ведущие учёные по ИИ попались на выдуманных ИИ цитатах
Когда престижная конференция по ИИ сама становится жертвой галлюцинаций нейросетей, ирония зашкаливает. GPTZero просканировал все 4841 работу, принятую на Conference on Neural Information Processing Systems в декабре в Сан-Диего. И обнаружил 100 подтверждённых фальшивых цитат в 51 статье. Причём речь идёт о ведущих умах индустрии искусственного интеллекта.
OpenAI запускает рекламу в ChatGPT от 60 долларов
OpenAI решила монетизировать ChatGPT через рекламу, и цены оказались космическими. Около $60 за 1000 просмотров. Это уровень премиум-контента на телевидении вроде матчей NFL, когда миллионы людей смотрят одновременно. И бренды готовы платить безумные деньги. Только вот между телетрансляцией финала чемпионата и чатботом есть небольшая разница. Это масштаб аудитории и проверенная модель монетизации.