Anthropic ставит на эффективность, пока OpenAI сжигает триллионы на железо
Пока вся Кремниевая долина сходит с ума, скупая чипы на годы вперёд и заливая бетоном всё Среднее Западное побережье США под дата-центры, в штаб-квартире Anthropic придерживаются другой философии. Президент и сооснователь компании Даниэла Амодеи повторяет как мантру. Делать больше с меньшими ресурсами.
Звучит дико на фоне того, что творит OpenAI. Они строят гигантские кампусы дата-центров и закупают чипы нового поколения такими темпами, каких индустрия ещё не видела.
Но Даниэла Амодеи утверждает, что у Anthropic всегда была лишь доля от тех ресурсов, что есть у конкурентов по части вычислений и капитала. Но при этом, по её словам, большую часть последних нескольких лет именно у них были самые мощные и производительные модели.
Даниэла и её брат Дарио Амодеи, который возглавляет Anthropic и раньше работал в Baidu и Google, сами помогали строить ту самую парадигму масштабирования, против которой теперь делают ставку. Именно Дарио был среди исследователей, которые популяризировали в OpenAI идею о том, что увеличение вычислений, данных и размера модели предсказуемо улучшает её возможности.
Теперь они говорят, что следующий этап выиграет не тот, кто запустит самое большое предобучение. А тот, кто выдаст максимум возможностей на доллар вычислений. А сейчас и OpenAI и Anthropic ведут себя так, будто готовятся к IPO, параллельно привлекая свежий капитал. Вопрос в том, что сработает: грубая сила масштаба или эффективность.