ИИ для рекрутёров решал судьбу соискателей втайне от них

Представьте: вы опытный специалист с 10-летним стажем, отправляете резюме в компанию. И тишина. Даже на собеседование не позвали. Причина? ИИ поставил вам невидимую оценку и слил в архив. Добро пожаловать в новую реальность.

2 жительницы Калифорнии, Эрин Кистлер и Срути Баумик, обе с техническим образованием и опытом больше 10 лет, столкнулись именно с этим. Они подавали заявки в крупнейшие корпорации. И каждый раз получали молчание. Теперь они подали в суд на платформу Eightfold AI, которой пользуется 1/3 компаний из Fortune 500. И это 1 случай в США, когда к системе найма пытаются применить закон о кредитных отчётах.

Согласно иску, платформа собирает данные из более чем 1,5 миллиарда точек. Это LinkedIn, GitHub, базы резюме. Большая языковая модель анализирует не просто опыт работы, а ещё и черты личности: интроверт вы или командный игрок, например. Система прогнозирует ваши будущие должности и выставляет скрытую оценку от 0 до 5. Так называемую вероятность успеха. Работодатели видят только топовых кандидатов, остальных отсеивают до того, как хоть 1 живой человек взглянет на резюме.

Самое интересное, что вас никто не уведомляет об этих досье. Вы не можете их увидеть. Не можете оспорить ошибки. Вы просто получаете отказ за отказом и не понимаете почему. Истцы требуют признать Eightfold агентством потребительских отчётов и заставить соблюдать правила. А именно — получать согласие, давать доступ к данным, право на исправление.

Компания Eightfold AI, конечно, всё отрицает.

Это 1 раз в США, когда ИИ в найме попытались подвести под закон о кредитных отчётах. И прецедент способен перевернуть индустрию. Если иск выиграют, платформы обязаны будут раскрывать собранные данные и давать право оспорить ошибки, как с кредитными бюро. Это вернёт контроль соискателям.

67% компаний уже используют искусственный интеллект в рекрутинге хотя бы на 1 этапе. А мировой рынок HR-tech к 25 году достиг $30 миллиардов. Рынок растёт бешено, но без регулирования превращается в токсичную зону. При успехе иска деньги заработают compliance-консультанты и поставщики этичных AI-решений. А потеряют агрессивные платформы, построенные на непрозрачности, и венчурные фонды, вложившиеся в них. Тот же Eightfold финансируют крупнейшие фонды типа SoftBank Vision Fund и General Catalyst.

Главный вопрос: может ли алгоритм быть справедливее человека, если он непроверяем? Пока ответ — нет. Система обещала эффективность, но породила новую форму дискриминации.