Гонка вооружений в автоматизации найма вышла на новый уровень
Соискатели пытаются сломать систему: в Duke University проанализировали 200 тыс резюме и обнаружили, что, как минимум, 1% из них содержат промпт-инъекции.
Это скрытые команды, которые кандидаты вставляют в документ, чтобы пройти автоматизированные агентские инструменты рекрутинга.
В ответ компании выстраивают многоуровневую оборону:
— Централизованные шлюзы в системе автоматизации найма: единая прослойка агентов анализирует входящий контент, очищает данные, блокирует инъекции и логирует срабатывания безопасности
— Санитаризация ввода: фильтры, модели-модераторы и защитные экраны для промптов, которые ловят подозрительные паттерны и стоп-слова в резюме ДО попадания к основному агенту
— Разделение контекстов: пользовательский контент изолируют от системных инструкций ИИ, маркируя все резюме как ненадежные данные для обработки
— Ограничение прав: если агент имеет доступ к базам или инструментам для принятия решений, его права урезают и ставят на контроль человека
Ваши ставки: кто победит в этой гонке HR Tech решений?
🇷🇺Подписывайтесь на нас в Max!
#hr #hrtech #автоматизация #пеклорынок
Соискатели пытаются сломать систему: в Duke University проанализировали 200 тыс резюме и обнаружили, что, как минимум, 1% из них содержат промпт-инъекции.
Это скрытые команды, которые кандидаты вставляют в документ, чтобы пройти автоматизированные агентские инструменты рекрутинга.
В ответ компании выстраивают многоуровневую оборону:
— Централизованные шлюзы в системе автоматизации найма: единая прослойка агентов анализирует входящий контент, очищает данные, блокирует инъекции и логирует срабатывания безопасности
— Санитаризация ввода: фильтры, модели-модераторы и защитные экраны для промптов, которые ловят подозрительные паттерны и стоп-слова в резюме ДО попадания к основному агенту
— Разделение контекстов: пользовательский контент изолируют от системных инструкций ИИ, маркируя все резюме как ненадежные данные для обработки
— Ограничение прав: если агент имеет доступ к базам или инструментам для принятия решений, его права урезают и ставят на контроль человека
Ваши ставки: кто победит в этой гонке HR Tech решений?
🇷🇺Подписывайтесь на нас в Max!
#hr #hrtech #автоматизация #пеклорынок