Вопросы кибербезопасности волнуют все компании мира. Компания Microsoft неустанно продолжает совершенствовать свою инфраструктуру, к чему призывает и своих партнёров. Особую обеспокоенность специалистов вызывают платформы, использующие технологии искусственного интеллекта. Эксперты уверены, что сегодня им уделяется недостаточно внимания. Компания Microsoft разработала специальный инструмент для тестирования защищённости ИИ-систем и назвала его Counterfit.
Counterfit — это автоматизированный инструмент с открытым исходным кодом для тестирования безопасности ИИ-систем организаций. Задача инструмента — предоставить той или иной компании, использующей технологии ИИ, уверенность в том, что их система надёжно защищена от внешних атак. По данным Microsoft, из 28 опрошенных организаций 25 заявили, что у них нет нужных механизмов для защиты своей ИИ-инфраструктуры, а их специалисты по цифровой безопасности недостаточно оснащены средствами для противостояния таким угрозам.
Изначально Counterfit представлял собой набор специальных скриптов, которые можно было использовать для симуляции атак на различные ИИ-модели. Microsoft сперва применяла эти скрипты для внутренних тестов, но со временем Counterfit развился в автоматизированный инструмент, позволяющий проводить тестовые атаки сразу на несколько ИИ-моделей. Компания заявляет, что Counterfit стал неотъемлемой частью программы тестирования безопасности как для её уже использующихся ИИ-платформ, так и продуктов, находящихся в разработке.
Где же можно применять Counterfit? В любой среде и на любых ИИ-моделях. Его можно использовать для проверки эффективности защищённости ИИ-систем на локальном сервере, на границе между сервером и сетью, а также на любых облачных платформах, где применяются ИИ-модели, основывающиеся на обработке входящих данных, практических в любых форматах кроме текста и изображений.
В компании уверяют, что Counterfit будет прост в использовании для специалистов по цифровой безопасности, работающих с такими инструментами, как Metasploit или PowerShell Empyre. Его можно применять для проверки устойчивости защиты на проникновение, а также для сканирования уязвимостей. В ходе симуляции атаки на ИИ-модель Counterfit создаёт логи, с которыми в дальнейшем могут ознакомиться специалисты, а затем использовать эту информацию для усовершенствования своих средств безопасности для ИИ.
Источник: Neowin
