25.06.2024 Новости, Государство и ИТ, Искусственный интеллект, Итоги и тенденции, Обзоры рынковТренд № 7. Разработка ИИ с учетом безопасности Продолжение. Начало тут, тут, тут и тут Разработка ИИ с учетом обеспечения безопасности — подход, объединяющий методологии и практики безопасности в контексте разработки и внедрения систем машинного обучения. Он сочетает в себе принципы MLOps (Machine Learning Operations) с учетом специфических требований сервисов с ИИ. Специалисты по кибербезопасности участвуют на всех циклах разработки решения. Подход обеспечивает безопасность и конфиденциальность данных, используемых для обучения и тестирования моделей, а также защиту развернутых моделей и инфраструктуры, на которой они работают, от вредоносных атак. Immuta: 80% экспертов в сфере данных в мире считают, что ИИ может стать угрозой для безопасности данных. Прогнозируется, что в ближайшее время главным участником кибератак станет ИИ, который будет настолько быстро взламывать системы защиты организаций, что бороться с ним имеющимися средствами станет невозможно. Уже появляются средства защиты, также основанные на ИИ. ИИ имитирует действия человека, разгадывает капчи и другие средства защиты, может организовать атаку на критическую инфраструктуру. С точки зрения производителя: Программы или системы ИИ должны быть устойчивыми к изменениям, которые не должны влиять на их результат, так как среды, в которых развертываются системы ИИ, обычно очень сложны и нестабильны. С точки зрения пользователя: Важно, что главным приоритетом программы или системы ИИ всегда является безопасность ...
читать далее.
