04.10.2023  Экспертиза, Безопасность, Искусственный интеллект, Менеджмент

Опрошенные порталом InformationWeek эксперты обсуждают риски, связанные с применением несанкционированного искусственного интеллекта на предприятиях. В темных недрах каждого предприятия скрываются разработчики и другие технически подкованные люди, которые хотят расширить границы дозволенного. Они не хотят ждать, пока ИТ-служба поставит печать одобрения на новый программный инструмент. Работая тайно и без надзора, они внедряют свои несанкционированные технологии, не обращая внимания на возможные последствия для безопасности, и часто делятся своими инновациями с ничего не подозревающими коллегами. Когда речь идет о теневом внедрении ИИ, ставки возрастают в геометрической прогрессии. Термин «теневой ИИ» относится к ИИ-программам, используемым без одобрения или ведома руководства организации. CIO и другие руководители ИТ-служб уже много лет борются с теневыми ИТ — использованием любых программных средств, не санкционированных ИТ-руководителями. «Сейчас эта же проблема проявляется на уровне средств ИИ», — говорит Томми Гарднер, технический директор HP Federal. Теневой ИИ обычно появляется, когда исследователи и инженеры-программисты переходят на новые технологии с открытым исходным кодом, зачастую сначала просто пробуя их, говорит Скотт Золди, директор по аналитике сервиса кредитного скоринга FICO. Потом они начинают использовать их на постоянной основе, не возвращаясь к каким-либо формальным процессам управления моделями ИИ. Организации, сталкивающиеся с теневым ИИ, часто ... читать далее.