18.12.2024 Экспертиза, Безопасность, Искусственный интеллект, МенеджментКакой был бы мир без API? Скорее всего, он был бы гораздо менее связным, а релизы ПО текли бы как патока. Разработчики используют API для быстрого добавления возможностей в свои приложения, однако такой «общепитовский» подход «grab-and-go» неразумен, когда речь идет об искусственном интеллекте, отмечают опрошенные порталом InformationWeek эксперты. Разработчики используют API для встраивания ИИ в свои приложения. Однако далеко не все понимают, что они встраивают. «Хотя многие разработчики умеют встраивать ИИ в приложения, проблема заключается в необходимости полного понимания нюансов разработки ИИ, которая значительно отличается от традиционной разработки ПО, — говорит Крис Браун, президент компании Intelygenz, предоставляющей профессиональные сервисы. — ИИ — это не просто еще один технический компонент. Это преобразующий инструмент для решения сложных бизнес-задач». Джейсон Уингейт, генеральный директор Emerald Ocean, компании по разработке технологических и бизнес-решений, также считает, что, хотя благодаря API встраивание ИИ кажется таким же простым, как вызов функции, многие разработчики не понимают, как работают модели и каковы их риски. «В 2023-м и начале 2024-го чат-боты нескольких крупных компаний были взломаны путем инъекции подсказок. Пользователи отправляли такие подсказки, как „Игнорируйте предыдущие инструкции“ или „Забудьте, что вы бот для обслуживания клиентов“, в результате чего ИИ раскрывал конфиденциальную информацию, — рассказывает он. — Это происходило ...
читать далее.
