04.05.2023  Экспертиза, Безопасность, Искусственный интеллект

От проблем безопасности и конфиденциальности до дезинформации и предвзятости, большие языковые модели наряду с выгодой несут с собой риски, пишут на портале Enterprisers Project ведущие исследователи HiddenLayer Эоин Викенс и Марта Янус. В последнее время наблюдается невероятный прогресс в области искусственного интеллекта — в основном благодаря достижениям в разработке больших языковых моделей (large language models, LLM). Они являются сердцем таких инструментов генерации текста и кода, как ChatGPT, Bard, Copilot и др. Сегодня эти модели находятся на пути к внедрению во всех отраслях. Но имеются серьезные опасения по поводу того, как они создаются и используются — и как ими можно злоупотреблять. Некоторые страны даже решили применить радикальный подход и временно запретить конкретные LLM до введения надлежащего регулирования. Давайте рассмотрим некоторые реальные негативные последствия использования инструментов на основе LLM и некоторые стратегии по их смягчению. 1. Вредоносный контент LLM могут повысить продуктивность во многих отношениях. Их способность интерпретировать наши запросы и решать довольно сложные проблемы означает, что мы можем переложить рутинные, требующие много времени задачи на нашего любимого чатбота и просто проверить результаты. Но, конечно, с большой силой приходит и большая ответственность. Хотя LLM могут создавать полезные материалы и ускорять разработку ПО, они также могут обеспечить быстрый доступ к вредной информации, ускорить рабочие процессы ... читать далее.