10.11.2023  Новости, Безопасность, Искусственный интеллект

Благодаря генеративному искусственному интеллекту кибератаки станут намного «умнее». Таков главный вывод нового отчета Google «Cloud Cybersecurity Forecast 2024», сообщает портал ZDNet. Технологии становятся все более «умными» благодаря таким разработкам, как генеративный ИИ, и это в полной мере относится и к атакам на системы кибербезопасности. Новый прогноз Google по кибербезопасности показывает, что развитие искусственного ИИ приведет к появлению новых угроз, о которых необходимо знать. В отчете говорится, что генеративный ИИ и большие языковые модели (LLM) будут использоваться в различных кибератаках, таких как фишинг, SMS-рассылки и другие операции социальной инженерии, с целью придания контенту и материалам, таким как голос и видео, более легитимного вида. Например, при использовании генеративного ИИ будет сложнее обнаружить неопровержимые доказательства фишинговых атак, такие как опечатки, грамматические ошибки и отсутствие культурного контекста, поскольку он отлично имитирует естественный язык. В других случаях злоумышленники могут предоставить LLM легитимный контент и сгенерировать модифицированную версию, отвечающую их целям, но сохраняющую стиль исходного материала. В отчете также прогнозируется дальнейшее развитие LLM и других инструментов генеративного ИИ, предлагаемых в качестве платного сервиса и помогающих злоумышленникам проводить свои атаки более эффективно и с меньшими затратами. Однако прямое применение вредоносного ИИ или LLM будут не так уж необходимо ... читать далее.