13.09.2024  Новости, Искусственный интеллект, Итоги и тенденции, Технология

Генеративный ИИ еще очень молод — на массовый рынок он был выпущен чуть более двух лет назад — поэтому с его применением и развитием много нерешенных вопросов, равно как и с рисками, связанными с новыми инструментами. Наиболее значимым риском принято считать «галлюцинирование». Галлюцинации ИИ: как эволюционировала проблема Так называемые «галлюцинации» — выдача в ответ на вопрос абсурдных результатов, которые могут быть очень далеки от реальности или даже противоречить последней — одна из наиболее известных проблем генеративного ИИ. Термин «галлюцинировать» — именно применительно к ИИ — даже был признан «словом года» в 2023 по версии Кембриджского словаря. Заметим, что степень недостоверности при таких галлюцинациях может быть различной: от полной бессмысленности до ложных утверждений и от придуманных фактов до странных логических конструкций. Наиболее известный пример галлюцинирования — некорректное отображение человеческих рук на изображениях, созданных ИИ. Неправильное количество пальцев, неверное их расположение, изгибы «не в ту сторону» встречались слишком часто. Однако эту проблему можно было просто заметить и дать ИИ задание создать новое изображение. Были проблемы и посерьезней, причем некоторые не могли быть выявлены человеком за секунды, но способны создать проблемы. Например, в одном из неприятных инцидентов ИИ, используемый для решения юридических вопросов, выдал рекомендации, основанные на прецедентах, которые были «галлюцинациями» — таких судебных решений, как ... читать далее.