24.11.2023 Экспертиза, Искусственный интеллектРуслан Алигаджиев, генеральный директор “Биорг” (ИТ-кластер фонда “Сколково”)
В мире опять растает беспокойство по поводу приближения эры сильного (общего) искусственного интеллекта. 23 ноября Reuters сообщило, что стремительное изгнание Сэма Альтмана с поста гендиректора OpenAI (разработчик ChatGPT) произошло из-за новой опасной разработки компании и слишком большой любви Альтмана к коммерциализации решений, риски применения которых еще до конца не исследованы. Как следует на самом деле воспринимать и как применять искусственный интеллект на практике, чтобы снизить возможные риски? Каких правил придерживаться при его обучении? Ошеломляющий прорыв и увольнение Сэма Альтмана Стало известно, что неожиданному и мгновенному увольнению 17 ноября Сэма Альтмана предшествовало письмо разработчиков, адресованное совету директоров OpenAI. Смысл в том, что компания совершила очередной прорыв в разработке сильного искусственного интеллекта. Новый алгоритм Q star может решать математические задачи, хоть и на уровне начальной школы, а значит, принимать самостоятельные однозначные решения. Технология угрожает человечеству и её нельзя коммерциализировать. Есть, правда и другая версия. До исхода Альтмана об алгоритме Q star никто не слышал. Нельзя исключать, что все мы просто стали свидетелями талантливо и по всем правилам драматургии разыгранной пиар-презентации нового алгоритма. Тем более, что Сэм Альтман уже снова вернулся в OpenAI. Так или иначе, теоретические последствия применения сильного ИИ нужно прорабатывать уже сейчас. Этические вопросы в сфере ...
читать далее.