07.07.2023 Новости, Искусственный интеллектЧто если искусственный интеллект однажды превзойдет интеллект человека? Именно такой «сверхинтеллект» ожидает OpenAI — возможно, уже в этом десятилетии, и компания собирает новую команду, нацеленную на то, чтобы привести его в соответствие с интересами человечества, сообщает портал EnterpriseAI. «Как обеспечить, чтобы системы ИИ, будучи намного умнее человека, следовали человеческим намерениям?» — спрашивается в сообщении в блоге OpenAI, анонсирующем новую команду под названием Superalignment, которую возглавят авторы поста Илья Суцкевер и Ян Лейке. Компания заявила, что сосредоточится не на ИИ общего назначения (ИИОН, AGI), а на сверхинтеллектуальном ИИ, чтобы «подчеркнуть гораздо более высокий уровень его возможностей». Суцкевер и Лейке утверждают, что в настоящее время нет метода управления сверхинтеллектуальным ИИ и что существующие стратегии согласования ИИ с человеческими ценностями и целями, такие как обучение с подкреплением на основе обратной связи от человека, не будут применимы к системам, превосходящим наши собственные способности. OpenAI заявляет, что собирает команду лучших исследователей и инженеров в области машинного обучения для работы над проблемой согласования сверхинтеллекта: «Наша главная ставка на фундаментальные исследования — этим займется Superalignment, но правильное решение этой задачи имеет решающее значение для достижения нашей миссии, и мы ожидаем, что многие команды внесут свой вклад, от разработки новых методов до их масштабирования вплоть до ...
читать далее.
