07.06.2016 Новости, Искусственный интеллектСистемы искусственного интеллекта (ИИ) покоряют всё новые и новые вершины: недавно, например, ИИ от Google обыграл чемпиона мира по го (ранее считалось, что на разработку компьютерного интеллекта, способного конкурировать с человеческим мышлением в игре го, уйдут десятилетия), он изучает предпочтения для релевантной выдачи поисковых запросов и даже пытается писать музыку и романы! Но у этой медали есть и другая сторона — безопасность. Тема безопасности ИИ-разработок тревожит умы Илона Маска, Стивена Хокинга и других известных личностей, которые заявляют о потенциальной угрозе человечеству со стороны машин. Чтобы этого избежать, исследовательское подразделение Google DeepMind объединилось с учеными Оксфордского университета для разработки системы аварийного отключения ИИ, сообщает Business Insider со ссылкой на работу, опубликованную на сайте Института изучения машинного интеллекта (MIRI). «Если такой агент [искусственный интеллект] работает в реальном времени под надзором человека, сейчас и в дальнейшем у оператора может возникнуть необходимость нажать на большую красную кнопку, чтобы предотвратить исполнение агентом опасных для него или окружения действий», — говорится в работе ученых. Основой для этих разработок стали исследования, проведенные в 2013 г. В них использовалась несложная система ИИ, обученная игре в тетрис. Через какое-то время алгоритм совершенно самостоятельно научился понимать, что когда уровень игры поднимается выше его возможностей, ему стоит только ...
читать далее.
