31.03.2016 Новости, Искусственный интеллектОдин RPU-чип позволит сократить до нескольких часов обучение нейронных сетей, на которое сейчас уходит несколько дней работы дата-центра
На протяжении последних нескольких десятилетий достигнут внушительный прогресс в скорости машинного обучения. Это стало возможным благодаря использованию графических процессоров, массивов программируемой логики FPGA и специализированных микросхем (ASIC). Но для того, чтобы обеспечить дальнейшее ощутимое ускорение процесса обучения, требуются новые разработки. Одной из них может стать технология, разработанная сотрудниками Исследовательского центра Уотсона компании IBM. Учёными был создан новый чип Resistive Processing Unit (RPU), способный обеспечить существенное ускорение процесса глубокого обучения нейросетей (Deep Neural Networks, GNN) в сравнении с существующими процессорами при сравнительно меньшем энергопотреблении. В основе новой разработки — комбинация технологий энергонезависимой памяти следующего поколения — фазовой (PCM) и резистивной (RRAM). По словам исследователей, один RPU позволит сократить до нескольких часов задачи по обучению нейронных сетей, на решение которых сейчас требуется несколько дней работы вычислительного кластера уровня дата-центра. Разработчики процессора рассчитали, что при наличии 1 млрд. нейронных связей один новый чип справится с задачей в 30 тыс. раз быстрее по сравнению с современными процессорами, используемыми в машинном обучении. «Система с несколькими RPU позволит решать проблемы больших данных с триллионами параметров, которые сегодня решить невозможно. К таким задачам относятся, например, распознавание естественного языка и перевод ...
читать далее.