Стенфордський вчені створюють найбільшу нейронну мережу на основі графічних процесорів NVidia
У минулому році дослідники з лабораторії Google X створили штучну нейронну мережу, робота якої була побудована на принципах роботи головного мозку людини. Ця мережа могла обробляти 1.7 мільярда параметрів, а закладені в неї принципи нечіткої логіки дозволяли їй виконувати неймовірно складні обчислювальні задачі, такі, як розпізнавання образів і об'єктів на зображеннях з низькою якістю. Створюючи свою нейронну мережу, фахівці компанії Google зробили ставку на обчислювальну потужність традиційних центральних процесорів, що вилилося у досить значні розміри обчислювальної системи. Система складалася з тисяч серверів, а загальна кількість обчислювальних ядер склало 16 тисяч штук. Але не так давно дослідники зі Стенфордського університету створили власну нову нейронну мережу, що перевершує за можливостями мережа компанії Google в 6.5 разів, але набагато більш компактну і споживає менше енергії.
Збільшення потужності і можливостей нової нейронної мережі, яка здатна оперувати 11.2 мільярдами параметрів, не означає пропорційного зростання кількості апаратних засобів. Вся справа в тому, що фахівці Стенфордського університету замість центральних процесорів в якості головного обчислювального пристрою використовували графічні процесори компанії NVidia. В результаті їм вдалося обійтися всього 16 серверами, в кожному з яких був встановлений звичайний чотириядерний процесор і чотири графічних прискорювача NVIDIA GeForce GTX 680 з чотирма гігабайтами пам'яті кожен.
Використання графічних процесорів NVidia означає, можливість "упакувати" велику обчислювальну потужність в більш компактні розміри. Цей принцип далеко не новий, в даний час існує досить велика кількість суперкомп'ютерів, зокрема, суперкомп'ютер Cray XK7 "Titan", що входить в п'ятірку лідерів рейтингу Top-500, які використовують графічні процесори NVidia в якості основних обчислювальних пристроїв і які демонструють високу ефективність з точки зору відношення продуктивності до споживаної енергії.
Нова нейронна мережа була створена фахівцями Лабораторії штучного інтелекту Сэнфордского університету, якою керує професор Ендрю Нг (Andrew Ng), вчений в області штучного інтелекту з світовим ім'ям, який представив її на Міжнародній конференції з питань машинного навчання (International Conference on Machine Learning), що проходила минулого тижня в Атланті. Надалі мережа, що володіє настільки вражаючими можливостями, буде використовуватися для проведення досліджень і розробок у галузі штучного інтелекту, які коли-небудь в майбутньому призведуть до того, що наші роботи та інші автоматичні системи отримають інтелект, порівнянний з інтелектом людини.
Крім використання в системах штучного інтелекту, такі потужні нейронні мережі можуть стати чимось на зразок сховища, яке може бути переміщений "оцифрований" розум людини в разі крайньої необхідності. Тільки такий варіант, який здається чимось екстраординарним з розряду наукової фантастики, може бути реалізований у віддаленому або далекому майбутньому. Адже 11 мільярдів модельованих нейронною мережею нервових зв'язків не йдуть ні в яке порівняння з 100 трильйонів зв'язків, які є в головному мозку людини.