Огляд презентації Nvidia: штучний інтелект Джарвіс та майбутнє графіки в іграх

14 травня Nvidia провела вступну презентацію до GTC. GTC, або GPU Technology Conference - цей захід для фахівців, споживчих продуктів там немає. На GTC 2020 говорили про розумні автомобілі, сервери, дата-центри та штучний інтелект. Давайте подивимося, куди розвивається промисловість графіки. Хочу підсвітити низку цікавих моментів.

Зміст

Дата-центр як комп'ютерна одиниця

Але почнемо з коронавірусу. Цю тему ніяк не могли оминути. Рішення від Nvidia допомагають у всіх сферах, від розшифрування геномів до використання у медичних роботах.

Огляд презентації Nvidia: штучний інтелект Джарвіс та майбутнє графіки в іграх

До речі, у своїй презентації Nvidia показували модель університету Остіна, але припустимо, що і російська компанія Visual Science використала графіку від Nvidia, щоб створити свою детальну модель вірусу SARS-CoV-2.

CEO Nvidia Дженсен Хуанг поділився своїм баченням розвитку промисловості. За його словами, можна виділити дві основні сили, що штовхають розвиток комп'ютерних обчислень останніми роками. На першому місці – машинне навчання, тобто побудова нового на основі вже відомих даних.

Другий драйвер – це зростання проблеми задач і, відповідно, зростання розмірів додатків, коли вже комп'ютер сам не може впоратися. Це спричинило збільшення кількості дата-центрів. На думку Хуанга, ми йдемо до того, що за одну обчислювальну одиницю прийматиметься не комп'ютер або сервер, а цілий дата-центр. Відповідно, перед індустрією постає нова проблема, як створювати, передавати, зберігати та оптимізувати дані, щоб з ними можна було максимально продуктивно працювати на рівні дата-центрів.

Мабуть, з цього передбачення попутно можна зробити споживчий висновок, що модель ігрового стрімінгу, коли потужне залізо для відтворення гри знаходиться десь у хмарі, стане основним видом геймінгу для більшості населення.

Для прискорення доставки даних (тобто роботи в мережі) Nvidia купила Mellanox. Це, здається, була найбільша угода в історії Nvidia. Mellanox випускає обладнання для високошвидкісних мереж із фокусом на суперкомп'ютери та дата-центри обробки великих даних.

Огляд презентації Nvidia: штучний інтелект Джарвіс та майбутнє графіки в іграх

Штучний інтелект у створенні графіки

Почав пан Хуанг здалеку. З розповіді про те, як 40 років тому один із працівників компанії описав модель поведінки світла на об'єкті.

Огляд презентації Nvidia: штучний інтелект Джарвіс та майбутнє графіки в іграх

Качається кулька, в ній відображається поверхня, грає світло

І лише через 38 років, а саме у 2018 році, Nvidia змогли представити масову реалізацію моделі у вигляді карт нового покоління GeForce RTX з двома новаторськими функціями: трасуванням променів у реальному часі та штучним інтелектом, націленим на добудову та покращення картинки.

/p>

За словами пана Хуанга, навіть через стільки часу з моменту створення моделі потужності відеокарт для трасування променів не вистачало, тому на допомогу саме прийшло машинне навчання. Останні роки Nvidia активно займається тренуванням свого ІІ. Йому дають картину 540p, і його мета – на основі вивченого синтезувати картинку у Full HD.

Огляд презентації Nvidia: штучний інтелект Джарвіс та майбутнє графіки в іграх

Мабуть, це найбільш захоплююча частина презентації. Для навчання Nvidia зробила модель в 16К і проганяла ІІ «трильйони разів» через неї. А потім навчений ІІ доставляється вже на комп'ютери у вигляді драйверів. Ця технологія називається DLSS, або Deep Learning Super Sampling, тобто глибинне навчання на суперзразках (ще б не супер, коли вихідна модель 16К).

Наш чудовий сайт відчайдушно тисне усі картинки, тому під цим параграфом я залишу посилання на відео з таймінгом цього місця. Краще дивитись у 4К!

Отже, спочатку картинку показали у вихідному 16К.

Огляд презентації Nvidia: штучний інтелект Джарвіс та майбутнє графіки в іграх

Потому показали, як відеокарта може сама вивести її в 720p.

Огляд презентації Nvidia: штучний інтелект Джарвіс та майбутнє графіки в іграх

Наслідком показали, як перша версія DLSS 1.0 покращувала картинку, беручи вихідник у 720p і намагаючись «витягнути» його. Тут відразу слід зазначити, що DLSS 1.0 не полетіла, тому що для навчання ІІ під кожну задачу (гру) потрібно створювати окремий полігон для тренувань. А це непросте та накладне завдання, тому розробники просто саботували DLSS 1.0.

Огляд презентації Nvidia: штучний інтелект Джарвіс та майбутнє графіки в іграх

Але Nvidia вірила в успіх. Майже місяць тому компанія представила DLSS 2.0. Цю технологію, ймовірно, чекає успіху, оскільки вона більш життєздатна. Більше не треба створювати окремий навчальний полігон під кожну гру. Але найбільша пишність у тому, що DLSS 2.0 дозволяє отримати кращу якість зображення, ніж та Full HD картинка, яку може вивести картка самостійно.

Огляд презентації Nvidia: штучний інтелект Джарвіс та майбутнє графіки в іграх Огляд презентації Nvidia: штучний інтелект Джарвіс та майбутнє графіки в іграх

Уся справа в тому, що відеокарта просто рендерує зображення на основі своїх можливостей. А DLSS 2.0 знає (ну або думає, що знає), як виглядає вихідне зображення в супервеликій роздільній здатності, тому ІІ добудовує навіть те, чого не існує. І, мабуть, ця головна перевага, чому треба купувати RTX, а не GTX карти. У GTX немає так званих Tensor Cores – це окремі процесори для штучного інтелекту.

Відео з позначки: 2.35:

Наприклад, такий приріст продуктивності дає технологія DLSS 2.0 у грі Minecraft.

Огляд презентації Nvidia: штучний інтелект Джарвіс та майбутнє графіки в іграх Огляд презентації Nvidia: штучний інтелект Джарвіс та майбутнє графіки в іграх Огляд презентації Nvidia: штучний інтелект Джарвіс та майбутнє графіки в іграх

Ну і принагідно Nvidia похвалилася, що всі круті хлопці працюють із її графікою. Типу викуси, AMD! Тут, звичайно, варто відзначити, що Nvidia давно настав час закопати сокиру війни і знову подружитися з Apple, так як багато хто в кіноіндустрії використовують Mac Pro для рендерингу графіки. Хоча все відносно, наприклад, на картинці відзначено студію Pixar, яка хіба що історично використовує продукцію Apple, але, мабуть, і про Nvidia не забуває.

Огляд презентації Nvidia: штучний інтелект Джарвіс та майбутнє графіки в іграх

Але взагалі, розповідь подавалася під соусом, що інструменти Nvidia дозволяють одночасно працювати над 3D моделями одразу кільком користувачам. І все це можливо за допомогою нового сервера, утиканного купою карток RTX. Купуєте, встромляєте картки, і вперед! По суті, суперхіт, особливо в умовах самоізоляції та й взагалі. Сидить дизайнер десь на Гаваях і робить з іншими чуваками по всьому світу новий мультик від Pixar. Тільки швидкісний інтернет потрібний.

Огляд презентації Nvidia: штучний інтелект Джарвіс та майбутнє графіки в іграх

Для прикладу ролик із кулькою. У ньому примітні освітлення, тіні, природна фізика, а також те, що його разом робили дизайнери та інженери, що сидять по всій країні.

Про високопродуктивні комп'ютери

У сфері високопродуктивних комп'ютерів пан Хуанг розповідав нудні речі для пересічного споживача. Якщо коротко, тобто Spark, або Apache Spark, це аналітичний двигун для роботи з великими даними. І ось Nvidia каже: а що якщо для прискорення обробки даних будуть використовуватися наші класні напрацювання?

Огляд презентації Nvidia: штучний інтелект Джарвіс та майбутнє графіки в іграх Огляд презентації Nvidia: штучний інтелект Джарвіс та майбутнє графіки в іграх

Наприклад, нехай Spark для обробки даних використовує процесори відеокарт та пам'ять відеокарт! А ще нехай Spark планує і розділяє роботу, щоб все вважалося скрізь і одночасно - і в процесорі, і в відеокарті! І зробіть спеціальну бібліотеку, до якої Spark зможе звертатися. І назвемо це все Spark 3.0. Так вони там і вчинили.

У результаті все стало працювати набагато швидше. На підтвердження показали якийсь суперсервер від Dell, який, крім купи швидкісних характеристик, коштує цілий мільйон доларів і споживає 16 кВт! І видає швидкість обробки даних 17 Гб/с. А якщо зробити суперсервер Spark 3.0 з запчастинами від Nvidia, то коштуватиме він 2 мільйони доларів, зате швидкість обробки даних складе 163 Гб/с. І всі вчені та обробники великих даних повинні бути в захваті, тому що всього лише вдвічі дорожчі, зате вдесятеро продуктивніші. Ну а для дата-центру потрібен щонайменше десяток таких шаф.

І наприкінці Дженсен Хуанг такою руками розвів і сказав: «Чим більше купуєш, тим більше заощаджуєш!».

Огляд презентації Nvidia: штучний інтелект Джарвіс та майбутнє графіки в іграх

На цьому, вважаю, обговорення цієї теми можна закінчити. Бо річ, звичайно, хороша, але не впевнена, що прямо зараз по кишені. Хоча, звичайно, один-другий шафку на перспективу треба буде придбати. А поки нехай нову технологію протестують Google та Microsoft.

Огляд презентації Nvidia: штучний інтелект Джарвіс та майбутнє графіки в іграх

Система рекомендацій від Nvidia

Ще одна технологія, якою рядовий користувач не скористається, але з якою точно зіткнеться. Nvidia представила систему рекомендацій Merlin, яка підходить для всього – хоч фільми та музика, хоч одяг.

Хоча тема рекомендацій і здається нудною, але вона дуже важлива. Згадайте хоча б, як несподівано вистрілила Яндекс.Музика після того, як Яндекс впровадив нову систему рекомендацій. З бридкого каченя сервіс перетворився на цукерку!

Кожен рекомендаційний сервіс є складною системою, де кожного користувача пропускають через фільтри, а система намагається вибрати з мільярдів варіантів найбільш відповідний. Все це вимагає і обчислювальної сили, і штучного інтелекту. Nvidia, за їхніми словами, зробить подібну технологію доступною для мас. Компанія представила Nvidia Merlin. Це фреймворк, тобто програмна інфраструктура створення рекомендаційних систем. Merlin дозволяє значно прискорити процес навчання передбачуваного ІІ. Як приклад навели те, що стандартній системі на 1 ТБ деяких даних потрібно 1.5 дні на навчання, а Merlin впорається за 16 хвилин. Ну і для того, щоб все це працювало, потрібні, звичайно, сервери RTX з Tensor процесорами. Уявіть, як ще більше покращає "Яндекс Музика", якщо у "Яндекса" вистачить грошей на покупку. Бо хоч і було сказано про демократизацію, а ціни не назвали.

Огляд презентації Nvidia: штучний інтелект Джарвіс та майбутнє графіки в іграх

Джарвіс — той, хто вміє спілкуватися штучний інтелект

Вірогідно, в Nvidia подумали: якщо ми такі круті і робимо продукти, що дозволяють різко прискорити аналіз, вибір та прогноз поведінки об'єктів, то чому не запропонувати рішення для розмовного штучного інтелекту. По суті, перед цим типом ІІ стоїть велика кількість складних завдань, що вимагають значної обчислювальної потужності, - треба розпізнати розмовну мова, здогадатися, що саме має на увазі користувач, знайти, потім постаратися відповісти йому природно і зрозуміло. Незважаючи на те, що розмовних асистентів вже досить багато, вони вміють мало і значно обмежені. Nvidia вигадала Джарвіса. Це не конкретний голосовий асистент, а лише фреймворк, який, наприклад, може використати «Яндекс», щоб його Аліса стала кмітливішою. Джарвіса будуть продавати вже з набором моделей поведінки, що має спростити впровадження та подальше навчання.

Огляд презентації Nvidia: штучний інтелект Джарвіс та майбутнє графіки в іграх

А на слайді нижче - просто приклад, який Nvidia зробила на пару з Omniverse. Демо-бот не тільки відповідає, але в нього навіть висловлювання морди є. Бота натренували відповідати на запитання про погоду. І в контексті найхолоднішого міста у світі згадали Якутськ. Ось так Росія відзначилася на презентації GTC 2020. Пишаємося!

Огляд презентації Nvidia: штучний інтелект Джарвіс та майбутнє графіки в іграх

А подивитися на роботу чат-бота можна на відео ось тут:

Дві новини, які ми пропустимо: Nvidia EGX A100 та EGX Jetson Xavier NX

А100 – це GPU для дата-центрів. Якщо ми зіткнемося з цими рішеннями, то навряд чи дізнаємося, тому що А100 може, наприклад, керувати сотнями камер в аеропортах, тоді як EGX Jetson Xavier NX підійде для керування кількома камерами в невеликих магазинах.

Як описав те, що відбувається, пан Хуанг: «Платформа NVIDIA EGX Edge AI перетворює стандартний сервер на невеликий захищений хмарний дата-центр із підтримкою ІІ. За допомогою ІІ-фреймворків NVIDIA компанії можуть створювати різні ІІ-сервіси – від розумного роздрібу та роботизованих заводів до автоматичних кол-центрів».

Огляд презентації Nvidia: штучний інтелект Джарвіс та майбутнє графіки в іграх

Все це реалізовано на базі нової архітектури NVIDIA Ampere. Процитую офіційний прес-реліз:

Архітектура NVIDIA Ampere - 8-а архітектура GPU NVIDIA - забезпечує найбільший приріст продуктивності для широкого спектру ресурсомістких завдань, включаючи ІІ-інференс та роботу з 5G-додатками на периферії. Це дозволяє EGX A100 обробляти великі масиви даних у реальному часі, що надходять з камер та інших IoT-датчиків для швидкого отримання інформації та підвищення ефективності бізнесу.

З мережевою картою NVIDIA Mellanox ConnectX-6 Dx система EGX A100 може отримувати до 200 Gbps даних та відправляти їх прямо на згадку про GPU для обробки ІІ або 5G сигналів. З керованою за часом технологією передачі даних NVIDIA Mellanox для телекому (5T для 5G) хмарний, прискорювач EGX A100, що програмно визначається, здатний справлятися з більшістю завдань 5G, чутливих до затримок. Це створює повноцінну ІІ/5G платформу для прийняття рішень у реальному часі безпосередньо у місцях подій — магазинах, лікарнях та на виробництвах.

«Разом з NVIDIA ми будуємо високопродуктивну віртуалізовану мережу радіодоступу 5G та прискорену мережу 5G пакетної комутації, – каже Падіп Колі (Pardeep Kohli), президент та генеральний директор Mavenir. - Це дасть нам можливість надавати широке коло GPU-прискорених 5G сервісів - від ІІ та машинного навчання до доповненої та віртуальної реальності».

Nvidia Ampere у розумних автомобілях

Nvidia Ampere може використовуватись у розумних автомобілях. Фішка в тому, що, умовно кажучи, потрібна тільки ця плата, що на картинці. У ній відбуватимуться всі обчислення, там же розумний натренований ІІ.

Огляд презентації Nvidia: штучний інтелект Джарвіс та майбутнє графіки в іграх Огляд презентації Nvidia: штучний інтелект Джарвіс та майбутнє графіки в іграх

Платформа Nvidia для розумних автомобілів є відкритою, тому їй із задоволенням користуються по всьому світу. В основному китайці та індуси. Ще Mercedes та Toyota. Де Tesla?

Огляд презентації Nvidia: штучний інтелект Джарвіс та майбутнє графіки в іграх

Висновок

Nvidia бадьоро крокує вперед. Вважаю, що вас, як і мене, насамперед зацікавили консьюмерські речі типу DLSS 2.0. Але загалом все представлене Nvidia розраховане на бізнес-користувачів. Навіть DLSS 2.0 має знизити навантаження на стримінгові дата-центри. Створюється відчуття, що якщо Microsoft в якості нового джерела зростання відкрила Azure та хмари, то Nvidia робить ставку на переосмислення ринку обчислень та штучного інтелекту. Вразливою точкою може бути лише те, що компанія, як і раніше, вважає за краще створювати залізо та інфраструктуру, які вже будуть налаштовувати інші компанії, будувати дата-центри, після чого продавати обчислювальні ємності.

Огляд презентації Nvidia: штучний інтелект Джарвіс та майбутнє графіки в іграх

14 травня Nvidia провела вступну презентацію до GTC. GTC, або GPU Technology Conference - цей захід для фахівців, споживчих продуктів там немає. На GTC 2020 говорили про розумні автомобілі, сервери, дата-центри та штучний інтелект. Давайте подивимося, куди розвивається промисловість графіки. Хочу підсвітити низку цікавих моментів.

Зміст

Дата-центр як комп'ютерна одиниця

Але почнемо з коронавірусу. Цю тему ніяк не могли оминути. Рішення від Nvidia допомагають у всіх сферах, від розшифрування геномів до використання у медичних роботах.

Огляд презентації Nvidia: штучний інтелект Джарвіс та майбутнє графіки в іграх

До речі, у своїй презентації Nvidia показували модель університету Остіна, але припустимо, що і російська компанія Visual Science використала графіку від Nvidia, щоб створити свою детальну модель вірусу SARS-CoV-2.

CEO Nvidia Дженсен Хуанг поділився своїм баченням розвитку промисловості. За його словами, можна виділити дві основні сили, що штовхають розвиток комп'ютерних обчислень останніми роками. На першому місці – машинне навчання, тобто побудова нового на основі вже відомих даних.

Другий драйвер – це зростання проблеми задач і, відповідно, зростання розмірів додатків, коли вже комп'ютер сам не може впоратися. Це спричинило збільшення кількості дата-центрів. На думку Хуанга, ми йдемо до того, що за одну обчислювальну одиницю прийматиметься не комп'ютер або сервер, а цілий дата-центр. Відповідно, перед індустрією постає нова проблема, як створювати, передавати, зберігати та оптимізувати дані, щоб з ними можна було максимально продуктивно працювати на рівні дата-центрів.

Мабуть, з цього передбачення попутно можна зробити споживчий висновок, що модель ігрового стрімінгу, коли потужне залізо для відтворення гри знаходиться десь у хмарі, стане основним видом геймінгу для більшості населення.

Для прискорення доставки даних (тобто роботи в мережі) Nvidia купила Mellanox. Це, здається, була найбільша угода в історії Nvidia. Mellanox випускає обладнання для високошвидкісних мереж із фокусом на суперкомп'ютери та дата-центри обробки великих даних.

Огляд презентації Nvidia: штучний інтелект Джарвіс та майбутнє графіки в іграх

Штучний інтелект у створенні графіки

Почав пан Хуанг здалеку. З розповіді про те, як 40 років тому один із працівників компанії описав модель поведінки світла на об'єкті.

Огляд презентації Nvidia: штучний інтелект Джарвіс та майбутнє графіки в іграх

Качається кулька, в ній відображається поверхня, грає світло

І лише через 38 років, а саме у 2018 році, Nvidia змогли представити масову реалізацію моделі у вигляді карт нового покоління GeForce RTX з двома новаторськими функціями: трасуванням променів у реальному часі та штучним інтелектом, націленим на добудову та покращення картинки.

/p>

За словами пана Хуанга, навіть через стільки часу з моменту створення моделі потужності відеокарт для трасування променів не вистачало, тому на допомогу саме прийшло машинне навчання. Останні роки Nvidia активно займається тренуванням свого ІІ. Йому дають картину 540p, і його мета – на основі вивченого синтезувати картинку у Full HD.

Огляд презентації Nvidia: штучний інтелект Джарвіс та майбутнє графіки в іграх

Мабуть, це найбільш захоплююча частина презентації. Для навчання Nvidia зробила модель в 16К і проганяла ІІ «трильйони разів» через неї. А потім навчений ІІ доставляється вже на комп'ютери у вигляді драйверів. Ця технологія називається DLSS, або Deep Learning Super Sampling, тобто глибинне навчання на суперзразках (ще б не супер, коли вихідна модель 16К).

Наш чудовий сайт відчайдушно тисне усі картинки, тому під цим параграфом я залишу посилання на відео з таймінгом цього місця. Краще дивитись у 4К!

Отже, спочатку картинку показали у вихідному 16К.

Огляд презентації Nvidia: штучний інтелект Джарвіс та майбутнє графіки в іграх

Потому показали, як відеокарта може сама вивести її в 720p.

Огляд презентації Nvidia: штучний інтелект Джарвіс та майбутнє графіки в іграх

Наслідком показали, як перша версія DLSS 1.0 покращувала картинку, беручи вихідник у 720p і намагаючись «витягнути» його. Тут відразу слід зазначити, що DLSS 1.0 не полетіла, тому що для навчання ІІ під кожну задачу (гру) потрібно створювати окремий полігон для тренувань. А це непросте та накладне завдання, тому розробники просто саботували DLSS 1.0.

Огляд презентації Nvidia: штучний інтелект Джарвіс та майбутнє графіки в іграх

Але Nvidia вірила в успіх. Майже місяць тому компанія представила DLSS 2.0. Цю технологію, ймовірно, чекає успіху, оскільки вона більш життєздатна. Більше не треба створювати окремий навчальний полігон під кожну гру. Але найбільша пишність у тому, що DLSS 2.0 дозволяє отримати кращу якість зображення, ніж та Full HD картинка, яку може вивести картка самостійно.

Огляд презентації Nvidia: штучний інтелект Джарвіс та майбутнє графіки в іграх Огляд презентації Nvidia: штучний інтелект Джарвіс та майбутнє графіки в іграх

Уся справа в тому, що відеокарта просто рендерує зображення на основі своїх можливостей. А DLSS 2.0 знає (ну або думає, що знає), як виглядає вихідне зображення в супервеликій роздільній здатності, тому ІІ добудовує навіть те, чого не існує. І, мабуть, ця головна перевага, чому треба купувати RTX, а не GTX карти. У GTX немає так званих Tensor Cores – це окремі процесори для штучного інтелекту.

Відео з позначки: 2.35:

Наприклад, такий приріст продуктивності дає технологія DLSS 2.0 у грі Minecraft.

Огляд презентації Nvidia: штучний інтелект Джарвіс та майбутнє графіки в іграх Огляд презентації Nvidia: штучний інтелект Джарвіс та майбутнє графіки в іграх Огляд презентації Nvidia: штучний інтелект Джарвіс та майбутнє графіки в іграх

Ну і принагідно Nvidia похвалилася, що всі круті хлопці працюють із її графікою. Типу викуси, AMD! Тут, звичайно, варто відзначити, що Nvidia давно настав час закопати сокиру війни і знову подружитися з Apple, так як багато хто в кіноіндустрії використовують Mac Pro для рендерингу графіки. Хоча все відносно, наприклад, на картинці відзначено студію Pixar, яка хіба що історично використовує продукцію Apple, але, мабуть, і про Nvidia не забуває.

Огляд презентації Nvidia: штучний інтелект Джарвіс та майбутнє графіки в іграх

Але взагалі, розповідь подавалася під соусом, що інструменти Nvidia дозволяють одночасно працювати над 3D моделями одразу кільком користувачам. І все це можливо за допомогою нового сервера, утиканного купою карток RTX. Купуєте, встромляєте картки, і вперед! По суті, суперхіт, особливо в умовах самоізоляції та й взагалі. Сидить дизайнер десь на Гаваях і робить з іншими чуваками по всьому світу новий мультик від Pixar. Тільки швидкісний інтернет потрібний.

Огляд презентації Nvidia: штучний інтелект Джарвіс та майбутнє графіки в іграх

Для прикладу ролик із кулькою. У ньому примітні освітлення, тіні, природна фізика, а також те, що його разом робили дизайнери та інженери, що сидять по всій країні.

Про високопродуктивні комп'ютери

У сфері високопродуктивних комп'ютерів пан Хуанг розповідав нудні речі для пересічного споживача. Якщо коротко, тобто Spark, або Apache Spark, це аналітичний двигун для роботи з великими даними. І ось Nvidia каже: а що якщо для прискорення обробки даних будуть використовуватися наші класні напрацювання?

Огляд презентації Nvidia: штучний інтелект Джарвіс та майбутнє графіки в іграх Огляд презентації Nvidia: штучний інтелект Джарвіс та майбутнє графіки в іграх

Наприклад, нехай Spark для обробки даних використовує процесори відеокарт та пам'ять відеокарт! А ще нехай Spark планує і розділяє роботу, щоб все вважалося скрізь і одночасно - і в процесорі, і в відеокарті! І зробіть спеціальну бібліотеку, до якої Spark зможе звертатися. І назвемо це все Spark 3.0. Так вони там і вчинили.

У результаті все стало працювати набагато швидше. На підтвердження показали якийсь суперсервер від Dell, який, крім купи швидкісних характеристик, коштує цілий мільйон доларів і споживає 16 кВт! І видає швидкість обробки даних 17 Гб/с. А якщо зробити суперсервер Spark 3.0 з запчастинами від Nvidia, то коштуватиме він 2 мільйони доларів, зате швидкість обробки даних складе 163 Гб/с. І всі вчені та обробники великих даних повинні бути в захваті, тому що всього лише вдвічі дорожчі, зате вдесятеро продуктивніші. Ну а для дата-центру потрібен щонайменше десяток таких шаф.

І наприкінці Дженсен Хуанг такою руками розвів і сказав: «Чим більше купуєш, тим більше заощаджуєш!».

Огляд презентації Nvidia: штучний інтелект Джарвіс та майбутнє графіки в іграх

На цьому, вважаю, обговорення цієї теми можна закінчити. Бо річ, звичайно, хороша, але не впевнена, що прямо зараз по кишені. Хоча, звичайно, один-другий шафку на перспективу треба буде придбати. А поки нехай нову технологію протестують Google та Microsoft.

Огляд презентації Nvidia: штучний інтелект Джарвіс та майбутнє графіки в іграх

Система рекомендацій від Nvidia

Ще одна технологія, якою рядовий користувач не скористається, але з якою точно зіткнеться. Nvidia представила систему рекомендацій Merlin, яка підходить для всього – хоч фільми та музика, хоч одяг.

Хоча тема рекомендацій і здається нудною, але вона дуже важлива. Згадайте хоча б, як несподівано вистрілила Яндекс.Музика після того, як Яндекс впровадив нову систему рекомендацій. З бридкого каченя сервіс перетворився на цукерку!

Кожен рекомендаційний сервіс є складною системою, де кожного користувача пропускають через фільтри, а система намагається вибрати з мільярдів варіантів найбільш відповідний. Все це вимагає і обчислювальної сили, і штучного інтелекту. Nvidia, за їхніми словами, зробить подібну технологію доступною для мас. Компанія представила Nvidia Merlin. Це фреймворк, тобто програмна інфраструктура створення рекомендаційних систем. Merlin дозволяє значно прискорити процес навчання передбачуваного ІІ. Як приклад навели те, що стандартній системі на 1 ТБ деяких даних потрібно 1.5 дні на навчання, а Merlin впорається за 16 хвилин. Ну і для того, щоб все це працювало, потрібні, звичайно, сервери RTX з Tensor процесорами. Уявіть, як ще більше покращає "Яндекс Музика", якщо у "Яндекса" вистачить грошей на покупку. Бо хоч і було сказано про демократизацію, а ціни не назвали.

Огляд презентації Nvidia: штучний інтелект Джарвіс та майбутнє графіки в іграх

Джарвіс — той, хто вміє спілкуватися штучний інтелект

Вірогідно, в Nvidia подумали: якщо ми такі круті і робимо продукти, що дозволяють різко прискорити аналіз, вибір та прогноз поведінки об'єктів, то чому не запропонувати рішення для розмовного штучного інтелекту. По суті, перед цим типом ІІ стоїть велика кількість складних завдань, що вимагають значної обчислювальної потужності, - треба розпізнати розмовну мова, здогадатися, що саме має на увазі користувач, знайти, потім постаратися відповісти йому природно і зрозуміло. Незважаючи на те, що розмовних асистентів вже досить багато, вони вміють мало і значно обмежені. Nvidia вигадала Джарвіса. Це не конкретний голосовий асистент, а лише фреймворк, який, наприклад, може використати «Яндекс», щоб його Аліса стала кмітливішою. Джарвіса будуть продавати вже з набором моделей поведінки, що має спростити впровадження та подальше навчання.

Огляд презентації Nvidia: штучний інтелект Джарвіс та майбутнє графіки в іграх

А на слайді нижче - просто приклад, який Nvidia зробила на пару з Omniverse. Демо-бот не тільки відповідає, але в нього навіть висловлювання морди є. Бота натренували відповідати на запитання про погоду. І в контексті найхолоднішого міста у світі згадали Якутськ. Ось так Росія відзначилася на презентації GTC 2020. Пишаємося!

Огляд презентації Nvidia: штучний інтелект Джарвіс та майбутнє графіки в іграх

А подивитися на роботу чат-бота можна на відео ось тут:

Дві новини, які ми пропустимо: Nvidia EGX A100 та EGX Jetson Xavier NX

А100 – це GPU для дата-центрів. Якщо ми зіткнемося з цими рішеннями, то навряд чи дізнаємося, тому що А100 може, наприклад, керувати сотнями камер в аеропортах, тоді як EGX Jetson Xavier NX підійде для керування кількома камерами в невеликих магазинах.

Як описав те, що відбувається, пан Хуанг: «Платформа NVIDIA EGX Edge AI перетворює стандартний сервер на невеликий захищений хмарний дата-центр із підтримкою ІІ. За допомогою ІІ-фреймворків NVIDIA компанії можуть створювати різні ІІ-сервіси – від розумного роздрібу та роботизованих заводів до автоматичних кол-центрів».

Огляд презентації Nvidia: штучний інтелект Джарвіс та майбутнє графіки в іграх

Все це реалізовано на базі нової архітектури NVIDIA Ampere. Процитую офіційний прес-реліз:

Архітектура NVIDIA Ampere - 8-а архітектура GPU NVIDIA - забезпечує найбільший приріст продуктивності для широкого спектру ресурсомістких завдань, включаючи ІІ-інференс та роботу з 5G-додатками на периферії. Це дозволяє EGX A100 обробляти великі масиви даних у реальному часі, що надходять з камер та інших IoT-датчиків для швидкого отримання інформації та підвищення ефективності бізнесу.

З мережевою картою NVIDIA Mellanox ConnectX-6 Dx система EGX A100 може отримувати до 200 Gbps даних та відправляти їх прямо на згадку про GPU для обробки ІІ або 5G сигналів. З керованою за часом технологією передачі даних NVIDIA Mellanox для телекому (5T для 5G) хмарний, прискорювач EGX A100, що програмно визначається, здатний справлятися з більшістю завдань 5G, чутливих до затримок. Це створює повноцінну ІІ/5G платформу для прийняття рішень у реальному часі безпосередньо у місцях подій — магазинах, лікарнях та на виробництвах.

«Разом з NVIDIA ми будуємо високопродуктивну віртуалізовану мережу радіодоступу 5G та прискорену мережу 5G пакетної комутації, – каже Падіп Колі (Pardeep Kohli), президент та генеральний директор Mavenir. - Це дасть нам можливість надавати широке коло GPU-прискорених 5G сервісів - від ІІ та машинного навчання до доповненої та віртуальної реальності».

Nvidia Ampere у розумних автомобілях

Nvidia Ampere може використовуватись у розумних автомобілях. Фішка в тому, що, умовно кажучи, потрібна тільки ця плата, що на картинці. У ній відбуватимуться всі обчислення, там же розумний натренований ІІ.

Огляд презентації Nvidia: штучний інтелект Джарвіс та майбутнє графіки в іграх Огляд презентації Nvidia: штучний інтелект Джарвіс та майбутнє графіки в іграх

Платформа Nvidia для розумних автомобілів є відкритою, тому їй із задоволенням користуються по всьому світу. В основному китайці та індуси. Ще Mercedes та Toyota. Де Tesla?

Огляд презентації Nvidia: штучний інтелект Джарвіс та майбутнє графіки в іграх

Висновок

Nvidia бадьоро крокує вперед. Вважаю, що вас, як і мене, насамперед зацікавили консьюмерські речі типу DLSS 2.0. Але загалом все представлене Nvidia розраховане на бізнес-користувачів. Навіть DLSS 2.0 має знизити навантаження на стримінгові дата-центри. Створюється відчуття, що якщо Microsoft в якості нового джерела зростання відкрила Azure та хмари, то Nvidia робить ставку на переосмислення ринку обчислень та штучного інтелекту. Вразливою точкою може бути лише те, що компанія, як і раніше, вважає за краще створювати залізо та інфраструктуру, які вже будуть налаштовувати інші компанії, будувати дата-центри, після чого продавати обчислювальні ємності.

Огляд презентації Nvidia: штучний інтелект Джарвіс та майбутнє графіки в іграх

14 травня Nvidia провела вступну презентацію до GTC. GTC, або GPU Technology Conference - цей захід для фахівців, споживчих продуктів там немає. На GTC 2020 говорили про розумні автомобілі, сервери, дата-центри та штучний інтелект. Давайте подивимося, куди розвивається промисловість графіки. Хочу підсвітити низку цікавих моментів.

Зміст

Дата-центр як комп'ютерна одиниця

Але почнемо з коронавірусу. Цю тему ніяк не могли оминути. Рішення від Nvidia допомагають у всіх сферах, від розшифрування геномів до використання у медичних роботах.

Огляд презентації Nvidia: штучний інтелект Джарвіс та майбутнє графіки в іграх

До речі, у своїй презентації Nvidia показували модель університету Остіна, але припустимо, що і російська компанія Visual Science використала графіку від Nvidia, щоб створити свою детальну модель вірусу SARS-CoV-2.

CEO Nvidia Дженсен Хуанг поділився своїм баченням розвитку промисловості. За його словами, можна виділити дві основні сили, що штовхають розвиток комп'ютерних обчислень останніми роками. На першому місці – машинне навчання, тобто побудова нового на основі вже відомих даних.

Другий драйвер – це зростання проблеми задач і, відповідно, зростання розмірів додатків, коли вже комп'ютер сам не може впоратися. Це спричинило збільшення кількості дата-центрів. На думку Хуанга, ми йдемо до того, що за одну обчислювальну одиницю прийматиметься не комп'ютер або сервер, а цілий дата-центр. Відповідно, перед індустрією постає нова проблема, як створювати, передавати, зберігати та оптимізувати дані, щоб з ними можна було максимально продуктивно працювати на рівні дата-центрів.

Мабуть, з цього передбачення попутно можна зробити споживчий висновок, що модель ігрового стрімінгу, коли потужне залізо для відтворення гри знаходиться десь у хмарі, стане основним видом геймінгу для більшості населення.

Для прискорення доставки даних (тобто роботи в мережі) Nvidia купила Mellanox. Це, здається, була найбільша угода в історії Nvidia. Mellanox випускає обладнання для високошвидкісних мереж із фокусом на суперкомп'ютери та дата-центри обробки великих даних.

Огляд презентації Nvidia: штучний інтелект Джарвіс та майбутнє графіки в іграх

Штучний інтелект у створенні графіки

Почав пан Хуанг здалеку. З розповіді про те, як 40 років тому один із працівників компанії описав модель поведінки світла на об'єкті.

Огляд презентації Nvidia: штучний інтелект Джарвіс та майбутнє графіки в іграх

Качається кулька, в ній відображається поверхня, грає світло

І лише через 38 років, а саме у 2018 році, Nvidia змогли представити масову реалізацію моделі у вигляді карт нового покоління GeForce RTX з двома новаторськими функціями: трасуванням променів у реальному часі та штучним інтелектом, націленим на добудову та покращення картинки.

/p>

За словами пана Хуанга, навіть через стільки часу з моменту створення моделі потужності відеокарт для трасування променів не вистачало, тому на допомогу саме прийшло машинне навчання. Останні роки Nvidia активно займається тренуванням свого ІІ. Йому дають картину 540p, і його мета – на основі вивченого синтезувати картинку у Full HD.

Огляд презентації Nvidia: штучний інтелект Джарвіс та майбутнє графіки в іграх

Мабуть, це найбільш захоплююча частина презентації. Для навчання Nvidia зробила модель в 16К і проганяла ІІ «трильйони разів» через неї. А потім навчений ІІ доставляється вже на комп'ютери у вигляді драйверів. Ця технологія називається DLSS, або Deep Learning Super Sampling, тобто глибинне навчання на суперзразках (ще б не супер, коли вихідна модель 16К).

Наш чудовий сайт відчайдушно тисне усі картинки, тому під цим параграфом я залишу посилання на відео з таймінгом цього місця. Краще дивитись у 4К!

Отже, спочатку картинку показали у вихідному 16К.

Огляд презентації Nvidia: штучний інтелект Джарвіс та майбутнє графіки в іграх

Потому показали, як відеокарта може сама вивести її в 720p.

Огляд презентації Nvidia: штучний інтелект Джарвіс та майбутнє графіки в іграх

Наслідком показали, як перша версія DLSS 1.0 покращувала картинку, беручи вихідник у 720p і намагаючись «витягнути» його. Тут відразу слід зазначити, що DLSS 1.0 не полетіла, тому що для навчання ІІ під кожну задачу (гру) потрібно створювати окремий полігон для тренувань. А це непросте та накладне завдання, тому розробники просто саботували DLSS 1.0.

Огляд презентації Nvidia: штучний інтелект Джарвіс та майбутнє графіки в іграх

Але Nvidia вірила в успіх. Майже місяць тому компанія представила DLSS 2.0. Цю технологію, ймовірно, чекає успіху, оскільки вона більш життєздатна. Більше не треба створювати окремий навчальний полігон під кожну гру. Але найбільша пишність у тому, що DLSS 2.0 дозволяє отримати кращу якість зображення, ніж та Full HD картинка, яку може вивести картка самостійно.

Огляд презентації Nvidia: штучний інтелект Джарвіс та майбутнє графіки в іграх Огляд презентації Nvidia: штучний інтелект Джарвіс та майбутнє графіки в іграх

Уся справа в тому, що відеокарта просто рендерує зображення на основі своїх можливостей. А DLSS 2.0 знає (ну або думає, що знає), як виглядає вихідне зображення в супервеликій роздільній здатності, тому ІІ добудовує навіть те, чого не існує. І, мабуть, ця головна перевага, чому треба купувати RTX, а не GTX карти. У GTX немає так званих Tensor Cores – це окремі процесори для штучного інтелекту.

Відео з позначки: 2.35:

Наприклад, такий приріст продуктивності дає технологія DLSS 2.0 у грі Minecraft.

Огляд презентації Nvidia: штучний інтелект Джарвіс та майбутнє графіки в іграх Огляд презентації Nvidia: штучний інтелект Джарвіс та майбутнє графіки в іграх Огляд презентації Nvidia: штучний інтелект Джарвіс та майбутнє графіки в іграх

Ну і принагідно Nvidia похвалилася, що всі круті хлопці працюють із її графікою. Типу викуси, AMD! Тут, звичайно, варто відзначити, що Nvidia давно настав час закопати сокиру війни і знову подружитися з Apple, так як багато хто в кіноіндустрії використовують Mac Pro для рендерингу графіки. Хоча все відносно, наприклад, на картинці відзначено студію Pixar, яка хіба що історично використовує продукцію Apple, але, мабуть, і про Nvidia не забуває.

Огляд презентації Nvidia: штучний інтелект Джарвіс та майбутнє графіки в іграх

Але взагалі, розповідь подавалася під соусом, що інструменти Nvidia дозволяють одночасно працювати над 3D моделями одразу кільком користувачам. І все це можливо за допомогою нового сервера, утиканного купою карток RTX. Купуєте, встромляєте картки, і вперед! По суті, суперхіт, особливо в умовах самоізоляції та й взагалі. Сидить дизайнер десь на Гаваях і робить з іншими чуваками по всьому світу новий мультик від Pixar. Тільки швидкісний інтернет потрібний.

Огляд презентації Nvidia: штучний інтелект Джарвіс та майбутнє графіки в іграх

Для прикладу ролик із кулькою. У ньому примітні освітлення, тіні, природна фізика, а також те, що його разом робили дизайнери та інженери, що сидять по всій країні.

Про високопродуктивні комп'ютери

У сфері високопродуктивних комп'ютерів пан Хуанг розповідав нудні речі для пересічного споживача. Якщо коротко, тобто Spark, або Apache Spark, це аналітичний двигун для роботи з великими даними. І ось Nvidia каже: а що якщо для прискорення обробки даних будуть використовуватися наші класні напрацювання?

Огляд презентації Nvidia: штучний інтелект Джарвіс та майбутнє графіки в іграх Огляд презентації Nvidia: штучний інтелект Джарвіс та майбутнє графіки в іграх

Наприклад, нехай Spark для обробки даних використовує процесори відеокарт та пам'ять відеокарт! А ще нехай Spark планує і розділяє роботу, щоб все вважалося скрізь і одночасно - і в процесорі, і в відеокарті! І зробіть спеціальну бібліотеку, до якої Spark зможе звертатися. І назвемо це все Spark 3.0. Так вони там і вчинили.

У результаті все стало працювати набагато швидше. На підтвердження показали якийсь суперсервер від Dell, який, крім купи швидкісних характеристик, коштує цілий мільйон доларів і споживає 16 кВт! І видає швидкість обробки даних 17 Гб/с. А якщо зробити суперсервер Spark 3.0 з запчастинами від Nvidia, то коштуватиме він 2 мільйони доларів, зате швидкість обробки даних складе 163 Гб/с. І всі вчені та обробники великих даних повинні бути в захваті, тому що всього лише вдвічі дорожчі, зате вдесятеро продуктивніші. Ну а для дата-центру потрібен щонайменше десяток таких шаф.

І наприкінці Дженсен Хуанг такою руками розвів і сказав: «Чим більше купуєш, тим більше заощаджуєш!».

Огляд презентації Nvidia: штучний інтелект Джарвіс та майбутнє графіки в іграх

На цьому, вважаю, обговорення цієї теми можна закінчити. Бо річ, звичайно, хороша, але не впевнена, що прямо зараз по кишені. Хоча, звичайно, один-другий шафку на перспективу треба буде придбати. А поки нехай нову технологію протестують Google та Microsoft.

Огляд презентації Nvidia: штучний інтелект Джарвіс та майбутнє графіки в іграх

Система рекомендацій від Nvidia

Ще одна технологія, якою рядовий користувач не скористається, але з якою точно зіткнеться. Nvidia представила систему рекомендацій Merlin, яка підходить для всього – хоч фільми та музика, хоч одяг.

Хоча тема рекомендацій і здається нудною, але вона дуже важлива. Згадайте хоча б, як несподівано вистрілила Яндекс.Музика після того, як Яндекс впровадив нову систему рекомендацій. З бридкого каченя сервіс перетворився на цукерку!

Кожен рекомендаційний сервіс є складною системою, де кожного користувача пропускають через фільтри, а система намагається вибрати з мільярдів варіантів найбільш відповідний. Все це вимагає і обчислювальної сили, і штучного інтелекту. Nvidia, за їхніми словами, зробить подібну технологію доступною для мас. Компанія представила Nvidia Merlin. Це фреймворк, тобто програмна інфраструктура створення рекомендаційних систем. Merlin дозволяє значно прискорити процес навчання передбачуваного ІІ. Як приклад навели те, що стандартній системі на 1 ТБ деяких даних потрібно 1.5 дні на навчання, а Merlin впорається за 16 хвилин. Ну і для того, щоб все це працювало, потрібні, звичайно, сервери RTX з Tensor процесорами. Уявіть, як ще більше покращає "Яндекс Музика", якщо у "Яндекса" вистачить грошей на покупку. Бо хоч і було сказано про демократизацію, а ціни не назвали.

Огляд презентації Nvidia: штучний інтелект Джарвіс та майбутнє графіки в іграх

Джарвіс — той, хто вміє спілкуватися штучний інтелект

Вірогідно, в Nvidia подумали: якщо ми такі круті і робимо продукти, що дозволяють різко прискорити аналіз, вибір та прогноз поведінки об'єктів, то чому не запропонувати рішення для розмовного штучного інтелекту. По суті, перед цим типом ІІ стоїть велика кількість складних завдань, що вимагають значної обчислювальної потужності, - треба розпізнати розмовну мова, здогадатися, що саме має на увазі користувач, знайти, потім постаратися відповісти йому природно і зрозуміло. Незважаючи на те, що розмовних асистентів вже досить багато, вони вміють мало і значно обмежені. Nvidia вигадала Джарвіса. Це не конкретний голосовий асистент, а лише фреймворк, який, наприклад, може використати «Яндекс», щоб його Аліса стала кмітливішою. Джарвіса будуть продавати вже з набором моделей поведінки, що має спростити впровадження та подальше навчання.

Огляд презентації Nvidia: штучний інтелект Джарвіс та майбутнє графіки в іграх

А на слайді нижче - просто приклад, який Nvidia зробила на пару з Omniverse. Демо-бот не тільки відповідає, але в нього навіть висловлювання морди є. Бота натренували відповідати на запитання про погоду. І в контексті найхолоднішого міста у світі згадали Якутськ. Ось так Росія відзначилася на презентації GTC 2020. Пишаємося!

Огляд презентації Nvidia: штучний інтелект Джарвіс та майбутнє графіки в іграх

А подивитися на роботу чат-бота можна на відео ось тут:

Дві новини, які ми пропустимо: Nvidia EGX A100 та EGX Jetson Xavier NX

А100 – це GPU для дата-центрів. Якщо ми зіткнемося з цими рішеннями, то навряд чи дізнаємося, тому що А100 може, наприклад, керувати сотнями камер в аеропортах, тоді як EGX Jetson Xavier NX підійде для керування кількома камерами в невеликих магазинах.

Як описав те, що відбувається, пан Хуанг: «Платформа NVIDIA EGX Edge AI перетворює стандартний сервер на невеликий захищений хмарний дата-центр із підтримкою ІІ. За допомогою ІІ-фреймворків NVIDIA компанії можуть створювати різні ІІ-сервіси – від розумного роздрібу та роботизованих заводів до автоматичних кол-центрів».

Огляд презентації Nvidia: штучний інтелект Джарвіс та майбутнє графіки в іграх

Все це реалізовано на базі нової архітектури NVIDIA Ampere. Процитую офіційний прес-реліз:

Архітектура NVIDIA Ampere - 8-а архітектура GPU NVIDIA - забезпечує найбільший приріст продуктивності для широкого спектру ресурсомістких завдань, включаючи ІІ-інференс та роботу з 5G-додатками на периферії. Це дозволяє EGX A100 обробляти великі масиви даних у реальному часі, що надходять з камер та інших IoT-датчиків для швидкого отримання інформації та підвищення ефективності бізнесу.

З мережевою картою NVIDIA Mellanox ConnectX-6 Dx система EGX A100 може отримувати до 200 Gbps даних та відправляти їх прямо на згадку про GPU для обробки ІІ або 5G сигналів. З керованою за часом технологією передачі даних NVIDIA Mellanox для телекому (5T для 5G) хмарний, прискорювач EGX A100, що програмно визначається, здатний справлятися з більшістю завдань 5G, чутливих до затримок. Це створює повноцінну ІІ/5G платформу для прийняття рішень у реальному часі безпосередньо у місцях подій — магазинах, лікарнях та на виробництвах.

«Разом з NVIDIA ми будуємо високопродуктивну віртуалізовану мережу радіодоступу 5G та прискорену мережу 5G пакетної комутації, – каже Падіп Колі (Pardeep Kohli), президент та генеральний директор Mavenir. - Це дасть нам можливість надавати широке коло GPU-прискорених 5G сервісів - від ІІ та машинного навчання до доповненої та віртуальної реальності».

Nvidia Ampere у розумних автомобілях

Nvidia Ampere може використовуватись у розумних автомобілях. Фішка в тому, що, умовно кажучи, потрібна тільки ця плата, що на картинці. У ній відбуватимуться всі обчислення, там же розумний натренований ІІ.

Огляд презентації Nvidia: штучний інтелект Джарвіс та майбутнє графіки в іграх Огляд презентації Nvidia: штучний інтелект Джарвіс та майбутнє графіки в іграх

Платформа Nvidia для розумних автомобілів є відкритою, тому їй із задоволенням користуються по всьому світу. В основному китайці та індуси. Ще Mercedes та Toyota. Де Tesla?

Огляд презентації Nvidia: штучний інтелект Джарвіс та майбутнє графіки в іграх

Висновок

Nvidia бадьоро крокує вперед. Вважаю, що вас, як і мене, насамперед зацікавили консьюмерські речі типу DLSS 2.0. Але загалом все представлене Nvidia розраховане на бізнес-користувачів. Навіть DLSS 2.0 має знизити навантаження на стримінгові дата-центри. Створюється відчуття, що якщо Microsoft в якості нового джерела зростання відкрила Azure та хмари, то Nvidia робить ставку на переосмислення ринку обчислень та штучного інтелекту. Вразливою точкою може бути лише те, що компанія, як і раніше, вважає за краще створювати залізо та інфраструктуру, які вже будуть налаштовувати інші компанії, будувати дата-центри, після чого продавати обчислювальні ємності.

Огляд презентації Nvidia: штучний інтелект Джарвіс та майбутнє графіки в іграх

14 травня Nvidia провела вступну презентацію до GTC. GTC, або GPU Technology Conference - цей захід для фахівців, споживчих продуктів там немає. На GTC 2020 говорили про розумні автомобілі, сервери, дата-центри та штучний інтелект. Давайте подивимося, куди розвивається промисловість графіки. Хочу підсвітити низку цікавих моментів.

Зміст

Дата-центр як комп'ютерна одиниця

Але почнемо з коронавірусу. Цю тему ніяк не могли оминути. Рішення від Nvidia допомагають у всіх сферах, від розшифрування геномів до використання у медичних роботах.

До речі, у своїй презентації Nvidia показували модель університету Остіна, але припустимо, що і російська компанія Visual Science використала графіку від Nvidia, щоб створити свою детальну модель вірусу SARS-CoV-2.

CEO Nvidia Дженсен Хуанг поділився своїм баченням розвитку промисловості. За його словами, можна виділити дві основні сили, що штовхають розвиток комп'ютерних обчислень останніми роками. На першому місці – машинне навчання, тобто побудова нового на основі вже відомих даних.

Другий драйвер – це зростання проблеми задач і, відповідно, зростання розмірів додатків, коли вже комп'ютер сам не може впоратися. Це спричинило збільшення кількості дата-центрів. На думку Хуанга, ми йдемо до того, що за одну обчислювальну одиницю прийматиметься не комп'ютер або сервер, а цілий дата-центр. Відповідно, перед індустрією постає нова проблема, як створювати, передавати, зберігати та оптимізувати дані, щоб з ними можна було максимально продуктивно працювати на рівні дата-центрів.

Мабуть, з цього передбачення попутно можна зробити споживчий висновок, що модель ігрового стрімінгу, коли потужне залізо для відтворення гри знаходиться десь у хмарі, стане основним видом геймінгу для більшості населення.

Для прискорення доставки даних (тобто роботи в мережі) Nvidia купила Mellanox. Це, здається, була найбільша угода в історії Nvidia. Mellanox випускає обладнання для високошвидкісних мереж із фокусом на суперкомп'ютери та дата-центри обробки великих даних.

Штучний інтелект у створенні графіки

Почав пан Хуанг здалеку. З розповіді про те, як 40 років тому один із працівників компанії описав модель поведінки світла на об'єкті.

Качається кулька, в ній відображається поверхня, грає світло

І лише через 38 років, а саме у 2018 році, Nvidia змогли представити масову реалізацію моделі у вигляді карт нового покоління GeForce RTX з двома новаторськими функціями: трасуванням променів у реальному часі та штучним інтелектом, націленим на добудову та покращення картинки.

/p>

За словами пана Хуанга, навіть через стільки часу з моменту створення моделі потужності відеокарт для трасування променів не вистачало, тому на допомогу саме прийшло машинне навчання. Останні роки Nvidia активно займається тренуванням свого ІІ. Йому дають картину 540p, і його мета – на основі вивченого синтезувати картинку у Full HD.

Мабуть, це найбільш захоплююча частина презентації. Для навчання Nvidia зробила модель в 16К і проганяла ІІ «трильйони разів» через неї. А потім навчений ІІ доставляється вже на комп'ютери у вигляді драйверів. Ця технологія називається DLSS, або Deep Learning Super Sampling, тобто глибинне навчання на суперзразках (ще не супер, коли вихідна модель в 16К).

Наш чудовий сайт відчайдушно тисне усі картинки, тому під цим параграфом я залишу посилання на відео з таймінгом цього місця. Краще дивитись у 4К!

Отже, спочатку картинку показали у вихідному 16К.

Потому показали, як відеокарта може сама вивести її в 720p.

Наслідком показали, як перша версія DLSS 1.0 покращувала картинку, беручи вихідник у 720p і намагаючись «витягнути» його. Тут відразу слід зазначити, що DLSS 1.0 не полетіла, тому що для навчання ІІ під кожну задачу (гру) потрібно створювати окремий полігон для тренувань. А це непросте та накладне завдання, тому розробники просто саботували DLSS 1.0.

Але Nvidia вірила в успіх. Майже місяць тому компанія представила DLSS 2.0. Цю технологію, ймовірно, чекає успіху, оскільки вона більш життєздатна. Більше не треба створювати окремий навчальний полігон під кожну гру. Але найбільша пишність у тому, що DLSS 2.0 дозволяє отримати кращу якість зображення, ніж та Full HD картинка, яку може вивести картка самостійно.

Уся справа в тому, що відеокарта просто рендерує зображення на основі своїх можливостей. А DLSS 2.0 знає (ну або думає, що знає), як виглядає вихідне зображення в супервеликій роздільній здатності, тому ІІ добудовує навіть те, чого не існує. І, мабуть, ця головна перевага, чому треба купувати RTX, а не GTX карти. У GTX немає так званих Tensor Cores – це окремі процесори для штучного інтелекту.

Відео з позначки: 2.35:

Наприклад, такий приріст продуктивності дає технологія DLSS 2.0 у грі Minecraft.

Ну і принагідно Nvidia похвалилася, що всі круті хлопці працюють із її графікою. Типу викуси, AMD! Тут, звичайно, варто відзначити, що Nvidia давно настав час закопати сокиру війни і знову подружитися з Apple, так як багато хто в кіноіндустрії використовують Mac Pro для рендерингу графіки. Хоча все відносно, наприклад, на картинці відзначено студію Pixar, яка хіба що історично використовує продукцію Apple, але, мабуть, і про Nvidia не забуває.

Але взагалі, розповідь подавалася під соусом, що інструменти Nvidia дозволяють одночасно працювати над 3D моделями одразу кільком користувачам. І все це можливо за допомогою нового сервера, утиканного купою карток RTX. Купуєте, встромляєте картки, і вперед! По суті, суперхіт, особливо в умовах самоізоляції та й взагалі. Сидить дизайнер десь на Гаваях і робить з іншими чуваками по всьому світу новий мультик від Pixar. Тільки швидкісний інтернет потрібний.

Для прикладу ролик із кулькою. У ньому примітні освітлення, тіні, природна фізика, а також те, що його разом робили дизайнери та інженери, що сидять по всій країні.

Про високопродуктивні комп'ютери

У сфері високопродуктивних комп'ютерів пан Хуанг розповідав нудні речі для пересічного споживача. Якщо коротко, тобто Spark, або Apache Spark, це аналітичний двигун для роботи з великими даними. І ось Nvidia каже: а що якщо для прискорення обробки даних будуть використовуватися наші класні напрацювання?

Наприклад, нехай Spark для обробки даних використовує процесори відеокарт та пам'ять відеокарт! А ще нехай Spark планує і розділяє роботу, щоб все вважалося скрізь і одночасно - і в процесорі, і в відеокарті! І зробіть спеціальну бібліотеку, до якої Spark зможе звертатися. І назвемо це все Spark 3.0. Так вони там і вчинили.

У результаті все стало працювати набагато швидше. На підтвердження показали якийсь суперсервер від Dell, який, крім купи швидкісних характеристик, коштує цілий мільйон доларів і споживає 16 кВт! І видає швидкість обробки даних 17 Гб/с. А якщо зробити суперсервер Spark 3.0 з запчастинами від Nvidia, то коштуватиме він 2 мільйони доларів, зате швидкість обробки даних складе 163 Гб/с. І всі вчені та обробники великих даних повинні бути в захваті, тому що всього лише вдвічі дорожчі, зате вдесятеро продуктивніші. Ну а для дата-центру потрібен щонайменше десяток таких шаф.

І наприкінці Дженсен Хуанг такою руками розвів і сказав: «Чим більше купуєш, тим більше заощаджуєш!».

На цьому, вважаю, обговорення цієї теми можна закінчити. Бо річ, звичайно, хороша, але не впевнена, що прямо зараз по кишені. Хоча, звичайно, один-другий шафку на перспективу треба буде придбати. А поки нехай нову технологію протестують Google та Microsoft.

Система рекомендацій від Nvidia

Ще одна технологія, якою рядовий користувач не скористається, але з якою точно зіткнеться. Nvidia представила систему рекомендацій Merlin, яка підходить для всього – хоч фільми та музика, хоч одяг.

Хоча тема рекомендацій і здається нудною, але вона дуже важлива. Згадайте хоча б, як несподівано вистрілила Яндекс.Музика після того, як Яндекс впровадив нову систему рекомендацій. З бридкого каченя сервіс перетворився на цукерку!

Кожен рекомендаційний сервіс є складною системою, де кожного користувача пропускають через фільтри, а система намагається вибрати з мільярдів варіантів найбільш відповідний. Все це вимагає і обчислювальної сили, і штучного інтелекту. Nvidia, за їхніми словами, зробить подібну технологію доступною для мас. Компанія представила Nvidia Merlin. Це фреймворк, тобто програмна інфраструктура створення рекомендаційних систем. Merlin дозволяє значно прискорити процес навчання передбачуваного ІІ. Як приклад навели те, що стандартній системі на 1 ТБ деяких даних потрібно 1.5 дні на навчання, а Merlin впорається за 16 хвилин. Ну і для того, щоб все це працювало, потрібні, звичайно, сервери RTX з Tensor процесорами. Уявіть, як ще більше покращає "Яндекс Музика", якщо у "Яндекса" вистачить грошей на покупку. Бо хоч і було сказано про демократизацію, а ціни не назвали.

Джарвіс — той, хто вміє спілкуватися штучний інтелект

Вірогідно, в Nvidia подумали: якщо ми такі круті і робимо продукти, що дозволяють різко прискорити аналіз, вибір та прогноз поведінки об'єктів, то чому не запропонувати рішення для розмовного штучного інтелекту. По суті, перед цим типом ІІ стоїть велика кількість складних завдань, що вимагають значної обчислювальної потужності, - треба розпізнати розмовну мова, здогадатися, що саме має на увазі користувач, знайти, потім постаратися відповісти йому природно і зрозуміло. Незважаючи на те, що розмовних асистентів вже досить багато, вони вміють мало і значно обмежені. Nvidia вигадала Джарвіса. Це не конкретний голосовий асистент, а лише фреймворк, який, наприклад, може використати «Яндекс», щоб його Аліса стала кмітливішою. Джарвіса будуть продавати вже з набором моделей поведінки, що має спростити впровадження та подальше навчання.

А на слайді нижче - просто приклад, який Nvidia зробила на пару з Omniverse. Демо-бот не тільки відповідає, але в нього навіть висловлювання морди є. Бота натренували відповідати на запитання про погоду. І в контексті найхолоднішого міста у світі згадали Якутськ. Ось так Росія відзначилася на презентації GTC 2020. Пишаємося!

А подивитися на роботу чат-бота можна на відео ось тут:

Дві новини, які ми пропустимо: Nvidia EGX A100 та EGX Jetson Xavier NX

А100 – це GPU для дата-центрів. Якщо ми зіткнемося з цими рішеннями, то навряд чи дізнаємося, тому що А100 може, наприклад, керувати сотнями камер в аеропортах, тоді як EGX Jetson Xavier NX підійде для керування кількома камерами в невеликих магазинах.

Як описав те, що відбувається, пан Хуанг: «Платформа NVIDIA EGX Edge AI перетворює стандартний сервер на невеликий захищений хмарний дата-центр із підтримкою ІІ. За допомогою ІІ-фреймворків NVIDIA компанії можуть створювати різні ІІ-сервіси – від розумного роздрібу та роботизованих заводів до автоматичних кол-центрів».

Все це реалізовано на базі нової архітектури NVIDIA Ampere. Процитую офіційний прес-реліз:

Архітектура NVIDIA Ampere - 8-а архітектура GPU NVIDIA - забезпечує найбільший приріст продуктивності для широкого спектру ресурсомістких завдань, включаючи ІІ-інференс та роботу з 5G-додатками на периферії. Це дозволяє EGX A100 обробляти великі масиви даних у реальному часі, що надходять з камер та інших IoT-датчиків для швидкого отримання інформації та підвищення ефективності бізнесу.

З мережевою картою NVIDIA Mellanox ConnectX-6 Dx система EGX A100 може отримувати до 200 Gbps даних та відправляти їх прямо на згадку про GPU для обробки ІІ або 5G сигналів. З керованою за часом технологією передачі даних NVIDIA Mellanox для телекому (5T для 5G) хмарний, прискорювач EGX A100, що програмно визначається, здатний справлятися з більшістю завдань 5G, чутливих до затримок. Це створює повноцінну ІІ/5G платформу для прийняття рішень у реальному часі безпосередньо у місцях подій — магазинах, лікарнях та на виробництвах.

«Разом з NVIDIA ми будуємо високопродуктивну віртуалізовану мережу радіодоступу 5G та прискорену мережу 5G пакетної комутації, – каже Падіп Колі (Pardeep Kohli), президент та генеральний директор Mavenir. - Це дасть нам можливість надавати широке коло GPU-прискорених 5G сервісів - від ІІ та машинного навчання до доповненої та віртуальної реальності».

Nvidia Ampere у розумних автомобілях

Nvidia Ampere може використовуватись у розумних автомобілях. Фішка в тому, що, умовно кажучи, потрібна тільки ця плата, що на картинці. У ній відбуватимуться всі обчислення, там же розумний натренований ІІ.

Платформа Nvidia для розумних автомобілів є відкритою, тому їй із задоволенням користуються по всьому світу. В основному китайці та індуси. Ще Mercedes та Toyota. Де Tesla?

Висновок

Nvidia бадьоро крокує вперед. Вважаю, що вас, як і мене, насамперед зацікавили консьюмерські речі типу DLSS 2.0. Але загалом все представлене Nvidia розраховане на бізнес-користувачів. Навіть DLSS 2.0 має знизити навантаження на стримінгові дата-центри. Створюється відчуття, що якщо Microsoft як нове джерело зростання відкрила Azure та хмари, то Nvidia робить ставку на переосмислення ринку обчислень та штучного інтелекту. Вразливою точкою може бути лише те, що компанія, як і раніше, вважає за краще створювати залізо та інфраструктуру, які вже будуть налаштовувати інші компанії, будувати дата-центри, після чого продавати обчислювальні ємності.

Nvidia бадьоро крокує вперед. Вважаю, що вас, як і мене, насамперед зацікавили консьюмерські речі типу DLSS 2.0. Але загалом все представлене Nvidia розраховане на бізнес-користувачів. Навіть DLSS 2.0 має знизити навантаження на стримінгові дата-центри. Створюється відчуття, що якщо Microsoft як нове джерело зростання відкрила Azure і хмари, то Nvidia робить ставку на переосмислення ринку обчислень та штучного інтелекту. Вразливою точкою може бути лише те, що компанія, як і раніше, вважає за краще створювати залізо та інфраструктуру, які вже будуть налаштовувати інші компанії, будувати дата-центри, після чого продавати обчислювальні ємності.