Відмінності між версіями «Eos»

Матеріал з Вікі ЦДУ
Перейти до: навігація, пошук
(Створена сторінка: right '''Selene''' - NVIDIA DGX A100, AMD EPYC 7742 64C 2.25GHZ, NVIDIA A100, MELLANOX HDR INFINIBAND. Суперкомп’...)
 
Рядок 1: Рядок 1:
 
[[Файл:Nvidia-eos.jpg|350px|right]]
 
[[Файл:Nvidia-eos.jpg|350px|right]]
'''Selene''' - NVIDIA DGX A100, AMD EPYC 7742 64C 2.25GHZ, NVIDIA A100, MELLANOX HDR INFINIBAND.
+
'''EOS NVIDIA DGX SUPERPOD''' - NVIDIA DGX H100, XEON PLATINUM 8480C 56C 3.8GHZ, NVIDIA H100, INFINIBAND NDR400.
  
Суперкомп’ютер, розроблений компанією Nvidia, здатний досягати 63 460 петафлопсів, займаючи п’яте місце серед найшвидших суперкомп’ютерів у світі, коли він входив до списку. Selene базується на системі Nvidia DGX, що складається з процесорів AMD, графічних процесорів Nvidia A100 і мережі Mellanox HDDR. Selene базується на Nvidia DGX Superpod, високопродуктивному готовому суперкомп’ютерному рішенні, наданому Nvidia з використанням обладнання DGX. DGX Superpod — це тісно інтегрована система, яка поєднує високопродуктивні обчислювальні вузли DGX із швидким сховищем даних і високою пропускною здатністю мережі. Він має на меті забезпечити готове рішення для високих попитів на навантаження машинного навчання. Selene була створена за три місяці, і вона є найшвидшою промисловою системою в США, а також другою за енергоефективністю суперкомп’ютерною системою в історії.
+
Компанія Nvidia анонсувала свій новітній суперкомп’ютер Eos, здатний оперувати 18,4 екзафлопс даних. Ця знахідка робить його одним із найпотужніших і найпередовіших комп’ютерів у світі. Eos призначений для використання в центрах обробки даних і дослідницьких лабораторіях, де активно працюють над інноваційними рішеннями в галузі штучного інтелекту. Апарат складається з 576 відеокарт NVIDIA DGX H100, кожна з яких оснащена 8 флагманськими ШІ-прискорювачами H100. Всі ці карти з’єднані високошвидкісною мережею Infiniband Quantum-2 з низькою затримкою і високою пропускною спроможністю, забезпечуючи ефективне і швидке опрацювання даних.
  
 
== Характеристики ==
 
== Характеристики ==
[[Файл:Selene types.jpeg|250px|right]]
+
[[Файл:Eos.jpg|250px|right]]
  
 
{| class="wikitable"
 
{| class="wikitable"
 
! rowspan="1" style="text-align: left;"| Назва
 
! rowspan="1" style="text-align: left;"| Назва
| Selene
+
| EOS NVIDIA DGX SUPERPOD
 
|-
 
|-
 
! rowspan="1" style="text-align: left;"| Дата початку розробки
 
! rowspan="1" style="text-align: left;"| Дата початку розробки
| 2018-ий рік
+
| Листопад 2023 року
 
|-
 
|-
 
! rowspan="1" style="text-align: left;"| Дата запуску
 
! rowspan="1" style="text-align: left;"| Дата запуску
| 2020-ий рік
+
| 2024-ий рік
 
|-
 
|-
 
! rowspan="1" style="text-align: left;"| Виробник
 
! rowspan="1" style="text-align: left;"| Виробник
| Nvidia, Mellanox, AMD
+
| Nvidia
 
|-
 
|-
 
! rowspan="1" style="text-align: left;" | Країна
 
! rowspan="1" style="text-align: left;" | Країна
Рядок 24: Рядок 24:
 
|-
 
|-
 
! rowspan="1" style="text-align: left;" | Архітектура
 
! rowspan="1" style="text-align: left;" | Архітектура
| 555 520 ядер, AMD EPYC 7742 64C 2.25GHz
+
| 485,888 ядер, Xeon Platinum 8480C 56C 3.8GHz
|-
+
! rowspan="1" style="text-align: left;" | Потужність
+
| 2 646 kW
+
 
|-
 
|-
 
! rowspan="1" style="text-align: left;" | Обчислювальна потужність
 
! rowspan="1" style="text-align: left;" | Обчислювальна потужність
| 63.46 PFlop/s, 79.22 PFlop/s (теоретично максимальна)
+
| 121.40 PFlop/s, 188.65 PFlop/s (теоретично максимальна)
 
|-
 
|-
 
! rowspan="1" style="text-align: left;" | Операційна система
 
! rowspan="1" style="text-align: left;" | Операційна система
| Ubuntu 20.04.1 LTS
+
| Ubuntu 22.04.3 LTS
 
|}
 
|}
  
Рядок 39: Рядок 36:
  
  
Selene, що використовує 1080 процесорів AMD Epyc і 4320 графічних процесорів A100, використовується для навчання BERT, процесора природної мови, менш ніж за 16 секунд, що зазвичай займає в більшості невеликих систем близько 20 хвилин. IEEE Spectrum повідомила, що станом на грудень 2021 року серед усіх комерційно доступних суперкомп’ютерних систем Selene перевершила всі результати тесту MLPerf, який є тестом, розробленим консорціумом розробників штучного інтелекту з академічних кіл, дослідницьких лабораторій і промисловості з метою неупередженого оцінити ефективність навчання та висновків для апаратного забезпечення, програмного забезпечення та послуг, які використовуються для ШІ(Штучного Інтелекту).
+
Суперкомп’ютер оснащений 1152 процесорами Intel Xeon Platinum 8480C, кожен з яких має 56 ядер. Суперкомп’ютер NVIDIA Eos демонструє шалену продуктивність для ШІ-застосунків на рівні 18,4 Ефлопс (FP8), також забезпечуючи близько 9 Ефлопс в обчисленнях FP16 і 275 Пфлопс у FP64. Розробники вказують, що Eos здатний впоратися з найбільш вимогливими робочими навантаженнями у сфері ШІ, враховуючи навчання великих мовних моделей, рекомендаційні алгоритми, квантове моделювання та багато іншого. Високу продуктивність NVIDIA Eos забезпечують потужні прискорювачі та інтерфейси компанії NVIDIA, а також програмне забезпечення, таке як NVIDIA Base Command та NVIDIA AI Enterprise.
  
 
==Призначення==
 
==Призначення==
[[Файл:Selene arch.png|450px|right]]
 
 
Вирішення проблеми великомасштабної багатовузлової інфраструктури штучного інтелекту NVIDIA DGX SuperPOD розроблено для забезпечення неперевершеного рівня багатосистемного навчання.
 
Традиційні великі обчислювальні кластери обмежені складністю масштабування зв’язків між GPU, оскільки конфігурації стають більшими, а обчислення розпаралелюються на все більшій кількості вузлів. Це призводить до зниження продуктивності. DGX SuperPOD вирішує цю проблему масштабування, оптимізуючи кожен компонент у системі відповідно до унікальних вимог багатовузлової інфраструктури ШІ. Використовуючи цю архітектуру, NVIDIA створила один із найшвидших і найбільш енергоефективних суперкомп’ютерів у світі Selene, який постійно займає перше місце в списках TOP500 і Green500 і встановлює численні рекорди MLPerf.
 
 
Повний життєвий цикл досвіду за підтримки NVIDIA
 
Підприємствам потрібен не лише архітектурний дизайн, а швидший шлях до того, щоб зробити прискорену обчислювальну інфраструктуру корисною для свого бізнесу. Їм потрібен готовий, швидкий і оптимізований для ІТ-середовища досвід впровадження, щоб спеціалісти з обробки даних могли працювати з першого дня та продовжувати вдосконалюватися з часом.
 
Завдяки NVIDIA DGX SuperPOD підприємства отримують переваги від повного життєвого циклу професійних послуг, які охоплюють усе: від встановлення до керування інфраструктурою, масштабування робочих навантажень і спрощеного штучного інтелекту. І згідно з обіцянками DGX SuperPOD, він постійно покращується. Інженери NVIDIA постійно впроваджують інновації та оновлюють програмне забезпечення, на якому працює DGX SuperPOD, тому кожна система працює швидше, ніж у день її введення в експлуатацію.
 
 
== Цікаві факти ==
 
* За '''~3.33 хвилини''' надає '''персоналізовані результати''' в орієнтованих на користувачів службах, таких як соціальні мережі або веб-сайти електронної комерції, завдяки розумінню взаємодії між користувачами та елементами послуг, як-от продукти чи оголошення
 
 
* '''Обробка природної мови за менш ніж 1 хвилину''': Розуміє текст, використовуючи зв’язок між різними словами в блоці тексту. Дозволяє відповідати на запитання, перефразувати речення та багато інших випадків використання, пов’язаних із мовою
 
 
* '''Повторюючий переклад за 0.71 хвилину''': Перекладає текст з однієї мови на іншу за допомогою рекурентної нейронної мережі.
 
  
* '''Класифікація зображення за 0.76 хвилин''': Надає вхідному зображенню мітку з фіксованого набору категорій, тобто застосовується до завдань комп'ютерного зору, таких як автономні транспортні засоби.
+
Архітектура Eos оптимізована для робочих навантажень АІ, що вимагають наднизької затримки та високої пропускної здатності між великим кластером прискорених обчислювальних вузлів, що робить її ідеальним рішенням для підприємств, які бажають масштабувати свої можливості з обробки завдань штучного інтелекту. Мережева архітектура на базі NVIDIA Quantum-2 InfiniBand з технологією In-Network Computing підтримує швидкість передачі даних до 400 Гбіт/с, забезпечуючи швидке переміщення великих наборів даних, необхідних для навчання складних моделей АІ. У Nvidia додають, що Eos стає ключовим ресурсом, який обіцяє прискорити розвиток застосунків на базі ШІ для кожної організації.
  
 
== Джерела ==
 
== Джерела ==
* [https://top500.org/lists/top500/2022/11/ Рейтинг TOP500 Листопад 2022]
+
* [https://www.top500.org/lists/top500/2023/11/ Рейтинг TOP500 Листопад 2023]
* [https://www.nvidia.com/en-us/data-center/dgx-superpod/ Офіційний сайт суперкомп'ютера]
+
* [https://www.nvidia.com/ru-ru/data-center/dgx-superpod/ Офіційний сайт суперкомп'ютера]
* [https://www.nvidia.com/en-us/on-demand/session/supercomputing2020-sc2019/ Короткий опис]
+
* [https://ko.com.ua/nvidia_prodemonstruvala_svij_superkomp_yuter_eos_146415 Короткий опис]
* [https://en.wikipedia.org/wiki/Selene_(supercomputer) Стаття на сайті Wikipedia]
+
* [https://habr.com/ru/news/t/515488/ Опис на habr]
+
* [https://www.youtube.com/watch?v=vY61ExKhnfA Коротка відео-презентація]
+

Версія за 21:56, 25 лютого 2024

Nvidia-eos.jpg

EOS NVIDIA DGX SUPERPOD - NVIDIA DGX H100, XEON PLATINUM 8480C 56C 3.8GHZ, NVIDIA H100, INFINIBAND NDR400.

Компанія Nvidia анонсувала свій новітній суперкомп’ютер Eos, здатний оперувати 18,4 екзафлопс даних. Ця знахідка робить його одним із найпотужніших і найпередовіших комп’ютерів у світі. Eos призначений для використання в центрах обробки даних і дослідницьких лабораторіях, де активно працюють над інноваційними рішеннями в галузі штучного інтелекту. Апарат складається з 576 відеокарт NVIDIA DGX H100, кожна з яких оснащена 8 флагманськими ШІ-прискорювачами H100. Всі ці карти з’єднані високошвидкісною мережею Infiniband Quantum-2 з низькою затримкою і високою пропускною спроможністю, забезпечуючи ефективне і швидке опрацювання даних.

Характеристики

Eos.jpg
Назва EOS NVIDIA DGX SUPERPOD
Дата початку розробки Листопад 2023 року
Дата запуску 2024-ий рік
Виробник Nvidia
Країна USA
Архітектура 485,888 ядер, Xeon Platinum 8480C 56C 3.8GHz
Обчислювальна потужність 121.40 PFlop/s, 188.65 PFlop/s (теоретично максимальна)
Операційна система Ubuntu 22.04.3 LTS

Архітектура

Суперкомп’ютер оснащений 1152 процесорами Intel Xeon Platinum 8480C, кожен з яких має 56 ядер. Суперкомп’ютер NVIDIA Eos демонструє шалену продуктивність для ШІ-застосунків на рівні 18,4 Ефлопс (FP8), також забезпечуючи близько 9 Ефлопс в обчисленнях FP16 і 275 Пфлопс у FP64. Розробники вказують, що Eos здатний впоратися з найбільш вимогливими робочими навантаженнями у сфері ШІ, враховуючи навчання великих мовних моделей, рекомендаційні алгоритми, квантове моделювання та багато іншого. Високу продуктивність NVIDIA Eos забезпечують потужні прискорювачі та інтерфейси компанії NVIDIA, а також програмне забезпечення, таке як NVIDIA Base Command та NVIDIA AI Enterprise.

Призначення

Архітектура Eos оптимізована для робочих навантажень АІ, що вимагають наднизької затримки та високої пропускної здатності між великим кластером прискорених обчислювальних вузлів, що робить її ідеальним рішенням для підприємств, які бажають масштабувати свої можливості з обробки завдань штучного інтелекту. Мережева архітектура на базі NVIDIA Quantum-2 InfiniBand з технологією In-Network Computing підтримує швидкість передачі даних до 400 Гбіт/с, забезпечуючи швидке переміщення великих наборів даних, необхідних для навчання складних моделей АІ. У Nvidia додають, що Eos стає ключовим ресурсом, який обіцяє прискорити розвиток застосунків на базі ШІ для кожної організації.

Джерела