Szuperszámítógép megoldja az AI-sebesség szűk keresztmetszeteit

A kutatók és az akadémiai intézmények mostantól hatékonyan futtathatnak nagy AI modelleket, szimulációkat és adatigényes kísérleteket egy nagy teljesítményű szuperszámítógéppel.

A mesterséges intelligencia kutatása egyre korlátozottabb a korlátozott számítási teljesítmény miatt.A nagy modellek betanítása, az összetett szimulációk futtatása és a hatalmas adathalmazok feldolgozása nagy teljesítményű rendszereket igényel.Latin-Amerikában az akadémiai intézmények az infrastruktúra korlátaival szembesültek, ami lelassítja az AI-innovációt, és korlátozza a helyi kontextusra szabott modellek fejlesztését.A kutatóknak olyan méretezhető környezetekre volt szükségük, amelyek képesek támogatni az adatintenzív mesterséges intelligencia, a gépi tanulás és a tudományos számítási munkaterhelést.

A Jairu szuperszámítógép megfelel ennek az igénynek.A 96 NVIDIA B200 GPU-val és Supermicro szerverrel felszerelve lehetővé teszi a kutatóknak mesterséges intelligencia modellek futtatását, szimulációk végrehajtását és összetett algoritmusok hatékony feldolgozását.A rendszer integrálja a nagy kapacitású tárolást és az alacsony késleltetésű összekapcsolásokat, csökkentve a szűk keresztmetszeteket és lehetővé téve a nagyszabású kísérleteket.

Felépítése számos előnnyel jár.A fejcsomópontok kezelik a környezetet, beleértve a bejelentkezést, a hangszerelést és a munkaterhelés elosztását.A GPU-csomópontok a HGX szabványt követik, és NVLink-et használnak a gyors GPU-közi kommunikációhoz.A tárolást és a hálózatot úgy tervezték, hogy fenntartsák a nagy átviteli sebességet és az alacsony késleltetést.A rendszer a központosított felügyelethez, a GPU ütemezéséhez és a kísérletek reprodukálhatóságához szoftvert is tartalmaz.

A szuperszámítógép legfontosabb jellemzői:

5 fejcsomópont kezeli a kezelést, a bejelentkezést és a hangszerelést.
12 GPU-csomópont mindegyike 8 NVIDIA B200 SXM-5 GPU-val rendelkezik.
Az NVLink GPU-kat csatlakoztat a gyors kommunikáció érdekében.
A tárolás BeeGFS-t használ, körülbelül 300 TB használhatósággal.
A hálózat egyesíti az Ethernet 200 Gb/s és az InfiniBand 800 Gb/s sebességét.
Az NVIDIA AI szoftver kezeli a munkaterhelést és ütemezi a feladatokat.
Fabio G. Cozman, az USP Mesterséges Intelligencia és Gépi Tanulás Központja (CIAAM-USP) azt mondja: „Jairuval olyan mesterséges intelligencia infrastruktúrával rendelkezünk, amely lehetővé teszi számunkra, hogy nagy modelleket fejlesszünk ki, és elmélyítsük a brazil kontextushoz kapcsolódó kutatásokat.”A nagy teljesítményű hardver, a vállalati szoftver és a speciális tervezés kombinálásával a rendszer erősíti Brazília tudományos kapacitását és versenyképességét a mesterséges intelligencia és a nagy teljesítményű számítástechnika területén.