Huawei dla centrów danych AI

Obecnie sztuczna inteligencja zmienia sposób funkcjonowania przedsiębiorstw. Agenci AI stają się jednym z kluczowych motorów nowej produktywności cyfrowej i stopniowo ewoluują w kierunku cyfrowych pracowników organizacji. Dynamiczny rozwój zastosowań sztucznej inteligencji prowadzi jednocześnie do bezprecedensowego wzrostu zapotrzebowania przedsiębiorstw na tokeny. Jak podkreślił Yuan Yuan, aby przyspieszyć wdrażanie sztucznej inteligencji, firmy muszą szybko przekształcić swoją dotychczasową architekturę IT w infrastrukturę danych dla centrów danych AI. Taka infrastruktura powinna być planowana i budowana w sposób całościowy, z uwzględnieniem jezior danych (data lakes), platform danych, mocy obliczeniowej, modeli, frameworków agentowych oraz odporności danych.

W odpowiedzi na te wyzwania Huawei zaprezentował kompleksowe rozwiązanie infrastrukturalne dla centrów danych AI, które ma usprawnić rozwój tego typu ośrodków oraz wspierać przedsiębiorstwa we wdrażaniu sztucznej inteligencji na szeroką skalę.

System pamięci masowej OceanStor Pacific Scale-Out Storage o wysokiej gęstości przechowywania danych oferuje pojemność 11 PB w obudowie 2U, umożliwiając przechowywanie ogromnych wolumenów danych przy optymalnym całkowitym koszcie posiadania (TCO). Z kolei DME Omni-Dataverse – zunifikowane rozwiązanie Huawei do zarządzania zasobami – obsługuje wielomodalny, rozproszony geograficznie i realizowany w czasie rzeczywistym import danych, zapewnia globalną widoczność i umożliwia przeszukiwanie setek miliardów wektorów w ciągu kilku sekund, gwarantując wysoką jakość agregacji i udostępniania zasobów.

Dla wielkoskalowych klastrów inferencyjnych AI Huawei wprowadza pierwsze w branży rozwiązanie Context Memory Storage (CMS), które obsługuje heterogeniczne środowiska obliczeniowe. CMS umożliwia bezpośrednie przekazywanie semantycznych par klucz–wartość (KV) lub wykorzystuje dedykowaną jednostkę przetwarzania danych (DPU) do odciążenia operacji semantycznych. Rozwiązanie może zostać rozbudowane do współdzielonej puli pamięci podręcznej KV o pojemności liczonej w petabajtach, skracając czas wygenerowania pierwszego tokena (TTFT) nawet o 90 proc.

Z myślą o biznesowych zastosowaniach AI Huawei opracował pierwszą w branży platformę danych AI 3+1, integrującą mechanizmy akceleracji pamięci podręcznej KV, bazę wiedzy zapewniającą skuteczność wyszukiwania przekraczającą 95 proc. oraz stale rozwijany bank pamięci. Dodatkowo rozwiązanie Unified Cache Manager (UCM) umożliwia centralne zarządzanie i orkiestrację zasobów, zwiększając dokładność wnioskowania nawet o 30 proc.

ModelEngine firmy Huawei zapewnia gotowe mechanizmy zarządzania modelami AI i funkcje integracyjne, umożliwiając dostosowywanie nowych modeli bez konieczności programowania i ich wdrażanie jednym kliknięciem. Dzięki precyzyjnemu podziałowi zasobów obliczeniowych oraz inteligentnemu harmonogramowaniu platforma pozwala dzielić zasoby pojedynczego akceleratora xPU nawet w proporcji 1:10, umożliwiając równoległą obsługę wielu zadań i zwiększając efektywność wykorzystania infrastruktury obliczeniowej.

Platforma agentowa ModelEngine Nexent firmy Huawei umożliwia tworzenie agentów AI bezpośrednio za pomocą interakcji w języku naturalnym, upraszczając proces ich projektowania i skracając czas wdrożenia nawet o 80 proc. Dzięki automatycznej optymalizacji kompetencji, promptów oraz pamięci agentów, Nexent wspiera ich ciągły rozwój i stopniowe zwiększanie skuteczności działania.

Aby ograniczyć potencjalne zagrożenia związane z bezpieczeństwem informacji na poziomie agentów AI, modeli, platform i infrastruktury, przedsiębiorstwa powinny wdrażać kompleksowe rozwiązania ochrony danych obejmujące cały ekosystem. Pozwalają one przeciwdziałać niewłaściwemu wykorzystaniu narzędzi, zatruwaniu danych (data poisoning), manipulacji danymi oraz atakom ransomware, zapewniając wszechstronną ochronę zasobów wykorzystywanych przez sztuczną inteligencję.