Przyspieszyć sztuczną inteligencję z procesorami ARM

Sztuczna inteligencja (AI - Artificial intelligence) już dzisiaj, często w sposób niewidoczny, upraszcza i dostosowuje nasze działania do potrzeb i tempa ówczesnego życia. Operacje uczenia się i podejmowania decyzji często wymagają dużej mocy obliczeniowej w chmurze. Niestety, podejście oparte na chmurze nie jest optymalnym i długoterminowym rozwiązaniem, szczególnie w aspekcie większej ochrony prywatności. Konieczne zatem staje się użycie nowych procesorów, które wspomogą proces przetwarzania i przechowywania danych osobowych. Technologia ARM DynamIQ, którą po raz pierwszy zaprezentowano w marcu bieżącego roku, była początkiem na drodze do przeniesienia sztucznej inteligencji z układu w chmurę. Dzisiaj, udało się osiągnąć kolejny - milowy krok, wprowadzając na rynek pierwsze produkty oparte na tej technologii: procesory Cortex-A75 i Cortex-A55. Układ Cortex-A75 w porównaniu do bardzo udanego poprzednika Cortex-A73, zapewnia potężne, bo 50-procentowe zwiększenie wydajności przy zachowaniu jednocześnie wysokiej efektywności energetycznej. Dzięki temu producenci sprzętu mogą osiągnąć wysoką wydajność obliczeniową w wielu urządzeniach przenośnych, w tym smartfonach, laptopach ale również w serwerach i całej infrastrukturze sieciowej. Kolejny układ Cortex-A55 powstał po sukcesie jaki odniósł Cortex-A53. Od 2013 roku wykorzystano ok. 1,5 mld tych jednostek w różnych urządzeniach. To wyjątkowo wysoko postawiona poprzeczka dla nowego procesora. Stworzony układ Cortex-A55 nie jest typowym produktem kontynuacyjnym. Dzięki dedykowanemu zestawowi instrukcji dla AI i do 2,5x większej wydajności, w stosunku do dzisiejszych urządzeń opartych na Cortex-A53, Cortex-A55 jest najbardziej wszechstronnym procesorem o wysokiej wydajności. © ARM Oba nowe procesory zawierają zwiększoną wielordzeniową funkcjonalność i elastyczność w pojedynczym klastrze obliczeniowym w systemie DynamIQ big.LITTLE.

Elastyczna technologia big.LITTLE

Przenosząc AI z układu na chmurę, należy rozważyć rozliczne spektrum potrzeb obliczeniowych. DynamIQ big.LITTLE zapewnia wzrost na wszystkich poziomach wydajności i doświadczeń użytkowników, po raz pierwszy umożliwiając integrację „big” i „LITTLE” rdzeni procesorów w pojedynczym klastrze obliczeniowym. Połączenie elastycznych klastrów procesorów, technologii obliczeniowej GPU, dedykowanych akceleratorów i nowej biblioteki ARM Compute Library skutecznie pozwala na zwiększenie i lepsze skalowanie wydajności dla AI. Darmowa i dostępna dla użytkowników biblioteka ARM Compute Library to zbiór funkcji niskiego poziomu zoptymalizowanych pod kątem architektury Cortex CPU i Mali GPU. To tylko najnowszy przykład zaangażowania brytyjskiej firmy ARM w tworzenie nowego oprogramowania do uzyskania jak największej wydajności bez uszczerbku na efektywności. Już sama baza ARM Compute Library może zwiększyć wydajność dla AI i ML (Machine Learning) od 10x-15x, zarówno na nowych, jak i istniejących układów ARM.

Nowe GPU Mali-G72

Aby jeszcze bardziej zoptymalizować układy dla AI i urządzeń opartych o ML, wprowadzono również najnowszą wersję GPU - Mali-G72. Nowy procesor graficzny, oparto na architekturze Bifrost, która zwiększa wydajność o 40% w porównaniu do poprzedniej generacji. Układ został głównie zaprojektowany z myślą o nowych, wymagających urządzeniach wykorzystujących uczenie maszynowe. Jak zapewnia firma ARM znajdzie również zastosowanie w urządzeniach wykorzystujących VR a gry mobilne o wysokim odwzorowaniu rzeczywistości (High Fidelity) przeniesie w inny wymiar rozrywki.

Bezpieczeństwo z ARM TrustZone

TrustZone to bezpieczeństwo sprzętowe wbudowane przez projektantów w układy SoC. W centrum podejścia TrustZone jest koncepcja bezpiecznych i niezabezpieczonych światów oddzielonych sprzętem, a oprogramowanie niezabezpieczone nie ma bezpośredniego dostępu do bezpiecznych zasobów. Technologia TrustZone w procesorach opartych na układach Cortex-A jest powszechnie używana do uruchamiania zaufanych aplikacji i systemów operacyjnych w celu stworzenia zaufanego środowiska wykonawczego (TEE - Trusted Execution Environment). Typowe przykłady użycia obejmują ochronę mechanizmów uwierzytelniania, kryptografii, kluczowych danych i zarządzania prawami cyfrowymi (DRM). Poniżej struktura najbardziej zoptymalizowanego układu ARM w postaci SoC dla urządzeń brzegowych, np. routerów. Zawiera pełny pakiet obliczeniowy, peryferii, zabezpieczeń i systemu IP, zaprojektowanych i sprawdzonych pod kątem zapewnienia najwyższych i najbardziej wydajnych obliczeń. Zaprezentowana następna generacja silników CPU i GPU IP, przeznaczona jest dla najbardziej zaawansowanych obliczeń. Stanowi centrum przyszłej, wysoce wydajnej i bezpiecznej sztucznej inteligencji. Przewiduje się, że powstały ekosystem do 2021 roku znajdzie zastosowanie w 100 miliardach urządzeń. W ten sposób firma ARM rozpoczęła prawdziwą rewolucję w sztucznej inteligencji.