reklama
reklama
reklama
reklama
reklama
© Pixabay Technologie | 21 sierpnia 2017

Wszechobecne AI

AI, czyli sztuczna inteligencja zaczyna dopiero stawiać swoje pierwsze kroki, lecz już teraz wiele firm, w tym Qualcomm, pragnie rozwijać te systemy, także na platformach mobilnych. Czym jest silnik NPE dla Snapdragonów?

Obecnie coraz więcej urządzeń, które nas otaczają można określić słowem smart. Są to rozwiązania, które mają ułatwiać i uprzyjemniać nam życie oraz codzienne czynności. Nie chodzi tu tylko o smartfony, wspomagające naszą komunikację ze światem czy też nasze codzienne zadania i pasje, ale też o takie duże systemy, jak smart-home, a nawet smart-cities. Dzięki takim systemom życie staje się wygodniejsze i nierzadko bezpieczniejsze. Lecz to, co jeszcze kilka(naście) lat temu można było uznać za science-fiction, bez czego wielu z nas nie wyobraża sobie codziennego funkcjonowania, może być jedynie etapem przejściowym pomiędzy czymś o wiele bardziej złożonym. Mowa tu AI, czyli sztucznej inteligencji. Obecne systemy smart są w stanie kompleksowo reagować na nasze potrzeby. Jednak większość procesu podejmowania decyzji pozostawia się użytkownikom. Systemy smart, mimo że rozbudowane, wzbogacone nieraz o setki czujników, stanowią jedynie interfejs pomiędzy użytkownikiem, a maszyną. Np. gdy wracamy do domu, chcemy by zimą było ciepło gdy wrócimy, ale jednocześnie chcemy by rachunki utrzymywały się na niskim poziomie. Taki system w określonych godzinach obniży temperaturę ogrzewania, a na czas naszego powrotu go podniesie. Może to robić na określoną godzinę, lub gdy wykryje nas w pobliżu, opierając się o wskazania GPS naszego smartfona, czy smartwatch. Co więcej może dać AI? System taki, wykorzystujący AI będzie w stanie sam podejmować decyzje, analizować potrzeby (np. ludzi), a także przewidywać, co może się stać. Przykładem może być smart-cities. System taki, bazując na wielu czujnikach, odczytując dane z wielu kamer w mieście, może przewidzieć, jaka będzie sytuacja na danym skrzyżowaniu, przewidzieć utworzenie się korków i odpowiednio wcześniej zareagować, zmieniając ustawienia sygnalizacji świetlnej. Może to robić dużo skuteczniej niż człowiek, mając bezpośrednie, nieustanny dostęp do danych, nie musząc tych danych odczytywać wybiórczo. Dlatego też często się mówi, że AI stanowić będzie rewolucję w wielu dziedzinach. Mowa tu też o takich systemach jak big-data czy rozwiązania pracujące w chmurze. Firma Qualcomm jest jedną z tych, które pragną wspierać rozwój systemów sztucznej inteligencji. Posiadają spore możliwości i rozwiązania, dzięki którym uruchamianie nawet bardzo mocnych algorytmów AI jest możliwe. AI jest rozpowszechnionym już trendem, pozwalającym na przyśpieszenie wielu procesów, np. przetwarzania dużych ilości danych w krótkim czasie, w wielu nowoczesnych urządzeniach (np. CERN). Pracownicy Qualcommu, podobnie jak wielu innych inżynierów i naukowców pragnią rozwijać rozwiązania AI i czynią to nieustannie od niemal 10 lat. Efektem tego jest powstanie wielu rozwiązań wykorzystujących AI, np. komputerowe systemy wizyjne z analizą obiektów, naturalne przetwarzanie języków, czy też wykrywanie zagrożeń (malware) na smartfony, systemy motoryzacyjne, itd. © Qualcomm Firma Qualcomm pragnęła też systemu wszechstronnego i wszechobecnego. Chodzi o możliwość tworzenia inteligentnych urządzeń i rozwiązań, niezależnie od platformy sprzętowej oraz roli, jakie urządzenie/system ma spełniać: czy to będzie smartfon, samochód, robot, dron, itd. Tworzone są więc np. systemy rozwijane w chmurze z funkcją uczenia się, powiązane z wieloma innymi, wspomnianymi urządzeniami. Pewnym wyzwaniem stało się zapewnienie możliwie najszybszej odpowiedzi czasowej, zapewnienie wysokiej niezawodności i wysokiego poziomu bezpieczeństwa (prywatności). © Qualcomm Przykładem efektywnie działającego systemu AI opartego na chmurze mogą być zaawansowane systemu tłumaczące niemalże w locie. Dane przesyłane są do serwera, tam następnie analizowane przez zaawansowane systemy. Po zakończonym procesie przesyłane są dane do urządzenia końcowego, przedstawiając wynik. Na podobnej zasadzie działać mają inne rozwiązania typu big-data. Jednak nie zawsze rozwiązanie takie będzie dobre. Chodzi tu o szybką odpowiedź czasową i niezawodność (co przy połączeniu bezprzewodowym, gdy obiekt jest w ruchu, nie zawsze może być zapewnione na 100%), co dla niektórych systemów może być bardzo ważne, by wszystko działo się w czasie rzeczywistym, np. systemy autonomicznego kierowania pojazdem. Takie aplikacje nie mogą sobie pozwolić na opóźnienia. Dlatego tworzy się też systemy lokalne, zapewniając odpowiednią wydajność. Oprócz tego, firma Qualcomm pragnie odnaleźć się też w wielu innych, prostszych przypadkach, jak np. rozpoznawanie gestów dla nowoczesnych interfejsów użytkownika, czy też systemy monitorowania jego aktywności. Systemy takie miałyby stanowić połączenie systemów lokalnych i tych pracujących w chmurze. Qualcomm pragnie jednak skupiać się też na tworzeniu rozwiązań zapewniających dużą wydajność obliczeniową. Komponenty platformy Snapdragon to popularny wybór wśród wielu producentów urządzeń, min. za sprawą ich wysokiej wydajności energetycznej i obliczeniowej. Jednak AI i obciążenie jakie generują algorytmy AI, to kolejne wyzwanie, któremu Qualcomm stara się sprostać. Sprawdzając różne rozwiązania dla AI: CPU, GPU, DSP, firmie Qualcomm udało się stworzyć jak na razie najwydajniejsze rozwiązanie stworzone z myślą właśnie o AI: Hexagon DSP. Zaprojektowano go z myślą o dużych, wektorowych obciążeniach matematycznych. Rozwiązanie to okazało się być dużym krokiem w przód. Snapdragon 835, wzbogacony o Hexagon DSP z Qualcomm Hexagon Vector eXtensions porównano z Qualcomm Kryo CPU, przy uruchamianiu systemu GoogleNet Inception Network. Nowe rozwiązanie pozwalało na redukcję zużycia energii aż 25-krotnie, jednocześnie zwiększając wydajność pracy systemu 8-krotnie. Kluczem okazała się być różnorodna architektura. Stosowanie jednego silnika dla wszystkich zadań (obciążeń), jakie wykonuje AI, okazuje się być nieefektywne. Jak zapewnia Qualcomm, to dopiero początek w rozwoju tego typu rozwiązań. Firma pragnie kontynuować pracę, by wyciągnąć jeszcze więcej z tego podejścia i technologii. Jednak heterogeniczne podejście jest trudne. Aby pomóc projektantom, Qualcomm opracował Snapdragon Neural Processing Engine (NPE) Software Developer Kit (SDK). Umożliwia to wykorzystanie dwóch rozwiązań: convolutional neural networks (CNN) and recurrent neural networks (RNN), jako silników Snapdragon’ów, jak Kryo CPU, Adreno GPU czy Hexagon DSP. Deweloper mając dostęp do tego API jest w stanie mieć bezpośredni dostęp do obu tych rozwiązań i przełączać się pomiędzy nimi. Silnik NPE wspiera także zaawansowane systemy uczenia się maszynowego („deep learning model frameworks”), takie jak Caffe/Caffe2 lub TensorFlow. SDK ma być lekkie i elastyczne, dostosowując się do różnych platform, opartych na Snadragon’ach. Dzięki temu SDK, wielu projektantów będzie mogło wykorzystywać własne modele sieci neuronowych na urządzeniach mobilnych, dostosowanych do własnych potrzeb (przemysłowe, medyczne, itd.).
Załaduj więcej newsów
September 18 2019 10:52 V14.4.0-1