reklama
reklama
reklama
reklama
reklama
© Intel
Technologie |

Intel i Microsoft współpracują nad 'Real-Time AI'

Nowa platforma Microsoftu - Project Brainwave - ma umożliwić systemom pracującym w chmurze korzystanie z dobrodziejstw sztucznej inteligencji w czasie rzeczywistym.

Real-Time AI czyli sztuczna inteligencja pracująca w czasie rzeczywistym stanowi duży skok jakościowy dla nowoczesnych centrów danych. Dzięki niej możliwa będzie bieżąca złożona analiza danych wejściowych, które nie są wczytywane z pamięci masowych, tylko z bezpośrednich źródeł, takich jak streamy obrazu czy dźwięku, interakcje użytkowników czy bieżące zapytania. Nad rozwojem platformy akceleracyjnej uczenia maszynowego pracuje Microsoft w projekcie Brainwave. Jej zastosowaniem będą m.in. aplikacje zaawansowanego rozpoznawania tożsamości i pojazdy autonomiczne. Platforma ma opierać się na trzech głównych warstwach:
  1. Wysoce wydajnej rozproszonej architekturze systemowej,
  2. Silnika DNN zintegrowanego z układami FPGA,
  3. Kompilatora i środowiska dedykowanego do rozwoju modeli zachowań.
Projekt Brainwave uzyskuje niskie opóźnienia, które umożliwiają pracę w czasie rzeczywistym, poprzez wykorzystanie wielkoskalowej infrastruktury FPGA i połączenie jej z istniejącą siecią centrów danych. DNN'y wykorzystywane są jako hardware'owe mikroserwisy, które mogą być zmapowane dla danej puli zdalnych FPGA i wywoływane przez serwer, a wszystko to na poziomie hardware'u, bez użycia oprogramowania. Oprócz tego w projekcie wykorzystano wydajne jednostki typu soft DNN (DPU). W odróżnienieniu od tzw. hardened DPU, umożliwia ona skalowanie względem różnych typów danych i indywidualne dostosowanie czasu decyzji AI. Project Brainwave wykorzystuje także stosy oprogramowania umożliwiające współpracę z szerokim zakresem popularnych frameworków uczenia maszynowego, w tym m.in. Microsoft Cognitive Toolkit czy Tensorflow od Google. Układy wykorzystywane w innowacyjnym projekcie pochodzą od Intela. Mowa o FPGA z serii Stratix 10, wytwarzanych w technologii 14nm. W odróżnieniu od popularnych akceleratorów AI nie wymagają one grupowania zapytań, co bezpośrednio przekłada się na ich wydajność - projekt Brainwave osiąga moc ponad 39 Teraflopów przy pojedynczym zapytaniu. Obecnie Microsoft prowadzi prace nad wdrożeniem projektu Brainwave do autorskiej chmury Azure, celem umożliwienia klientom jak najszybszego dostępu do złożonych modeli sztucznej inteligencji.
Źródło: Intel

reklama
reklama
Załaduj więcej newsów
March 15 2024 14:25 V22.4.5-1