IBM i Together AI budują klaster AI z układami Nvidii za 240 mln USD

Pierwszy klaster zostanie zlokalizowany w Stanach Zjednoczonych i będzie przeznaczony przede wszystkim do inferencji, czyli uruchamiania wytrenowanych modeli AI w celu generowania odpowiedzi. Ten segment infrastruktury szybko zyskuje na znaczeniu, ponieważ rosnąca liczba firm wykorzystuje modele sztucznej inteligencji w codziennych procesach biznesowych.

Nvidia rozwija platformę Blackwell z myślą m.in. o zadaniach związanych z inferencją. Wraz ze wzrostem liczby wdrożeń AI zapotrzebowanie na tego typu moc obliczeniową staje się jednym z głównych czynników napędzających inwestycje dostawców chmurowych i producentów układów.

Together AI rozwija platformę umożliwiającą przedsiębiorstwom trenowanie i uruchamianie modeli open source. Firma obsługuje m.in. modele DeepSeek, MiniMax i Kimi. Takie podejście ma odpowiadać na rosnące zainteresowanie firm rozwiązaniami, które mogą ograniczyć koszty korzystania ze sztucznej inteligencji. Modele open source dają przedsiębiorstwom większą możliwość wyboru infrastruktury i sposobu ich wdrażania niż zamknięte systemy oferowane przez największych dostawców AI.

Znaczenie inferencji rośnie również wraz z upowszechnianiem się generatywnej AI. Samo wytrenowanie modelu wymaga dużych zasobów obliczeniowych, ale po jego wdrożeniu konieczne jest zapewnienie infrastruktury zdolnej do obsługi zapytań użytkowników. Przy dużej skali wykorzystania przekłada się to na stałe zapotrzebowanie na serwery, układy akceleratorowe i sieci o wysokiej przepustowości.

Together AI została ostatnio wyceniona na 8,3 mld USD. Nowa umowa z IBM ma zwiększyć dostępność infrastruktury potrzebnej do obsługi modeli open source i jednocześnie wzmocnić pozycję obu firm na rozwijającym się rynku usług AI.