Google Cloud chce ułatwić uruchamianie ogromnych obciążeń ML

Google Cloud chce ułatwić uruchamianie ogromnych obciążeń ML

Google Cloud ogłosiło ogólną dostępność swoich maszyn wirtualnych TPU.

Jednostki przetwarzania Tensor (TPU) to specyficzne dla aplikacji układy scalone (ASIC) opracowane przez Google, które służą do przyspieszania obciążeń związanych z uczeniem maszynowym.

Cloud TPU umożliwia uruchamianie zadań związanych z uczeniem maszynowym na sprzęcie akceleracyjnym TPU giganta obsługującego chmurę przy użyciu platformy uczenia maszynowego TensorFlow typu open source.

Co maszyny wirtualne TPU mogą zrobić dla użytkowników?

Google twierdzi, że jego społeczność użytkowników przyjęła wirtualne TPU, ponieważ zapewniają one lepsze środowisko debugowania, a także pozwalają na pewne konfiguracje szkoleniowe, w tym rozproszone uczenie wzmacniające, które, jak twierdzi, nie były wykonalne w architekturze węzłów UPT (Internet Access). .

Według Google jednostki Cloud TPU są zoptymalizowane pod kątem ocen i rekomendacji na dużą skalę, powołując się na to, że Snap był wczesnym użytkownikiem tej funkcji.

Dodatkowo, wraz z wydaniem GA maszyn wirtualnych TPU, Google wprowadza nowy interfejs API integracji TPU, który, jak twierdzi, może przyspieszyć klasyfikację i rekomendacje oparte na ML.

Google podkreślił, jak wiele nowoczesnych firm polega na rankingach i przypadkach użycia rekomendacji, takich jak rekomendacje audio i wideo, rekomendacje produktów i ranking reklam.

Gigant technologiczny powiedział, że TPU mogą pomóc firmom wdrożyć podejście oparte na głębokiej sieci neuronowej w celu rozwiązania powyższych przypadków użycia, które, jak twierdzi, mogą być kosztowne i wymagać dużych zasobów.

Google twierdzi również, że jego maszyny wirtualne TPU oferują kilka dodatkowych funkcji w porównaniu z istniejącą architekturą węzłów TPU ze względu na ich lokalną konfigurację środowiska wykonawczego, ponieważ potok danych wejściowych może działać bezpośrednio na hostach TPU, co umożliwia organizacjom oszczędzanie zasobów IT.

Wersja TPU VM GA obsługuje również inne główne platformy ML, takie jak PyTorch i JAX.

Jesteś zainteresowany wdrożeniem wirtualnego TPU? Możesz skorzystać z jednego z przewodników szybkiego startu lub samouczków Google.