Inżynierowie z Meta, spółki-matki Facebooka, ujawnili, w jaki sposób byli w stanie zaoferować wolną pamięć za pomocą rozwiązania programowego o nazwie Transparent Memory Offloading (TMO).
Jest teraz częścią jądra Linuksa i, mówiąc najprościej, automatycznie przesyła dane do innych warstw pamięci (np. ekspandera pamięci CX firmy Samsung), które są tańsze i wydajniejsze niż pamięć.
Oszczędności są znaczne; TMO działa na milionach serwerów Facebooka od ponad roku, oszczędzając prawie jedną trzecią pamięci na serwer. Chociaż byłoby to prawdopodobnie nieistotne w przypadku dziesiątek, a nawet setek serwerów, ogromna skala Facebooka stanowi wyjątkowe wyzwanie.
Analiza: gigantyczny apetyt Facebooka na RAM
Największa na świecie sieć społecznościowa ma prawie trzy miliardy aktywnych użytkowników miesięcznie i miliony serwerów w 21 lokalizacjach na całym świecie. Gdyby każdy serwer miał średnio 128 GB pamięci RAM, oznaczałoby to 256 milionów GB (lub 256 PB) pamięci RAM, co przy średnim koszcie 4 EUR za GB (DDR4 ECC RAM) odpowiada około 1 miliardowi EUR na pamięć . Zakładając, że Facebook ma co najmniej dwa miliony serwerów (blog Facebooka cytował „miliony serwerów” już w lipcu 2018 r.), a rzeczywista liczba jest prawdopodobnie znacznie wyższa.
Liczby przedstawione przez zespół pracujący nad TMO wykazały, że koszt pamięci stanowi jedną trzecią zestawienia materiałów serwera Meta, przy czym skompresowana pamięć RAM i dysk SSD stanowią niecałe 11%. Bardziej niepokojące jest to, że koszt pamięci RAM (jako procent całkowitej infrastruktury) wzrósł ponad dwukrotnie od czasu, gdy Facebook uruchomił pierwszą generację serwerów (obecnie jest na czwartej).
Przyjęcie TMO ma pewne wady; dokładniej, spadek wydajności. Jednak korzyści w zakresie oszczędności energii i pamięci znacznie przewyższają wady, a przyszłe iteracje w połączeniu z ulepszeniami sprzętu (np. szybszymi dyskami SSD lub CXL) zapewnią dalsze ograniczenia.