Tim engineering Meta hari ini menerbitkan posting blog yang menarik tentang Transparent Memory Offloading (TMO) sebagai fitur kernel Linux baru yang mereka kembangkan yang sudah digunakan dalam produksi di server Facebook/Meta. Dalam pusat data Meta, fungsi TMO ini menghemat 20~32% memori per server di jutaan server mereka.
Meta menjelaskan Transparansi Memory Offloading sebagai:
Mekanisme kernel Linux baru yang mengukur pekerjaan yang hilang karena kekurangan sumber daya di CPU, memori, dan I/O secara real time. Dipandu oleh informasi ini dan tanpa pengetahuan aplikasi sebelumnya, TMO secara otomatis menyesuaikan jumlah memori untuk dipindahkan ke perangkat heterogen, seperti memori terkompresi atau SSD. Itu dilakukan sesuai dengan karakteristik kinerja perangkat dan sensitivitas aplikasi terhadap akses memori yang lebih lambat. TMO secara holistik mengidentifikasi peluang pembongkaran tidak hanya dari container aplikasi tetapi juga container sidecar yang menyediakan fungsi tingkat infrastruktur.
TMO telah berjalan dalam produksi selama lebih dari satu tahun, dan telah menghemat 20 persen hingga 32 persen dari total memori di jutaan server di armada pusat data kami yang luas. Kami telah berhasil meng-upstream komponen OS TMO ke dalam kernel Linux. Pekerjaan sisi kernel Linux mencakup Pressure Stall Information (PSI) di kernel yang sudah ada di ruang pengguna mereka memiliki “Senpai” sebagai agen ruang pengguna.
Meta
Pembongkaran sering dilakukan pada NVMe solid-state drive yang lebih murah per GB daripada memori server. Platform server yang akan datang dengan Compute Express Link (CXL) juga memiliki banyak potensi untuk penggunaan Transparent Memory Offloading.
Mereka yang tertarik untuk mempelajari lebih lanjut tentang upaya Facebook/Meta Transparent Memory Offloading (TMO) dapat melihat blog Meta engineering untuk semua detail teknis yang menarik.
Itulah berita seputar Metas Transparent Memory Offloading Menghemat 20~32% Memori Per Server Linux, semoga bermanfaat. Disadur dari Phoronix.com.