Daftar Isi

 

Mengenal Compute Express Link (CXL) 3.0, Teknologi yang Mengubah Cara CPU dan Memori Berkomunikasi

Perkembangan artificial intelligence (AI), machine learning, cloud computing, dan aplikasi berbasis data membuat kebutuhan perangkat keras pusat data meningkat pesat. Bukan hanya prosesor yang harus semakin cepat, kapasitas memori, bandwidth, serta kemampuan berbagai komponen untuk berbagi data juga menjadi semakin penting.

Masalahnya, meningkatkan kemampuan CPU saja tidak selalu cukup. Sebuah sistem komputasi modern biasanya terdiri dari CPU, GPU, akselerator AI, memori, storage, dan berbagai perangkat lain yang harus saling bertukar data. Jika komunikasi antar-komponen menjadi penghambat, kemampuan pemrosesan yang sangat besar pun tidak dapat dimanfaatkan secara optimal.

Di sinilah Compute Express Link (CXL) hadir sebagai salah satu teknologi interkoneksi yang dirancang untuk membantu mengatasi persoalan tersebut.

CXL memungkinkan CPU dan perangkat yang terhubung berkomunikasi dengan dukungan memory coherency, sehingga berbagai komponen dapat bekerja dengan akses terhadap data yang lebih konsisten. Teknologi ini menjadi semakin menarik untuk server, superkomputer, AI, machine learning, dan pusat data yang membutuhkan kapasitas memori besar dengan latensi rendah.

Salah satu perkembangan pentingnya adalah CXL 3.0, yang membawa kemampuan switching, fabric, dan berbagi sumber daya ke tingkat yang lebih tinggi dibandingkan generasi sebelumnya.

Apa Itu Compute Express Link?

Compute Express Link adalah standar interkoneksi berkecepatan tinggi yang memungkinkan CPU berkomunikasi dengan perangkat seperti akselerator, memory expander, dan perangkat PCIe.

CXL menggunakan lapisan fisik PCI Express (PCIe), sehingga teknologi ini dapat memanfaatkan infrastruktur PHY PCIe yang sudah dikenal dalam industri. Namun, di atas lapisan tersebut, CXL menyediakan protokol transaksi yang dirancang untuk kebutuhan komunikasi cache dan memori dengan latensi rendah.

Salah satu karakteristik terpenting CXL adalah kemampuannya menjaga koherensi cache dan memori antara CPU dan perangkat yang terhubung.

Dalam sistem tanpa mekanisme koherensi yang sesuai, perangkat berbeda bisa memiliki salinan data masing-masing. Sistem kemudian membutuhkan mekanisme tambahan untuk memastikan setiap komponen mengetahui versi data terbaru.

CXL dirancang untuk membuat komunikasi tersebut lebih efisien.

Hasilnya, CPU dan akselerator dapat bekerja dengan sumber daya memori secara lebih terkoordinasi. Bagi aplikasi seperti AI dan machine learning yang melakukan pemrosesan data dalam jumlah sangat besar, kemampuan ini menjadi sangat penting.

Baca juga : Retrieval-Augmented Generation (RAG): Teknologi Pemangkas Halusinasi pada AI

Mengapa CXL Dibutuhkan di Era AI?

AI menghasilkan kebutuhan data yang sangat besar. Model AI modern harus memproses berbagai jenis data, mulai dari teks, gambar, video, audio, hingga dataset berukuran sangat besar.

Pada saat yang sama, pemrosesan AI semakin banyak menggunakan akselerator. GPU dan akselerator khusus dapat menangani jenis komputasi tertentu secara jauh lebih efisien dibandingkan jika seluruh pekerjaan dibebankan kepada CPU.

Namun, akselerator tetap membutuhkan akses terhadap data.

Semakin besar workload, semakin penting kemampuan sistem menyediakan bandwidth tinggi dan akses memori dengan latensi rendah. Jika data terlalu lama dipindahkan antara CPU, akselerator, dan memori, sebagian kemampuan komputasi dapat terbuang hanya untuk menunggu data.

CXL menawarkan pendekatan yang memungkinkan CPU dan akselerator berbagi sumber daya dengan mekanisme koherensi.

Dengan kata lain, fokusnya bukan hanya membuat komponen lebih cepat secara individual, tetapi membuat komponen-komponen tersebut bekerja lebih efisien sebagai satu sistem.

CXL 3.0 Membawa Bandwidth Lebih Tinggi

Salah satu peningkatan penting pada CXL 3.0 adalah peningkatan kecepatan data hingga 64 GT/s, sejalan dengan kecepatan yang digunakan PCIe 6.0.

Dibandingkan generasi sebelumnya, peningkatan ini memberikan bandwidth yang lebih besar tanpa penambahan latensi yang menjadi target desain protokol tersebut.

Bandwidth tinggi sangat penting ketika sistem harus memindahkan atau mengakses data dalam jumlah besar.

Bayangkan sebuah server AI dengan CPU, beberapa akselerator, dan perangkat memori eksternal. Jika komunikasi antar-komponen terbatas, penambahan akselerator tidak selalu menghasilkan peningkatan performa yang sebanding.

Dengan interkoneksi berbandwidth lebih tinggi, komunikasi antar-komponen dapat menjadi lebih efisien.

Menariknya, implementasi CXL 3.0 tidak harus selalu menggunakan kecepatan maksimum. Perancang sistem dapat menggunakan kecepatan link yang lebih rendah jika kebutuhan aplikasinya tidak memerlukan bandwidth penuh.

Memory Sharing Menjadi Salah Satu Fitur Penting

Salah satu kemampuan yang membuat CXL menarik adalah memory sharing.

Dalam konsep ini, memori yang terhubung melalui CXL dapat digunakan secara koheren oleh beberapa host atau komponen sesuai rancangan sistem.

Artinya, memori tidak harus selalu dianggap sebagai sumber daya yang hanya dimiliki oleh satu CPU atau satu mesin.

Pendekatan tersebut membuka peluang untuk membuat kelompok mesin yang dapat bekerja dengan sumber daya memori bersama.

Hal ini sangat menarik untuk workload berukuran besar. Ketika kapasitas memori yang dibutuhkan sebuah aplikasi melebihi kapasitas yang tersedia secara lokal pada satu sistem, sumber daya memori dapat dirancang agar lebih fleksibel dan dapat diakses sesuai kebutuhan.

Konsep tersebut juga berkaitan erat dengan tren data center disaggregation.

CXL dan Konsep Data Center Disaggregation

Pada arsitektur pusat data tradisional, CPU, memori, storage, dan komponen lain biasanya berada dalam konfigurasi server yang relatif tetap.

Masalahnya, kebutuhan setiap workload berbeda.

Satu aplikasi mungkin membutuhkan CPU besar tetapi memori relatif kecil. Aplikasi lain mungkin membutuhkan kapasitas memori sangat besar. Jika seluruh sumber daya dipasang secara permanen dalam server, sebagian kapasitas bisa saja tidak digunakan secara optimal.

Disaggregation mencoba memisahkan sumber daya tersebut sehingga komputasi, memori, storage, dan jaringan dapat dikelola dengan lebih fleksibel.

CXL 3.0 mendukung konsep tersebut melalui kemampuan fabric dan resource sharing.

Dengan pendekatan ini, sumber daya dapat diperlakukan lebih fleksibel dan dialokasikan berdasarkan kebutuhan workload tertentu.

Bagi operator pusat data, konsep tersebut berpotensi membantu meningkatkan pemanfaatan sumber daya sekaligus memberikan fleksibilitas ketika kebutuhan aplikasi berubah.

Dari Arsitektur Tree Menuju Fabric yang Lebih Fleksibel

CXL 3.0 juga membawa kemampuan fabric yang lebih maju dibandingkan pendekatan tradisional berbasis struktur tree.

Dalam spesifikasi yang dibahas pada sumber, fabric CXL 3.0 dapat mendukung hingga 4.096 node.

Node tersebut dapat berupa CPU host, akselerator CXL, perangkat PCIe, maupun perangkat Global Fabric Attached Memory (GFAM).

Konsep ini membuat rancangan sistem menjadi lebih fleksibel. Berbagai elemen komputasi dan memori dapat disusun sebagai bagian dari fabric sesuai kebutuhan workload.

Bayangkan sistem yang harus menangani dataset berukuran sangat besar. Alih-alih selalu memikirkan bagaimana memecah masalah menjadi bagian-bagian kecil karena keterbatasan sumber daya memori, arsitektur dengan kapasitas memori sangat besar memungkinkan pendekatan yang berbeda.

Pada skala tertentu, sistem dapat dirancang untuk menyediakan kapasitas memori yang jauh lebih besar dan memungkinkan workload diproses dengan akses terhadap kumpulan data yang lebih luas.

Hal ini relevan untuk kebutuhan seperti pemodelan ilmiah, analisis data skala besar, AI, dan superkomputer.

CXL Membuat Akselerator Lebih Terintegrasi dengan CPU

CXL juga menarik dari sisi hubungan antara CPU dan akselerator.

Pada sistem komputasi modern, akselerator sering digunakan untuk menangani pekerjaan tertentu. Namun, semakin kompleks workload, semakin penting komunikasi antara host processor dan akselerator.

Memory coherency memungkinkan kedua pihak bekerja dengan data yang konsisten.

Dalam konteks tertentu, akselerator dapat memiliki peran yang lebih setara dalam mengakses dan menggunakan data, bukan hanya menunggu CPU menyelesaikan pekerjaan tertentu kemudian mengirimkan hasilnya.

Hal tersebut dapat mengurangi kebutuhan mekanisme software tambahan untuk mengelola perpindahan dan sinkronisasi data.

Bagi perancang SoC dan sistem komputasi, pendekatan seperti ini dapat membantu menyederhanakan arsitektur dan memungkinkan perhatian lebih besar diberikan pada workload utama.

Bagaimana dengan Storage-Class Memory?

Konsep lain yang disebut dalam pembahasan CXL 3.0 adalah dukungan terhadap storage-class memory.

Gagasan dasarnya adalah menghadirkan karakteristik tertentu yang menggabungkan kebutuhan kapasitas memori dan persistensi data.

Pada memori volatil biasa, data dapat hilang ketika perangkat kehilangan daya. Storage-class memory dirancang untuk mempertahankan data ketika perangkat dimatikan.

Jika diterapkan pada skenario tertentu, pendekatan ini dapat mengurangi ketergantungan pada proses pemindahan data ke media penyimpanan tradisional untuk mempertahankan keadaan aplikasi.

Namun, implementasi nyata tentu bergantung pada perangkat keras, sistem operasi, software, serta jenis memory technology yang digunakan.

CXL 3.0 Tidak Sama dengan Fine-Tuning atau Software AI

CXL bukan teknologi AI secara langsung. CXL tidak membuat model bahasa menjadi lebih pintar dan tidak menggantikan algoritma machine learning.

Perannya berada di lapisan infrastruktur perangkat keras.

Jika AI adalah "otak" yang melakukan pemrosesan, maka interkoneksi seperti CXL dapat dianalogikan sebagai jalur komunikasi yang membantu berbagai komponen komputer bertukar data dan mengakses sumber daya.

Analogi ini tentu tidak sepenuhnya menggambarkan mekanisme teknisnya, tetapi cukup membantu memahami posisinya.

Model AI tetap membutuhkan CPU, GPU atau akselerator, memori, storage, dan software. CXL membantu menghubungkan komponen tertentu agar sistem dapat menangani kebutuhan data dan memori secara lebih efisien.

Tantangan dan Hal yang Perlu Dipahami

Meskipun menawarkan banyak kemampuan, CXL 3.0 bukan berarti semua server otomatis mendapatkan peningkatan performa hanya dengan menggunakan teknologi ini.

Manfaat sebenarnya bergantung pada desain keseluruhan sistem.

CPU, akselerator, memory device, switch, PHY, firmware, operating system, dan software harus dapat bekerja sesuai arsitektur CXL.

Selain itu, workload juga menentukan seberapa besar manfaat yang diperoleh. Aplikasi yang tidak membutuhkan memory sharing atau bandwidth tinggi mungkin tidak mendapatkan keuntungan sebesar workload yang memang sangat bergantung pada akses data.

Karena itu, CXL sebaiknya dilihat sebagai bagian dari desain infrastruktur komputasi secara keseluruhan, bukan sebagai solusi tunggal untuk semua masalah performa.

CXL 3.0 dan Masa Depan Pusat Data

Kebutuhan komputasi akan terus berkembang seiring meningkatnya penggunaan AI, cloud, analisis data, dan aplikasi yang semakin kompleks.

Pada kondisi tersebut, pendekatan lama yang hanya meningkatkan kemampuan masing-masing komponen mungkin tidak selalu cukup. Sistem juga membutuhkan cara yang lebih fleksibel untuk menghubungkan, berbagi, dan mengelola sumber daya.

CXL 3.0 menawarkan salah satu pendekatan tersebut melalui bandwidth tinggi, memory coherency, memory sharing, serta kemampuan fabric yang lebih maju.

Teknologi ini juga mendukung gagasan bahwa memori dan sumber daya komputasi dapat diperlakukan lebih fleksibel, terutama dalam arsitektur data center yang terdisaggregasi.

Kesimpulan

Compute Express Link (CXL) 3.0 merupakan teknologi interkoneksi yang dirancang untuk menjawab kebutuhan sistem komputasi modern terhadap bandwidth tinggi, latensi rendah, serta pengelolaan memori yang lebih fleksibel.

Dengan memanfaatkan physical layer PCIe dan menyediakan protokol untuk komunikasi cache, memori, serta I/O, CXL memungkinkan CPU dan perangkat yang terhubung bekerja dengan dukungan memory coherency.

CXL 3.0 meningkatkan kecepatan data hingga 64 GT/s dan membawa kemampuan switching serta fabric yang lebih maju. Memory sharing juga membuka peluang bagi beberapa host untuk menggunakan sumber daya memori secara lebih fleksibel dan koheren.

Manfaat tersebut membuat CXL relevan untuk AI, machine learning, cloud computing, superkomputer, serta pusat data yang harus menangani workload dengan kebutuhan memori dan data sangat besar.

Pada akhirnya, daya tarik utama CXL bukan sekadar angka bandwidth yang lebih tinggi. Teknologi ini membawa perubahan pada cara perancang memandang hubungan antara CPU, akselerator, dan memori. Ketika data semakin besar dan workload semakin kompleks, kemampuan untuk berbagi sumber daya secara fleksibel dapat menjadi bagian penting dari arsitektur komputasi generasi berikutnya.