Emisi komputasi AI berasal dari klaster GPU yang boros energi untuk melatih model besar, sementara emisi cloud tradisional berasal dari pusat data tujuan umum yang menjalankan beban kerja sehari-hari. Beban kerja AI mengonsumsi daya jauh lebih banyak per tugas, tetapi cloud tradisional beroperasi pada skala total yang jauh lebih besar.
Jejak karbon yang dihasilkan dari pelatihan dan pengoperasian model kecerdasan buatan pada perangkat keras khusus seperti GPU dan TPU.
Emisi karbon yang dihasilkan oleh pusat data serbaguna yang menampung situs web, aplikasi, basis data, dan perangkat lunak perusahaan.
| Fitur | Emisi Komputasi AI | Emisi Awan Tradisional |
|---|---|---|
| Perangkat Keras Utama | GPU dan TPU (akselerator AI) | CPU dan server serbaguna |
| Daya per Rak | 30 hingga 80 kW per rak | 5 hingga 15 kW per rak |
| Energi per Tugas | Sangat tinggi (melatih model = berton-ton CO2) | Sedang (bervariasi tergantung beban kerja) |
| Permintaan Pendinginan | Sangat tinggi, seringkali menggunakan pendingin cairan. | Pendinginan udara biasanya sudah cukup. |
| Jenis Beban Kerja | Pelatihan dan inferensi model | Hosting web, basis data, aplikasi SaaS |
| Tingkat Pemanfaatan | Seringkali 30 hingga 50 persen | Biasanya 40 hingga 60 persen |
| Adopsi Energi Terbarukan | Persentase lebih rendah, tumbuh cepat | Persentase lebih tinggi, 60 hingga 90 persen di beberapa wilayah. |
| Lintasan Pertumbuhan | Sangat pesat, berlipat ganda setiap beberapa bulan. | Stabil, sekitar 10 hingga 20 persen setiap tahunnya. |
| Penggunaan Air | Tinggi (pendinginan chip AI) | Sedang (pendinginan tradisional) |
Komputasi AI berjalan pada prosesor paralel masif yang dirancang untuk matematika matriks, dan chip tersebut membutuhkan daya yang sangat besar. Satu unit NVIDIA H100 dapat mengonsumsi daya 700 watt pada beban penuh, dan rak yang diisi dengan delapan unit tersebut dapat mencapai 50 kW atau lebih. Server cloud tradisional, sebaliknya, mengonsumsi daya lebih hemat, seringkali berjalan pada CPU yang efisien saat idle dan menangani berbagai beban kerja tanpa memerlukan throughput maksimum yang konstan. Perbedaan perangkat keras saja membuat beban kerja AI beberapa kali lebih boros energi per unit kerja.
Ketika para peneliti mengukur emisi pelatihan model bahasa besar, angkanya sangat mencengangkan. Satu kali pelatihan model sebesar GPT-3 dapat menghasilkan ratusan ton CO2 setara. Tugas-tugas cloud tradisional, seperti menyajikan halaman web atau menjalankan kueri basis data, menghasilkan sebagian kecil dari itu per permintaan. Namun, cloud tradisional beroperasi pada volume yang jauh lebih tinggi, sehingga jejak karbon kumulatif akhirnya sebanding dalam hal absolut meskipun emisi per tugas terlihat sangat berbeda.
GPU menghasilkan panas yang sangat tinggi, yang berarti pusat data AI sering membutuhkan pendinginan cairan atau bahkan sistem perendaman untuk menjaga suhu tetap terkendali. Proses pendinginan tersebut mengonsumsi air dan listrik dalam jumlah besar. Fasilitas cloud tradisional sebagian besar mengandalkan pendinginan udara dan pendingin (chiller), yang menggunakan lebih sedikit air dan energi. Di wilayah rawan kekeringan seperti Arizona, kebutuhan air untuk pusat data AI telah memicu penolakan dari masyarakat dan pengawasan regulasi.
Raksasa komputasi awan tradisional seperti Google dan Microsoft telah bertahun-tahun membeli kontrak energi terbarukan dan menandatangani perjanjian pembelian daya untuk menjadikan jaringan listrik mereka lebih ramah lingkungan. Operasi yang berfokus pada AI, yang seringkali lebih baru dan dibangun khusus untuk pelatihan skala besar, tidak selalu memiliki keunggulan yang sama. Meskipun demikian, perusahaan seperti CoreWeave dan Lambda Labs semakin banyak menempatkan fasilitas mereka di dekat sumber energi terbarukan yang murah seperti bendungan PLTA di wilayah Pasifik Barat Laut untuk mengimbangi konsumsi daya mereka yang sangat besar.
Permintaan komputasi AI tumbuh dengan kecepatan yang tidak pernah bisa ditandingi oleh pertumbuhan cloud tradisional. Beberapa analis memperkirakan konsumsi daya terkait AI dapat meningkat tiga kali lipat pada tahun 2030, didorong oleh model yang lebih besar dan penerapan inferensi yang meluas. Pertumbuhan cloud tradisional, meskipun masih sehat, mengikuti kurva yang lebih mudah diprediksi yang terkait dengan pengeluaran TI perusahaan. Ini berarti emisi AI dapat melampaui emisi cloud tradisional di wilayah tertentu dalam dekade berikutnya jika peningkatan efisiensi tidak mengimbanginya.
Hanya pelatihan AI yang menghasilkan emisi signifikan, sedangkan inferensi pada dasarnya gratis.
Inferensi sebenarnya menyumbang sebagian besar jejak karbon seumur hidup AI karena terjadi miliaran kali setiap hari di seluruh model yang diterapkan. Satu kueri ChatGPT menggunakan energi sekitar 10 kali lipat dari pencarian Google tradisional, dan kueri-kueri tersebut cepat menumpuk.
Pusat data cloud tradisional sudah netral karbon.
Meskipun penyedia utama telah berjanji untuk mencapai target nol emisi karbon, sebagian besar masih bergantung sebagian pada bahan bakar fosil, terutama di wilayah dengan infrastruktur energi terbarukan yang terbatas. Klaim netral karbon seringkali sangat bergantung pada kompensasi emisi daripada energi bersih aktual yang menggerakkan server.
Beban kerja AI lebih efisien daripada cloud tradisional karena menggunakan teknologi yang lebih baru.
Lebih baru tidak otomatis berarti lebih ramah lingkungan. Perangkat keras AI jauh lebih boros daya per chip, dan skala komputasi yang dibutuhkan untuk pelatihan dan inferensi membuat beban kerja AI jauh lebih intensif karbon per tugas daripada sebagian besar operasi cloud tradisional.
Migrasi ke komputasi awan secara otomatis mengurangi emisi perusahaan.
Migrasi ke cloud dapat membantu dengan mengkonsolidasikan beban kerja dan meningkatkan pemanfaatan, tetapi tidak menghilangkan emisi. Listrik tetap harus berasal dari suatu tempat, dan jika wilayah cloud menggunakan batu bara atau gas, jejak karbon hanya bergeser alih-alih menyusut.
Semua pusat data menggunakan jumlah energi yang hampir sama, terlepas dari apa pun yang mereka jalankan.
Kepadatan daya sangat bervariasi. Pusat data yang berfokus pada AI dapat menggunakan daya 30 hingga 80 kW per rak, sementara fasilitas cloud tradisional mungkin hanya menggunakan 5 hingga 15 kW per rak. Perbedaan kepadatan daya 5 kali lipat tersebut secara langsung berdampak pada kebutuhan pendinginan dan profil emisi yang sangat berbeda.
Jika Anda memilih di antara keduanya berdasarkan dampak lingkungan, komputasi awan tradisional saat ini unggul dalam efisiensi per tugas dan adopsi energi terbarukan, tetapi komputasi AI semakin mendekat dengan cepat karena para penyedia berlomba untuk membuat armada GPU mereka lebih ramah lingkungan. Bagi organisasi yang menerapkan AI, memilih wilayah dengan jaringan energi bersih dan menggunakan model yang efisien dapat secara dramatis mengurangi jejak karbon. Bagi pengguna komputasi awan tradisional, jalan menuju emisi yang lebih rendah lebih berkaitan dengan optimasi beban kerja dan memilih penyedia dengan komitmen keberlanjutan yang kuat.
Adaptasi bahasa dalam AI berfokus pada pengajaran model untuk menangani bahasa tertentu melalui penyempurnaan dan pembelajaran transfer, sementara sistem AI yang tidak bergantung pada bahasa bertujuan untuk memproses bahasa apa pun tanpa pelatihan khusus bahasa. Kedua pendekatan tersebut mengatasi tantangan multibahasa tetapi berbeda secara mendasar dalam arsitektur, data pelatihan, dan penerapan di dunia nyata.
Perbandingan ini menganalisis pilihan strategis dalam pembelajaran mesin antara Adaptasi Domain, yang mentransfer pengetahuan dari lingkungan sumber berlabel ke lingkungan target yang berbeda, dan Pelatihan Dalam Domain, yang membangun model sepenuhnya berdasarkan data yang dikumpulkan dari pengaturan penerapan target yang tepat.
Agen AI berorientasi tugas dibangun untuk menyelesaikan alur kerja spesifik secara mandiri, sementara model bahasa tujuan umum berfungsi sebagai generator teks serbaguna yang merespons berbagai macam perintah. Memilih di antara keduanya bergantung pada apakah Anda membutuhkan eksekusi tugas yang andal atau kecerdasan percakapan yang fleksibel.
Agen AI otonom beroperasi secara independen dengan merencanakan, menalar, dan mengeksekusi tugas multi-langkah dengan masukan manusia minimal, sementara sistem AI berbasis perintah merespons instruksi pengguna individual satu interaksi pada satu waktu. Perbedaan utamanya terletak pada kemampuan bertindak: agen mengejar tujuan lintas sesi, sedangkan sistem berbasis perintah menunggu arahan.
Agen AI personal adalah sistem baru yang bertindak atas nama pengguna, membuat keputusan dan menyelesaikan tugas multi-langkah secara otonom, sementara alat SaaS tradisional bergantung pada alur kerja yang digerakkan pengguna dan antarmuka yang telah ditentukan sebelumnya. Perbedaan utamanya terletak pada otonomi, kemampuan beradaptasi, dan seberapa besar beban kognitif yang dialihkan dari pengguna ke perangkat lunak itu sendiri.
