Dampak Lingkungan dan Biaya Operasional
Salah satu keunggulan dari TPUs terbaru ini adalah potensi untuk mengurangi penggunaan air yang diperlukan untuk mendinginkan pusat data. Pelatihan jaringan saraf membutuhkan memori bandwidth tinggi dan kluster besar unit pemrosesan, karena ada kebutuhan untuk memperbarui miliaran parameter setiap detik. Proses ini melibatkan apa yang disebut sebagai “backward propagation of errors,” di mana sejumlah umpan balik diuji dan dioptimalkan hingga jaringan saraf dapat mengingat data dengan akurat. Ini mirip dengan proses melatih seseorang hingga mereka memberikan jawaban yang benar.
Sementara itu, inferensi jauh lebih ringan dan dapat diproses menggunakan perangkat keras yang lebih sederhana dengan konsumsi memori yang jauh lebih rendah. Dengan menggunakan perangkat keras yang sama untuk pelatihan dan inferensi, biaya yang sebenarnya menjadi jauh lebih tinggi, yang pada gilirannya meningkatkan biaya efektif untuk tugas-tugas terkait inferensi.
Kompetisi dan Harapan di Masa Depan
Sebelumnya, Google telah memperkenalkan TPU v5e yang dirancang untuk operasi skala lebih kecil. TPU 8i yang baru tampaknya merupakan adaptasi berskala besar dari perangkat keras sebelumnya. Di sisi lain, Amazon juga berusaha mencapai efek serupa dengan AWS Inferentia. Meskipun Google telah menyoroti manfaat lingkungan dari penggunaan TPU khusus untuk inferensi, belum ada jaminan apakah biaya akan berkurang. Ini menjadi pertanyaan besar apakah Google akan membagikan sebagian dari keuntungan ini kepada konsumen atau hanya menyimpan keuntungan untuk dirinya sendiri dan mitra korporatnya.
Dengan kemajuan teknologi yang terus berlangsung ini, kita berharap dapat melihat dampak positif tidak hanya pada efisiensi energi tetapi juga pada biaya yang lebih terjangkau bagi pengguna di masa depan. Seiring dengan perkembangan AI yang semakin pesat, penting bagi perusahaan untuk mempertimbangkan dampak lingkungan dan biaya dalam setiap inovasi yang diciptakan.
Sumber: https://www.androidauthority.com/googles-tensor-processors-environment-friendly-3659769/
