Suka atau tidak, model bahasa besar dengan cepat tertanam dalam kehidupan kita. Dan karena kebutuhan energi dan air mereka yang intens, mereka mungkin juga menyebabkan kita berputar lebih cepat menjadi kekacauan iklim. Namun, beberapa LLMS mungkin merilis lebih banyak polusi yang menghangatkan planet daripada yang lain, sebuah studi baru menemukan.
Pertanyaan yang dibuat untuk beberapa model menghasilkan emisi karbon hingga 50 kali lebih banyak daripada yang lain, menurut sebuah studi baru yang diterbitkan di Perbatasan dalam Komunikasi. Sayangnya, dan mungkin tidak mengejutkan, model yang lebih akurat cenderung memiliki biaya energi terbesar.
Sulit untuk memperkirakan betapa buruknya LLM untuk lingkungan, tetapi beberapa penelitian telah menyarankan bahwa melatih chatgpt yang digunakan hingga 30 kali lebih banyak energi daripada rata -rata penggunaan Amerika dalam setahun. Yang tidak diketahui adalah apakah beberapa model memiliki biaya energi yang lebih curam daripada rekan -rekan mereka karena mereka menjawab pertanyaan.
Para peneliti dari Universitas Ilmu Terapan Hochschule München di Jerman mengevaluasi 14 llms mulai dari 7 hingga 72 miliar parameter-tuas dan panggilan yang menyempurnakan pemahaman dan generasi bahasa model-pada 1.000 pertanyaan benchmark tentang berbagai subjek.
LLMS mengubah setiap kata atau bagian kata dalam prompt menjadi serangkaian angka yang disebut token. Beberapa LLM, terutama penalaran LLM, juga memasukkan “token berpikir” khusus ke dalam urutan input untuk memungkinkan perhitungan internal tambahan dan penalaran sebelum menghasilkan output. Konversi ini dan perhitungan selanjutnya yang dilakukan LLM pada token menggunakan energi dan melepaskan CO2.
Para ilmuwan membandingkan jumlah token yang dihasilkan oleh masing -masing model yang mereka uji. Model penalaran, rata -rata, menciptakan 543,5 token berpikir per pertanyaan, sedangkan model ringkas hanya membutuhkan 37,7 token per pertanyaan, penelitian menemukan. Di dunia chatgpt, misalnya, GPT-3.5 adalah model yang ringkas, sedangkan GPT-4O adalah model penalaran.
Proses penalaran ini meningkatkan kebutuhan energi, penulis menemukan. “Dampak lingkungan dari mempertanyakan LLMS terlatih sangat ditentukan oleh pendekatan penalaran mereka,” penulis studi Maximilian Dauner, seorang peneliti di Hochschule München University of Applied Sciences, mengatakan dalam sebuah pernyataan. “Kami menemukan bahwa model yang diaktifkan dengan penalaran menghasilkan emisi CO2 hingga 50 kali lebih banyak daripada model respons yang ringkas.”
Semakin akurat modelnya, semakin banyak emisi karbon yang mereka hasilkan, penelitian ini menemukan. Model penalaran Cogito, yang memiliki 70 miliar parameter, mencapai akurasi hingga 84,9% – tetapi juga menghasilkan emisi CO2 tiga kali lebih banyak daripada model berukuran sama yang menghasilkan lebih banyak jawaban ringkas.
“Saat ini, kami melihat trade-off akurasi yang jelas yang melekat dalam teknologi LLM,” kata Dauner. “Tidak ada model yang menyimpan emisi di bawah 500 gram yang setara CO2 mencapai akurasi lebih tinggi dari 80% untuk menjawab 1.000 pertanyaan dengan benar.” Setara CO2 adalah unit yang digunakan untuk mengukur dampak iklim dari berbagai gas rumah kaca.
Faktor lain adalah subjek. Pertanyaan yang membutuhkan penalaran terperinci atau kompleks, misalnya aljabar atau filsafat abstrak, menyebabkan emisi hingga enam kali lebih tinggi daripada subjek yang lebih mudah, menurut penelitian.
Ada beberapa peringatan. Emisi sangat tergantung pada bagaimana jaringan energi lokal terstruktur dan model yang Anda periksa, jadi tidak jelas seberapa digeneralisasikan temuan ini. Namun, penulis penelitian mengatakan mereka berharap pekerjaan itu akan mendorong orang untuk “selektif dan bijaksana” tentang penggunaan LLM.
“Pengguna dapat secara signifikan mengurangi emisi dengan mendorong AI untuk menghasilkan jawaban ringkas atau membatasi penggunaan model berkapasitas tinggi untuk tugas-tugas yang benar-benar membutuhkan kekuatan itu,” kata Dauner dalam sebuah pernyataan.
RisalahPos.com Network
