SAN FRANCISCO, POSNEWS.CO.ID – Banyak perusahaan kini mulai meninjau ulang penggunaan teknologi kecerdasan buatan (AI) di lingkungan kerja mereka. Hal ini terjadi karena biaya operasional teknologi canggih ini mulai membengkak secara drastis di luar perkiraan awal.
Sebelumnya, perusahaan pengembang AI sengaja mematok harga sangat murah untuk menarik minat pelanggan global secara masif. Analis menyebut masa ini sebagai era kecerdasan bersubsidi dari para pemodal ventura.
Tagihan Token Melambung Akibat Agen Pintar
Namun, era subsidi murah tersebut kini resmi berakhir karena para pengembang AI harus segera mencetak keuntungan bersih. Apalagi, dua raksasa teknologi seperti OpenAI dan Anthropic kini bersiap melakukan penawaran saham perdana (IPO).
ADVERTISEMENT
SCROLL TO RESUME CONTENT
Sementara itu, biaya operasional semakin meroket setelah perusahaan mulai mengadopsi teknologi agen pintar (AI agents). Berbeda dengan obrolan biasa, agen pintar ini bekerja secara aktif menyelesaikan tugas kompleks secara mandiri.
Akibatnya, satu tugas sederhana dapat mengaktifkan belasan agen pintar secara simultan di latar belakang sistem. Proses komputasi berantai ini membakar token dalam jumlah fantastis hingga memicu tagihan yang luar biasa mahal.
Fenomena Tokenmaxxing dan Evaluasi Produktivitas
Beberapa korporasi bahkan melakukan pemborosan penggunaan token secara berlebihan atau akrab dengan istilah tokenmaxxing. Sebagai contoh, beberapa analis menemukan kasus biaya sewa token bulanan melampaui gaji bulanan staf manusia.
Oleh sebab itu, perusahaan besar mulai mengambil langkah penertiban internal secara ketat demi menghentikan pemborosan tersebut. Kepala Teknologi Meta, Andrew Bosworth, melarang keras karyawannya menggunakan perangkat AI hanya untuk sekadar terlihat produktif.
Di sisi lain, Direktur Operasional Uber juga menyoroti efisiensi investasi teknologi baru ini di depan publik. Ia menilai belanja modal raksasa untuk AI belum memberikan dampak peningkatan produktivitas yang nyata bagi perusahaan.
Strategi Penghematan dan Model Mini
Untuk menyiasati lonjakan biaya, banyak korporasi kini beralih menggunakan model kecerdasan buatan terbuka (open-source). Dengan demikian, mereka dapat mengunduh dan menjalankan model tersebut secara gratis tanpa perlu menyewa server mahal.
Selain itu, perusahaan juga mulai menggunakan model mini khusus yang bekerja spesifik untuk industri tertentu. Model mini ini menawarkan harga sewa yang jauh lebih bersahabat bagi anggaran keuangan korporasi.
Sebagai perbandingan, sewa model raksasa membutuhkan biaya hingga 15 dolar AS per satu juta token. Sebaliknya, perusahaan hanya perlu membayar sekitar 5 sen dolar AS jika menggunakan model mini berdaya rendah.
Penulis : Alifa Latifa
Editor : Alifa Latifa
