"Akhir Token" datang: siapa yang membayar ketika biaya berada di bawah tekanan pada keuntungan produktivitas

Judul asli: "Akhir Token"! AI berada di tengah-tengah sebuah harga memperbaiki tsunami
Sumber asli: Machine Heart

Baru-baru ini, istilah baru adalah subjek diskusi yang luas: "Tokenpocalypse"。

Hal ini karena harga re- rekayasa GitHub Copilot. Dari 1 Juni, Copilot sepenuhnya bergeser ke model penagihan berbasis Token. Pengganda biaya Token sangat bervariasi antara model, dan satu harga token untuk beberapa model adalah 60 kali lebih tinggi daripada yang lain。

Dan model canggih yang diakui secara luas oleh pengguna sebagai "sangat bagus" adalah yang terburuk。

Seperti banyak kepala perusahaan AI seperti Anthropic dan OpenAI bersiap untuk didaftarkan, AI akan menghadapi lebih banyak tekanan keuntungan yang serius, mungkin memaksa lebih banyak produser untuk menindaklanjuti kenaikan harga。

Biaya penggunaan AI selalu menjadi masalah yang tidak dapat dihindari untuk produktivitas ekspansi perusahaan. Gelombang "tokenmaxing" yang muncul selama periode sebelumnya, dibandingkan dengan gaya mengemudi penggunaan tanda karyawan, akan berakhir sebagai pendekatan akhir Token。

"seluruh pasang tokenmaxxxing, dari atas ke atas, adalah enam bulan."

Dilema bisnis

Pengembang dari perusahaan besar menggambarkan dilema konyol: perusahaan telah lama dikenakan pada karyawan penggunaan alat AI, dan token akan diwawancarai lebih sedikit. Tapi dengan harga baru, Token juga akan diwawancarai。

Yang lebih penting, tim Copilot sejauh ini belum mampu mengakses fungsi "batas token level staf". Ini berarti bahwa di bawah model penagihan baru, karyawan dapat membakar seluruh anggaran perusahaan dalam satu hari。

"pekerjaan saya bukan untuk memecahkan masalah bisnis dengan perangkat lunak", pengembang menulis, "tugas saya adalah untuk memecahkan penggunaan token"

Bagian komentar bahkan lebih baik. Satu pengguna menyimpulkan: "Kebijakan perusahaan menjadi:" Lakukan segala sesuatu dengan AI, tapi berhati-hatilah untuk tidak menggunakan terlalu banyak, karena jika LLM mengkonsumsi terlalu banyak token Anda akan dinonaktifkan, dan kemudian Anda akan dikritik karena tidak menggunakan AI untuk sisa bulan "

PERUSAHAAN TERLALU FOKUS PADA PRODUKTIVITAS AI DAN MUNGKIN PEDANG BERMATA DUA。

SALAH SATU MANAJER INFORMASI DARI SEBUAH PERUSAHAAN BESAR BAHKAN "SHOWING" DI SEMINAR AI: SETELAH SISTEM AI MEREKA MATI, PENGACARA KEBANYAKAN BERHENTI BEKERJA KARENA MEREKA TIDAK BISA MENINGGALKAN AI。

SEORANG PRIA DENGAN PELATIHAN PROFESIONAL BERTAHUN-TAHUN TIDAK BISA BEKERJA KETIKA DIA BEBAS UNTUK MENGAKUI BAHWA DIA JAUH DARI CHAT BOX AI? SAYA AKAN MALU UNTUK MULAI MENCERMINKAN KARIR SAYA. "

Uber Overextentment: industri mikrokosmos

Sebagian besar model AI kini dikemas, dan masalah pengendalian anggaran untuk perusahaan diperluas oleh kecenderungan Token secara bertahap mengisi volume。

Uber menyelesaikan busur penuh dalam satu setengah bulan: pertama, ia menemukan bahwa "anggaran AI terbakar jauh lebih cepat dari yang diharapkan" dan kemudian mengatur langit-langit darurat dan pembatasan staf。

Bayangkan bahwa perusahaan seperti Uber, yang menggunakan banyak AI, dapat memukul dinding begitu cepat, dan podcast TechCrunch berkata, "Pertanyaannya adalah, apakah Al 's laboratorium dapat mencocokkan biaya untuk kemauan klien untuk membayar?"

Satu pengetahuan dingin: ChatGPT Ditambah harga awalnya $20 per bulan tanpa banyak pertimbangan strategis, "Hanya memuntahkan angka". Seluruh industri masih membayar untuk titik awal ini。

"PEKERJAAN ANDA TIDAK AKAN DIGANTIKAN OLEH AI, TAPI ANGGARAN ANDA MUNGKIN"

Reddit memiliki rincian yang lebih menarik. Sebuah AWS Bedrock biaya panel pemantauan telah didirikan di perusahaan untuk menempatkan setiap model, setiap token (termasuk tanda cache) dihabiskan secara langsung pada Cloudwatch, "Biarkan pengembang dan keuangan menonton uang terbakar". Reaksi dari bagian komentar adalah: "Selamat, Anda baru saja memberi mereka indikator KPI baru"

Perusahaan besar lainnya mengalami kontraksi serupa: ketika tingkat AI habis, pemilik secara paksa diturunkan ke GPT-4.2, bahkan tanpa integrasi VSCode。

Seorang pengamat yang tidak berada di industri sains dan teknologi telah membuat banyak suara: "Semua hal ini telah mengkonsumsi lebih banyak energi dan jam sebenarnya daripada pengiriman pekerjaan yang benar-benar membantu perusahaan untuk mendapatkan uang"

Ketika seluruh industri masih tenggelam dalam narasi bahwa "AI akan mengganti segalanya", masalah yang lebih realistis telah muncul: tagihan yang susah dihitung harus dibayar. Akhir dari Token mungkin hanya awal likuidasi。

Tautan Asli