“Ngày tận thế của Token” sắp đến: Khi chi phí vượt quá mức tăng năng suất, ai sẽ trả tiền?

Tiêu đề gốc: ""Ngày tận thế của Token" sắp đến! AI đang mở ra một cơn sóng thần về giá"
Nguồn gốc: Heart of the Machine

Gần đây, một từ mới đã gây ra cuộc thảo luận rộng rãi: "Tokenpocalypse" (Ngày tận thế của Token).

Lý do là Microsoft đã tiến hành tái cơ cấu giá cho GitHub Copilot. Bắt đầu từ ngày 1 tháng 6, Copilot sẽ chuyển hoàn toàn sang mô hình thanh toán dựa trên mã thông báo. Hệ số chi phí mã thông báo giữa các mô hình khác nhau rất khác nhau. Giá mã thông báo duy nhất của một số mẫu cao gấp 60 lần so với các mẫu khác.

Và những mẫu cao cấp được người dùng công nhận là “thực sự dễ sử dụng” chính xác là những mẫu có mức tăng mạnh nhất.

Khi nhiều công ty AI hàng đầu như Anthropic và OpenAI chuẩn bị IPO, các công ty AI sẽ phải đối mặt với áp lực lợi nhuận nghiêm trọng hơn, điều này có thể buộc nhiều nhà sản xuất phải theo đuổi việc tăng giá.

Chi phí sử dụng AI sẽ luôn là vấn đề tất yếu để các công ty mở rộng năng suất. Xu hướng "tokenmaxxing" đã xuất hiện cách đây một thời gian, động lực thúc đẩy việc sử dụng mã thông báo của các nhân viên cạnh tranh, sẽ chấm dứt khi sự kết thúc của mã thông báo đến gần.

"Toàn bộ xu hướng tokenmaxxxing, từ khi lên đến đỉnh điểm cho đến khi bị từ chối, mất tổng cộng sáu tháng."

Tình thế tiến thoái lưỡng nan của doanh nghiệp

Nhà phát triển đến từ một doanh nghiệp lớn này đã mô tả một tình thế khó xử vô lý: Công ty từ lâu đã yêu cầu nhân viên sử dụng các công cụ AI và nếu mã thông báo được sử dụng ít hơn, họ sẽ được phỏng vấn. Nhưng khi có mức giá mới, nếu bạn sử dụng quá nhiều token, bạn vẫn sẽ được yêu cầu thương lượng.

Điều tệ hơn nữa là Copilot Nhóm đã không thể khởi động Chức năng "giới hạn mã thông báo cấp độ nhân viên" cho đến nay. Điều này có nghĩa là theo mô hình thanh toán mới, một nhân viên có thể tiêu hết toàn bộ ngân sách mã thông báo của công ty trong tháng trong một ngày.

“Công việc của tôi không còn là sử dụng phần mềm để giải quyết các vấn đề kinh doanh nữa,” nhà phát triển viết. “Công việc của tôi trở thành giải quyết các vấn đề về sử dụng mã thông báo.”

Các bình luận trong khu vực bình luận thậm chí còn thú vị hơn. Một người dùng kết luận: "Chính sách của công ty là: 'Sử dụng AI cho mọi thứ, nhưng hãy cẩn thận đừng sử dụng quá nhiều, vì nếu LLM tiêu thụ quá nhiều token, bạn sẽ bị vô hiệu hóa và sau đó bạn sẽ bị chỉ trích vì không sử dụng AI trong thời gian còn lại của tháng.'"

Các doanh nghiệp tập trung quá nhiều vào năng suất AI cũng có thể là con dao hai lưỡi.

Một giám đốc thông tin nào đó từ một công ty luật lớn thậm chí còn làm việc về AI "Phô trương" tại hội thảo: Sau AI của họ hệ thống bị sập, các luật sư về cơ bản đã ngừng hoạt động vì họ không thể làm được nếu không có AI.

Một người được đào tạo chuyên nghiệp nhiều năm thoải mái thừa nhận mình không thể làm việc nếu không có hộp trò chuyện AI? Tôi sẽ xấu hổ đến mức bắt đầu suy ngẫm về sự nghiệp của mình. 》

Sự cố bội chi của Uber: Một mô hình thu nhỏ của ngành

Ngày nay, hầu hết các mô hình AI đều có gói sử dụng và vấn đề kiểm soát ngân sách doanh nghiệp ngày càng trở nên nghiêm trọng khi Token dần tính phí dựa trên mức sử dụng.

Uber Một vòng cung hoàn chỉnh đã được hoàn thành trong một tháng rưỡi: đầu tiên, người ta phát hiện ra rằng "ngân sách AI đã được sử dụng đốt nhanh hơn nhiều so với dự kiến", sau đó giới hạn sử dụng khẩn cấp và hạn chế nhân viên được đặt ra.

"Hãy tưởng tượng việc sử dụng AI trên diện rộng như Uber "Mọi công ty sẽ nhanh chóng gặp ngõ cụt," nói Podcast của TechCrunch, "Câu hỏi là: Liệu phòng thí nghiệm AI có thể giảm chi phí để phù hợp với mức sẵn sàng chi trả của khách hàng không?"

Một câu đố: Khi ChatGPT Plus ban đầu có giá 20 USD/tháng, không có sự cân nhắc chiến lược nào, "đó chỉ là một con số ngẫu nhiên". đã xây dựng bảng giám sát chi phí AWS Bedrock trong công ty và đầu tư chi phí của từng mô hình và từng mã thông báo (bao gồm cả mã thông báo bộ nhớ đệm) theo thời gian thực trên CloudWatch, "cho phép các nhà phát triển và bộ phận tài chính cùng nhau theo dõi quá trình đốt tiền". src="https://image.blockbeats.cn/file_v6/20260609/be9c97ec90f26e4c525bdb6095090d6758ce6722.png" alt="" data-href="" style=""/>

Một công ty lớn khác cũng gặp phải tình trạng khủng hoảng tương tự: sau khi hết hạn ngạch AI, mọi người buộc phải hạ cấp xuống GPT-4.2 và thậm chí việc tích hợp VSCode cũng bị mất.

Một người xem không làm trong ngành công nghệ đã bày tỏ cảm xúc của nhiều người: "Toàn bộ sự việc này đã tiêu tốn quá nhiều năng lượng tinh thần và số giờ làm việc thực tế đến mức nó đã ảnh hưởng đến việc phân phối công việc thực sự có thể giúp công ty kiếm tiền."

Trong khi toàn bộ ngành vẫn đang đắm chìm trong câu chuyện "AI sẽ thay thế mọi thứ", một vấn đề thực tế hơn đã xuất hiện: ai đó phải trả hóa đơn cho sức mạnh tính toán và "Ngày tận thế của Token" có thể chỉ là khởi đầu. cách tính toán này

Liên kết gốc