Trong hai năm qua, các lĩnh vực liên quan đến chuỗi công nghiệp AI của Hoa Kỳ đã tạo ra giá trị thị trường hàng nghìn tỷ đô la. Tuy nhiên, quy mô thị trường mới được bổ sung được phân bổ cực kỳ không đồng đều: Nvidia có vốn hóa thị trường là 4,5 nghìn tỷ USD và tỷ suất lợi nhuận gộp là 73%; tổng doanh thu hàng năm của OpenAI và Anthropic chỉ là 45 tỷ USD; các công ty trung nguồn và hạ nguồn như CoreWeave, Cursor và Perplexity đang huy động tiền trong khi đốt tiền. Ngành công nghiệp AI thể hiện một cấu trúc hình tam giác trong đó càng đi ngược dòng thì lợi nhuận gộp càng dày.

Tiền sẽ đi đâu và sẽ ở đâu sau 10 năm nữa? Đây là câu hỏi cốt lõi mà khóa học MS&E 435 mới của Stanford trong học kỳ này cố gắng giải đáp. Người dẫn chương trình Apoorv Agrawal từ công ty đầu tư Altimeter đã mời chín công ty chủ chốt trong ngành cố gắng cùng nhau tìm ra tương lai của dòng giá trị của ngành AI từ quan điểm của các nhà lãnh đạo ngành.

Phân bổ giá trị theo hình tam giác

Đầu năm 2024, Agrawal xuất bản một báo cáo có tên "Kinh tế học của AI sáng tạo", trong đó kết luận rằng lớp chip chiếm tới 83% lợi nhuận gộp của toàn bộ chuỗi ngành.

Hai năm đã trôi qua và quy mô của toàn bộ hệ sinh thái đã tăng từ 90 tỷ USD lên 435 tỷ USD. Tỷ trọng lợi nhuận gộp của mảng chip vẫn chiếm ưu thế, giảm từ 83% xuống 79%.

Chia ra, doanh thu hàng năm của lớp chip là khoảng 300 tỷ đô la Mỹ, riêng Nvidia chiếm 80% trong số đó; tầng hạ tầng khoảng 75 tỷ đồng; lớp ứng dụng khoảng 60 tỷ. Tỷ suất lợi nhuận gộp của ba cấp lần lượt là 73%, 55% và 33%. Được chuyển đổi thành giá trị lợi nhuận gộp tuyệt đối, chúng lần lượt là 225 tỷ USD, 40 tỷ USD và 20 tỷ USD.

Biểu đồ lợi nhuận của ngành AI hoàn toàn trái ngược với ngành điện toán đám mây vốn thúc đẩy vòng tăng trưởng cuối cùng của ngành công nghệ. Trong hệ thống điện toán đám mây truyền thống, lớp chip chỉ chiếm 6% lợi nhuận gộp và lớp ứng dụng chiếm 70%.

Agrawal đã tóm tắt rõ ràng bối cảnh cạnh tranh hiện tại: lớp chip là trò chơi một người chơi, lớp ứng dụng là trò chơi hai người chơi và lớp cơ sở hạ tầng ở giữa là chiến trường nhiều người chơi thực sự duy nhất.

Buổi biểu diễn một người của NVIDIA

Lớp thứ hai được giảng dạy bởi Brad Gerstner, đối tác của Altimeter và Sunny Madra của NVIDIA. Sunny ban đầu là nhà đầu tư vào Groq và tham gia môi giới thương vụ để Groq được NVIDIA mua lại. Cả hai giải thích tại sao NVIDIA sẽ tiếp tục thống trị mảng chip.

Brad đưa ra một loạt định giá phản trực giác: Nvidia có vốn hóa thị trường là 4,5 nghìn tỷ USD, tỷ lệ giá trên thu nhập là 13 lần, chỉ bằng một nửa mức trung bình của thị trường và tăng trưởng doanh thu 70% hàng năm. Ông công khai dự đoán rằng Nvidia sẽ trở thành công ty trị giá 10 nghìn tỷ USD đầu tiên trên thế giới. Lý do của ông là Nvidia đã chốt các đơn đặt hàng trị giá hàng nghìn tỷ đô la trong 8 quý tới và nhu cầu vượt xa nguồn cung. Jensen Huang từng nói với Brad rằng nhu cầu suy luận sẽ tăng lên hàng tỷ lần.

Đằng sau sự tự tin này là logic kỹ thuật của việc chuyển từ thời kỳ đào tạo trước sang thời kỳ suy luận - số tiền tính toán cho mỗi mã thông báo được tạo ra là bình phương của các tham số mô hình nhân với độ dài ngữ cảnh.

Có rất nhiều thách thức đối với chip tự phát triển. TPU Ironwood thế hệ thứ bảy của Google đã bắt đầu được sản xuất hàng loạt và Anthropic đã đặt hàng 1 triệu chiếc. Có tin đồn rằng điều này trực tiếp buộc Nvidia phải giảm giá 30% cho một số khách hàng; Chip Trainium2 của Amazon đã triển khai 1,4 triệu phiên bản và doanh thu hàng năm của hoạt động kinh doanh liên quan vượt quá 10 tỷ đô la Mỹ; Maia 200 của Microsoft đã được ra mắt trên Azure vào tháng 1 năm nay và OpenAI cũng đã ký hợp đồng ASIC 10 gigawatt tự phát triển với Broadcom.

Huang Renxun bình tĩnh nói: "Nhiều dự án ASIC cuối cùng sẽ bị hủy bỏ." Từ góc độ lịch sử, ông đã đúng. Lùi lại một bước, ngay cả khi TPU, Trainium và Maia vượt qua thì Nvidia vẫn sẽ là người dẫn đầu. Những điều trên không cho thấy Nvidia là không thể thay thế, nó cho thấy thị trường này lớn đến mức nào.

Những thợ điện đắt tiền

Phần thứ ba có sự tham gia của Chase Lochmiller, người sáng lập Crusoe. Crusoe đã xây dựng một công viên trung tâm dữ liệu 2,1 gigawatt ở Abilene, một thành phố nhỏ ở Tây Texas. Đây là trạm biến áp tư nhân lớn nhất ở Hoa Kỳ, có mức tiêu thụ điện tương đương với Denver. Các công ty đầu tiên bước vào là Oracle và OpenAI. Có 9.000 công nhân xây dựng làm việc quanh năm trong công viên, trong khi dân số của thành phố nhỏ này chỉ có 120.000 người.

Chase đã phân tích các thành phần chi phí trên mỗi megawatt điện trong một slide: Tổng chi phí là khoảng 19 triệu đô la, trong đó hạng mục lớn nhất là nhân công với mức giá khổng lồ 4,7 triệu đô la mỗi megawatt, chưa tính đến chip và thiết bị làm mát. Dựa trên tính toán này, một công viên gigawatt (GW) sẽ đốt 4,7 tỷ USD mỗi năm chỉ xét riêng về lao động.

Ngoài chi phí lao động, chi phí cho mỗi megawatt của tua-bin khí đã tăng từ 1 triệu USD lên 3 triệu USD trong ba năm. Nguyên nhân đằng sau điều này là do năng lực sản xuất của 4 nhà sản xuất lớn là GE Vernova, Siemens, Mitsubishi Heavy Industries và Pratt & Whitney không thay đổi trong khi nhu cầu đã tăng lên nhiều lần.

Đuổi theo các thương hiệu nổi tiếng đang thiếu những gã khổng lồ về thiết bị điện như Eaton, Schneider, hàng trăm năm nay chưa được động tới. Về lâu dài, toàn bộ quá trình chuyển đổi kiến ​​trúc nguồn điện từ 765 kilovolt sang 900 volt dc trong tủ sẽ phải được thiết kế lại, nhưng ngay cả trong ngắn hạn, những nhà máy truyền thống này vẫn sẽ tiếp tục được hưởng lợi.

Cơ cấu tổ chức không theo kịp sự phát triển của AI

Khách mời trong phiên thứ 4 là Ali Ghodsi, Giám đốc điều hành công ty phần mềm Databricks. Anh ấy đã đưa ra một quan điểm quan trọng ngay lập tức: AGI đã được hiện thực hóa. Các mô hình AI hiện tại đã đáp ứng định nghĩa về AGI của Phòng thí nghiệm AMP Berkeley năm 2009. Quả thực bóng đã được ghi nhưng có người đã kéo lại bàn thắng.

Lý do khiến mọi người nghĩ rằng AI không đạt được kỳ vọng là vấn đề nằm ở chính họ.

A báo cáo từ MIT cho thấy 95% phi công AI của doanh nghiệp thất bại và lời giải thích của Ali cho điều này là các mô hình thiếu bối cảnh mà chưa ai trong tổ chức từng viết ra.

Công ty nào cũng có một nhân viên cũ đã làm việc được hai mươi năm. Mọi người đều tìm đến anh để đặt câu hỏi khi gặp vấn đề, nhưng những điều trong đầu anh chưa bao giờ đi vào bất kỳ khuôn mẫu nào.

Để so sánh, động cơ điện được phát minh vào năm 1880 và không bắt đầu tăng năng suất một cách có ý nghĩa thống kê cho đến tận năm 1920. Trong 40 năm qua, các công ty chỉ coi động cơ hơi nước đã được thay thế bằng động cơ điện là điều hiển nhiên, và không ai nghĩ rằng toàn bộ cách bố trí nhà máy nên bị phá bỏ và xây dựng lại.

Databricks tự nó đã gặp phải những cạm bẫy. Một trình kết nối dữ liệu ban đầu mất 3/4 để phân phối lần đầu tiên đã được bàn giao cho AI, chỉ tiết kiệm được một tháng rưỡi. Sau đó, một người phụ trách đã được thay thế, người đã dám bỏ toàn bộ quy trình và làm lại, và mọi thứ đều được giao trong một quý. Trình tiết kiệm thời gian thực không phải là phiên bản mô hình được nâng cấp mà là người đã tách quy trình ra và làm lại nó.

Ali tin rằng những cơ hội lớn trong lớp ứng dụng cuối cùng sẽ xuất hiện và sẽ tập trung vào tay những người chơi dám viết lại logic tổ chức. Tốc độ tiến triển của vấn đề này do con người quyết định chứ không phụ thuộc vào GPT-6 hay Opus-5.

Tam giác ngược

Trong nhóm công nghệ, giá trị sẽ tăng dần từ phần cứng cơ bản đến phần mềm và ứng dụng cấp cao hơn.

Ngành điện toán đám mây đã hoàn tất quá trình chuyển đổi từ phần cứng thống trị sang phần mềm thống trị trong mười lăm năm. Để ngăn xếp AI đạt được mức lật giá trị tương tự, nó phải dựa vào lớp ứng dụng để tiếp tục bùng nổ hoặc đợi tỷ suất lợi nhuận gộp của lớp chip chuyển từ mức cao 73% lên 6% như phần cứng thời đại đám mây. Hiện tại, điều này đang xảy ra ở cả hai phía nhưng không xảy ra đủ nhanh. Dựa trên tốc độ thay đổi trong hai năm qua, sẽ mất ít nhất mười năm để lớp ứng dụng có thể ngang bằng với nền tảng điện toán đám mây về mặt chia sẻ lợi nhuận.

Vì vậy, khi đặt cược vào lớp chip, bạn đang đặt cược vào dòng tiền sẽ bỏ túi trong hai năm tới; khi đặt cược vào lớp ứng dụng, bạn đang đặt cược vào xu hướng chung là tăng trưởng giá trị đi lên trong vòng 5 đến 10 năm tới.

Trước sự xuất hiện của cuộc cách mạng công nghệ dẫn đến sự sụp đổ của tỷ suất lợi nhuận gộp ở cấp độ chip, bạn càng ở gần con chip thì bạn càng tiến gần đến lợi nhuận.