Xuất bản vào

NVIDIA cuối cùng cũng gặp rắc rối?

Tác giả

Google đang thực hiện bước đi quan trọng nhất về hạ tầng AI từ trước đến nay, và đây là vết nứt thực sự đầu tiên trên "con hào kinh tế" trị giá 4,5 nghìn tỷ USD của Nvidia.

Không phải một con chip. Không phải một điểm chuẩn hiệu năng.

Mà là phần mềm.

Trong một thập kỷ, AI đã đi theo một "hố trọng lực" duy nhất:

PyTorch → CUDA → NVIDIA.

Nếu bạn huấn luyện mô hình, bạn huấn luyện trên GPU. Không phải vì chúng hoàn hảo, mà vì việc rời bỏ đồng nghĩa với việc phải viết lại toàn bộ mã nguồn.

Giờ đây, Google đang tấn công vào chính sự ràng buộc đó.

TorchTPU không phải là một dòng TPU mới bóng bẩy.

Đó là việc Google khiến PyTorch hoạt động như thể nó vốn dành cho TPU – ít thủ thuật hơn, ít phải viết lại mã hơn, tiến gần hơn tới trải nghiệm "chỉ việc chạy".

Và họ đang thực hiện điều đó cùng với Meta, đơn vị quản lý PyTorch.

Đó chính là dấu hiệu then chốt.

TPU luôn mạnh về khả năng mở rộng, đặc biệt là trong suy luận (inference). Thứ kìm hãm chúng không phải là phần cứng – mà là sự khó khăn của các nhà phát triển.

TorchTPU đánh thẳng vào "điểm đau" đó.

Đây là lý do tại sao thời điểm này lại quan trọng:

→ TPU v7 đã ra mắt. → Anthropic cam kết sử dụng tới 1 triệu TPU. → Meta đang nghiên cứu các đợt triển khai trị giá hàng tỷ USD. → "Đa dạng hóa nhà cung cấp" không còn là lý thuyết mà đã trở thành đòn bẩy.

Nhưng hãy làm rõ điều này:

CUDA chưa chết. NVIDIA vẫn thống trị mảng huấn luyện.

Nhưng suy luận mới là nơi lợi nhuận cộng dồn, và là nơi các chip ASIC tỏa sáng.

Và mặc dù TorchTPU không lật đổ được vị vua, nó chắc chắn làm giảm chi phí chuyển đổi.

Và một khi chi phí chuyển đổi giảm xuống, quyền lực về giá cả sẽ theo sau.

Quan trọng nhất, Google không cố gắng đánh bại NVIDIA trực diện.

Họ đang làm một việc thông minh hơn – biến NVIDIA thành một lựa chọn không bắt buộc.

TÁC GIẢ

Về ABN Asia: Ai Base Network (ABN), ABN Asia được thành lập từ năm 2012, là một công ty xuất phát từ học thuật, do những giảng viên, cựu du học sinh Hungary, Hà Lan, Nga, Đức, và Nhật Bản sáng lập. Chúng tôi chia sẻ đam mê chung và tầm nhìn vững chắc về công nghệ, mang đến sự đổi mới và chất lượng đỉnh cao cho khách hàng. Phương châm của chúng tôi là: Tốt hơn. Nhanh hơn. An toàn hơn. Trong nhiều trường hợp: Rẻ hơn.

Hãy liên hệ với chúng tôi khi Quý doanh nghiệp có các nhu cầu về dịch vụ công nghệ thông tin, tư vấn chuyển đổi số, tìm kiếm các giải pháp phần mềm phù hợp, hoặc nếu Quý doanh nghiệp có đấu thầu CNTT (RFP) để chúng tôi tham dự. Quý doanh nghiệp có thể liên hệ với chúng tôi qua địa chỉ email [email protected]. Chúng tôi sẵn lòng hỗ trợ với mọi nhu cầu công nghệ của Quý doanh nghiệp.

ABNAsia.org

© ABN ASIA