Mỗi lỗ hổng trong kiến trúc là một chữ ký của kẻ thiển cận. Khi một startup GPU tuyên bố 'không có chip vạn năng', tôi không vội tin, tôi mô phỏng động cơ của họ. Đầu tháng này, Wang Dong, đồng sáng lập Moore Threads, tuyên bố tại một hội thảo rằng thị trường suy luận AI không có một con chip nào phù hợp cho mọi tác vụ. Thay vào đó, ông ấy thấy trước sự trỗi dậy của các 'ISP' (Nhà cung cấp dịch vụ suy luận) chuyên kết hợp nhiều giải pháp phần cứng khác nhau. Nghe có vẻ giống như một chiêu PR thông thường, nhưng khi đào sâu vào logic kỹ thuật, tôi nhận thấy đây chính là điểm mù mà hầu hết mọi người đang bỏ qua trong cuộc chiến AI.
Hãy đặt nó trong bối cảnh. Thị trường suy luận là một mảnh đất màu mỡ với vô số loại đất khác nhau. Mỗi mô hình, từ một chatbot nhẹ đến một công cụ tạo video nặng, đều có nhu cầu phần cứng khác nhau về độ trễ, băng thông và dung lượng bộ nhớ. NVIDIA, với sự thống trị nhờ CUDA, đã xây dựng một đế chế dựa trên giả định rằng một con chip đủ mạnh có thể xử lý mọi thứ. Nhưng trên thực tế, việc cố gắng dùng 'một con dao mổ trâu' để cắt 'một miếng bít tết' là một sự lãng phí có thể đo đếm được. Từ kinh nghiệm đánh giá giao thức của tôi, đây là một lỗi kiến trúc điển hình: tối ưu hóa cho trường hợp xấu nhất mà bỏ qua hiệu quả chi phí cho các trường hợp phổ biến.
Phân tích kỹ thuật là nơi sự thật lộ diện. Wang Dong đã chạm vào một vấn đề cốt lõi: sự phân mảnh của suy luận là có thật và đang gia tăng. Hãy xem xét ba kịch bản điển hình. Kịch bản A: Một cuộc trò chuyện AI yêu cầu độ trễ dưới 100ms. Ở đây, lợi thế thuộc về các chip có bộ nhớ SRAM lớn và khả năng tính toán đơn giản, nhanh (giống Groq). Kịch bản B: Tạo văn bản hàng loạt với thông lượng cao. Ở đây, một GPU thông thường hiệu quả hơn nhiều. Kịch bản C: Suy luận trên thiết bị biên, nơi năng lượng và chi phí là ưu tiên hàng đầu. Một con chip tùy chỉnh (ASIC) là vua. Một con chip vạn năng sẽ thất bại ở một trong ba kịch bản này. Wang Dong không nói ra điều hiển nhiên. Ông ấy đang vẽ ra một bức tranh nơi Moore Threads có thể tồn tại như một mảnh ghép trong một câu đố lớn hơn, thay vì phải cạnh tranh trực tiếp với NVIDIA.
Điều trái ngược ở đây là: 'Tổ hợp giải pháp' mà Wang Dong ca ngợi thực chất là một sự thừa nhận về điểm yếu của chính công ty mình. Đây là một tuyệt chiêu chiến lược. Bằng cách đóng khung sự phức tạp của thị trường như một cơ hội, ông ấy đã biến một điểm trừ (GPU của Moore Threads không thể cạnh tranh sòng phẳng với H100) thành một điểm cộng (chúng tôi là chuyên gia trong một góc nhỏ). Đối với các nhà phân tích bảo mật như tôi, điều này giống như một nhà phát triển nói 'Tôi có thể chạy mã của bạn trên bất kỳ chain nào' — điều này chỉ đúng nếu bạn không quan tâm đến hiệu suất và tính nhất quán. Điểm mù thực sự ở đây là sự phức tạp vận hành tăng theo cấp số nhân. Khi bạn kết hợp nhiều chip từ các nhà cung cấp khác nhau, bạn đang giới thiệu một bề mặt tấn công mới: lỗi tương thích, trình điều khiển không ổn định và khó khăn trong việc mô phỏng và kiểm tra hành vi của hệ thống ở quy mô lớn. Các ISP tương lai sẽ phải đối mặt với một cơn ác mộng về kỹ thuật mà không có lợi thế về quy mô như các gã khổng lồ đám mây.
Cuối cùng, tôi tin rằng tương lai của suy luận không phải là sự thống trị của một con chip duy nhất, nhưng cũng không phải là một mớ hỗn độn của các chip khác nhau. Sự thật nằm ở một mức độ trừu tượng cao hơn: một lớp phần mềm điều phối thông minh, có thể định tuyến các yêu cầu suy luận đến đúng loại phần cứng vào đúng thời điểm, mà người dùng cuối không hề hay biết. Đây là một thách thức phi tuyến tính. Liệu các ISP mới mọc lên có xây dựng được lớp điều phối đó không? Hay chúng ta sẽ chứng kiến sự ra đời của một 'CUDA mới' — một tập hợp các công cụ và tiêu chuẩn mới, có thể linh hoạt hơn, nhưng cũng có thể kiểm soát chặt chẽ hơn? Câu hỏi không phải là liệu có một con chip vạn năng hay không. Câu hỏi là: ai sẽ là người viết 'sổ tay hướng dẫn' cho kỷ nguyên mới này?