Nvidia vừa có một bước đi táo bạo khi chi tới 20 tỷ USD để mua bản quyền công nghệ của Groq, công…

Nvidia vừa có một bước đi táo bạo khi chi tới 20 tỷ USD để mua bản quyền công nghệ của Groq, công ty nổi tiếng với chip xử lý ngôn ngữ tốc độ cao.

Thỏa thuận này cho thấy Nvidia, dù đang thống trị mảng GPU cho AI, cũng thừa nhận rằng không phải mô hình tính toán nào cũng phù hợp với GPU truyền thống. Thời kỳ “một loại chip cho tất cả” dường như đang đi đến hồi kết.

Công nghệ của Groq giúp tăng tốc giai đoạn suy luận, phần mà mô hình AI dùng để tạo ra phản hồi, hình ảnh hay quyết định trong thời gian thực. Khác với giai đoạn huấn luyện cần nhiều sức mạnh tính toán song song, suy luận lại phụ thuộc vào tốc độ truyền dữ liệu trong chip. Groq 3 với cấu trúc SRAM đặc biệt đạt băng thông tới 150 terabyte mỗi giây, nhanh gấp nhiều lần GPU cao cấp mới nhất của Nvidia, giúp xử lý các tác vụ tạo văn bản hay hội thoại với độ trễ cực thấp.

Thay vì thay thế GPU, Nvidia đang xây dựng hệ thống lai gồm GPU Rubin và chip Groq LPU, mỗi phần đảm nhận một giai đoạn khác nhau trong quá trình suy luận. Phần mềm Dynamo sẽ tự động phân bổ công việc giữa hai loại chip, tối ưu hóa hiệu năng theo mỗi yêu cầu cụ thể.

Tuy thương vụ này đắt đỏ và vẫn còn nhiều nghi ngờ về khả năng mở rộng trong thực tế, nó đánh dấu bước chuyển quan trọng trong chiến lược của Nvidia: từ công ty GPU dẫn đầu, trở thành nhà cung cấp hệ thống AI toàn diện, kết hợp nhiều loại silicon chuyên biệt. Với các doanh nghiệp, điều này báo hiệu kỷ nguyên mới, nơi việc chọn “bao nhiêu GPU” không còn đủ, mà là chọn đúng cấu trúc phần cứng cho từng tác vụ AI riêng biệt.

Nguồn: Forbes