Nvidia đầu tư 20 tỷ USD startup chip Groq
Kinhtedothi- Nvidia cho biết họ đã đạt được một thỏa thuận không độc quyền với Groq để cấp phép công nghệ của mình. Thỏa thuận trị giá 20 tỷ USD, đánh dấu giao dịch lớn nhất từ trước đến nay của Nvidia.
Theo các nhà phân tích, đây không đơn thuần là một thương vụ mua bán mà là một bước đi chiến lược nhằn củng cố vị thế, giúp Nvidia mở rộng lợi thế trước các đối thủ cạnh tranh như Alphabet và AMD.
Để hiểu lý do Nvidia chi 20 tỷ USD cho một startup, cần nhìn vào sự thay đổi của thị trường AI. Trong ba năm qua, ngành công nghiệp tập trung vào vào Huấn luyện- quá trình dạy mô hình AI, đòi hỏi sức mạnh tính toán thô khổng lồ mà các GPU dòng Blackwell và Hopper của Nvidia đáp ứng hoàn hảo.
Nvidia đầu tư 20 tỷ USD startup chip Groq
Tuy nhiên, thị trường đã chuyển sang giai đoạn Suy luận- quá trình vận hành các mô hình AI để tạo ra kết quả 24/7. Khi AI chuyển sang các ứng dụng thời gian thực như trợ lý giọng nói và robot hình người, tốc độ trở thành yếu tố sống còn.
Vấn đề của Nvidia là GPU có khả năng vận chuyển dữ liệu lớn nhưng mất thời gian để tăng tốc. Chúng được tối ưu hóa cho khối lượng xử lý hơn là tốc độ tức thời. Trong khi đó, giải pháp từ Groq cho phép tăng tốc tức thì.
Dữ liệu cho thấy LPU của Groq có thể xử lý từ 300 đến 500 token mỗi giây trên các mô hình tiêu chuẩn như Llama 2, so với khoảng 100 token mỗi giây của thiết lập GPU tiêu chuẩn. Về mặt kỹ thuật, LPU của Groq sử dụng công nghệ bộ nhớ SRAM ngay trên chip, giúp giúp nhanh hơn và tiết kiệm năng lượng hơn cho một số tác vụ nhất định, khác biệt với GPU của Nvidia dựa vào bộ nhớ HBM ngoài chip.
Để lách qua luật chống độc quyền, Nvidia đã lách qua rủi ro bằng cách cấu trúc thương vụ dưới dạng thuê lại nhân sự và thỏa thuận cấp phép không độc quyền.
Cụ thể, Nvidia trả tiền để có quyết sử dụng sở hữu trí tuệ của Groq vĩnh viễn. Như một phần thương vụ, Nvidia thuê phần lớn đội ngũ kỹ thuật và lãnh đạo của Groq, bao gồm cả nhà sáng lập Jonathan Ross. Pháp nhân Groq về mặt kỹ thuật vẫn hoạt động độc lập, giúp tránh các thủ tục chống độc quyền kéo dài.
Việc mua lại công nghệ này giúp Nvidia tiết kiệm từ 3 đến 4 năm nghiên cứu và phát triển, một khoảng thời gian được coi là vô tận trong thế giới AI đang thay đổi nhanh chóng.
Thương vụ này cho thấy Nvidia đang chơi cả bài tấn công lẫn phần phòng thủ. Bằng cách tích hợp công nghệ độ trễ thấp của Groq, Nvidia đảm bảo nắm giữ giải pháp nhanh nhất cho phân khúc tăng trưởng nóng nhất của thị trường. Công nghệ này dự kiến sẽ được tích hợp vào kiến trúc Rubin sắp tới và sáng kiến robot Project GR00T của hangxm củng cố tham vọng hệ điều hành cho toàn bộ nền kinh tế AI.
