Facebook sắp có siêu máy tính mạnh nhất thế giới
Facebook từng cho rằng trí tuệ nhân tạo (AI) có thể giúp họ thực hiện nhiệm vụ khó khăn là kiểm duyệt các bài đăng từ hàng tỷ người dùng. Mới đây, công ty mẹ của Facebook là Meta đang thực hiện một bước có thể giúp thực hiện mục tiêu khó khăn đó: Chế tạo siêu máy tính đầu tiên.
Meta đã công bố AI Research SuperCluster (RSC) mới. Đây là một siêu máy tính được sử dụng cho các dự án nghiên cứu AI. Siêu máy tính đã được nghiên cứu trong hai năm qua và cuối cùng có thể giúp Meta phát triển phần mềm AI mạnh mẽ hơn nhiều.
Siêu máy tính này có thể hữu ích trong các nhiệm vụ phức tạp như phát hiện phát ngôn thù hận trong các bài đăng. Được biết "siêu máy tính AI mạnh nhất thế giới" khi ra đời cuối năm 2022.
Kỹ sư phần mềm tại Meta cho biết ở giai đoạn đầu, RSC được trang bị 760 hệ thống Nvidia DGX A100 với 6.080 GPU cho các tác vụ tính toán. Con số này sẽ nâng lên 16 nghìn GPU khi hoàn thành. Các GPU giao tiếp với nhau qua hệ thống truyền dẫn Nvidia Quantum tốc độ 200 Gb/giây. Bộ nhớ ba tầng với dung lượng lần lượt là 10, 46 và 175 petabyte.
Trong thử nghiệm được hãng công bố, quy trình xử lý các tác vụ về thị giác máy tính nhanh hơn 20 lần so với hệ thống mà Meta đang sử dụng với 22 nghìn GPU Nvidia V100 Tensor Core.
Meta cho biết các nhà nghiên cứu đã bắt đầu sử dụng siêu máy tính này để đào tạo các mô hình lớn liên quan đến xử lý ngôn ngữ tự nhiên và thị giác máy tính. Các nhà nghiên cứu sẽ có thể sử dụng siêu máy tính để phân tích liền mạch văn bản, hình ảnh và video cùng nhau và đưa ra công cụ thực tế tăng cường.
Dần dần, Meta hy vọng siêu máy tính sẽ cho phép công ty xây dựng các hệ thống AI hoàn toàn mới có thể thực hiện các nhiệm vụ khó tính toán như dịch theo thời gian thực cho một nhóm lớn những người nói các ngôn ngữ khác nhau.
Công ty cho biết các cuộc thử nghiệm ban đầu cho thấy siêu máy tính này có thể đào tạo các mô hình ngôn ngữ lớn nhanh hơn ba lần so với hệ thống mà nó đang sử dụng. Điều đó có nghĩa là một mô hình AI sẽ mất 9 tuần để đào tạo với hệ thống hiện có, nhưng có thể được đào tạo trong ba tuần với siêu máy tính.
Hiện siêu máy tính mạnh nhất thế giới thuộc về cỗ máy Fugaku, do Fujitsu và Viện nghiên cứu quốc gia Riken Nhật Bản phát triển với tốc độ tính toán 442 petaflop, hay 442 triệu tỷ phép tính mỗi giây. Con số này cao gần gấp ba so với siêu máy tính xếp thứ hai là Summit của IBM với 148 petaflop. Đứng thứ ba là Sierra, hệ thống đặt tại Phòng thí nghiệm quốc gia Lawrence Livermore (Mỹ) với tốc độ 94,6 petaflop.
