Chip thế hệ mới nhanh và mạnh mẽ hơn
Ngày 10/4, Meta đã công bố thành quả mới nhất từ nỗ lực phát triển chip của mình, chỉ 1 ngày sau khi Intel công bố phần cứng AI mới nhất.
Được gọi là "Bộ tăng tốc suy luận và đào tạo Meta" (MTIA) thế hệ tiếp theo, phiên bản kế thừa của MTIA v1 ra mắt năm 2023, con chip này được thiết kế để hoạt động tốt nhất với các mô hình đề xuất và xếp hạng của Meta. Các con chip có thể giúp việc đào tạo và suy luận, hay còn gọi là nhiệm vụ lý luận thực tế, dễ dàng hơn.
Công ty cho biết trong một bài đăng trên blog rằng MTIA là một phần quan trọng trong kế hoạch dài hạn nhằm xây dựng cơ sở hạ tầng xoay quanh cách sử dụng AI trong các dịch vụ của mình. Meta muốn thiết kế chip của mình để hoạt động với cơ sở hạ tầng công nghệ hiện tại và những tiến bộ về GPU trong tương lai.
Meta cho biết trong bài đăng trên website: “Đáp ứng tham vọng của chúng tôi về silicon tùy chỉnh có nghĩa là đầu tư không chỉ vào silicon tính toán mà còn cả băng thông bộ nhớ, mạng và dung lượng cũng như các hệ thống phần cứng thế hệ tiếp theo khác”.
Trước đó, Meta công bố MTIA v1 vào tháng 5/2023, tập trung cung cấp các chip này cho các trung tâm dữ liệu. Chip MTIA thế hệ tiếp theo có thể cũng sẽ nhắm tới các trung tâm dữ liệu.
Hiện tại, MTIA chủ yếu đào tạo các thuật toán xếp hạng và đề xuất, nhưng Meta cho biết mục tiêu cuối cùng là mở rộng khả năng của chip để bắt đầu đào tạo AI tổng quát giống như các mô hình ngôn ngữ lớn Llama.
So với MTIA v1 được xây dựng trên quy trình 7nm thì MTIA thế hệ tiếp theo là 5nm. (Trong sản xuất chip, “quy trình” dùng để chỉ kích thước của thành phần nhỏ nhất có thể được chế tạo trên chip.)
MTIA thế hệ tiếp theo là một thiết kế vật lý lớn hơn, có nhiều lõi xử lý hơn so với phiên bản trước. Và mặc dù tiêu thụ nhiều điện năng hơn — 90W so với 25W — nhưng nó cũng có nhiều bộ nhớ trong hơn (128 MB so với 64 MB) và chạy ở tốc độ xung nhịp trung bình cao hơn (1,35GHz tăng từ 800 MHz).
Meta cho biết MTIA thế hệ tiếp theo hiện đang có mặt ở 16 khu vực trung tâm dữ liệu của công ty và mang lại hiệu suất tổng thể tốt hơn gấp 3 lần so với MTIA v1.
Áp lực từ "cuộc đua" AI ngày càng tăng
Meta, rất muốn bắt kịp các đối thủ trong không gian AI tổng quát, đang chi hàng tỷ USD cho nỗ lực AI của riêng mình. Một phần trong số hàng tỷ đó được dùng để tuyển dụng các nhà nghiên cứu AI. Nhưng một phần thậm chí còn lớn hơn đang được dành để phát triển phần cứng, đặc biệt là chip để chạy và huấn luyện các mô hình AI của Meta.
Công ty cũng đang chi hàng tỷ USD để mua Nvidia và các chip AI khác. Giám đốc điều hành Meta Mark Zuckerberg năm nay cho biết công ty có kế hoạch mua khoảng 350.000 chip H100 hàng đầu từ Nvidia. Ông Zuckerberg cho biết Meta có kế hoạch tích lũy số lượng tương đương 600.000 chip H100 trong năm nay.
Tuy nhiên, dường như công ty này đang không đạt được tiến độ như mong muốn. Trong bài đăng mới, Meta cho biết chỉ mất chưa đầy 9 tháng để “chuyển từ silicon đầu tiên sang mô hình sản xuất” của MTIA thế hệ tiếp theo. Mặc dù thời gian này ngắn hơn so với quãng thời gian Google sử dụng để cho ra mắt các phiên bản chip TPU, nhưng Meta sẽ còn rất nhiều việc phải làm nếu hy vọng đạt được mức độ độc lập với GPU của bên thứ ba.
Nhóm AI của Meta gần như chắc chắn phải chịu áp lực cắt giảm chi phí. Công ty dự kiến chi khoảng 18 tỷ USD vào cuối năm 2024 cho GPU để đào tạo và chạy các mô hình AI tổng quát. Nhưng trong khi Meta vẫn loay hoay với những con chip, thì các đối thủ khác đã đi được một quãng đường rất xa.
Tuần này, Google đã sản xuất chip tùy chỉnh thế hệ thứ năm để đào tạo các mô hình AI, TPU v5p, thường có sẵn cho khách hàng của Google Cloud và tiết lộ chip chuyên dụng đầu tiên dành cho các mô hình đang chạy, Axion.
Amazon có một số dòng chip AI tùy chỉnh, và Microsoft năm ngoái đã nhảy vào cuộc cạnh tranh với Bộ tăng tốc AI Azure Maia và CPU Azure Cobalt 100.
Xem thêm >> Meta chia cổ tức lần đầu, Mark Zuckerburg nhận được 700 triệu USD/năm
Tags:
(VNF) - Ngân hàng nhà nước (NHNN) vừa ban hành quyết định về việc thanh tra việc chấp hành chính sách, pháp luật trong hoạt động kinh doanh vàng của các tổ chức tín dụng, doanh nghiệp hoạt động kinh doanh vàng.
(VNF) - Ngày 17/5, Trung Quốc đã công bố một số biện pháp sâu rộng nhất để ổn định lĩnh vực bất động sản (BĐS) đang bị ảnh hưởng bởi khủng hoảng, cho phép chính quyền địa phương mua một số căn hộ, nới lỏng các quy tắc thế chấp và cam kết nỗ lực hơn nữa để cung cấp những ngôi nhà chưa hoàn thiện.
(VNF) - Công ty thiết kế và kỹ thuật đa quốc gia Arup của Anh xác nhận rằng mới đây xác nhận công ty đã vướng vào một vụ lừa đảo deepfake nhắm vào một trong những nhân viên của họ ở Hong Kong và khiến người này mất 25 triệu USD.
(VNF) - Căn biệt thự này có diện tích gần 5.000m2, tọa lạc tại lô đất K10 thuộc khu đô thị mới Dương Nội của Tập đoàn Nam Cường.
(VNF) - Vietcombank cho biết thời gian gần đây, ngân hàng nhận được những thông tin phản ánh về việc một số đối tượng mạo danh Vietcombank thực hiện các hành vi có dấu hiệu lừa đào, chiếm đoạt tài sản.
(VNF) - Vượt những cung đường xa, 200.000 sản phẩm nước tinh khiết Number 1 cùng 620 khối nước ngọt đã được trao đến tay người dân tại Bến Tre, Tiền Giang. Những giọt nước mát lành mang bao nghĩa tình làm ấm lòng người dân giữa lúc hạn mặn.
(VNF) - Theo Bộ Tài chính, đến hết tháng 4, có 316 dự án, tiểu dự án tại 48 địa phương có tỷ lệ giải ngân vốn đầu tư công là 0%.
(VNF) - Ông Lê Hoàng Châu – Chủ tịch Hiệp hội Bất động sản TP. HCM (HoREA) chia sẻ với VietnamFinance một số giải pháp để thị trường tăng trưởng trở lại vào năm 2025.
(VNF) - Giá heo tăng vùn vụt đã ‘phả’ hơi nóng lên cổ phiếu của các ‘đại gia’ chăn nuôi trên sàn chứng khoán. Kết thúc phiên giao dịch sáng nay ngày 17/5, BAF và HAG tăng hết biên độ trong tình trạng ‘cháy hàng’, trong khi DBC cũng có thời điểm chạm trần.
(VNF) - Công ty Cảng biển Quốc tế Chu Lai - Chu Lai Port (Quảng Nam) thuộc Tập đoàn THILOGI vừa đưa vào vận hành chính thức hệ thống cẩu chuyên dụng mới trị giá hơn 400 tỷ đồng.
(VNF) - Golf đã không còn là môn thể thao xa lạ, xa xỉ như nó đã từng; golf đã và đang hiện hữu trong đời sống của người Việt như là một trong những môn thể thao – giải trí quan trọng, thu hút đông đảo người chơi với gần 80 sân đang hoạt động trên toàn quốc. Dưới đây là hình ảnh đẹp về những sân golf sát biển nổi tiếng Việt Nam.
