Chip thế hệ mới nhanh và mạnh mẽ hơn
Ngày 10/4, Meta đã công bố thành quả mới nhất từ nỗ lực phát triển chip của mình, chỉ 1 ngày sau khi Intel công bố phần cứng AI mới nhất.
Được gọi là "Bộ tăng tốc suy luận và đào tạo Meta" (MTIA) thế hệ tiếp theo, phiên bản kế thừa của MTIA v1 ra mắt năm 2023, con chip này được thiết kế để hoạt động tốt nhất với các mô hình đề xuất và xếp hạng của Meta. Các con chip có thể giúp việc đào tạo và suy luận, hay còn gọi là nhiệm vụ lý luận thực tế, dễ dàng hơn.
Công ty cho biết trong một bài đăng trên blog rằng MTIA là một phần quan trọng trong kế hoạch dài hạn nhằm xây dựng cơ sở hạ tầng xoay quanh cách sử dụng AI trong các dịch vụ của mình. Meta muốn thiết kế chip của mình để hoạt động với cơ sở hạ tầng công nghệ hiện tại và những tiến bộ về GPU trong tương lai.
Meta cho biết trong bài đăng trên website: “Đáp ứng tham vọng của chúng tôi về silicon tùy chỉnh có nghĩa là đầu tư không chỉ vào silicon tính toán mà còn cả băng thông bộ nhớ, mạng và dung lượng cũng như các hệ thống phần cứng thế hệ tiếp theo khác”.
Trước đó, Meta công bố MTIA v1 vào tháng 5/2023, tập trung cung cấp các chip này cho các trung tâm dữ liệu. Chip MTIA thế hệ tiếp theo có thể cũng sẽ nhắm tới các trung tâm dữ liệu.
Hiện tại, MTIA chủ yếu đào tạo các thuật toán xếp hạng và đề xuất, nhưng Meta cho biết mục tiêu cuối cùng là mở rộng khả năng của chip để bắt đầu đào tạo AI tổng quát giống như các mô hình ngôn ngữ lớn Llama.
So với MTIA v1 được xây dựng trên quy trình 7nm thì MTIA thế hệ tiếp theo là 5nm. (Trong sản xuất chip, “quy trình” dùng để chỉ kích thước của thành phần nhỏ nhất có thể được chế tạo trên chip.)
MTIA thế hệ tiếp theo là một thiết kế vật lý lớn hơn, có nhiều lõi xử lý hơn so với phiên bản trước. Và mặc dù tiêu thụ nhiều điện năng hơn — 90W so với 25W — nhưng nó cũng có nhiều bộ nhớ trong hơn (128 MB so với 64 MB) và chạy ở tốc độ xung nhịp trung bình cao hơn (1,35GHz tăng từ 800 MHz).
Meta cho biết MTIA thế hệ tiếp theo hiện đang có mặt ở 16 khu vực trung tâm dữ liệu của công ty và mang lại hiệu suất tổng thể tốt hơn gấp 3 lần so với MTIA v1.
Áp lực từ "cuộc đua" AI ngày càng tăng
Meta, rất muốn bắt kịp các đối thủ trong không gian AI tổng quát, đang chi hàng tỷ USD cho nỗ lực AI của riêng mình. Một phần trong số hàng tỷ đó được dùng để tuyển dụng các nhà nghiên cứu AI. Nhưng một phần thậm chí còn lớn hơn đang được dành để phát triển phần cứng, đặc biệt là chip để chạy và huấn luyện các mô hình AI của Meta.
Công ty cũng đang chi hàng tỷ USD để mua Nvidia và các chip AI khác. Giám đốc điều hành Meta Mark Zuckerberg năm nay cho biết công ty có kế hoạch mua khoảng 350.000 chip H100 hàng đầu từ Nvidia. Ông Zuckerberg cho biết Meta có kế hoạch tích lũy số lượng tương đương 600.000 chip H100 trong năm nay.
Tuy nhiên, dường như công ty này đang không đạt được tiến độ như mong muốn. Trong bài đăng mới, Meta cho biết chỉ mất chưa đầy 9 tháng để “chuyển từ silicon đầu tiên sang mô hình sản xuất” của MTIA thế hệ tiếp theo. Mặc dù thời gian này ngắn hơn so với quãng thời gian Google sử dụng để cho ra mắt các phiên bản chip TPU, nhưng Meta sẽ còn rất nhiều việc phải làm nếu hy vọng đạt được mức độ độc lập với GPU của bên thứ ba.
Nhóm AI của Meta gần như chắc chắn phải chịu áp lực cắt giảm chi phí. Công ty dự kiến chi khoảng 18 tỷ USD vào cuối năm 2024 cho GPU để đào tạo và chạy các mô hình AI tổng quát. Nhưng trong khi Meta vẫn loay hoay với những con chip, thì các đối thủ khác đã đi được một quãng đường rất xa.
Tuần này, Google đã sản xuất chip tùy chỉnh thế hệ thứ năm để đào tạo các mô hình AI, TPU v5p, thường có sẵn cho khách hàng của Google Cloud và tiết lộ chip chuyên dụng đầu tiên dành cho các mô hình đang chạy, Axion.
Amazon có một số dòng chip AI tùy chỉnh, và Microsoft năm ngoái đã nhảy vào cuộc cạnh tranh với Bộ tăng tốc AI Azure Maia và CPU Azure Cobalt 100.
Xem thêm >> Meta chia cổ tức lần đầu, Mark Zuckerburg nhận được 700 triệu USD/năm
Tags:
(VNF) - Đánh giá Việt Nam là một trong những quốc gia có nền kinh tế đang trên đà phát triển tại khu vực Đông Nam Á, lãnh đạo Mastercard cho rằng Việt Nam có tiềm năng lớn để phát triển thanh toán kỹ thuật số.
(VNF) - Ông Sarim Aziz, Giám đốc Chính sách công tại Meta nói: "AI là thành tố quan trọng đưa Việt Nam vào kỷ nguyên mới, kỷ nguyên vươn mình. Để phát triển được AI cần sự bao trùm, thu hút sự quan tâm của mọi người dù đó là người giàu hay người nghèo, đa dạng về giới, về văn hóa...
(VNF) - Theo ông Trương Gia Bình, nếu nhiều năm trước, Việt Nam gần như vô danh trên bản đồ công nghệ thông tin thế giới thì ngày nay, Việt Nam trở thành cái nôi nguồn nhân lực chất lượng cao.
(VNF) - TS. Cấn Văn Lực đánh giá, AI không chỉ là xu hướng mà đã trở thành yếu tố quyết định hiệu suất doanh nghiệp.
(VNF) - MAS sẽ hỗ trợ UBCKNN xây dựng khung pháp lý quản lý tài sản số tại Việt Nam cũng như nâng cao năng lực giám sát thị trường này.
(VNF) - FPT vừa ký kết hợp đồng khung trị giá 67 triệu USD với KMP Aryadhana, thương xã hàng đầu Indonesia trong lĩnh vực đổi mới sáng tạo.
(VNF) - Thủ tướng Chính phủ yêu cầu trước ngày 13/3, Bộ Tài chính phối hợp với các đơn vị liên quan, sớm hoàn thiện hồ sơ Nghị quyết thí điểm để quản lý các hoạt động liên quan đến tiền ảo
(VNF) - Theo LS Lê Minh Phiếu, thay vì Nhà nước đứng ra lập sàn, cần tạo môi trường pháp lý thuận lợi để doanh nghiệp tư nhân triển khai sàn giao dịch “made in Vietnam”, qua đó hình thành hệ sinh thái giao dịch tiền kỹ thuật số trong nước.
(VNF) -Thanh tra Bộ Tài chính kiến nghị thành lập Quỹ phát triển khoa học và công nghệ sau khi thanh tra về tài chính, kế toán và thuế tại ACV.
(VNF) - Theo công bố mới nhất từ nền tảng đo lường tốc độ Internet i-Speed (Trung tâm Internet Việt nam - VNNIC), VNPT là nhà mạng có tốc độ internet nhanh nhất Việt Nam trong liên tục các tháng 12/2024 và tháng 1/2025, với tốc độ trung bình cao hơn các nhà mạng khác gần 1,5 lần.
(VNF) - G-Group sẽ đồng hành cùng Bảo Minh trên hành trình chuyển đổi số toàn diện.
(VNF) - Theo Công an TP. Hà Nội, các vụ việc, vấn đề phát sinh, tranh chấp liên quan đến các hoạt động giao dịch đồng tiền ảo Pi Network rất rủi ro.
(VNF) - Trong vụ trộm tiền mã hóa lớn nhất từng được ghi nhận, một số lượng lớn ETH trị giá 1,5 tý USD đã bị đánh cắp khỏi sàn giao dịch ByBit chỉ qua một giao dịch duy nhất vào ngày 21/2.
(VNF) - Bản đồ doanh nghiệp công nghệ số Việt Nam được kỳ vọng là công cụ quan trọng giúp định vị doanh nghiệp trên thị trường, nâng cao năng lực cạnh tranh, mở rộng cơ hội hợp tác trong nước và quốc tế.
(VNF) - Ngày 27/2, Phó Thủ tướng Chính phủ Hồ Đức Phớc đã ký văn bản về việc chuyển giao quyền đại diện chủ sở hữu vốn nhà nước tại Tổng công ty Viễn thông MobiFone từ Ủy ban Quản lý vốn nhà nước tại doanh nghiệp về Bộ Công an.
(VNF) - Trung tâm dữ liệu quốc gia thực hiện việc tích hợp, đồng bộ, lưu trữ, khai thác... dữ liệu của các cơ quan Nhà nước, nhằm hình thành kho dữ liệu từ các cơ sở dữ liệu quốc gia.
(VNF) - Việc Telio chính thức đóng cửa gần đây, kết hợp với những khoản lỗ ngày càng gia tăng của Tiki và trục trặc trong kế hoạch IPO, đang làm dấy lên những nghi ngờ về chiến lược thương mại điện tử của VNG.
(VNF) - Hội nghị quốc tế về Trí tuệ nhân tạo và Bán dẫn (AISC) 2025 sẽ diễn ra từ ngày 12/3 - 16/3/2025 tại Hà Nội và Đà Nẵng, quy tụ các nhà tiên phong trong lĩnh vực công nghệ trên toàn cầu.
(VNF) - VNDirect yêu cầu tổ chức phát hành trái phiếu là Bkav Pro nộp đủ số tiền 1,5 tỷ đồng trong 15 ngày.
(VNF) - Bộ Kế hoạch - Đầu tư đề xuất cho TP. HCM và Đà Nẵng quy định chi tiết về tiêu chí, điều kiện lựa chọn và trình tự, thủ tục đăng ký, thẩm định, cấp phép thực hiện thử nghiệm có kiểm soát (sanbox).
(VNF) - Quốc hội vừa thông qua chính sách hỗ trợ doanh nghiệp Việt Nam sản xuất chíp bán dẫn tới 10.000 tỷ đồng.
(VNF) - Lãnh đạo UBND TP Hà Nội cho biết sẽ sớm triển khai Khu công nghệ thông tin tập trung Công viên công nghệ phần mềm Hà Nội quy mô hơn 32ha tại quận Long Biên.
(VNF) - Mặc dù đã khai trương nhưng Khu Công viên phần mềm số 2 vẫn chưa thể bàn giao cho đơn vị quản lý để vận hành khai thác.
(VNF)- Bộ trưởng Nguyễn Mạnh Hùng cho hay hiện nay chi cho nghiên cứu phát triển của Việt Nam đang là 0,5% GDP, mới được 1/4 so với mục tiêu 2%.
(VNF) - Đánh giá game là ngành đóng góp rất tốt vào sự phát triển của đất nước, Cục trưởng Lê Quang Tự Do cho rằng ngành game có nhiều điều tốt đẹp, nhưng trước giờ toàn bị nói về những điều tiêu cực.
(VNF) - Đánh giá Việt Nam là một trong những quốc gia có nền kinh tế đang trên đà phát triển tại khu vực Đông Nam Á, lãnh đạo Mastercard cho rằng Việt Nam có tiềm năng lớn để phát triển thanh toán kỹ thuật số.
(VNF) - Để mở rộng khu vực phía đông hồ Hoàn Kiếm, thành phố Hà Nội sẽ phải di dời 12 tổ chức, cơ quan, đơn vị cùng với đó là 35 hộ dân.
