Intel giới thiệu CPU Xeon 6 và bộ tăng tốc AI Gaudi 3 dành cho doanh nghiệp

(vfo.vn) Mới đây, Intel chính thức giới thiệu Xeon 6 có các nhân hiệu năng cao và bộ tăng tốc AI Gaudi 3 nhằm đáp ứng tốt hơn cho cơ sở hạ tầng AI (tối ưu hiệu suất, điện năng...).

Intel Xeon 6 có P-core (lõi mạnh nhất trên chip) mang đến hiệu năng gấp đôi so với thế hệ tiền nhiệm. Dòng vi xử lý mới của Intel có số lượng nhân nhiều hơn, băng thông bộ nhớ gấp đôi và khả năng tăng tốc AI được tích hợp trong mọi nhân. Bộ vi xử lý này đáp ứng các yêu cầu về hiệu năng của AI từ các thiết bị vùng biên đến trung tâm dữ liệu và môi trường đám mây. Thông qua mối quan hệ hợp tác chiến lược với Intel, Google Cloud có thể cung cấp giải pháp với hiệu năng và sự linh hoạt theo nhu cầu của doanh nghiệp, bao gồm cả những giải pháp tích hợp Intel Xeon 6 với P-core trong tương lai.​
Intel-xeon-6-gnr-ap-package.jpg

Bộ tăng tốc AI Intel Gaudi 3 được tối ưu hóa cho các mô hình generative AI (Gen AI) quy mô lớn. Gaudi 3 trang bị 64 nhân xử lý Tensor (TPC) và 8 công cụ nhân ma trận (matrix multiplication engine, viết tắt là MME) để tăng tốc khả năng tính toán của mạng thần kinh nhân tạo (deep neural network). Bộ tăng tốc AI của Intel bao gồm bộ nhớ HBM2e 128GB cho việc huấn luyện và suy luận, và 24 cổng Ethernet 200 Gigabit (Gb) cho khả năng mở rộng mạng. Gaudi 3 cũng cung cấp khả năng tương thích mượt mà với framework PyTorch và các mô hình transformer và diffuser tiên tiến từ Hugging Face. IBM và Intel đang hợp tác để cung cấp dịch vụ Gaudi 3 nhằm hỗ trợ khách hàng tận dụng tốt sức mạnh của AI. Thông qua sự hợp tác này, Intel và IBM đặt mục tiêu giảm tổng chi phí sở hữu để tận dụng và mở rộng quy mô AI, đồng thời nâng cao hiệu năng xử lý.​
intel-gaudi-pcie-card.jpg

Việc triển khai AI trên quy mô lớn đòi hỏi doanh nghiệp phải cân nhắc đến nhiều yếu tố, như các tùy chọn triển khai có đủ linh hoạt để đáp ứng nhu cầu, tỷ lệ hiệu năng trên giá thành có thực sự cạnh tranh và các công nghệ AI có thể sử dụng được. Hạ tầng x86 và hệ sinh thái mã nguồn mở của Intel có thể hỗ trợ các doanh nghiệp xây dựng các hệ thống AI mang lại giá trị cao. Nguồn tin Intel cho biết "73% các máy chủ tăng tốc bằng GPU đều sử dụng Intel Xeon làm CPU chính".​

Thông tin được cung cấp bởi Intel

 
Sửa lần cuối bởi điều hành viên:
  • Chủ đề
    gaudi 3 intel xeon 6
  • Thống kê

    Chủ đề
    101,610
    Bài viết
    468,879
    Thành viên
    340,166
    Thành viên mới nhất
    TanThinhPhat4
    Top