Tính năng mới trên NGC: Các phiên bản mới nhất của NeMo, HPC SDK, DOCA, PyTorch Lightning, v.v.

 NVIDIA  NGC  là trung tâm dành cho các ứng dụng học sâu, máy học và HPC được tối ưu hóa bằng GPU. Với vùng chứa phần mềm hiệu suất cao  ,  mô hình được đào tạo trước , SDK dành riêng cho ngành và Biểu đồ Helm, nội dung có sẵn trên danh mục giúp đơn giản hóa và tăng tốc quy trình làm việc từ đầu đến cuối. 

Một số bổ sung và cập nhật phần mềm cho danh mục NGC bao gồm:

NVIDIA NeMo

NVIDIA NeMo  (Mô-đun thần kinh) là một bộ công cụ mã nguồn mở cho AI đàm thoại. Nó được thiết kế cho các nhà khoa học và nhà nghiên cứu dữ liệu để xây dựng mạng lưới NLP và giọng nói hiện đại mới một cách dễ dàng thông qua các khối xây dựng tương thích API có thể được kết nối.

Các  phiên bản mới nhất của Nemo  thêm hỗ trợ cho Conformer ONNX chuyển đổi và luồng suy luận của file AU dài, và cải thiện hiệu suất của phân nhóm loa, xác minh, và diarization. Hơn nữa, nó bổ sung nhiều bộ dữ liệu, mô hình từ phải sang trái, sắp xếp lại kênh ồn ào, tập hợp cho NMT. Nó cũng cải thiện hiệu quả đào tạo NMT và thêm sổ ghi chép hướng dẫn để làm sạch và tiền xử lý dữ liệu NMT.

NVIDIA HPC SDK

Các  NVIDIA HPC SDK  là một bộ toàn diện của trình biên dịch, thư viện, và các công cụ cần thiết để tối đa hóa năng suất phát triển, hiệu suất và tính di động của các ứng dụng HPC.

Các  phiên bản mới nhất  bao gồm hỗ trợ đầy đủ cho các  Developer Kit NVIDIA Arm HPC  và CUDA 11,4. Nó cũng cung cấp các trình biên dịch HPC với các cải tiến về hiệu suất dành riêng cho Arm, bao gồm cải tiến vectơ hóa và các chức năng toán học được tối ưu hóa.

Kiến trúc hạ tầng trên một chip của Trung tâm dữ liệu NVIDIA (NVIDIA DOCA)

Các  NVIDIA DOCA SDK  cho phép các nhà phát triển để nhanh chóng tạo các ứng dụng và dịch vụ trên dữ liệu Bluefield đơn vị chế biến (DPUs).

Bộ  chứa  và  tài nguyên  NVIDIA DOCA giúp triển khai các ứng dụng và thiết lập phát triển NVIDIA DOCA trên BlueField DPU. Việc triển khai dựa trên Kubernetes và tài nguyên này bao gồm các tệp cấu hình .yaml sẵn sàng sử dụng được yêu cầu cho các vùng chứa DOCA khác nhau.

Quản lý hệ thống NVIDIA (NVSM)

NVSM  là một khung phần mềm để giám sát   các nút DGX trong trung tâm dữ liệu và cung cấp tính năng theo dõi sức khỏe tích cực, cảnh báo hệ thống và tạo nhật ký. NVSM cung cấp cho các Trạm DGX tình trạng hoạt động của hệ thống và thông tin chẩn đoán.

>>> sự khác biệt giữa AI, ML và Deep Learning

Deep Learning Software

Các khung học tập sâu phổ biến nhất của chúng tôi để đào tạo và suy luận được cập nhật hàng tháng. Kéo phiên bản mới nhất (v21.07) của:

PyTorch

TensorFlow

Máy chủ suy luận NVIDIA Triton

TensorRT

PyTorch Lightning

PyTorch Lightning  là một khuôn khổ nhẹ để đào tạo các mô hình ở quy mô lớn, trên các cấu hình đa GPU, đa nút. Nó làm như vậy mà không cần thay đổi mã của bạn và bật tối ưu hóa đào tạo nâng cao bằng một nút chuyển đổi của một lá cờ.

Phiên bản  v1.4.0  bổ sung hỗ trợ cho Full Sharded Parallelism và phù hợp với các mô hình lớn hơn nhiều trên nhiều GPU vào bộ nhớ, đạt hơn 40 tỷ thông số trên A100. 

Ngoài ra, nó hỗ trợ plug-in DeepSpeed ​​Infinity mới và các môi trường cụm mới bao gồm KubeflowEnosystem và LSFEnosystem. 

Xem toàn bộ danh sách các tính năng v1.4.0 mới   >>

Môi trường dành cho nhà phát triển NVIDIA Magnum IO

NVIDIA Magnum IO  là tập hợp các công nghệ I / O tạo nên hệ thống con I / O của trung tâm dữ liệu hiện đại và cho phép các ứng dụng trên quy mô lớn. 

Vùng  chứa Môi trường dành cho nhà phát triển IO của Magnum  phục vụ hai mục đích chính: 

Cho phép các nhà phát triển bắt đầu mở rộng ứng dụng trên máy tính xách tay, máy tính để bàn, máy trạm hoặc trên đám mây. 

Đóng vai trò là cơ sở cho việc xây dựng vùng chứa cục bộ hoặc trong hệ thống CI / CD.

Truy cập  danh mục NGC  để xem cách phần mềm tối ưu hóa GPU có thể giúp đơn giản hóa quy trình công việc và tăng tốc thời gian giải pháp.Tham khảo một số dịch vụ khác của VDO:

Thuê chỗ đặt máy chủ – Thuê server – Thuê VPS – Thuê phần cứng máy chủ – Thuê tủ Rack- Thuê Cloud Server - Dịch vụ GPU server

Địa chỉ liên hệ VDO: – VPGD HN: Tầng 2, số 61 Mễ Trì Thượng, Phường Mễ Trì, Quận Nam Từ Liêm,Thành Phố Hà Nội. – Tel: 024 7305 6666 – VPGD TPHCM: Phòng 13.09, Lô C, Số 974A Trường Sa (Co.opmart Nhiêu Lộc), Phường 12, Quận 3, Hồ Chí Minh. – Tel: 028 7308 6666 – Contact Center: 1900 0366 – Email: info@vdo.vn – Website: https://vdodata.vn/

Nhận xét

Đăng nhận xét

Bài đăng phổ biến từ blog này

Sự khác biệt giữa Ảo hóa và Điện toán đám mây

Hình ảnh
  Trong thời đại ngày nay, hầu hết các doanh nghiệp đã chuyển toàn bộ hoặc một phần hoạt động sang trực tuyến.  Thông thường, chúng ta nghe nói rằng một công nghệ này tốt hơn công nghệ kia để một doanh nghiệp phát triển mạnh trong ngành công nghiệp web.  Một trong những công nghệ đã trở thành một từ thông dụng gần đây là 'Điện toán đám mây'.  Điện toán đám mây là một thuật ngữ được sử dụng cho mọi thứ liên quan đến đám mây.  Có thể là dịch vụ đám mây, hệ thống đám mây, nền tảng, dịch vụ lưu trữ web, v.v. Thêm vào đó là thực tế là có một số người nói rằng đám mây là ảo (đó là sự thật) và do đó, điện toán đám mây và ảo hóa là giống nhau (tốt đây không phải là '' t hoàn toàn đúng). Trong bài viết này, chúng tôi nhằm mục đích giúp giải quyết sự nhầm lẫn sự khác nhau giữa Ảo hóa và Điện toán đám mây và giải thích chi tiết từng loại. Trước tiên, chúng ta hãy bắt đầu bằng cách hiểu Ảo hóa là gì. Ảo hóa hay  nói cách đơn giản là việc tạo ra một tài nguyên ở dạng ảo...
Đọc thêm

6 Lợi ích của việc chuyển sang lưu trữ đám mây

  Khi bạn mới tham gia vào ngành công nghiệp web và dự định  lưu trữ trang web  hoặc blog  đầu tiên của  mình, có rất nhiều câu hỏi trong đầu bạn.  Tôi nên sử dụng dịch vụ miễn phí hay dịch vụ cao cấp?  Đây có phải là thời điểm thích hợp để đầu tư vào một dịch vụ trả phí và nếu có, tôi chọn dịch vụ lưu trữ nào? Cuối cùng, hầu hết các chủ sở hữu trang web đều chọn Shared Hosting vì nó cung cấp các tính năng tốt cho người mới bắt đầu và giá cả cũng khá phải chăng.  Theo thời gian, doanh nghiệp của bạn phát triển và lưu lượng truy cập cũng vậy.  Đó là lúc bạn nghĩ - vì lưu lượng truy cập trang web của tôi đã tăng lên nên thời gian tải quá nhiều,  tôi nên chuyển sang lưu trữ nào bây giờ  ? Lựa chọn lưu trữ phù hợp  không phải lúc nào cũng dễ dàng.  Tuy nhiên, với các nguồn lực và hướng dẫn phù hợp, điều đó sẽ trở nên dễ dàng hơn.  Trong bài đăng này, chúng tôi sẽ đề cập đến  Cloud Hosting  và những lợi ích của v...
Đọc thêm

Lợi ích của SAN ảo

  Đối với lưu trữ siêu hội tụ cho môi trường ảo hóa Virtual SAN (VSAN) về cơ bản là dễ dàng và cực kỳ đơn giản để triển khai và cung cấp.  Khách hàng có thể sử dụng đòn bẩy để lựa chọn tài nguyên tính toán và lưu trữ được chia sẻ và phân phối từ nền tảng X86 bằng cách sử dụng Cơ sở hạ tầng siêu hội tụ (HCI).  Ngoài ra Virtual SAN cho phép bạn mở rộng dung lượng lưu trữ ảo và tính toán tài nguyên theo yêu cầu. Trong bài đăng trên blog này, chúng tôi hướng đến sự đơn giản, nhanh nhẹn, khả năng quản lý và tiết kiệm chi phí khi sử dụng Virtual SAN >>>  Năm công cụ nguồn mở để phát triển web của bạn Sự đơn giản Như đã mô tả ở trên, VSAN rất đơn giản để cung cấp và quản lý, vẻ đẹp của VSAN là nó được tích hợp liền mạch trong trình siêu giám sát X86 và việc cài đặt, cấu hình và quản lý được thực hiện bằng một vài cú nhấp chuột từ ứng dụng web vSphere. Việc thêm các mảng hoặc ổ đĩa lưu trữ kết hợp bên ngoài vào bộ nhớ kết hợp của bạn là một quá trình rất phức tạp và...
Đọc thêm