Nvidia loại bỏ chip AI mới cắt giảm chi phí phát triển

Nvidia, công ty dẫn đầu thị trường chip bán dẫn hiện nay, tiết lộ con chip mới nhất của họ được thiết kế để chạy các hệ thống AI quy mô lớn và dự kiến sẽ cắt giảm chi phí LLM.

Nvidia, một trong những nhà phát triển chip bán dẫn hàng đầu thế giới, đã tiết lộ con chip mới nhất của mình vào ngày 7 tháng 8, được thiết kế để cung cấp năng lượng cho các hệ thống trí tuệ nhân tạo (AI) cấp cao.

Công ty cho biết Siêu chip GH200 Grace Hopper thế hệ tiếp theo của họ, là một trong những thiết bị đầu tiên được trang bị bộ xử lý HBM3e và được thiết kế để xử lý khối lượng công việc AI tổng hợp phức tạp nhất thế giới, bao gồm các mô hình ngôn ngữ lớn, hệ thống đề xuất và cơ sở dữ liệu véc-tơ.

Jensen Huang, Giám đốc điều hành của Nvidia, đã nhận xét trong một bài phát biểu quan trọng rằng họ đang tăng giá cho bộ xử lý và rằng:

Bộ xử lý này được thiết kế để mở rộng quy mô của các trung tâm dữ liệu trên thế giới.

bất chấp việc GH200 có cùng GPU với H100, chip cao cấp nhất của công ty và là một trong những chip hàng đầu trên thế giới, nhưng GH200 có bộ nhớ nâng cao 141 gigabyte và bộ xử lý trung tâm ARM 72 lõi - ít nhất gấp 3 lần việc cung cấp chip trước đó.

Con chip mới nhất của Nvidia được thiết kế để suy luận, một trong hai thành phần chính để làm việc với các mô hình AI sau khi đào tạo chúng. Suy luận là khi mô hình được sử dụng để tạo nội dung hoặc đưa ra dự đoán và liên tục chạy.

Huang cho biết gần như bất kỳ mô hình ngôn ngữ lớn (LLM) nào cũng có thể chạy qua con chip này và nó sẽ suy luận như điên.

Chi phí suy luận của các mô hình ngôn ngữ lớn sẽ giảm đáng kể.

GH200 sẽ có sẵn vào quý 2 năm 2024, theo Huang, và vào cuối năm nay sẽ có sẵn để lấy mẫu.

Sự phát triển này diễn ra khi sự thống trị thị trường của Nvidia hiện đang bị thách thức bởi sự xuất hiện của các chip bán dẫn mới từ các công ty đối thủ đang chạy đua để tạo ra những sản phẩm mạnh mẽ nhất.

Hiện tại, nó có hơn 80% thị phần chip AI và đã nhanh chóng đạt giá trị thị trường 1 nghìn tỷ đô la Mỹ.

Vào ngày 28 tháng 5, Nvidia đã giới thiệu một siêu máy tính AI mới dành cho các nhà phát triển để có thể tạo ra những người kế thừa theo phong cách ChatGPT, với các công ty BigTech như Microsoft, Meta và Google Alphabet dự kiến sẽ nằm trong số những người dùng đầu tiên.

Tuy nhiên, vào ngày 14 tháng 6, Advanced Micro Devices (AMD) đã công bố thông tin về chip AI sắp ra mắt của mình với khả năng và năng lực thách thức sự thống trị của Nvidia. Chip AMD được cho là sẽ ra mắt vào quý 3 năm 2023.

Gần đây nhất, vào ngày 3 tháng 8, nhà phát triển chip Tenstorrent đã nhận được 100 triệu USD trong vòng cấp vốn do Samsung và Hyundai dẫn đầu nhằm nỗ lực đa dạng hóa thị trường chip.

Tạp chí: Các chuyên gia muốn trao cho AI 'linh hồn' của con người để chúng không giết tất cả chúng ta

Theo CoinTelegraph