CPU AMD Ryzen AI và GPU Radeon 7000 có thể chạy Chatbots được bản địa hóa bằng cách sử dụng LLM giống như trò chuyện của NVIDIA với RTX
Sau khi NVIDIA ra mắt Chat with RTX, AMD hiện đang cung cấp cho người dùng chatbot AI hỗ trợ LLM dựa trên GPT và được bản địa hóa của riêng họ, có thể chạy trên CPU Ryzen AI và GPU Radeon 7000.
Trò chuyện của NVIDIA với RTX có đối thủ cạnh tranh khi AMD ra mắt Chatbot hỗ trợ LLM được bản địa hóa của riêng mình có thể chạy trên CPU Ryzen AI và GPU Radeon 7000
Tháng trước, NVIDIA đã ra mắt Chatbot AI " Trò chuyện với RTX " có sẵn trên các GPU RTX 40 & RTX 30 và được tăng tốc bằng bộ tính năng TensorRT-LLM mang lại kết quả GenAI nhanh hơn dựa trên dữ liệu bạn cung cấp cho nó từ máy tính của bạn. PC hay nói cách khác là tập dữ liệu được bản địa hóa. Hiện AMD đang cung cấp chatbot GPT dựa trên LLM của riêng mình, có thể chạy trên nhiều loại phần cứng khác nhau, chẳng hạn như PC Ryzen AI, bao gồm các APU Ryzen 7000 & Ryzen 8000 có NPU XDNA cùng với GPU Radeon 7000 mới nhất có lõi tăng tốc AI .
CÂU CHUYỆN LIÊN QUAN AMD Ryzen 9 7900X3D hiện có sẵn với giá 389 USD, 12 lõi Zen 4 với 3D V-Cache Boost
AMD đã xuất bản một blog trong đó cung cấp hướng dẫn thiết lập về cách sử dụng phần cứng của mình để chạy chatbot bản địa hóa của riêng bạn được hỗ trợ bởi LLM dựa trên GPT (Mô hình ngôn ngữ lớn). Đối với CPU AMD Ryzen AI, bạn có thể nhận bản sao LM Studio tiêu chuẩn cho Windows trong khi GPU Radeon RX 7000 nhận được Bản xem trước kỹ thuật ROCm . Hướng dẫn đầy đủ được chia sẻ dưới đây:
1. Tải LM Studio đúng phiên bản:
Dành cho bộ xử lý AMD Ryzen
Dành cho card đồ họa dòng AMD Radeon RX 7000
LM Studio - Windows
LM Studio – bản xem trước kỹ thuật ROCm
2. Chạy tệp.
3. Trong tab tìm kiếm, sao chép và dán cụm từ tìm kiếm sau tùy thuộc vào nội dung bạn muốn chạy:
Một. Nếu bạn muốn chạy Mistral 7b, hãy tìm kiếm: “ TheBloke/OpenHermes-2.5-Mistral-7B-GGUF ” và chọn nó từ kết quả bên trái. Nó thường sẽ là kết quả đầu tiên. Chúng ta sẽ sử dụng Mistral trong ví dụ này.
b. Nếu bạn muốn chạy LLAMA v2 7b, hãy tìm kiếm: “ TheBloke/Llama-2-7B-Chat-GGUF ” và chọn nó từ kết quả bên trái. Nó thường sẽ là kết quả đầu tiên.
c. Bạn cũng có thể thử nghiệm với các mô hình khác tại đây.
4. Ở bảng bên phải, cuộn xuống cho đến khi bạn thấy tệp mô hình Q4 KM . Nhấp vào tải xuống.
Một. Chúng tôi khuyên dùng Q4 KM cho hầu hết các mẫu máy trên AMD AI. Đợi nó tải xong.
5. Chuyển đến tab trò chuyện. Chọn mô hình từ menu thả xuống ở giữa, ở giữa trên cùng và đợi cho đến khi tải xong.
6. Nếu bạn có PC AMD Ryzen AI, bạn có thể bắt đầu trò chuyện!
Tôi. Kiểm tra “GPU Offload” trên bảng điều khiển bên phải.
ii. Di chuyển thanh trượt đến hết mức “Tối đa”.
iii. Đảm bảo AMD ROCm đang được hiển thị dưới dạng loại GPU được phát hiện.
iv. Bắt đầu trò chuyện!
Việc có một chatbot bản địa hóa được hỗ trợ bởi AI có thể giúp cuộc sống và công việc tương đối dễ dàng hơn nếu được thiết lập đúng cách. Bạn có thể thực hiện công việc của mình một cách hiệu quả và nhận được kết quả phù hợp dựa trên các truy vấn của bạn cũng như đường dẫn dữ liệu mà LLM nhắm tới. NVIDIA và AMD đang đẩy nhanh tốc độ của các tính năng hỗ trợ AI cho phần cứng cấp độ người tiêu dùng và đây mới chỉ là khởi đầu, hãy mong đợi nhiều cải tiến hơn nữa khi phân khúc PC AI đạt đến tầm cao mới.
Bài viết giải thích Lịch sử tên gọi Intel và tầm quan trọng của nó. Intel là viết tắt của "Integrated Electronics", phản ánh mục tiêu phát triển vi mạch tích hợp. Tên gọi này giúp xây dựng một thương hiệu mạnh mẽ, dễ nhớ và không gắn liền với một cá nhân. Intel đã trở thành biểu tượng của sự sáng tạo và đổi mới trong ngành công nghệ toàn cầu.
WD_BLACK SN850X 8TB là ổ SSD PCIe Gen 4 tốc độ cao, đạt 7.200MB/s, lý tưởng cho game thủ và người dùng chuyên nghiệp. Đang giảm 230 đô la trên Amazon, tích hợp Game Mode 2.0 tối ưu trải nghiệm chơi game.
Apple ra mắt Final Cut Pro 11 sau 13 năm, mang đến những tính năng đột phá như Magnetic Mask AI, chỉnh sửa video không gian, và Transcribe to Captions. Hỗ trợ chip M-series giúp tối ưu hiệu suất trên Mac và iPad, nâng cao trải nghiệm chỉnh sửa video cho dân sáng tạo nội dung.
NVIDIA kỷ niệm 20 năm Half-Life 2 bằng cách tặng một chiếc GPU RTX 4080 SUPER phiên bản đặc biệt theo chủ đề Half-Life 2. Chiếc card đồ họa này có thiết kế độc quyền, tích hợp DLSS 3.0 và Frame Generation để tăng hiệu suất, mang lại trải nghiệm chơi game tối ưu và là cơ hội hiếm có cho fan của trò chơi huyền thoại.
SoftBank hợp tác với NVIDIA để xây dựng siêu máy tính AI lớn nhất Nhật Bản, sử dụng chip Blackwell nhằm nâng cao hiệu suất và khả năng xử lý dữ liệu. Dự án này sẽ thúc đẩy nghiên cứu và ứng dụng AI, giúp Nhật Bản khẳng định vị thế trong lĩnh vực công nghệ trí tuệ nhân tạo.
.png){kind=logo}
