CPU AMD Ryzen AI và GPU Radeon 7000 có thể chạy Chatbots được bản địa hóa bằng cách sử dụng LLM giống như trò chuyện của NVIDIA với RTX
Sau khi NVIDIA ra mắt Chat with RTX, AMD hiện đang cung cấp cho người dùng chatbot AI hỗ trợ LLM dựa trên GPT và được bản địa hóa của riêng họ, có thể chạy trên CPU Ryzen AI và GPU Radeon 7000.
Trò chuyện của NVIDIA với RTX có đối thủ cạnh tranh khi AMD ra mắt Chatbot hỗ trợ LLM được bản địa hóa của riêng mình có thể chạy trên CPU Ryzen AI và GPU Radeon 7000
Tháng trước, NVIDIA đã ra mắt Chatbot AI " Trò chuyện với RTX " có sẵn trên các GPU RTX 40 & RTX 30 và được tăng tốc bằng bộ tính năng TensorRT-LLM mang lại kết quả GenAI nhanh hơn dựa trên dữ liệu bạn cung cấp cho nó từ máy tính của bạn. PC hay nói cách khác là tập dữ liệu được bản địa hóa. Hiện AMD đang cung cấp chatbot GPT dựa trên LLM của riêng mình, có thể chạy trên nhiều loại phần cứng khác nhau, chẳng hạn như PC Ryzen AI, bao gồm các APU Ryzen 7000 & Ryzen 8000 có NPU XDNA cùng với GPU Radeon 7000 mới nhất có lõi tăng tốc AI .
CÂU CHUYỆN LIÊN QUAN AMD Ryzen 9 7900X3D hiện có sẵn với giá 389 USD, 12 lõi Zen 4 với 3D V-Cache Boost
AMD đã xuất bản một blog trong đó cung cấp hướng dẫn thiết lập về cách sử dụng phần cứng của mình để chạy chatbot bản địa hóa của riêng bạn được hỗ trợ bởi LLM dựa trên GPT (Mô hình ngôn ngữ lớn). Đối với CPU AMD Ryzen AI, bạn có thể nhận bản sao LM Studio tiêu chuẩn cho Windows trong khi GPU Radeon RX 7000 nhận được Bản xem trước kỹ thuật ROCm . Hướng dẫn đầy đủ được chia sẻ dưới đây:
1. Tải LM Studio đúng phiên bản:
Dành cho bộ xử lý AMD Ryzen
Dành cho card đồ họa dòng AMD Radeon RX 7000
LM Studio - Windows
LM Studio – bản xem trước kỹ thuật ROCm
2. Chạy tệp.
3. Trong tab tìm kiếm, sao chép và dán cụm từ tìm kiếm sau tùy thuộc vào nội dung bạn muốn chạy:
Một. Nếu bạn muốn chạy Mistral 7b, hãy tìm kiếm: “ TheBloke/OpenHermes-2.5-Mistral-7B-GGUF ” và chọn nó từ kết quả bên trái. Nó thường sẽ là kết quả đầu tiên. Chúng ta sẽ sử dụng Mistral trong ví dụ này.
b. Nếu bạn muốn chạy LLAMA v2 7b, hãy tìm kiếm: “ TheBloke/Llama-2-7B-Chat-GGUF ” và chọn nó từ kết quả bên trái. Nó thường sẽ là kết quả đầu tiên.
c. Bạn cũng có thể thử nghiệm với các mô hình khác tại đây.
4. Ở bảng bên phải, cuộn xuống cho đến khi bạn thấy tệp mô hình Q4 KM . Nhấp vào tải xuống.
Một. Chúng tôi khuyên dùng Q4 KM cho hầu hết các mẫu máy trên AMD AI. Đợi nó tải xong.
5. Chuyển đến tab trò chuyện. Chọn mô hình từ menu thả xuống ở giữa, ở giữa trên cùng và đợi cho đến khi tải xong.
6. Nếu bạn có PC AMD Ryzen AI, bạn có thể bắt đầu trò chuyện!
Tôi. Kiểm tra “GPU Offload” trên bảng điều khiển bên phải.
ii. Di chuyển thanh trượt đến hết mức “Tối đa”.
iii. Đảm bảo AMD ROCm đang được hiển thị dưới dạng loại GPU được phát hiện.
iv. Bắt đầu trò chuyện!
Việc có một chatbot bản địa hóa được hỗ trợ bởi AI có thể giúp cuộc sống và công việc tương đối dễ dàng hơn nếu được thiết lập đúng cách. Bạn có thể thực hiện công việc của mình một cách hiệu quả và nhận được kết quả phù hợp dựa trên các truy vấn của bạn cũng như đường dẫn dữ liệu mà LLM nhắm tới. NVIDIA và AMD đang đẩy nhanh tốc độ của các tính năng hỗ trợ AI cho phần cứng cấp độ người tiêu dùng và đây mới chỉ là khởi đầu, hãy mong đợi nhiều cải tiến hơn nữa khi phân khúc PC AI đạt đến tầm cao mới.
Bạn có từng mơ ước trở thành một streamer chuyên nghiệp, tự tin giao lưu với hàng trăm, thậm chí hàng nghìn người xem mỗi ngày? Nghe có vẻ hấp dẫn đúng không? Nhưng để đạt được điều đó, bạn cần chuẩn bị từ những điều cơ bản nhất. Là một người bạn đồng hành, hôm nay XUÊ PC sẽ hướng dẫn bạn từ A đến Z những thứ cần thiết để bắt đầu hành trình trở thành một streamer chuyên nghiệp. Chúng ta sẽ nói về thiết bị, kỹ năng và cả những yếu tố nhỏ nhưng vô cùng quan trọng. Sẵn sàng chưa? Bắt đầu thôi.
Trong thế giới công nghệ đồ họa ngày nay, Ray Tracing được xem như một bước đột phá, làm thay đổi hoàn toàn cách ánh sáng và bóng đổ được tái tạo trong không gian số. Công nghệ này không chỉ mang đến những hình ảnh chân thực vượt bậc mà còn mở ra kỷ nguyên mới cho game thủ và các nhà sáng tạo nội dung. Là người tiên phong trong lĩnh vực này, Nvidia đã đưa Ray Tracing trở thành tiêu chuẩn trong ngành, với sự hỗ trợ từ dòng card đồ họa RTX.
Card màn hình Nvidia từ lâu đã trở thành sự lựa chọn hàng đầu của game thủ, nhà thiết kế đồ họa và các nhà nghiên cứu khoa học nhờ vào hiệu suất vượt trội và công nghệ tiên tiến.
Mainboard hay còn được gọi là bo mạch chủ chính là “trái tim” của mọi hệ thống máy tính, đóng vai trò kết nối và điều khiển tất cả các thành phần trong máy tính
Bạn đang tìm kiếm một chiếc mainboard vừa mạnh mẽ, đáng tin cậy lại được tích hợp công nghệ hiện đại? Mainboard MSI chính là sự lựa chọn hoàn hảo dành cho bạn. Với danh tiếng lâu năm trong ngành công nghiệp phần cứng, MSI không chỉ nổi bật nhờ công nghệ tiên tiến mà còn đảm bảo độ ổn định cao cho mọi nhu cầu sử dụng, từ chơi game, làm việc đến sáng tạo nội dung.
.png){kind=logo}
