LM Studio 0.3.28 cho Mac: Chạy DeepSeek trên máy Mac

LM Studio for Mac: Giải pháp phát triển và thử nghiệm LLM cục bộ

LM Studio for Mac được thiết kế như một ứng dụng cá nhân, chuyên dụng cho việc phát triển và kiểm thử các mô hình trí tuệ nhân tạo LLM (Large language model - Mô hình ngôn ngữ lớn) trực tiếp trên máy tính của bạn.

Ứng dụng này cho phép người dùng tận dụng sức mạnh của phần cứng máy tính để chạy các mô hình ngôn ngữ lớn mà không cần kết nối internet hoặc phụ thuộc vào các dịch vụ đám mây.

Một trong những lợi ích nổi bật của LM Studio for Mac là khả năng tương thích với nhiều mô hình khác nhau, bao gồm cả Deepseek, mang đến sự linh hoạt trong quá trình thử nghiệm và phát triển.

Với giao diện thân thiện và dễ sử dụng, LM Studio for Mac là lựa chọn lý tưởng cho cả những người mới bắt đầu và các nhà phát triển có kinh nghiệm trong lĩnh vực trí tuệ nhân tạo.

Tải LM Studio cho Mac

LM Studio là một ứng dụng mã nguồn mở, tạo điều kiện cho người dùng tải về, lưu trữ và kiểm thử các mô hình ngôn ngữ lớn (LLM) trực tiếp trên thiết bị máy tính cá nhân. Phần mềm này được thiết kế đa nền tảng với giao diện trực quan, dễ sử dụng, đáp ứng nhu cầu của cả người mới làm quen lẫn những chuyên gia.

Phiên bản LM Studio cho Mac mang đến cho các nhà nghiên cứu cơ hội để tìm hiểu sâu hơn về AI tạo sinh, hỗ trợ các nhà phát triển xây dựng những ứng dụng độc đáo và giúp những người yêu thích công nghệ khám phá tiềm năng to lớn của LLM.

Khi sử dụng LM Studio, người dùng có thể:

• Triển khai các mô hình LLM trên máy tính xách tay mà không cần kết nối internet.
• Trò chuyện với các tài liệu được lưu trữ cục bộ (tính năng mới được giới thiệu trong phiên bản 0.3).
• Sử dụng các Model thông qua giao diện chat tích hợp hoặc thông qua máy chủ cục bộ, tương thích với OpenAI.
• Tải xuống bất kỳ file Model tương thích nào từ kho lưu trữ Hugging Face.
• Khám phá các LLM mới và nổi bật ngay trên trang Discover của LM Studio.

Khám phá các tính năng nổi bật của LM Studio trên hệ điều hành Mac

LM Studio là một ứng dụng máy tính để bàn được thiết kế để chạy các mô hình ngôn ngữ lớn (LLM) trực tiếp trên thiết bị của bạn.

Các chức năng chính của LM Studio

• Cung cấp một giao diện trò chuyện trực quan và dễ sử dụng.
• Tích hợp khả năng tìm kiếm và tải xuống mô hình từ Hugging Face.
• Cho phép thiết lập một máy chủ cục bộ, hoạt động tương tự như API của OpenAI.
• Đảm bảo quản lý hiệu quả các mô hình và cấu hình được lưu trữ trên máy tính cá nhân.

Cấu hình phần cứng được khuyến nghị:

• Bộ xử lý: Chip Apple Silicon (M1, M2, M3, M4).
• Hệ điều hành: macOS 13.4 hoặc phiên bản mới hơn.
• Đối với các mô hình MLX, yêu cầu macOS 14.0 trở lên.
• Bộ nhớ RAM: Tối thiểu 16GB để đạt hiệu suất tốt nhất.

Ứng dụng này giúp người dùng dễ dàng khám phá và trải nghiệm các LLM mới và tiềm năng ngay trong giao diện Discover.

Hướng dẫn cài đặt DeepSeek trên macOS sử dụng LM Studio

LM Studio là một ứng dụng giúp người dùng dễ dàng tải về và vận hành các mô hình trí tuệ nhân tạo mà không đòi hỏi kiến thức lập trình. Dưới đây là các bước thực hiện để cài đặt DeepSeek trên máy Mac thông qua phần mềm này:

• Bước 1: Tải xuống LM Studio - Nhấn vào liên kết "Tải về" trong bài viết để tải LM Studio về máy, sau đó tiến hành cài đặt.
• Bước 2: Khởi động LM Studio và truy cập "Model Catalog".
• Bước 3: Tìm kiếm "DeepSeek R1". Bạn sẽ thấy nhiều phiên bản khác nhau. Hãy chọn phiên bản phù hợp với nhu cầu của mình (ví dụ: DeepSeek R1 Distill (Llama 8B)) và nhấn vào nút Download để tải về.
• Bước 4: Khởi chạy DeepSeek R1 - Sau khi quá trình tải xuống hoàn tất, chuyển sang tab "Local Models" và chọn "Run".
• Bước 5: Bắt đầu trải nghiệm! DeepSeek R1 đã sẵn sàng để bạn sử dụng trực tiếp trong LM Studio.

Ghi nhớ:

• Ngay cả khi bạn đang sử dụng máy Mac với 8GB RAM, bạn vẫn có thể dùng LM Studio, nhưng nên ưu tiên các mô hình nhỏ và có kích thước ngữ cảnh hạn chế.
• Các máy Mac sử dụng chip Intel hiện tại chưa được hỗ trợ.

Cập Nhật LM Studio

Phiên Bản LM Studio 0.3.28

Phiên bản ổn định của LM Studio 0.3.28 dành cho hệ điều hành Mac đã chính thức được phát hành. Quá trình nâng cấp có thể được thực hiện trực tiếp trong ứng dụng hoặc thông qua việc tải xuống bản cập nhật mới nhất bằng cách nhấn vào nút Tải về được cung cấp trong bài viết này.

Lựa Chọn Biến Thể Mô Hình Trong Danh Mục My Models

Trong quá trình tải xuống các mô hình được tuyển chọn bởi đội ngũ chuyên gia, người dùng thường có cơ hội lựa chọn giữa nhiều phiên bản khác nhau của cùng một mô hình. Ví dụ, có thể lựa chọn giữa biến thể MLX và GGUF của một mô hình cụ thể, hoặc giữa các mức lượng tử hóa khác nhau như 4-bit, 6-bit, hay 8-bit.

Kể từ phiên bản 0.3.28, người dùng có thể dễ dàng chỉ định biến thể mặc định sẽ được sử dụng khi tải mô hình, thông qua giao diện ứng dụng, các lệnh gọi API hoặc dòng lệnh (CLI).

Tính năng này tương thích với mọi tệp model.yaml có nhiều nguồn, bao gồm cả những mô hình do chính người dùng tạo ra.

Nâng Cao Độ Chính Xác Trong Ước Tính Sử Dụng RAM/VRAM

Độ chính xác trong việc ước tính mức sử dụng bộ nhớ RAM và VRAM đã được cải thiện đáng kể trong các tình huống sau:

• Sử dụng lượng tử hóa hỗn hợp
• Các mô hình có thông tin siêu dữ liệu về số lượng tham số không chính xác
• Các mô hình không dựa trên kiến trúc Transformer

Hoàn Thiện Giao Diện Người Dùng

Một số lỗi gây ra hiện tượng nhấp nháy giao diện trên trang My Models đã được khắc phục. Đồng thời, vấn đề khiến số lượng tham số của mô hình không hiển thị chính xác đối với một số mô hình cũng đã được giải quyết.