inflearn logo

Chinh phục hoàn toàn Local LLM cùng kỹ sư Thung lũng Silicon (LM Studio & Ollama)

Giờ đây, AI của bạn không còn nằm trên đám mây nữa. Nó chạy trực tiếp ngay trong máy tính xách tay của bạn. Sử dụng LM Studio và Ollama, chúng tôi sẽ hướng dẫn bạn cách xây dựng môi trường Private AI vận hành hoàn toàn cục bộ (local), từ xử lý dữ liệu, phân tích tài liệu cho đến tạo mã nguồn. Không lo ngại về bảo mật, không tốn chi phí, và nhanh hơn nữa — Hãy nâng tầm từ việc "biết dùng AI" sang mức độ "trực tiếp làm chủ AI".

(4.8) 6 đánh giá

190 học viên

Độ khó Nhập môn

Thời gian Không giới hạn

AI
AI
LLM
LLM
AI Agent
AI Agent
AI
AI
LLM
LLM
AI Agent
AI Agent

Đánh giá từ những học viên đầu tiên

4.8

5.0

서버지킴이

54% đã tham gia

Tôi luôn muốn thử chạy LLM trên máy cục bộ nhưng việc thiết lập quá khó khăn nên tôi đã không làm được...? Xem xong bài giảng này tôi đã chạy được luôn rồi ㅋㅋ Thật sự cảm ơn bạn rất nhiều

Bạn sẽ nhận được điều này sau khi học.

  • Khả năng xây dựng môi trường Private AI để chạy AI trực tiếp trên máy tính của tôi

  • Quy trình làm việc AI xử lý an toàn dữ liệu công ty/dữ liệu cá nhân

  • Chuyển đổi từ “mức độ sử dụng AI” sang “mức độ vận hành AI”


Môi trường Private AI,
hãy tự xây dựng ngay tại địa phương!

Kỹ sư phần mềm cấp cao (Staff Software Engineer) từ Thung lũng Silicon sẽ hướng dẫn bạn cách chạy AI trực tiếp trên máy tính xách tay, cùng mọi thứ về xây dựng Private AI bằng LM Studio và Ollama.
Giờ đây, hãy tận dụng AI theo ý muốn trong khi vẫn giữ an toàn cho dữ liệu của bạn mà không phải lo lắng về chi phí API hay vấn đề bảo mật.


Có phải bạn đang ngần ngại sử dụng ChatGPT vì vấn đề bảo mật của công ty?

Bạn có đang tốn nhiều thời gian mỗi lần thực hiện các công việc xử lý dữ liệu lặp đi lặp lại, phân tích tài liệu hay tạo mã code không?

Bạn có cảm thấy việc sử dụng AI bị hạn chế do giới hạn lưu lượng sử dụng API và gánh nặng chi phí không?

Đừng lo lắng. Thông qua khóa học này, bạn có thể tiến thêm một bước nữa từ mức độ 'sử dụng' AI sang mức độ 'trực tiếp vận hành' AI.
Giờ đây, chiếc laptop của bạn sẽ biến thành một môi trường phát triển AI mạnh mẽ.


🏛️ Cách xây dựng môi trường Private AI
tự chạy LLM trên laptop của bạn
với LM Studio và Ollama


Hãy trở thành một
'nhà phát triển vận hành' AI
mà không cần lo lắng về bảo mật và chi phí.





Sau khi kết thúc khóa học này, bạn sẽ


Bạn có thể tự do sử dụng AI mà không lo lắng về việc rò rỉ thông tin cá nhân.

  • Bạn đã bao giờ ngần ngại sử dụng ChatGPT vì chính sách bảo mật của công ty chưa? Thông qua khóa học này, bạn sẽ học cách sử dụng LM Studio và Ollama để chạy trực tiếp các mô hình AI trên máy tính xách tay của mình, từ đó phân tích và sử dụng dữ liệu một cách an toàn mà không lo lắng về việc truyền dữ liệu nhạy cảm của công ty hay thông tin cá nhân ra bên ngoài. Bạn sẽ không còn cảm thấy bị hạn chế trong việc sử dụng AI nữa.

Tự động hóa các công việc phát triển lặp đi lặp lại và tối đa hóa hiệu suất công việc.

  • Nếu bạn là nhà phát triển hoặc nhân viên dữ liệu đang thiếu thời gian vì các tác vụ xử lý dữ liệu, tóm tắt tài liệu và tạo mã lặp đi lặp lại, giờ đây bạn có thể tự động hóa các công việc này bằng môi trường Private AI do chính mình xây dựng. Hãy biến chiếc máy tính xách tay của bạn thành một công cụ phát triển AI mạnh mẽ mà không phải lo lắng về chi phí API hay giới hạn sử dụng.

Trở thành chuyên gia vận hành các mô hình AI một cách tự do mà không lo về chi phí API.

  • Không chỉ dừng lại ở việc cài đặt đơn giản LM Studio và Ollama, bạn sẽ có thể làm chủ mọi thứ từ cấu hình chi tiết của mô hình (Top K, Top P, Temperature, v.v.) đến việc tận dụng GGUF, MLX Runtime, cấu hình System Prompt và Preset, cho đến tích hợp REST API. Thông qua đó, bạn sẽ tiến xa hơn từ mức độ "sử dụng" AI sang mức độ "trực tiếp vận hành", trang bị cho mình khả năng ứng dụng AI một cách tối ưu về chi phí.






✔️

Cách nhanh nhất để
trực tiếp chạy AI trên máy tính xách tay cá nhân

Xây dựng Private AI
cùng kỹ sư Thung lũng Silicon

Giờ đây, AI của bạn sẽ không còn chạy trên đám mây mà vận hành trực tiếp ngay trên chính chiếc máy tính xách tay của bạn. Thông qua việc sử dụng LM Studio và Ollama, bạn sẽ được học cách xây dựng Private AI để trực tiếp thực hiện các tác vụ từ xử lý dữ liệu, phân tích tài liệu cho đến tạo mã nguồn ngay trong môi trường local. Không còn lo ngại về vấn đề bảo mật hay chi phí, bạn có thể nâng tầm khả năng của mình từ mức độ "biết sử dụng" AI sang mức độ "trực tiếp làm chủ và vận dụng" AI.

Xây dựng quy trình làm việc AI thực tế
với LM Studio và Ollama

Trong khóa học này, bạn sẽ trực tiếp cài đặt LM Studio và Ollama, đồng thời điều chỉnh các tham số và thiết lập mô hình đa dạng để xây dựng môi trường AI cục bộ (local). Bạn sẽ được thực hành tất cả các quy trình cần thiết cho việc phát triển thực tế như thiết lập System Prompt, lấy mẫu Top K/P, tạo đầu ra có cấu trúc, v.v., từ đó có thể hoàn thiện quy trình làm việc AI giúp xử lý dữ liệu công ty hoặc dữ liệu cá nhân một cách an toàn.

Cung cấp mã nguồn và tài liệu cốt lõi
để xây dựng Private AI

Cung cấp tệp cài đặt LM Studio, Ollama và hướng dẫn thiết lập bắt buộc được sử dụng trong bài giảng, cùng các mã ví dụ điều chỉnh tham số mô hình đa dạng. Ngoài ra, bạn có thể nhận được tất cả các tài liệu cần thiết cho việc phát triển Private AI như thông tin mô hình Open LLM và so sánh giấy phép trên Hugging Face, cách sử dụng GGUF và MLX runtime.


📚

Tự chạy AI tại địa phương
Làm chủ việc xây dựng môi trường AI riêng tư

Phần 1

Tổng quan về LLM mã nguồn mở và thực thi cục bộ

Hiểu khái niệm về LLM mở, các loại mô hình mã nguồn mở, cũng như tầm quan trọng của các tham số và trọng số mô hình. Ngoài ra, khám phá việc thực thi mô hình trong môi trường cục bộ, khả năng tùy chỉnh, và những lợi ích về mặt quyền riêng tư và kiểm soát.


Phần 2

Thiết lập môi trường AI cục bộ bằng LM Studio

Cài đặt LM Studio và làm quen với giao diện người dùng, cài đặt, prompt hệ thống, kỹ thuật lấy mẫu (sampling), v.v. Tìm hiểu về GGUF, MLX runtime, cài đặt phần cứng, quản lý độ dài ngữ cảnh và cách sử dụng REST API để vận hành hiệu quả các mô hình AI cục bộ.


Phần 3

Triển khai và ứng dụng LLM bằng Ollama

Tìm hiểu cách cài đặt và cách sử dụng cơ bản của Ollama, đồng thời học cách tìm kiếm các mô hình Open LLM hữu ích. Nội dung bao gồm hỗ trợ đa phương thức (multimodality), điều chỉnh tin nhắn hệ thống và tham số mô hình, quản lý phiên làm việc, tạo mô hình thông qua Modelfile, cũng như cách khai thác Ollama Server (API) và các ví dụ mã nguồn.


🧐 Có thể giải quyết
nỗi lo của những người này!

📌

Nhà phát triển còn ngần ngại sử dụng ChatGPT vì vấn đề bảo mật của công ty

Những người cảm thấy bị hạn chế trong việc tự động hóa công việc vì lo ngại việc gửi dữ liệu nhạy cảm của công ty đến các API bên ngoài

📌

Nhà phát triển trẻ có hiệu suất thời gian thấp do các công việc phát triển lặp đi lặp lại

Những người đang bị mất
thời gian vào các công việc tạo mã hoặc phân tích tài liệu lặp đi lặp lại hàng ngày, gây khó khăn trong việc tập trung vào các nhiệm vụ phát triển cốt lõi.

📌

Người học AI đang gặp khó khăn trong việc sử dụng sau khi cài đặt LM Studio/Ollama

Những người đã cài đặt LM Studio hoặc Ollama nhưng cảm thấy bế tắc trong việc xây dựng và sử dụng Private AI thực tế
do các thiết lập và tham số phức tạp.




Lưu ý trước khi học


Môi trường thực hành

  • Hệ điều hành: Hỗ trợ tất cả Windows, macOS và Linux.

  • Công cụ bắt buộc: Cài đặt và sử dụng LM Studio, Ollama.

  • Cấu hình khuyến nghị: PC có GPU (khuyến nghị VRAM từ 8GB trở lên) và RAM từ 16GB trở lên sẽ giúp việc thực hành diễn ra suôn sẻ.

Kiến thức tiên quyết và lưu ý

  • Sẽ tốt hơn nữa nếu bạn có kinh nghiệm trong lĩnh vực phát triển hoặc dữ liệu.

  • Phù hợp với những ai muốn trực tiếp vận hành mô hình AI trên máy cục bộ (local).

  • Đây là một lựa chọn tốt nếu bạn còn ngần ngại trong việc sử dụng AI đám mây vì lý do bảo mật thông tin cá nhân hay bảo mật của công ty.

Tài liệu học tập

  • Tài liệu slide bài giảng dưới dạng PDF sẽ được cung cấp.

  • Bao gồm tất cả các ví dụ mã nguồn cần thiết cho thực hành.

  • Bạn cũng nên tham khảo thêm tài liệu chính thức của LM Studio và Ollama.


Khuyến nghị cho
những người này

Khóa học này dành cho ai?

  • Những người cảm thấy bí bách vì không thể tự do sử dụng ChatGPT do bảo mật của công ty

  • Những nhà phát triển/nhân viên dữ liệu đang thiếu thời gian vì phải trực tiếp thực hiện các công việc lặp đi lặp lại mỗi lần

  • Những người cảm thấy bị hạn chế trong việc sử dụng AI do chi phí API và giới hạn sử dụng

  • Những người mới chỉ cài đặt LM Studio, Ollama mà chưa biết cách tận dụng chúng hiệu quả.

Cần biết trước khi bắt đầu?

  • Kỹ năng sử dụng máy tính cơ bản - Cần có kinh nghiệm chạy terminal (dòng lệnh) và cài đặt chương trình

  • Hiểu biết cơ bản về công việc phát triển hoặc dữ liệu

  • Có kinh nghiệm sử dụng các công cụ AI (như ChatGPT, v.v.) ít nhất một lần (khuyến khích)

Xin chào
Đây là altoformula

23,553

Học viên

1,262

Đánh giá

352

Trả lời

4.8

Xếp hạng

31

Các khóa học

Bạn định kết thúc ở Hàn Quốc sao? Hãy dùng tiếng Anh để đột phá thị trường thế giới! 🌍🚀

Xin chào. Tôi tốt nghiệp chuyên ngành Khoa học Máy tính (EECS) tại UC Berkeley💻, đã có hơn 15 năm kinh nghiệm làm kỹ sư phần mềm tại Thung lũng Silicon, và hiện đang là Staff Software Engineer chuyên về Big Data và DevOps tại trụ sở chính của một tập đoàn Big Tech ở Thung lũng Silicon. working with Big Data and DevOps at a Big Tech headquarters in Silicon Valley.

  • 🧭 Thông qua các khóa học trực tuyến, tôi muốn chia sẻ với các bạn những công nghệ và bí quyết mà tôi đã trực tiếp học hỏi được tại nơi đổi mới của Thung lũng Silicon.

  • 🚀 Hãy cùng tôi, người đã học hỏi và trưởng thành tại nơi tiền tuyến của sự đổi mới công nghệ, nâng cao năng lực để các bạn cũng có thể cạnh tranh trên đấu trường toàn cầu!

  • 🫡 Tôi muốn nhắn nhủ với bạn rằng, dù không quá thông minh nhưng chỉ cần kiên trì và không bỏ cuộc, bạn có thể đạt được bất cứ điều gì. Tôi sẽ luôn ở bên cạnh hỗ trợ bạn với những tài liệu hữu ích nhất.

 

Thêm

Chương trình giảng dạy

Tất cả

26 bài giảng ∙ (2giờ 58phút)

Tài liệu khóa học:

Tài liệu bài giảng
Ngày đăng: 
Cập nhật lần cuối: 

Đánh giá

Tất cả

6 đánh giá

4.8

6 đánh giá

  • carpelbr4323님의 프로필 이미지
    carpelbr4323

    Đánh giá 2

    Đánh giá trung bình 4.0

    5

    31% đã tham gia

    Đây là bài giảng có thể áp dụng được vào thực tế. Nó rất rất hữu ích.

    • altoformula
      Giảng viên

      Chào bạn carpelbr, Rất cảm ơn bạn vì bài đánh giá tuyệt vời này! Thực tế, mục tiêu quan trọng nhất của tôi là tạo ra một "bài giảng có thể áp dụng được", và tôi rất vui khi bạn cảm nhận được điều đó. Trong tương lai, tôi sẽ tiếp tục cập nhật những nội dung có thể áp dụng ngay vào thực tế công việc. Xin cảm ơn bạn!

  • kjonghyun2266496님의 프로필 이미지
    kjonghyun2266496

    Đánh giá 13

    Đánh giá trung bình 5.0

    5

    54% đã tham gia

    Tôi luôn muốn thử chạy LLM trên máy cục bộ nhưng việc thiết lập quá khó khăn nên tôi đã không làm được...? Xem xong bài giảng này tôi đã chạy được luôn rồi ㅋㅋ Thật sự cảm ơn bạn rất nhiều

    • gktnsgh1232245님의 프로필 이미지
      gktnsgh1232245

      Đánh giá 1

      Đánh giá trung bình 5.0

      5

      31% đã tham gia

      • altoformula
        Giảng viên

        Chào bạn suni ha, Cảm ơn bạn đã dành thời gian quý báu để để lại đánh giá tốt.

    • cetauri0143님의 프로필 이미지
      cetauri0143

      Đánh giá 4

      Đánh giá trung bình 5.0

      5

      100% đã tham gia

      • altoformula
        Giảng viên

        Xin chào bạn Ohsang Kwon, Cảm ơn bạn đã dành thời gian quý báu để để lại đánh giá tốt.

    • angellike님의 프로필 이미지
      angellike

      Đánh giá 24

      Đánh giá trung bình 4.8

      5

      31% đã tham gia

      • altoformula
        Giảng viên

        Chào bạn angellike, Cảm ơn bạn đã dành thời gian quý báu để để lại đánh giá tốt.

    Khóa học khác của altoformula

    Hãy khám phá các khóa học khác của giảng viên!

    Khóa học tương tự

    Khám phá các khóa học khác trong cùng lĩnh vực!

    Ưu đãi có thời hạn

    1.446 ₫

    69%

    775.541 ₫