inflearn logo

Chinh phục toàn diện Local LLM cùng kỹ sư Thung lũng Silicon (LM Studio & Ollama & Ollaya)

AI của bạn giờ đây không còn ở trên đám mây nữa. Nó chạy trực tiếp ngay trong chiếc laptop của bạn. Chúng tôi sẽ hướng dẫn bạn cách xây dựng môi trường Private AI, thực hiện hoàn toàn cục bộ từ xử lý dữ liệu, phân tích tài liệu cho đến tạo mã bằng LM Studio và Ollama. Không lo lắng về bảo mật, không tốn chi phí, và nhanh hơn — hãy nâng tầm từ “sử dụng” AI lên “trực tiếp khai thác” AI.

(4.8) 42 đánh giá

695 học viên

Độ khó Nhập môn

Thời gian Không giới hạn

AI
AI
LLM
LLM
AI Agent
AI Agent
AI
AI
LLM
LLM
AI Agent
AI Agent

Đánh giá từ những học viên đầu tiên

4.8

5.0

Reo

100% đã tham gia

Tôi đã tham gia khóa học để xây dựng những thứ như Hermes Agent hay LLM Wiki. Bạn đã giải thích về ollama và LM Studio rồi; nếu có thể bổ sung thêm về Docker Model Runner thì sẽ tuyệt vời hơn nữa. Khi dịch thuật, việc điều chỉnh Temperature và quan sát câu trả lời thay đổi cũng rất thú vị. Nhờ đó mà tôi cũng bắt đầu quan tâm đến các tham số (parameter?) của LLM. Xin cảm ơn.

5.0

서버지킴이

54% đã tham gia

Tôi luôn muốn thử chạy LLM trên máy cục bộ nhưng việc thiết lập quá khó khăn nên tôi đã không làm được...? Xem xong bài giảng này tôi đã chạy được luôn rồi ㅋㅋ Thật sự cảm ơn bạn rất nhiều

5.0

문석청

32% đã tham gia

Cảm ơn bạn vì bài giảng hay.

Bạn sẽ nhận được điều này sau khi học.

  • Khả năng xây dựng môi trường Private AI để trực tiếp chạy AI trên máy tính của mình

  • Quy trình AI xử lý an toàn dữ liệu công ty/dữ liệu cá nhân

  • Chuyển từ “mức độ sử dụng AI” sang “mức độ vận hành AI”


Private AI môi trường,
cục bộHãy tự xây dựng trực tiếp!

Kỹ sư phần mềm Staff tại Thung lũng Silicon sẽ hướng dẫn bạn mọi điều về cách trực tiếp chạy AI trên máy tính xách tay của mình và xây dựng Private AI bằng LM Studio cùng Ollama.
Giờ đây, hãy thoải mái sử dụng AI theo cách bạn muốn mà không phải lo lắng về chi phí API hay vấn đề bảo mật, đồng thời vẫn bảo vệ an toàn dữ liệu của bạn.


Bạn đã từng ngần ngại sử dụng ChatGPT vì lý do bảo mật của công ty?

Bạn đã phải mất thời gian cho các công việc xử lý dữ liệu lặp đi lặp lại, phân tích tài liệu và tạo mã mỗi lần sao?

Bạn có cảm thấy việc ứng dụng AI bị hạn chế do giới hạn sử dụng API và gánh nặng chi phí không?

Đừng lo lắng. Thông qua khóa học này, bạn có thể tiến thêm một bước, từ mức độ ‘sử dụng’ AI lên mức độ ‘tự mình vận hành’ AI.
Giờ đây, chiếc laptop của bạn sẽ biến thành một môi trường phát triển AI mạnh mẽ.


🏛️ Với LM Studio và Ollama
chạy trực tiếp LLM trên laptop của tôi
cách xây dựng môi trường Private AI


Hãy trở thành
'nhà phát triển vận hành AI' mà không phải lo lắng về bảo mật và chi phí.





Sau khi hoàn thành khóa học này, bạn sẽ


Bạn có thể tự do sử dụng AI mà không lo rò rỉ thông tin cá nhân.

  • Bạn đã từng do dự khi sử dụng ChatGPT vì chính sách bảo mật của công ty chưa? Thông qua khóa học này, bạn sẽ học cách sử dụng LM Studio và Ollama để trực tiếp vận hành các mô hình AI trên máy tính xách tay của mình, đồng thời phân tích và khai thác chúng một cách an toàn mà không phải lo lắng về việc dữ liệu nhạy cảm của công ty hay thông tin cá nhân bị truyền ra bên ngoài. Bạn sẽ không còn cảm thấy bị hạn chế khi sử dụng AI nữa.

Tự động hóa các công việc phát triển lặp đi lặp lại và tối đa hóa hiệu suất công việc.

  • Nếu bạn là nhà phát triển hoặc làm trong lĩnh vực dữ liệu từng thiếu thời gian vì các công việc lặp đi lặp lại như xử lý dữ liệu, tóm tắt tài liệu và tạo mã, giờ đây bạn có thể tự động hóa những công việc này bằng môi trường Private AI do chính mình xây dựng. Hãy biến chiếc máy tính xách tay của bạn thành một công cụ phát triển AI mạnh mẽ mà không phải lo lắng về chi phí API hay giới hạn sử dụng.

Trở thành chuyên gia tự do vận hành các mô hình AI mà không phải lo lắng về chi phí API.

  • Bạn sẽ có thể làm chủ LM Studio và Ollama không chỉ ở việc cài đặt đơn thuần, mà còn từ các thiết lập chi tiết của mô hình (Top K, Top P, Temperature, v.v.) đến việc sử dụng GGUF, MLX Runtime, cấu hình system prompt và preset, cũng như tích hợp REST API. Qua đó, bạn sẽ tiến từ “mức độ sử dụng” AI lên “mức độ trực tiếp vận hành” AI, đồng thời trang bị khả năng khai thác AI một cách tiết kiệm chi phí.






✔️

Cách nhanh nhất để trực tiếp chạy AI trên máy tính xách tay cá nhân

Xây dựng Private AI cùng các kỹ sư tại Thung lũng Silicon

Giờ đây, AI của bạn không còn chạy trên đám mây mà trực tiếp hoạt động ngay trên máy tính xách tay của bạn. Bạn sẽ học cách xây dựng Private AI bằng LM Studio và Ollama, thực hiện trực tiếp mọi tác vụ từ xử lý dữ liệu, phân tích tài liệu đến tạo mã trong môi trường cục bộ. Không phải lo lắng về vấn đề bảo mật hay chi phí, bạn có thể nâng tầm từ “mức độ sử dụng” AI lên “mức độ trực tiếp khai thác” AI.

Xây dựng quy trình AI thực tế bằng LM Studio và Ollama

Trong khóa học này, bạn sẽ trực tiếp cài đặt LM Studio và Ollama, điều chỉnh nhiều tham số cũng như cài đặt mô hình để xây dựng môi trường AI cục bộ. Bạn sẽ thực hành toàn bộ các quy trình cần thiết cho việc phát triển thực tế, như thiết lập system prompt, lấy mẫu Top K/P và tạo đầu ra có cấu trúc, từ đó hoàn thiện quy trình AI có thể xử lý an toàn dữ liệu công ty hoặc dữ liệu cá nhân.

Cung cấp mã nguồn cốt lõi và tài liệu
để xây dựng Private AI

Cung cấp các tệp cài đặt LM Studio, Ollama được sử dụng trong khóa học, hướng dẫn thiết lập cần thiết và mã ví dụ điều chỉnh nhiều tham số mô hình khác nhau. Ngoài ra, bạn sẽ nhận được toàn bộ tài liệu cần thiết cho việc phát triển Private AI, bao gồm thông tin về các mô hình LLM mở trên Hugging Face, so sánh giấy phép, cũng như cách sử dụng runtime GGUF và MLX.


📚

Trực tiếp chạy AI trên máy cục bộ
Làm chủ việc xây dựng môi trường AI riêng tư

Phần 1

Tổng quan về LLM mở và chạy cục bộ

Bạn sẽ hiểu khái niệm về LLM mở, các loại mô hình nguồn mở, cũng như tầm quan trọng của tham số và trọng số mô hình. Ngoài ra, bạn sẽ khám phá việc chạy và tùy chỉnh mô hình trong môi trường cục bộ, cùng những lợi ích về quyền riêng tư và khả năng kiểm soát.


Phần 2

Thiết lập môi trường AI cục bộ bằng LM Studio

Cài đặt LM Studio và làm quen với giao diện người dùng, cài đặt, prompt hệ thống, các kỹ thuật lấy mẫu, v.v. Học cách sử dụng runtime GGUF, MLX, thiết lập phần cứng, quản lý độ dài ngữ cảnh và REST API để vận hành hiệu quả các mô hình AI cục bộ.


Phần 3

Triển khai và sử dụng LLM bằng Ollama

Tìm hiểu cách cài đặt và sử dụng Ollama cơ bản, đồng thời học cách tìm các LLM mã nguồn mở hữu ích. Nội dung bao gồm hỗ trợ đa phương thức, điều chỉnh tin nhắn hệ thống và tham số mô hình, quản lý phiên, tạo mô hình thông qua Modelfile, cũng như cách sử dụng máy chủ Ollama (API) và các ví dụ mã.


🧐 Bạn có thể giải quyết những băn khoăn của những người này!


📌

Nhà phát triển ngần ngại sử dụng ChatGPT vì vấn đề bảo mật của công ty

Những người cảm thấy lo lắng khi gửi dữ liệu nhạy cảm của công ty đến API bên ngoài và
gặp hạn chế trong việc tự động hóa công việc

📌

Lập trình viên junior có hiệu suất thời gian thấp do các công việc phát triển lặp đi lặp lại

Những người gặp khó khăn trong việc tập trung vào các công việc phát triển cốt lõi vì bị mất thời gian cho các tác vụ lặp đi lặp lại hằng ngày như tạo mã hoặc phân tích tài liệu

📌

Gặp khó khăn khi sử dụng sau khi cài đặt LM Studio/Ollama

Những người đã cài đặt LM Studio hoặc Ollama nhưng cảm thấy bối rối khi xây dựng và sử dụng Private AI trong thực tế
do các thiết lập và tham số phức tạp




Lưu ý trước khi tham gia khóa học


Môi trường thực hành

  • Hệ điều hành: Hỗ trợ Windows, macOS và Linux.

  • Công cụ cần thiết: Cài đặt và sử dụng LM Studio, Ollama.

  • Cấu hình khuyến nghị: GPU (khuyến nghị từ 8GB VRAM trở lên), PC có RAM từ 16GB trở lên sẽ giúp thực hành mượt mà hơn.

Kiến thức nền tảng và lưu ý

  • Nếu bạn có kinh nghiệm ở vị trí lập trình viên hoặc trong lĩnh vực dữ liệu thì càng tốt.

  • Phù hợp với những ai muốn trực tiếp vận hành mô hình AI trên máy tính cá nhân.

  • Nếu bạn còn do dự khi sử dụng AI trên nền tảng đám mây vì lý do thông tin cá nhân hoặc bảo mật công ty, thì đây là một lựa chọn tốt.

Tài liệu học tập

  • Cung cấp tài liệu PDF slide bài giảng.

  • Bao gồm tất cả các ví dụ mã cần thiết cho phần thực hành.

  • Bạn cũng nên tham khảo tài liệu chính thức của LM Studio và Ollama.


Khuyến nghị cho
những người này

Khóa học này dành cho ai?

  • Những người cảm thấy bức bối vì không thể tự do sử dụng ChatGPT do vấn đề bảo mật của công ty

  • Các nhà phát triển/nhân sự ngành dữ liệu luôn thiếu thời gian vì phải trực tiếp thực hiện các công việc lặp đi lặp lại mỗi lần

  • Những người cảm thấy bị hạn chế trong việc sử dụng AI do chi phí API và giới hạn sử dụng

  • Những người chỉ mới cài đặt LM Studio, Ollama, Ollaya nhưng chưa thể tận dụng chúng đúng cách.

Cần biết trước khi bắt đầu?

  • Kỹ năng sử dụng máy tính cơ bản - cần có khả năng chạy terminal (lệnh) và kinh nghiệm cài đặt chương trình

  • Hiểu biết cơ bản về công việc phát triển hoặc dữ liệu

  • Kinh nghiệm từng sử dụng các công cụ AI (như ChatGPT, v.v.) ít nhất một lần (khuyến khích)

Xin chào
Đây là altoformula

Xác minh Inflearn

28,096

Học viên

1,658

Đánh giá

383

Trả lời

4.7

Xếp hạng

34

Các khóa học

Bạn định kết thúc ở Hàn Quốc sao? Hãy dùng tiếng Anh để đột phá thị trường thế giới! 🌍🚀

Xin chào. Tôi tốt nghiệp chuyên ngành Khoa học Máy tính (EECS) tại UC Berkeley💻, đã có hơn 15 năm kinh nghiệm làm kỹ sư phần mềm tại Thung lũng Silicon, và hiện đang là Staff Software Engineer chuyên về Big Data và DevOps tại trụ sở chính của một tập đoàn Big Tech ở Thung lũng Silicon. working with Big Data and DevOps at a Big Tech headquarters in Silicon Valley.

  • 🧭 Thông qua các khóa học trực tuyến, tôi muốn chia sẻ với các bạn những công nghệ và bí quyết mà tôi đã trực tiếp học hỏi được tại nơi đổi mới của Thung lũng Silicon.

  • 🚀 Hãy cùng tôi, người đã học hỏi và trưởng thành tại nơi tiền tuyến của sự đổi mới công nghệ, nâng cao năng lực để các bạn cũng có thể cạnh tranh trên đấu trường toàn cầu!

  • 🫡 Tôi muốn nhắn nhủ với bạn rằng, dù không quá thông minh nhưng chỉ cần kiên trì và không bỏ cuộc, bạn có thể đạt được bất cứ điều gì. Tôi sẽ luôn ở bên cạnh hỗ trợ bạn với những tài liệu hữu ích nhất.

 

Thêm

Chương trình giảng dạy

Tất cả

39 bài giảng ∙ (4giờ 30phút)

Tài liệu khóa học:

Tài liệu bài giảng
Ngày đăng: 
Cập nhật lần cuối: 

Đánh giá

Tất cả

42 đánh giá

4.8

42 đánh giá

  • hbsong257864님의 프로필 이미지
    hbsong257864

    Đánh giá 1

    ∙

    Đánh giá trung bình 5.0

    Đã chỉnh sửa

    5

    100% đã tham gia

    Tôi tham gia khóa học này vì cần áp dụng Local LLM vào công việc, và nó đã giúp tôi xác định được hướng đi. Mặc dù không thể áp dụng trực tiếp vào vấn đề tôi đang muốn giải quyết, nhưng tôi rất vui vì đã học được cách sử dụng LMStudio, Ollama cũng như có thêm nhiều thông tin hữu ích.

    • altoformula
      Giảng viên

      Chào bạn hbsong25, Cảm ơn bạn đã dành thời gian quý báu để để lại đánh giá tốt ạ!!

  • seukchungmoon8847님의 프로필 이미지
    seukchungmoon8847

    Đánh giá 42

    ∙

    Đánh giá trung bình 5.0

    5

    32% đã tham gia

    Cảm ơn bạn vì bài giảng hay.

    • altoformula
      Giảng viên

      Chào ông Moon Seok-cheong, Cảm ơn ông đã dành thời gian quý báu để để lại đánh giá tốt.

  • reogride3237님의 프로필 이미지
    reogride3237

    Đánh giá 19

    ∙

    Đánh giá trung bình 5.0

    5

    100% đã tham gia

    Tôi đã tham gia khóa học để xây dựng những thứ như Hermes Agent hay LLM Wiki. Bạn đã giải thích về ollama và LM Studio rồi; nếu có thể bổ sung thêm về Docker Model Runner thì sẽ tuyệt vời hơn nữa. Khi dịch thuật, việc điều chỉnh Temperature và quan sát câu trả lời thay đổi cũng rất thú vị. Nhờ đó mà tôi cũng bắt đầu quan tâm đến các tham số (parameter?) của LLM. Xin cảm ơn.

    • altoformula
      Giảng viên

      Chào bạn Reo, 🙂 Cảm ơn bạn rất nhiều vì bài đánh giá tuyệt vời! Sau khóa học về Claude, bạn lại tiếp tục đăng ký khóa học này nữa nhỉ. Tôi rất vui khi biết bạn tham gia khóa học với mục tiêu xây dựng Hermes Agent hay LLM Wiki, vì nó rất phù hợp với định hướng của bài giảng. Đặc biệt, thật tốt khi phần Ollama và LM Studio đã giúp ích được cho bạn. Về Docker Model Runner mà bạn đã đề cập, đó là một điểm rất hay. Vì đây là lĩnh vực ngày càng trở nên quan trọng trong thực tế, tôi sẽ cân nhắc để đưa vào các bản cập nhật bài giảng hoặc tài liệu bổ sung. Việc bạn trực tiếp trải nghiệm sự thay đổi của kết quả khi điều chỉnh Temperature cũng cho thấy bạn đã nắm bắt rất tốt các điểm mấu chốt. Việc cảm nhận nguyên lý hoạt động của LLM thông qua những thử nghiệm như vậy là cách nhanh nhất để thấu hiểu chúng 👍 Nhờ những phản hồi tích cực của bạn, tôi có thể phát triển bài giảng tốt hơn nữa. Nội dung về LLM Wiki tôi đã cập nhật trong khóa học về Claude, bạn nên kiểm tra thử nhé. Tôi sẽ tiếp tục cập nhật trong thời gian tới. Xin cảm ơn bạn! 🚀

  • abandonship님의 프로필 이미지
    abandonship

    Đánh giá 6

    ∙

    Đánh giá trung bình 5.0

    5

    61% đã tham gia

    Tôi vốn dĩ chỉ mở LM Studio và Ollama lên dùng đại mà không suy nghĩ gì, nhưng nhờ bài giảng này mà tôi rất vui vì đã có thể tìm hiểu một cách tổng thể về toàn bộ chức năng cũng như công dụng của chúng.

    • altoformula
      Giảng viên

      Chào bạn 버려라배를 (배를버려라), Cảm ơn bạn đã để lại đánh giá tích cực! 😊 Có nhiều người cài đặt LM Studio hay Ollama xong chỉ sử dụng các tính năng cơ bản, nhưng thực tế có rất nhiều tính năng giúp nâng cao hiệu quả sử dụng nếu biết cách khai thác như: quản lý mô hình, máy chủ API, thiết lập ngữ cảnh (context), tối ưu hóa GPU và so sánh các mô hình khác nhau. Giờ đây khi đã có kiến thức nền tảng, mình tin rằng bạn sẽ thấy thú vị hơn khi kết hợp LLM cục bộ với AI Agent, MCP và các công cụ phát triển trong tương lai. Cảm ơn bạn vì những phản hồi quý giá!

  • knocktea님의 프로필 이미지
    knocktea

    Đánh giá 3

    ∙

    Đánh giá trung bình 5.0

    5

    100% đã tham gia

    Sau khi hoàn thành khóa học, tôi đã tự tin rằng mình có thể sử dụng LLM! Tôi muốn dần làm quen và thử tạo ra một cái gì đó.

    • altoformula
      Giảng viên

      Chào bạn Hyunmi Nokcha, Rất cảm ơn bạn đã để lại một đánh giá tuyệt vời! 😊 Phản hồi khiến mình vui nhất chính là việc bạn đã có được sự tự tin rằng "mình cũng có thể làm chủ được LLM" thông qua bài giảng. Thay vì bắt đầu với những dự án to tát ngay từ đầu, nếu bạn thử làm từng chút một từ những việc tự động hóa nhỏ hay dự án cá nhân, kỹ năng của bạn sẽ tiến bộ rất nhanh thôi. Mình sẽ luôn ủng hộ bạn ứng dụng AI một cách thật thú vị trong tương lai! 🚀

Khóa học khác của altoformula

Hãy khám phá các khóa học khác của giảng viên!

Khóa học tương tự

Khám phá các khóa học khác trong cùng lĩnh vực!

Giảm 25% cho thành viên mới

856.296 ₫

25%

1.141.726 ₫