inflearn logo

Tạo AI agent của riêng mình với phí thuê bao AI một tháng (feat. chạy trên PC của tôi mà không cần Internet)

Bạn không thể sử dụng ChatGPT vì đang ở trong mạng nội bộ hoặc mạng đóng, cảm thấy phí thuê bao quá đắt đỏ, hay lo ngại tài liệu công ty bị gửi ra máy chủ bên ngoài? Trong khóa học này, bạn sẽ tự xây dựng ngay trên PC của mình một tác nhân AI có thể hoạt động mà không cần Internet, chỉ với một card đồ họa 8GB ra mắt vào năm 2017. Ngay cả khi không biết lệnh, bạn chỉ cần nhấp đúp vào 3 tệp là hoàn tất cài đặt. Chúng tôi sẽ công khai toàn bộ các lỗi thực tế gặp phải trong quá trình chuẩn bị và cách khắc phục, cùng tốc độ đo trực tiếp và nhật ký liên lạc với bên ngoài.

5 học viên đang tham gia khóa học này

Độ khó Nhập môn

Thời gian Không giới hạn

Python
Python
Deep Learning(DL)
Deep Learning(DL)
agents
agents
AI
AI
LLM
LLM
Python
Python
Deep Learning(DL)
Deep Learning(DL)
agents
agents
AI
AI
LLM
LLM

Bạn sẽ nhận được điều này sau khi học.

  • Trợ lý AI cá nhân của tôi hoạt động ngay cả khi không có Internet và nội dung trò chuyện không rời khỏi máy tính (đọc·ghi tệp, thực thi lệnh)

  • Trợ lý lập trình AI cục bộ trong VS Code, giải thích và sửa mã (tích hợp Continue)

  • Tiêu chí chọn mô hình AI phù hợp với cấu hình PC của tôi và cách kiểm tra giấy phép cho phép sử dụng trong công ty

  • Hiểu nguyên lý hoạt động của một agent được tạo bằng khoảng 170 dòng Python và có khả năng tự mình thêm các chức năng (công cụ).

  • Quy trình cài đặt trên PC thuộc mạng nội bộ·mạng đóng và các căn cứ đo đạc thực tế có thể giải thích cho người phụ trách an ninh.

Không chỉ là trợ lý dành riêng cho lập trình viên.

Hãy yêu cầu AI của riêng bạn ngay trong VS Code và đạt được kết quả mong muốn!


Công ty không cho phép sử dụng ChatGPT sao?

Người ta nói trí tuệ nhân tạo (AI) đang thay đổi công việc, nhưng trong tình huống thực tế của tôi, nhiều khi lại không thể sử dụng được.

  • Vì mạng nội bộ công ty, mạng quốc phòng và phòng an toàn chặn Internet bên ngoài nên không thể truy cập AI đám mây ngay từ đầu.

  • Tôi lo lắng rằng thông tin sẽ bị gửi đến máy chủ bên ngoài sau khi dán tài liệu công ty hoặc thông tin khách hàng vào ChatGPT.

  • Phí thuê bao và phí sử dụng liên tục phát sinh, nên chi phí trở thành gánh nặng khi cả đội cùng sử dụng.

Đáp án cho ba vấn đề này chỉ có một. Đó là đưa AI trực tiếp vào trong PC của bạn.

Không cần internet, không tốn chi phí, không lo rò rỉ dữ liệu

Trong khóa học này, bạn sẽ tự tay xây dựng từ đầu đến cuối AI Agent của riêng mình chỉ hoạt động trên PC của bạn.

  • Không cần Internet: Sau khi cài đặt xong, bạn không cần Internet. Khóa học cũng hướng dẫn cách chuyển và cài đặt trên PC thuộc mạng nội bộ hoặc mạng đóng.

  • Không tốn chi phí: mọi công cụ đều miễn phí, không cần khóa API hay gói đăng ký trả phí. Chỉ tốn tiền điện.

  • Không lo rò rỉ dữ liệu: cả câu hỏi, câu trả lời và các tệp mà AI đọc, ghi đều không bị đưa ra ngoài PC.

Đây không phải là lời hứa suông. Trong khi chạy, chúng tôi ghi lại các kết nối mạng của từng chương trình với khoảng thời gian 0,1 giây và trình bày nguyên vẹn trong bài giảng kết quả đã trực tiếp xác nhận rằng không có kết nối nào đi ra bên ngoài.

Sơ đồ tổng thể về việc người dùng đặt câu hỏi cho máy chủ AI và mô hình Qwen3.5 trên PC của tôi thông qua tác nhân terminal hoặc VS Code

Không cần thiết bị đắt tiền.

Card đồ họa của PC dùng để trình diễn là GTX 1070 Ti (8GB) ra mắt năm 2017. Kết quả đo trực tiếp bằng card này như sau.

Hạng mụcKết quả đo thực tế Tốc độ tạo câu trả lời29.4 token/giây (nhanh hơn tốc độ đọc của con người) Chỉ dùng CPU, không có card đồ họa5.5 token/giây Mức sử dụng bộ nhớ card đồ họa6.8GB (dư dả trong card 8GB)

Mô hình được sử dụng là Qwen3.5-9B. Đây là một LLM được cấp phép theo Apache-2.0, cho phép sử dụng tự do trong thương mại, đồng thời xử lý ổn định tiếng Hàn và việc gọi công cụ. Đối với PC không có card đồ họa hoặc có bộ nhớ nhỏ, trình cài đặt sẽ tự động chọn mô hình nhỏ hơn, vì vậy bạn vẫn có thể làm theo ngay cả khi không có GPU.

Không cần biết lệnh: chỉ cần nhấp đúp 3 lần

Ngay cả khi không phải là nhà phát triển, bạn vẫn có thể làm theo đến cùng nhờ quy trình cài đặt được đơn giản hóa.

  1. 1_Cài đặt: Phát hiện card đồ họa, tải xuống engine và model phù hợp, đồng thời tự động cài đặt Python và VS Code nếu chưa có.

  2. 2_Bật máy chủ AI: Khởi động máy chủ AI trên PC của bạn.

  3. 3_Khởi_động_agent: Nhập câu hỏi, AI agent sẽ tạo tệp và thực thi lệnh.

Nếu quá trình tải xuống bị gián đoạn, bạn chỉ cần nhấp đúp lại vào cùng tệp để tiếp tục tải. Nếu thực hiện sai thứ tự hoặc gặp vấn đề, màn hình sẽ hướng dẫn bằng những lời dễ hiểu về việc cần làm. Ngoài ra, video bài giảng chỉ mang tính bổ trợ, và bạn hoàn toàn có thể chỉ xem tài liệu hướng dẫn và làm theo. Nếu vẫn chưa hiểu, chúng tôi sẽ cố gắng trả lời bạn trong phòng trò chuyện mở trong thời gian sớm nhất.

Sau khi hoàn thành bài giảng, bạn sẽ có được sản phẩm như thế này

1. Tác nhân AI terminal làm việc trên PC của tôi

Khi bạn nói “"Hãy lưu và chạy đoạn mã tính tổng các số nguyên tố từ 1 đến 100 rồi cho tôi biết"”, tác nhân sẽ tự lập kế hoạch, lưu tệp, thực thi, kiểm tra kết quả rồi trả lời. Trước khi ghi tệp hoặc thực thi lệnh, tác nhân luôn phải nhận được sự phê duyệt của con người.


Sơ đồ trình tự của cấu trúc lặp, trong đó agent nhận câu hỏi sẽ gọi LLM, nếu có yêu cầu gọi công cụ thì thực thi rồi hỏi lại LLM

2. Trợ lý cục bộ trong VS Code

Kết nối cùng máy chủ AI với tiện ích Continue của VS Code. Bạn có thể yêu cầu giải thích mã, sửa lỗi ngay trong trình chỉnh sửa, cũng như cho phép tác nhân đọc và chỉnh sửa tệp ở chế độ Agent. Điều này đặc biệt hữu ích trong môi trường không thể sử dụng các công cụ đám mây.

Màn hình với chế độ Agent và mô hình cục bộ Qwen3.5-9B được chọn trong bảng Continue đang mở ở bên trái VS Code

3. Mã nguồn agent 170 dòng có thể tự mình chỉnh sửa

Tự mình triển khai nguyên lý của agent bằng khoảng 170 dòng Python. Vì mã nguồn ngắn nên bạn có thể hiểu từng dòng, đồng thời sau khi khóa học kết thúc, bạn vẫn có thể tự thêm các chức năng (công cụ) mong muốn.

4. Cung cấp tài liệu hướng dẫn chi tiết để bạn có thể tự mình thực hiện theo.

5. Nếu có thắc mắc, bạn hãy đặt câu hỏi trong cộng đồng của khóa học, chúng tôi sẽ trả lời trong thời gian sớm nhất.


Nội dung học tập

Các khái niệm cốt lõi của LLM chạy cục bộ

Chúng tôi tóm tắt một cách dễ hiểu những khái niệm thiết yếu khi lựa chọn mô hình, chẳng hạn như tệp mô hình GGUF, lượng tử hóa, ngữ cảnh và token. Bạn sẽ tìm hiểu lý do chất lượng không giảm đáng kể ngay cả khi thu gọn mô hình deep learning xuống 4 bit, cùng công thức chọn tệp phù hợp với card đồ họa của mình.

Lựa chọn mô hình được phép sử dụng trong công ty

"Có thể tải xuống" và "được phép sử dụng tùy ý" là hai điều khác nhau. Tìm hiểu sự khác biệt giữa các giấy phép Apache-2.0, MIT, Llama và Gemma, cùng phương pháp 3 bước để kiểm tra giấy phép trên trang mô hình.

Biến PC của bạn thành máy chủ AI với llama.cpp

Khởi chạy máy chủ cục bộ để trò chuyện theo định dạng giống OpenAI. Nhờ đó, bạn có thể kết nối nguyên trạng các mã nguồn và ứng dụng được xây dựng cho OpenAI chỉ bằng cách thay đổi địa chỉ.

Tự xây dựng AI Agent

Trực tiếp triển khai bằng mã nguồn cấu trúc cơ bản của các agent, trong đó chương trình sẽ thay mặt LLM thực thi khi LLM yêu cầu sử dụng công cụ. Bạn sẽ kiểm chứng bằng mã nguồn mọi thứ, từ bảng menu công cụ, vòng lặp lặp lại cho đến quy trình AI tự sửa lỗi khi xảy ra sự cố. Không chỉ đơn thuần trò chuyện với AI, bạn còn có thể trải nghiệm AX (trải nghiệm tác nhân) — nơi AI trực tiếp làm việc — ngay trên PC của mình.

Sử dụng trong môi trường không có Internet

Tổng hợp kết quả đo thực tế cho thấy không có kết nối ra bên ngoài sau khi cài đặt, cách tắt thống kê sử dụng của tiện ích mở rộng VS Code, cách chuyển và cài đặt trên PC thuộc mạng đóng không có Internet ngay từ đầu, cũng như thông tin cần cung cấp cho người phụ trách bảo mật của công ty.

Tài liệu cung cấp

  • localAgent.zip: tệp thực thi bằng cách nhấp đúp, mã agent, cấu hình kết nối VS Code và tệp thực hành

  • Hướng dẫn thực hành (PDF 33 trang): Tài liệu tổng hợp toàn bộ nội dung khóa học, từ cài đặt, khắc phục sự cố đến cài đặt trong mạng đóng. Các nội dung hiển thị trên màn hình và việc cần làm được sắp xếp thành bảng, nên bạn có thể làm theo mà không cần xem video.

Khuyến nghị dành cho những người này

  • Nhân viên văn phòng làm việc trong môi trường bị chặn Internet, chẳng hạn như mạng nội bộ công ty hoặc mạng quốc phòng, nên không thể sử dụng AI đám mây.

  • Những người đi làm không thể sử dụng AI trong công việc vì lo lắng về việc đưa tài liệu công ty vào AI

  • Những người muốn thoải mái sử dụng AI trên chiếc máy tính sẵn có mà không phải trả phí thuê bao

  • Nhà phát triển muốn hiểu bằng mã nguồn cách các tác nhân AI thực sự hoạt động

  • Những người phụ trách IT và bảo mật đang xem xét triển khai AI nội bộ mà không phải lo lắng về vấn đề bảo mật

Có cần kiến thức nền tảng không?

  • Việc cài đặt và sử dụng không yêu cầu kiến thức nền tảng. Bạn có thể thực hiện bằng cách nhấp đúp mà không cần sử dụng lệnh.

  • Cần có máy tính Windows 10/11. Khuyến nghị sử dụng card đồ họa NVIDIA (từ 8GB trở lên), nhưng không có cũng vẫn có thể thực hiện theo hướng dẫn.

  • Chỉ cần internet khi cài đặt (tải xuống khoảng 6GB).

  • Phần giải thích mã sẽ dễ hiểu hơn nếu bạn biết các cú pháp Python cơ bản (không bắt buộc).

  • Không sử dụng dịch vụ trả phí.

Khuyến nghị cho
những người này

Khóa học này dành cho ai?

  • Nhân viên văn phòng làm việc trong môi trường bị chặn Internet, chẳng hạn như mạng nội bộ công ty hoặc mạng quốc phòng, nên không thể sử dụng AI đám mây.

  • Những người làm việc thực tế không thể sử dụng AI trong công việc vì lo ngại việc đưa tài liệu công ty hoặc thông tin khách hàng vào ChatGPT.

  • Dành cho những ai muốn thoải mái sử dụng AI trên chiếc PC mình đang có mà không phải trả phí đăng ký hay phí sử dụng AI.

  • Nhà phát triển muốn hiểu ở cấp độ mã nguồn "AI Agent" thực sự hoạt động như thế nào

  • Nhân sự phụ trách CNTT và bảo mật cần xem xét việc triển khai AI trong nội bộ mà không phải lo lắng về vấn đề bảo mật

Cần biết trước khi bắt đầu?

  • Việc cài đặt và sử dụng không yêu cầu kiến thức nền tảng. Mọi thao tác đều được thực hiện chỉ bằng cách nhấp đúp, không cần nhập lệnh.

  • Cần có PC chạy Windows 10/11. Khuyến nghị sử dụng card đồ họa NVIDIA (VRAM từ 8GB trở lên), nhưng nếu không có, bạn vẫn có thể thực hiện bằng CPU và mô hình nhỏ (tốc độ sẽ chậm hơn).

  • Chỉ cần Internet khi cài đặt (tải xuống khoảng 6GB). Sau khi cài đặt, có thể hoạt động mà không cần Internet.

  • Phần giải thích mã sẽ dễ hiểu hơn nếu bạn biết cú pháp Python cơ bản (không bắt buộc).

  • Không sử dụng các dịch vụ trả phí hay khóa API. Tất cả công cụ đều miễn phí.

Xin chào
Đây là kmmom591

Xác minh sự nghiệp

886

Học viên

82

Đánh giá

4

Trả lời

4.6

Xếp hạng

9

Các khóa học

Xin chào.
Tôi là nhà phát triển đang làm việc với tư cách là nhà nghiên cứu quốc phòng và phát triển phần mềm tại một doanh nghiệp công nghiệp quốc phòng.

Tôi tốt nghiệp chuyên ngành Khoa học máy tính tại trường đại học,
sau khi gia nhập công ty công nghiệp quốc phòng, tôi đã tham gia vào các dự án phát triển phần mềm quốc phòng thực tế.
Hiện tại, tôi đang phát triển các phần mềm liên kết với hệ thống vũ khí và hệ thống quốc phòng,
đồng thời thực hiện phát triển hệ thống dựa trên C++ và Java.

Thêm

Chương trình giảng dạy

Tất cả

3 bài giảng ∙ (1giờ 17phút)

Tài liệu khóa học:

Tài liệu bài giảng
Ngày đăng: 
Cập nhật lần cuối: 

Đánh giá

Chưa có đủ đánh giá.
Hãy trở thành tác giả của một đánh giá giúp mọi người!

Khóa học khác của kmmom591

Hãy khám phá các khóa học khác của giảng viên!

Khóa học tương tự

Khám phá các khóa học khác trong cùng lĩnh vực!

Ưu đãi có thời hạn

16.940 ₫

30%

499.130 ₫