inflearn logo

Tạo AI agent của riêng mình với phí thuê bao AI một tháng (feat. chạy trên PC của tôi mà không cần Internet)

Bạn không thể sử dụng ChatGPT vì đang ở trong mạng nội bộ hoặc mạng đóng, cảm thấy phí thuê bao quá đắt đỏ, hay lo ngại tài liệu công ty bị gửi ra máy chủ bên ngoài? Trong khóa học này, bạn sẽ tự xây dựng ngay trên PC của mình một tác nhân AI có thể hoạt động mà không cần Internet, chỉ với một card đồ họa 8GB ra mắt vào năm 2017. Ngay cả khi không biết lệnh, bạn chỉ cần nhấp đúp vào 3 tệp là hoàn tất cài đặt. Chúng tôi sẽ công khai toàn bộ các lỗi thực tế gặp phải trong quá trình chuẩn bị và cách khắc phục, cùng tốc độ đo trực tiếp và nhật ký liên lạc với bên ngoài.

2 học viên đang tham gia khóa học này

Độ khó Nhập môn

Thời gian Không giới hạn

Python
Python
Deep Learning(DL)
Deep Learning(DL)
agents
agents
AI
AI
LLM
LLM
Python
Python
Deep Learning(DL)
Deep Learning(DL)
agents
agents
AI
AI
LLM
LLM

Bạn sẽ nhận được điều này sau khi học.

  • Trợ lý AI cá nhân của tôi hoạt động ngay cả khi không có Internet và nội dung trò chuyện không rời khỏi máy tính (đọc·ghi tệp, thực thi lệnh)

  • Trợ lý lập trình AI cục bộ trong VS Code, giải thích và sửa mã (tích hợp Continue)

  • Tiêu chí chọn mô hình AI phù hợp với cấu hình PC của tôi và cách kiểm tra giấy phép cho phép sử dụng trong công ty

  • Hiểu nguyên lý hoạt động của một agent được tạo bằng khoảng 170 dòng Python và có khả năng tự mình thêm các chức năng (công cụ).

  • Quy trình cài đặt trên PC thuộc mạng nội bộ·mạng đóng và các căn cứ đo đạc thực tế có thể giải thích cho người phụ trách an ninh.

Không chỉ là trợ lý dành riêng cho lập trình viên.

Hãy yêu cầu AI của riêng bạn ngay trong VS Code và nhận được kết quả mong muốn!


Công ty không thể sử dụng ChatGPT sao?

Nghe nói trí tuệ nhân tạo (AI) đang thay đổi công việc, nhưng trên thực tế, trong hoàn cảnh của tôi, có rất nhiều trường hợp không thể sử dụng được.

  • Vì mạng nội bộ công ty, mạng quốc phòng và phòng an toàn chặn Internet bên ngoài nên hoàn toàn không thể truy cập AI đám mây.

  • Tôi lo lắng rằng thông tin sẽ bị đưa ra máy chủ bên ngoài sau khi dán tài liệu công ty hoặc thông tin khách hàng vào ChatGPT.

  • Phí đăng ký và phí sử dụng liên tục phát sinh, nên chi phí trở thành gánh nặng khi cả nhóm cùng sử dụng.

Đáp án cho ba vấn đề này chỉ có một: đưa AI trực tiếp vào trong PC của bạn.

Không cần internet, không tốn chi phí, không lo rò rỉ dữ liệu

Trong khóa học này, bạn sẽ tự mình xây dựng từ đầu đến cuối AI Agent của riêng mình, chỉ hoạt động trên PC của bạn.

  • Không cần Internet: Sau khi cài đặt xong, bạn không cần Internet nữa. Khóa học cũng hướng dẫn cách chuyển và cài đặt trên máy tính thuộc mạng nội bộ hoặc mạng kín.

  • Không tốn chi phí: mọi công cụ đều miễn phí, không cần khóa API hay gói đăng ký trả phí. Tất cả chi phí chỉ là tiền điện.

  • Không rò rỉ dữ liệu: cả câu hỏi, câu trả lời và các tệp mà AI đọc hoặc ghi đều không rời khỏi PC.

Đây không chỉ là lời hứa suông. Trong quá trình chạy, chúng tôi ghi lại các kết nối mạng của từng chương trình với khoảng thời gian 0,1 giây, rồi trình bày nguyên trạng trong bài giảng kết quả xác nhận trực tiếp rằng không có kết nối nào đi ra bên ngoài.

Sơ đồ tổng thể về việc người dùng đặt câu hỏi cho máy chủ AI và mô hình Qwen3.5 bên trong PC của tôi thông qua tác nhân đầu cuối hoặc VS Code

Không cần thiết bị đắt tiền.

Card đồ họa của PC dùng để trình diễn là GTX 1070 Ti (8GB) ra mắt năm 2017. Kết quả đo trực tiếp bằng card này như sau.

Hạng mục | Đo thực tế Tốc độ tạo câu trả lời | 29.4 token/giây (nhanh hơn tốc độ đọc của con người) Chỉ sử dụng CPU, không có card đồ họa | 5.5 token/giây Bộ nhớ card đồ họa sử dụng | 6.8GB (vẫn còn dư dả trên card 8GB)

Mô hình được sử dụng là Qwen3.5-9B. Đây là một LLM được cấp phép theo Apache-2.0, cho phép sử dụng tự do trong mục đích thương mại, đồng thời xử lý ổn định tiếng Hàn và việc gọi công cụ. Đối với PC không có card đồ họa hoặc có bộ nhớ nhỏ, trình cài đặt sẽ tự động chọn mô hình nhỏ hơn, vì vậy bạn vẫn có thể làm theo ngay cả khi không có GPU.

Không cần biết lệnh: chỉ cần nhấp đúp 3 lần

Ngay cả khi không phải là nhà phát triển, chúng tôi đã đơn giản hóa quy trình cài đặt để bạn có thể làm theo đến cùng.

  1. 1_Cài đặt: Phát hiện card đồ họa, tải engine và model phù hợp, đồng thời tự động cài đặt Python và VS Code nếu máy chưa có.

  2. 2_Bật máy chủ AI: Bật máy chủ AI trên PC của bạn.

  3. 3_Khởi động tác nhân: Khi nhập câu hỏi, tác nhân AI sẽ tạo tệp và thực thi lệnh.

Nếu quá trình tải xuống bị gián đoạn, hãy nhấp đúp lại vào cùng tệp đó để tiếp tục tải. Nếu bạn thực hiện sai thứ tự hoặc gặp vấn đề, màn hình sẽ hướng dẫn bằng những lời dễ hiểu về việc cần làm. Ngoài ra, video bài giảng chỉ mang tính bổ trợ, bạn chỉ cần xem tài liệu hướng dẫn và làm theo cũng được. Nếu vẫn không hiểu, chúng tôi sẽ cố gắng trả lời bạn trong phòng trò chuyện mở sớm nhất có thể.

Sau khi hoàn thành bài giảng, bạn sẽ có được sản phẩm như thế này.

1. Tác nhân AI terminal hoạt động trên PC của tôi

Khi bạn nói: "Hãy lưu và chạy mã tính tổng các số nguyên tố từ 1 đến 100 rồi cho tôi biết", tác nhân sẽ tự lên kế hoạch, lưu tệp, thực thi, kiểm tra kết quả rồi trả lời. Trước khi ghi tệp hoặc thực thi lệnh, tác nhân luôn phải nhận được sự phê duyệt của con người.


Sơ đồ trình tự của cấu trúc lặp: tác nhân nhận câu hỏi sẽ gọi LLM, nếu có lệnh gọi công cụ thì thực thi, sau đó hỏi lại LLM.

2. Trợ lý cục bộ trong VS Code

Kết nối cùng máy chủ AI với tiện ích Continue trong VS Code. Bạn có thể yêu cầu giải thích mã, sửa lỗi ngay trong trình soạn thảo, đồng thời cho phép AI đọc và chỉnh sửa tệp ở chế độ Agent. Điều này đặc biệt hữu ích trong môi trường không thể sử dụng các công cụ đám mây.

Màn hình hiển thị bảng Continue đang mở ở bên trái VS Code, với chế độ Agent và mô hình cục bộ Qwen3.5-9B được chọn

3. Mã tác tử 170 dòng có thể tự chỉnh sửa trực tiếp

Tự triển khai trực tiếp nguyên lý của agent bằng khoảng 170 dòng Python. Code ngắn nên bạn có thể hiểu từng dòng, đồng thời sau khi khóa học kết thúc, bạn vẫn có thể tự thêm các tính năng (công cụ) mình muốn.

4. Cung cấp tài liệu hướng dẫn chi tiết để có thể tự mình làm theo

Nội dung học tập

Các khái niệm cốt lõi về LLM cục bộ

Chúng tôi chỉ trình bày một cách dễ hiểu những khái niệm thiết yếu khi lựa chọn mô hình, chẳng hạn như tệp mô hình GGUF, lượng tử hóa, ngữ cảnh và token. Bạn sẽ tìm hiểu lý do chất lượng không giảm đáng kể ngay cả khi nén mô hình deep learning xuống 4 bit, cũng như công thức chọn tệp phù hợp với card đồ họa của mình.

Chọn mô hình có thể sử dụng trong công ty

"Có thể tải xuống" và "được phép tùy ý sử dụng" là hai điều khác nhau. Tìm hiểu sự khác biệt giữa các giấy phép Apache-2.0, MIT, Llama và Gemma, cùng phương pháp 3 bước để kiểm tra giấy phép trên trang mô hình.

Biến PC của bạn thành máy chủ AI bằng llama.cpp

Khởi chạy một máy chủ cục bộ có thể trò chuyện theo cùng định dạng như OpenAI. Nhờ đó, bạn chỉ cần thay đổi địa chỉ là có thể kết nối nguyên vẹn với mã nguồn và ứng dụng được tạo cho OpenAI.

Tự tạo AI Agent

Trực tiếp triển khai cấu trúc cơ bản của agents, trong đó chương trình sẽ thay mặt thực thi khi LLM yêu cầu sử dụng công cụ. Bạn sẽ kiểm chứng bằng mã nguồn mọi thứ, từ menu công cụ, vòng lặp lặp lại cho đến quy trình để AI tự sửa khi xảy ra lỗi. Không chỉ đơn thuần trò chuyện với AI, bạn còn có thể trải nghiệm AX (trải nghiệm tác tử), nơi AI trực tiếp làm việc, ngay trên PC của mình.

Sử dụng trong môi trường không có Internet

Tổng hợp kết quả đo thực tế cho thấy không có liên lạc ra bên ngoài sau khi cài đặt, thiết lập tắt thống kê sử dụng của tiện ích mở rộng VS Code, cách chuyển và cài đặt trên PC thuộc mạng đóng không có Internet ngay từ đầu, cùng với những thông tin cần cung cấp cho bộ phận phụ trách bảo mật của công ty.

Tài liệu cung cấp

  • localAgent.zip: tệp thực thi bằng cách nhấp đúp, mã agent, cấu hình kết nối VS Code, tệp thực hành

  • Hướng dẫn thực hành (PDF 33 trang): Tài liệu tổng hợp toàn bộ nội dung khóa học, từ cài đặt, khắc phục sự cố đến cài đặt trong mạng đóng. Các nội dung hiển thị trên màn hình và việc cần làm đều được sắp xếp thành bảng, nên bạn có thể làm theo mà không cần xem video.

Khuyến nghị dành cho những người này

  • Nhân viên văn phòng làm việc trong môi trường bị chặn Internet, chẳng hạn như mạng nội bộ công ty hoặc mạng quốc phòng, nên không thể sử dụng AI đám mây.

  • Những người đang không thể sử dụng AI trong công việc vì lo lắng khi đưa tài liệu của công ty vào AI

  • Những người muốn thoải mái trải nghiệm AI trên chiếc PC mình đang có mà không phải trả phí đăng kýarsuaq

  • Nhà phát triển muốn hiểu bằng mã nguồn cách tác nhân AI thực sự hoạt động

  • Nhân sự IT và an ninh cần xem xét việc triển khai AI nội bộ mà không phải lo lắng về vấn đề bảo mật

Có cần kiến thức nền tảng không?

  • Việc cài đặt và sử dụng không yêu cầu kiến thức nền tảng. Bạn có thể thực hiện bằng cách nhấp đúp mà không cần dùng lệnh.

  • Cần có PC chạy Windows 10/11. Khuyến nghị sử dụng card đồ họa NVIDIA (từ 8GB trở lên), nhưng không có cũng vẫn có thể làm theo.

  • Chỉ cần internet khi cài đặt (tải xuống khoảng 6GB).

  • Phần giải thích mã sẽ dễ hiểu hơn nếu bạn biết cú pháp Python cơ bản (không bắt buộc).

  • Không sử dụng dịch vụ trả phí.

Khuyến nghị cho
những người này

Khóa học này dành cho ai?

  • Nhân viên văn phòng làm việc trong môi trường bị chặn Internet, chẳng hạn như mạng nội bộ công ty hoặc mạng quốc phòng, nên không thể sử dụng AI đám mây.

  • Những người làm việc thực tế không thể sử dụng AI trong công việc vì lo ngại việc đưa tài liệu công ty hoặc thông tin khách hàng vào ChatGPT.

  • Dành cho những ai muốn thoải mái sử dụng AI trên chiếc PC mình đang có mà không phải trả phí đăng ký hay phí sử dụng AI.

  • Nhà phát triển muốn hiểu ở cấp độ mã nguồn "AI Agent" thực sự hoạt động như thế nào

  • Nhân sự phụ trách CNTT và bảo mật cần xem xét việc triển khai AI trong nội bộ mà không phải lo lắng về vấn đề bảo mật

Cần biết trước khi bắt đầu?

  • Việc cài đặt và sử dụng không yêu cầu kiến thức nền tảng. Mọi thao tác đều được thực hiện chỉ bằng cách nhấp đúp, không cần nhập lệnh.

  • Cần có PC chạy Windows 10/11. Khuyến nghị sử dụng card đồ họa NVIDIA (VRAM từ 8GB trở lên), nhưng nếu không có, bạn vẫn có thể thực hiện bằng CPU và mô hình nhỏ (tốc độ sẽ chậm hơn).

  • Chỉ cần Internet khi cài đặt (tải xuống khoảng 6GB). Sau khi cài đặt, có thể hoạt động mà không cần Internet.

  • Phần giải thích mã sẽ dễ hiểu hơn nếu bạn biết cú pháp Python cơ bản (không bắt buộc).

  • Không sử dụng các dịch vụ trả phí hay khóa API. Tất cả công cụ đều miễn phí.

Xin chào
Đây là kmmom591

Xác minh sự nghiệp

877

Học viên

81

Đánh giá

4

Trả lời

4.6

Xếp hạng

9

Các khóa học

Xin chào.
Tôi là nhà phát triển đang làm việc với tư cách là nhà nghiên cứu quốc phòng và phát triển phần mềm tại một doanh nghiệp công nghiệp quốc phòng.

Tôi tốt nghiệp chuyên ngành Khoa học máy tính tại trường đại học,
sau khi gia nhập công ty công nghiệp quốc phòng, tôi đã tham gia vào các dự án phát triển phần mềm quốc phòng thực tế.
Hiện tại, tôi đang phát triển các phần mềm liên kết với hệ thống vũ khí và hệ thống quốc phòng,
đồng thời thực hiện phát triển hệ thống dựa trên C++ và Java.

Thêm

Chương trình giảng dạy

Tất cả

3 bài giảng ∙ (1giờ 17phút)

Tài liệu khóa học:

Tài liệu bài giảng
Ngày đăng: 
Cập nhật lần cuối: 

Đánh giá

Chưa có đủ đánh giá.
Hãy trở thành tác giả của một đánh giá giúp mọi người!

Khóa học khác của kmmom591

Hãy khám phá các khóa học khác của giảng viên!

Khóa học tương tự

Khám phá các khóa học khác trong cùng lĩnh vực!

Ưu đãi có thời hạn

16.940 ₫

30%

498.167 ₫