Tinh chỉnh LLM : Thực hành RunPod và Multi-GPU
danielyouk
Đúc kết đầy đủ bí quyết LLM Fine-Tuning, học từ chuyên gia dự án LLM ở Silicon Valley.
Cơ bản
LLM, RunPod, openAI API
Bạn có thể sử dụng Docker để tạo môi trường phân tích học sâu trên đám mây. Khi kết hợp Docker và đám mây do Google, MS quản lý, bạn có thể thực hiện công việc bằng các phương pháp phân tích học sâu mới nhất trên máy tính của mình.
251 học viên
Độ khó Cơ bản
Thời gian Không giới hạn


Đánh giá từ những học viên đầu tiên
5.0
SPAGGY
Ngay cả những người mới bắt đầu sử dụng Docker cũng có thể dễ dàng làm theo.
5.0
심심한 펭귄
Tôi đã tìm kiếm các bài giảng về Docker cần thiết cho việc phân tích dữ liệu và tham gia bài giảng Đó là lĩnh vực mà tôi quan tâm ngay từ đầu, nhưng tôi không tìm được bài giảng phù hợp, nhưng đây là một bài giảng rất hay dành cho mlops! Bài giảng không chỉ đề cập đến Docker mà còn cả hệ thống Linux và đám mây! Mình chưa nghe đến cuối nhưng tuy hơi khó nhưng mình nghĩ mình có thể theo dõi và áp dụng vào thực tế.
5.0
Sung Cheol Kim
Trước hết xin cảm ơn bạn đã tạo ra một bài giảng rất hay. Tôi là người tiến hành nghiên cứu và thực hành về ML/AI và tôi đã tham gia khóa học này khi đang tìm kiếm một khóa học tốt liên quan đến MLOps. Có những bài giảng dễ hơn về Docker, nhưng trong bài giảng này, phần giải thích ở mức nâng cao hơn nên tôi không chỉ thu được những kiến thức đơn giản mà còn có được cái nhìn sâu sắc để giải quyết các vấn đề cơ bản trong suốt bài giảng. Đồng thời, mỗi bài giảng đều được chia thành những nội dung nhỏ, đơn giản nên tôi có thể tiến dần đến những nội dung khó hơn một cách tự nhiên và học từng chút một. Trên hết, các điểm chính được sắp xếp hợp lý dựa trên bí quyết thu được khi làm việc trong ngành thực tế, vì vậy tôi đã học được cách tập trung trong tình huống dễ bị nhầm lẫn bởi quá nhiều chức năng. Tôi rất mong chờ những bài giảng sau này. Cảm ơn
Docker được sử dụng để xây dựng môi trường phân tích dữ liệu giống như Kaggle
Nhiều cách khác nhau để kết nối với đám mây với sức mạnh tính toán mạnh mẽ tại địa phương
Làm thế nào để giảm thiểu chi phí khi sử dụng đám mây
Linux để hiểu Docker
Sử dụng chức năng container của IDE (VSCode, RStudio, Jupyter Notebook)
Áp dụng vùng chứa Docker để đồng bộ hóa cùng một môi trường phân tích dữ liệu trên môi trường cục bộ và máy tính đám mây Azure của bạn.
Phân tích ánh sáng được thực hiện trên máy tính cục bộ.
Đối với các phân tích tốn nhiều tài nguyên, hãy thực hiện trên máy tính đám mây.
Sự khác biệt về tốc độ có thể nhìn thấy (trái: đám mây so với phải: môi trường cục bộ)
Giảm giá 10% tại chỗ trên giá thông thường
Sử dụng điện toán đám mây NVIDIA GPU với chi phí thấp
Khi sử dụng máy tính đám mây làm máy chủ cho nhóm của bạn, bạn có thể hoàn toàn cô lập môi trường làm việc của từng thành viên trong nhóm bằng các container Docker.
Sử dụng tính năng Liên kết động để nhanh chóng tìm tài liệu có liên quan ngay cả sau giờ học.
Duy trì khuôn khổ cơ bản của tài liệu giảng dạy
Liên kết cập nhật tài liệu mới nhất và cho phép bạn tải xuống tài liệu lớp học định kỳ sau giờ học để truy cập nhanh vào thông tin mới nhất.

Tìm hiểu cách hiểu và áp dụng các lệnh Docker bằng cách sử dụng chức năng trợ giúp Docker. (Phần 4)
docker chạy --trợ giúp
Sử dụng chatgpt

Tạo máy ảo Linux trên Azure Cloud và kết nối môi trường cục bộ của bạn với máy ảo đám mây theo nhiều cách khác nhau. (Phần 6)
ssh dựa trên khóa (shell an toàn)
rdp (giao thức máy tính từ xa) ở chế độ gui
Kết nối với VS Code Environment thông qua Remote Tunnel Extension
Docker cho Python

Tìm hiểu cách tạo môi trường phân tích Python bằng tiện ích mở rộng dev container VS Code. (Phần 7)
Xây dựng và triển khai hình ảnh Docker

Docker dành cho Python sử dụng các container dev và tiện ích mở rộng đường hầm từ xa cho phép bạn sử dụng Docker mà không cần biết cú pháp cơ bản của Docker. Mặc dù đây là một tính năng mạnh mẽ, nhưng để hiểu rõ hơn về cú pháp Docker, chúng tôi sẽ hướng dẫn quy trình cài đặt RStudio mới nhất cùng với Kaggle R Docker Image, bao gồm các nội dung sau: (Phần 8)
SAO CHÉP và THÊM
Cài đặt các chương trình bổ sung bằng lệnh RUN
Hiểu về kết nối cổng
CMD và ENTRYPOINT
ĐỐI TƯỢNG
Thiết lập hệ thống chia sẻ tập tin

Khi kết nối môi trường cục bộ và đám mây, vốn là mục tiêu của phòng thí nghiệm, thì việc chỉ kết nối môi trường điện toán là không đủ. Mặc dù bạn có thể cảm thấy thoải mái khi học, nhưng việc thiết lập hệ thống chia sẻ tệp là điều cần thiết để áp dụng kiến thức đã học vào các dự án thực tế. Nó bao gồm các chủ đề sau: (Mục 11)
Tạo ADLS2 ( azure-data-lake-gen2 )
Kết nối ADLS2 với máy ảo Linux thông qua blob mount
Kết nối ADLS2 với môi trường Windows thông qua phương pháp blobfuse
Truy cập ADLS2 Directory trong môi trường Windows và MAC thông qua Microsoft Azure Storage Explorer
Bài viết này hướng dẫn cách thiết lập môi trường phân tích Spark trên máy tính cá nhân của bạn bằng Docker Compose và ADLS2. (Mục 11)
Hiểu biết khái niệm về Docker Compose
Kết nối ADLS2 trực tiếp với vùng chứa Docker
Cấu hình môi trường phân tích PySpark
Triển khai ảo hóa thực sự

Triển khai container hóa thực sự, mục tiêu của Docker, trên các máy ảo Linux Server trong Azure Cloud. (Phần 12)
Chúng tôi mô phỏng quá trình tạo quản trị viên máy chủ và nhiều người dùng, tất cả đều chia sẻ một Docker Image chung, đồng thời hoàn toàn cô lập môi trường Docker Container của nhau. Nội dung này trở thành cốt lõi của mlops.
Sử dụng Visual Studio Code
Cài đặt GPU áp dụng cho máy ảo Linux trên đám mây và kết nối với môi trường cục bộ
Môi trường cục bộ có thể là Windows, Linux hoặc MAC, do đó bạn có thể tiến hành dự án trong bất kỳ môi trường nào.
Sự tự tin vào các dự án sử dụng Docker
Thoát khỏi gánh nặng của đám mây và Linux
Máy tính cao cấp dựa trên GPU có giá khoảng 10 đô la một tháng
H. Tôi có cần GPU ở môi trường cục bộ của mình không?
Việc cấu hình cùng một môi trường phân tích dữ liệu dựa trên GPU tại địa phương và trên đám mây không có nghĩa là bạn cần có GPU tại địa phương.
Nếu không thiết lập cài đặt GPU, môi trường phân tích sẽ được thiết lập dựa trên CPU.
H. Tôi có thể sử dụng hệ điều hành nào để tạo ra kết quả cuối cùng?
Bạn có thể thực hành trong mọi trường hợp, bất kể hệ điều hành tại môi trường cục bộ của bạn là Windows, Linux hay MAC.
Kết nối với máy tính đám mây Linux từ môi trường cục bộ của bạn, bất kể hệ điều hành nào ở môi trường cục bộ của bạn.
H. Tôi là người dùng Python. Có một phần liên quan đến R trong bài giảng. Tôi có cần học nội dung liên quan đến R không?
Như bạn sẽ nhận thấy sau khi tham gia lớp học, việc sử dụng tiện ích mở rộng dev container của VS Code giúp quá trình tạo container docker python trở nên vô cùng dễ dàng. Trên thực tế, sự đơn giản này có thể khiến bạn xa rời mục tiêu học cú pháp Docker hơn. Ví dụ, các vùng chứa dev sẽ tự động thực hiện quy trình gắn ổ đĩa ngay cả khi bạn không áp dụng quy trình gắn ổ đĩa được nhấn mạnh trong hầu hết các lớp Docker.
Vì vậy, tôi cố tình đưa vào phần R để giúp sinh viên học cú pháp Docker. Nhiều bài giảng về Docker dựa trên các ứng dụng dựa trên ứng dụng như nodejs, nhưng chúng tôi đã đưa thêm phần R để đưa vào các trường hợp dựa trên dữ liệu để các kỹ sư dữ liệu và nhà khoa học có thể truy cập dễ dàng nhất có thể.
Thay vì nghĩ đây là phần để học R, hãy coi đây là khóa học giúp bạn củng cố hiểu biết về cú pháp Docker.
H. Chi phí hợp lý cho việc sử dụng dịch vụ đám mây là bao nhiêu?
Đối với các mô hình được sử dụng để thực hành, khi áp dụng tùy chọn Giảm giá ngay, chi phí khoảng 10 đô la mỗi tháng (nếu sử dụng khoảng 3 giờ mỗi ngày).
Việc xây dựng các máy ảo có thông số kỹ thuật cao cho các dự án thực tế có thể phát sinh thêm chi phí.
H. Người chơi có cần biết không?
Khóa học này không yêu cầu bạn phải có kiến thức trước.
Mặc dù không cần có kiến thức trước nhưng độ khó của bài giảng không hề dễ dàng. Tuy nhiên, nội dung được cấu trúc sao cho có thể lặp lại và đi sâu vào nhiều phần khác nhau của bài giảng.
Khóa học này dành cho ai?
Kỹ sư dữ liệu, nhà khoa học và nhà phân tích muốn tìm hiểu Docker một cách thực tế.
Các nhà phát triển và kỹ sư muốn học Docker thông qua thực hành
Bất kỳ ai cần danh mục đầu tư thực tế trên đám mây
670
Học viên
73
Đánh giá
74
Trả lời
4.8
Xếp hạng
7
Các khóa học
Hoạt động với tư cách là Pod Lead tại doanh nghiệp AI dựa trên LLM
Tốt nghiệp Đại học Quốc gia Seoul khoa Kỹ thuật Cơ khí và Hàng không vũ trụ
Thạc sĩ Kỹ thuật Cơ khí Hàng không tại một trường cao học ở Châu Âu
Thực hiện nghiên cứu nghiên cứu sinh tiến sĩ tại viện nghiên cứu kỹ thuật ở Đức
Kinh nghiệm làm Senior Data Scientist tại tập đoàn năng lượng lớn của Châu Âu
Hoạt động với tư cách Senior Consultant tại công ty tư vấn năng lượng có trụ sở tại Anh
Thực hiện dự án kỹ thuật dữ liệu dựa trên Databricks
Đạt thành tích Top 3% trong cuộc thi AI về giao dịch chứng khoán trên Kaggle
Hiện đang hoạt động với tư cách là Trưởng nhóm phát triển AI Agent Development Team Lead
Tất cả
66 bài giảng ∙ (10giờ 27phút)
Tài liệu khóa học:
Tất cả
17 đánh giá
4.8
17 đánh giá
Đánh giá 10
∙
Đánh giá trung bình 4.6
5
Ngay cả những người mới bắt đầu sử dụng Docker cũng có thể dễ dàng làm theo.
Cảm ơn bạn đã đánh giá, SPAGGY. Tôi sẽ trở lại với những bài giảng hay trong tương lai😀 Ngoài ra, nếu bạn có thắc mắc gì về nội dung lớp học bất cứ lúc nào, chúng tôi sẽ giải đáp một cách dễ dàng và chân thành nhất có thể.
Đánh giá 4
∙
Đánh giá trung bình 5.0
5
Đó là một bài giảng thực tế. Nó cung cấp các ví dụ thực tế và mẹo về cách sử dụng Docker trong môi trường làm việc thực tế, vì vậy mặc dù có rất nhiều bài giảng nhưng tôi vẫn đắm chìm trong đó vào cuối tuần. Tôi sẽ nghe lại vào lần tới khi có bài giảng khác.
Tôi rất vui vì bạn thấy bài giảng hữu ích. Tôi đã cố gắng cấu trúc bài giảng theo cách giống với thực tế nhất có thể. Hẹn gặp lại các bạn trong bài giảng tiếp theo. Nếu bạn cần, vui lòng liên hệ với tôi qua email và tôi sẽ cố gắng hết sức để cung cấp hỗ trợ bổ sung.
Đánh giá 1
∙
Đánh giá trung bình 5.0
5
Trước hết xin cảm ơn bạn đã tạo ra một bài giảng rất hay. Tôi là người tiến hành nghiên cứu và thực hành về ML/AI và tôi đã tham gia khóa học này khi đang tìm kiếm một khóa học tốt liên quan đến MLOps. Có những bài giảng dễ hơn về Docker, nhưng trong bài giảng này, phần giải thích ở mức nâng cao hơn nên tôi không chỉ thu được những kiến thức đơn giản mà còn có được cái nhìn sâu sắc để giải quyết các vấn đề cơ bản trong suốt bài giảng. Đồng thời, mỗi bài giảng đều được chia thành những nội dung nhỏ, đơn giản nên tôi có thể tiến dần đến những nội dung khó hơn một cách tự nhiên và học từng chút một. Trên hết, các điểm chính được sắp xếp hợp lý dựa trên bí quyết thu được khi làm việc trong ngành thực tế, vì vậy tôi đã học được cách tập trung trong tình huống dễ bị nhầm lẫn bởi quá nhiều chức năng. Tôi rất mong chờ những bài giảng sau này. Cảm ơn
Bạn đang làm công việc tiên phong. Tôi biết ơn vì bài giảng rất hữu ích. Tôi nghĩ sẽ thật tuyệt nếu bạn có thể áp dụng nội dung bài giảng vào thực tế cuộc sống. Nếu bạn có thể chia sẻ những câu chuyện thành công đã được áp dụng vào thực tế thì đó sẽ là một vòng kiến thức đạo đức. Cảm ơn
Đánh giá 1
∙
Đánh giá trung bình 5.0
5
Tôi đã tìm kiếm các bài giảng về Docker cần thiết cho việc phân tích dữ liệu và tham gia bài giảng Đó là lĩnh vực mà tôi quan tâm ngay từ đầu, nhưng tôi không tìm được bài giảng phù hợp, nhưng đây là một bài giảng rất hay dành cho mlops! Bài giảng không chỉ đề cập đến Docker mà còn cả hệ thống Linux và đám mây! Mình chưa nghe đến cuối nhưng tuy hơi khó nhưng mình nghĩ mình có thể theo dõi và áp dụng vào thực tế.
Chim cánh cụt chán! Bạn có rất nhiều ý nghĩa ngay cả trong ID của bạn. Vấn đề lớn về Mlops là gì? Những người trong lĩnh vực này đã là chuyên gia về mlop nếu họ có thể sử dụng một chút đám mây, vùng chứa Docker và nếu có thể, Git ở một mức độ nào đó ^^; Tôi hy vọng rằng những gì bạn học sẽ được kết nối với việc thực hành trong tương lai của bạn và bạn sẽ đạt được kết quả tốt.
Đánh giá 155
∙
Đánh giá trung bình 5.0
Hãy khám phá các khóa học khác của giảng viên!
Khám phá các khóa học khác trong cùng lĩnh vực!
Ưu đãi có thời hạn, kết thúc sau 2 ngày ngày
53.900 ₫
30%
1.610.004 ₫