inflearn logo

Khi tác nhân AI điều khiển ứng dụng của tôi: Thực chiến bảo mật ứng dụng Android

Trong thời đại các tác nhân AI thay người dùng thao tác trên ứng dụng, bạn sẽ thực hành trực tiếp trên trình giả lập cách ngăn tính năng chuyển tiền và mã xác thực trong ứng dụng Android của mình bị lợi dụng.

1 học viên đang tham gia khóa học này

Độ khó Cơ bản

Thời gian Không giới hạn

Android
Android
Kotlin
Kotlin
Docker
Docker
prompt engineering
prompt engineering
security training
security training
Android
Android
Kotlin
Kotlin
Docker
Docker
prompt engineering
prompt engineering
security training
security training

Bạn sẽ nhận được điều này sau khi học.

  • Cách kiểm tra các màn hình, nút, intent, deep link và thông báo nhạy cảm trong ứng dụng của tôi từ góc độ của tác nhân và ứng dụng độc hại

  • accessibilityDataSensitive · Phiên bản công khai của thông báo · Mã ứng dụng bảo vệ mã xác minh bằng SMS Retriever

  • Cách tạo màn hình xác nhận “cái gì · đi đâu · bao nhiêu” với filterTouchesWhenObscured·setHideOverlayWindows

  • Cách giới hạn lời gọi giữa các ứng dụng bằng xác minh bên gọi, liên kết ứng dụng đã xác minh, FLAG_IMMUTABLE và danh sách kiểm tra các thành phần trong ứng dụng của tôi

  • Thiết kế một tác nhân biết dữ liệu hiển thị bị mất ở đâu và đảm bảo mã tuân thủ phạm vi công việc được người dùng xác định bằng lời.

  • Tiêu chí xác định những gì sẽ được cung cấp cho AppFunctions và các tác nhân trong ứng dụng.

  • Cơ chế ký yêu cầu chuyển tiền bằng khóa thiết bị sau khi qua bước kiểm tra phía máy chủ về trạng thái tạm giữ/giới hạn, requestHash và xác thực sinh trắc học.

  • Nhật ký hoạt động và cảnh báo của tác nhân, trình tự dừng và khôi phục khi xảy ra sự cố

Chỉ một tin nhắn cũng có thể chạm đến nút chuyển tiền trong ứng dụng thanh toán của tôi.

Thông qua thực hành trên trình giả lập, bạn sẽ tìm hiểu AI agent đọc màn hình điện thoại và thay bạn thao tác ứng dụng có thể lợi dụng ứng dụng của bạn như thế nào, cũng như nhà phát triển ứng dụng Android có thể ngăn chặn điều gì bằng mã nguồn. Ngoài ra còn có lộ trình riêng dành cho nhà phát triển muốn tích hợp tính năng agent vào ứng dụng của mình và nhà phát triển backend vận hành máy chủ thanh toán, xác thực.

  • Mỗi buổi học đều theo trình tự giải thích (hoạt ảnh) → tái hiện (thực hành cấu trúc nghiên cứu và sự cố trong môi trường thực hành) → demo (màn hình thực tế trên trình giả lập). Mọi cuộc tấn công đều chỉ diễn ra trong trình giả lập trên PC của tôi và ứng dụng giả.

  • Hãy trực tiếp chứng kiến cảnh một tin nhắn giả, một dòng đánh giá và một ô được vẽ chồng lên nhau đi qua agent rồi dẫn đến chuyển tiền, rò rỉ hội thoại và đặt hàng; sau đó dùng make checkmột dòng để xác định “bị xâm nhập → bị chặn”.

  • Gồm 9 phần, 27 bài học, tổng thời lượng 4 giờ 19 phút. Bạn có thể chọn lộ trình phù hợp với công việc của mình trong số ba lộ trình: nhà phát triển ứng dụng (25 bài học) · nhà phát triển tác tử (21 bài học) · phụ trách backend và bảo mật (11 bài học).

Vì sao khóa học này được tạo ra?

Từ đầu năm 2026, các tác nhân trên điện thoại đã phát triển nhanh chóng. Tác nhân của hệ điều hành mở ứng dụng trên màn hình ảo trong thiết bị, xem ảnh chụp màn hình rồi nhấn vào; tác nhân mã nguồn mở điều khiển điện thoại thông qua dịch vụ trợ năng hoặc adb trên PC. Các nghiên cứu công bố trong cùng năm cho thấy chỉ một câu ẩn trên màn hình cũng có thể khiến những tác nhân này làm điều người dùng không yêu cầu, và các ứng dụng ngân hàng độc hại lợi dụng quyền trợ năng theo cách tương tự đã gây thiệt hại thực tế. Thế nhưng, rất khó tìm được khóa học đề cập đến vấn đề này từ góc độcủa những nhà phát triển ứng dụng. Trong khóa học này, chúng ta sẽ xem xét lại màn hình, nút bấm, intent, liên kết sâu, thông báo và mã xác thực của ứng dụng dưới góc nhìn của tác nhân và ứng dụng độc hại, rồi thử ngăn chặn từng lớp ở ba nơi: mã ứng dụng, mã tác nhân và máy chủ.

Tôi có điều muốn nói thật lòng.

Cảnh AI bị xâm nhập trong bài thực hành được tái hiện bằng một mô hình giả lập phục vụ đào tạo được tạo ra để làm theo nguyên văn chỉ thị ẩn. Khi chạy cùng tình huống đó trên các mô hình thương mại mới nhất, chúng thường không bị đánh lừa bởi chỉ thị ẩn đơn giản đến mức này. Tuy nhiên, những câu chữ tinh vi hơn hoặc các mô hình khác vẫn có thể bị đánh lừa, và kết quả thay đổi tùy theo mô hình cũng như thời điểm. Vì vậy, khóa học này không trông chờ mô hình tự từ chối mà hướng dẫn cách ngăn chặn bằng mã ở bên ngoài mô hình.

Những nội dung bạn sẽ học được malembe


Phần (1) Giới thiệu · Điện thoại di động có thêm tác nhân AI

Bắt đầu bằng cảnh một chỉ dẫn ẩn trong một tin nhắn đi qua quyền trợ năng, chạm tới mã xác thực và nút chuyển tiền của ứng dụng thanh toán. Tổng hợp ba cách agent nhìn thấy màn hình (cây trợ năng, màn hình ảo và ảnh chụp màn hình, các hàm do ứng dụng cung cấp) cùng các biện pháp phòng vệ khác nhau cho từng cách, rồi khởi chạy trình giả lập, máy chủ lab và ứng dụng giả để theo dõi trọn vẹn tác vụ đầu tiên.

Mục (2) Màn hình chính là đầu vào · Tin nhắn · Thông báo · Đánh giá · Văn bản trợ năng ẩn

Tin nhắn và thông báo đẩy mà ai cũng có thể gửi, các nhóm chat trên ứng dụng nhắn tin và bài đánh giá mà ai cũng có thể đăng đều trở thành mệnh lệnh đối với tác nhân. Chúng tôi cũng tái hiện cả những chỉ dẫn không hiển thị trên màn hình, chỉ xuất hiện trong nhãn mô tả trợ năng và bằng chữ cực nhỏ. Bạn sẽ xem tính năng bảo vệ dữ liệu ngăn chặn được đến đâu và thất bại ở đâu, đồng thời khiến mã tuân thủ phạm vi công việc được xác định chỉ bằng lời người dùng.

Phần (3) Mã xác thực và tiền · accessibilityDataSensitive, bảo vệ mã xác thực

Chúng ta sẽ xem cách mã xác minh của giao dịch chuyển tiền do kẻ tấn công khởi tạo bị lộ chỉ vì một câu “Trả lời giúp tôi”. Bật riêng các biện pháp phòng vệ phía nhà phát triển ứng dụng (accessibilityDataSensitive, không đưa mã vào thông báo, SMS Retriever, FLAG_SECURE) và phía tác nhân (dừng ở ứng dụng nhạy cảm, danh sách ứng dụng được phép, che mã xác minh) để ngăn chặn. Chúng ta cũng sẽ điểm qua các biện pháp bảo vệ mã xác minh được bổ sung trong từng phiên bản Android: chúng ngăn chặn điều gì và vẫn để lọt điều gì.

Mục (4) Có thể tin cửa sổ xác nhận không? · Lớp phủ, đăng nhập giả, đánh cắp thao tác chạm

Cửa sổ phủ chồng lên nhau đánh lừa con người và agent theo những cách khác nhau. Mô phỏng hộp thoại “Kiểm tra bảo mật hoàn tất” trên màn hình xác nhận và màn hình đăng nhập giả mạo tên ứng dụng thanh toán, rồi ngăn chặn bằng filterTouchesWhenObscured, setHideOverlayWindows và màn hình xác nhận hiển thị “nội dung gì, gửi đến đâu, số tiền bao nhiêu”.

Mục (5) Lời gọi giữa các ứng dụng · Intent, liên kết sâu, PendingIntent

Bạn sẽ xem tình huống ứng dụng khác gọi cổng vào bên ngoài của agent, hoặc bỏ qua cả màn hình xác nhận chuyển tiền chỉ bằng một liên kết sâu. Chúng tôi sẽ tổng hợp thành danh sách kiểm tra các component trong ứng dụng của bạn, gồm xác minh bên gọi, liên kết ứng dụng đã được xác thực, nguyên tắc “chỉ điền thông tin rồi xác nhận lại”, FLAG_IMMUTABLE và kiểm tra exported.


Phần (6) Khi cho phép tác nhân truy cập ứng dụng · AppFunctions và tác nhân bên trong ứng dụng

Khi cung cấp chức năng bằng AppFunctions thay vì tự động hóa giao diện, bạn nên cung cấp những gì và không nên cung cấp những gì; khi tích hợp một trợ lý tư vấn vào ứng dụng, cần thiết lập phạm vi công cụ, bước xác nhận và xác thực đầu ra của mô hình như thế nào; đồng thời tìm hiểu nên lưu danh bạ, lịch sử trò chuyện và khóa mô hình ở đâu.

Mục (7) Máy chủ tin vào điều gì · Tạm giữ · Giới hạn · Play Integrity · Chữ ký giao dịch

Ngay cả khi ứng dụng bị xâm nhập, máy chủ vẫn là tuyến phòng thủ cuối cùng. Hãy tìm hiểu về việc tạm giữ và giới hạn giao dịch đối với người gửi lần đầu, requestHash của Play Integrity và cách đánh giá rủi ro từ ứng dụng điều khiển màn hình, bằng chứng về khóa phần cứng, cũng như chữ ký giao dịch dùng khóa thiết bị đã được xác thực sinh trắc học để ký yêu cầu chuyển tiền.

Mục (8) Khi tác nhân do người khác tạo sử dụng ứng dụng của tôi · tác nhân adb, tác nhân hệ điều hành

Xác nhận qua bản dump cấu trúc màn hình thực tế rằng cờ đánh dấu nội dung nhạy cảm của Accessibility không có tác dụng với các tác nhân mã nguồn mở điều khiển điện thoại bằng adb trên PC. Tổng hợp những việc nhà phát triển ứng dụng có thể làm để ứng phó với các tác nhân của hệ điều hành và nhà sản xuất, vốn thao tác ứng dụng bằng ảnh chụp màn hình trên màn hình ảo.

Phần (9) Phát hành và vận hành · Nhật ký hành vi, ứng phó sự cố, danh sách kiểm tra trước khi phát hành

Tìm hiểu cần ghi lại những gì trong nhật ký hành vi của agent và giám sát như thế nào, xem trình tự dừng và khôi phục khi xảy ra sự cố, rồi kết thúc bằng checklist trước khi phát hành dành cho nhà phát triển ứng dụng và nhà phát triển agent (mỗi checklist gồm 12 mục).

Khuyến nghị cho
những người này

Khóa học này dành cho ai?

  • Nhà phát triển xây dựng tính năng agent hoạt động trên điện thoại di động

  • Nhà phát triển Android muốn tích hợp tính năng tư vấn AI hoặc AppFunctions vào ứng dụng của mình.

  • Nhà phát triển tạo ứng dụng Android có các màn hình nhạy cảm như thanh toán, xác thực và nhắn tin.

  • Những người phụ trách backend/bảo mật, vận hành máy chủ thanh toán và xác thực, đang cân nhắc cách xử lý các yêu cầu do agent gửi đến.

  • Dành cho những ai chỉ từng thấy prompt injection trên web hoặc máy chủ và muốn trực tiếp xem nó khác biệt thế nào trên điện thoại.

Cần biết trước khi bắt đầu?

  • Chỉ cần đọc được mã Kotlin và biết sơ qua về Activity, Intent là được. Không cần kiến thức về LLM hay bảo mật.

  • Chỉ cần có thể chạy lệnh trong terminal và đọc kết quả đầu ra.

Xin chào
Đây là brunoleebi8302

Xác minh sự nghiệp

Trong thời kỳ Y2K đầy biến động của ngành CNTT, tôi bắt đầu sự nghiệp với vai trò nhà phát triển máy chủ. Sau đó, tại các hiện trường thuộc nhiều ngành nghề khác nhau, tôi đảm nhiệm đan xen vai trò nhà phát triển và kỹ sư hạ tầng, trực tiếp lĩnh hội mọi thứ từ nền tảng công nghệ đến hệ sinh thái hạ tầng phức tạp. Dựa trên kinh nghiệm xây dựng và tinh chỉnh vô số hệ thống, gần đây tôi đang tạo ra những giá trị mới trong lĩnh vực an ninh CNTT và công nghệ hội tụ.
Thêm

Chương trình giảng dạy

Tất cả

28 bài giảng ∙ (4giờ 18phút)

Tài liệu khóa học:

Tài liệu bài giảng
Ngày đăng: 
Cập nhật lần cuối: 

Đánh giá

Chưa có đủ đánh giá.
Hãy trở thành tác giả của một đánh giá giúp mọi người!

Khóa học khác của brunoleebi8302

Hãy khám phá các khóa học khác của giảng viên!

Khóa học tương tự

Khám phá các khóa học khác trong cùng lĩnh vực!

Ưu đãi có thời hạn

44 ₫

35%

1.812.452 ₫