Product Management
Đăng nhập
ESC

Nhập từ khóa để tìm kiếm

↑↓ Di chuyển
Enter Mở
ESC Đóng

Bài 8 — Vận hành thực tế: độ tin cậy, giám sát, chi phí & mở rộng

Đã đọc 0/10 mục · còn khoảng 4 phút
Cách chúng tôi ghi nhận

Một mục được tính là đã đọc khi nó nằm giữa màn hình đủ lâu so với độ dài của nó (bảng và sơ đồ tính một nửa), bạn vẫn đang cuộn hoặc bấm phím, và bạn đã thấy tới cuối mục. Lướt nhanh hoặc để tab mở không được tính. Chúng tôi chỉ lưu thời gian đọc từng mục — không lưu gì khác.

Chạy được một lần trên máy bạn khác xa với chạy ổn định 24/7 trên hệ thống thật. Bài này biến prototype thành hệ thống vận hành được: retry, monitoring, chi phí, và khi nào nên "đóng băng" agent thành script.

Độ tin cậy: thiết kế cho thất bại

Web sẽ lỗi: mạng chập, trang đổi, CAPTCHA bất ngờ. Agent phải chịu lỗi có kiểm soát:

  • Retry có backoff cho lỗi tạm thời (timeout, mạng):
for attempt in range(3):
    try:
        result = run_step(page, plan); break
    except TimeoutError:
        time.sleep(2 ** attempt)      # 1s, 2s, 4s
else:
    escalate("Bước thất bại sau 3 lần")
  • Idempotency: thiết kế để chạy lại không gây tác dụng kép (đừng gửi email 2 lần). Kiểm tra "đã làm chưa" trước khi làm.
  • Checkpoint: lưu tiến độ để phục hồi từ giữa chừng, không chạy lại từ đầu.

Giám sát: nhìn thấy agent đang làm gì

Cần theo dõi tối thiểu:
- Tỉ lệ hoàn thành tác vụ (success rate)
- Số bước trung bình / token mỗi lần chạy
- Tỉ lệ phải escalate cho người
- Thời gian chạy p50/p95
- Video/screenshot của các lần thất bại

Đặt cảnh báo khi success rate tụt hoặc chi phí tăng đột biến — thường là dấu hiệu web đích vừa đổi giao diện.

Chi phí: agent đắt hơn script rất nhiều

Mỗi bước gọi LLM (đôi khi kèm ảnh) tốn token. 20 bước × nhiều lần chạy/ngày cộng dồn nhanh.

  • Dùng accessibility tree thay screenshot khi có thể (rẻ hơn nhiều token ảnh).
  • Cache các bước ổn định.
  • Đặt trần token/lần chạy và trần ngân sách/ngày.
  • Dùng model nhỏ cho bước dễ, model mạnh chỉ cho bước khó.

Khung tư duy: "Khi nào đóng băng agent thành script"

Agent khám phá ra chuỗi hành động ổn định, lặp lại y hệt mỗi ngày?
  -> GHI LẠI chuỗi đó thành script Playwright cứng (rẻ, nhanh, ổn định)
  -> Chỉ gọi lại agent khi script gãy (giao diện đổi)

Mô hình "agent để khám phá, script để vận hành":
  Agent tìm đường một lần -> đóng băng -> chạy rẻ mãi về sau.

Đây là mẫu vận hành tiết kiệm nhất: agent linh hoạt để dò đường, script cứng để chạy hàng loạt.

Các bước đưa lên production

  • Chạy shadow mode: agent chạy nhưng chỉ log, chưa hành động thật, để đo success rate.
  • Bật hành động thật ở mức tự chủ thấp (duyệt từng bước) cho nhóm nhỏ.
  • Thêm retry + checkpoint + idempotency.
  • Dựng dashboard giám sát + cảnh báo.
  • Đặt trần chi phí và kill switch.
  • Sau khi ổn định, đóng băng các chuỗi lặp thành script.

Checklist sẵn sàng production

  • [ ] Có retry/backoff cho lỗi tạm thời
  • [ ] Idempotent — chạy lại không gây tác dụng kép
  • [ ] Có checkpoint để phục hồi
  • [ ] Dashboard success rate + chi phí + cảnh báo
  • [ ] Trần token/ngân sách + kill switch
  • [ ] Đã cân nhắc đóng băng phần ổn định thành script

Ví dụ cụ thể

Agent tải báo cáo mỗi sáng chạy 30 ngày ổn định, luôn cùng 6 bước. Bạn ghi lại thành script Playwright cứng: chi phí giảm 95%, tốc độ tăng 10 lần. Khi web đổi layout khiến script gãy, hệ thống tự gọi lại agent để dò đường mới rồi đóng băng lại — vòng đời bền vững.

Sai lầm thường gặp

  • Không có monitoring: agent âm thầm hỏng nhiều ngày mà không ai biết.
  • Không idempotent: retry khiến gửi email/đặt hàng nhiều lần.
  • Chạy agent cho việc đã ổn định: đốt token cho tác vụ script làm rẻ hơn 20 lần.
  • Không có trần chi phí: một vòng lặp kẹt đốt sạch ngân sách qua đêm.
  • Nhảy thẳng lên tự chủ cao: bỏ qua shadow mode, agent hành động thật khi chưa được kiểm chứng.

Tổng kết khóa học

Bạn đã đi từ khái niệm browser/computer-use, dựng Playwright + sandbox, cho agent nhìn trang, ráp vòng lặp observe–think–act, xử lý tình huống động, điều khiển máy tính bằng pixel, phòng thủ prompt injection, và vận hành production. Nguyên tắc xuyên suốt: bắt đầu ở mức tự chủ thấp, verify mọi thứ, sandbox mọi thứ, và đóng băng phần ổn định thành script. Chúc bạn xây được những agent làm việc thật, an toàn và tiết kiệm.

Học xong bài này rồi? Tạo tài khoản miễn phí để lưu lại — lần sau vào là biết ngay đang dở ở đâu, và học hết khóa thì có chứng chỉ. Lưu tiến độ của tôi