Product Management
Đăng nhập
ESC

Nhập từ khóa để tìm kiếm

↑↓ Di chuyển
Enter Mở
ESC Đóng

Bài 44 — Box plot và outlier detection

Mở đầu — vì sao bài này quan trọng

Hãy tưởng tượng bạn là Green Belt phụ trách một dự án giảm thời gian chờ tại quầy thanh toán của một chuỗi siêu thị. Bạn thu thập 500 lần đo thời gian phục vụ. Sếp hỏi: "Tình hình thế nào?" Nếu bạn chỉ trả lời "trung bình 4,2 phút", bạn đã bỏ lỡ một nửa câu chuyện. Trung bình không nói cho bạn biết có những lần khách phải chờ 18 phút — những lần đủ để họ bỏ giỏ hàng và đi sang siêu thị đối thủ.

Trong Lean Six Sigma, chúng ta không chỉ quan tâm đến giá trị trung tâm mà còn quan tâm rất nhiều đến biến thiên (variation) và đặc biệt là những điểm bất thường (outlier). Một outlier có thể là sai số đo, có thể là dấu vết của một nguyên nhân đặc biệt (special cause) đang phá hỏng quá trình, hoặc đôi khi chính là chìa khóa của cả dự án. Bỏ qua chúng giống như bác sĩ chỉ nhìn nhiệt độ trung bình của phòng bệnh mà không để ý bệnh nhân nào đang sốt 40 độ.

Box plot (biểu đồ hộp, còn gọi là box-and-whisker plot) là công cụ trực quan gọn nhất để vừa thấy giá trị trung tâm, vừa thấy độ phân tán, vừa phát hiện outlier — tất cả trong một hình duy nhất. Quan trọng hơn, nó cho phép bạn so sánh nhiều nhóm cạnh nhau chỉ trong một ánh nhìn. Đó là lý do box plot xuất hiện gần như trong mọi báo cáo giai đoạn Analyze của một dự án DMAIC nghiêm túc.

Khái niệm cốt lõi

Năm con số tóm tắt (Five-Number Summary)

Box plot được dựng từ một bộ năm con số mô tả phân phối dữ liệu, gọi là five-number summary:

  • Minimum — giá trị nhỏ nhất (trong vùng hợp lệ).
  • Q1 (tứ phân vị thứ nhất, 25th percentile) — 25% dữ liệu nằm dưới mốc này. Đây là đáy hộp.
  • Median (Q2, trung vị, 50th percentile) — đường kẻ giữa hộp, chia dữ liệu làm hai nửa bằng nhau.
  • Q3 (tứ phân vị thứ ba, 75th percentile) — 75% dữ liệu nằm dưới mốc này. Đây là đỉnh hộp.
  • Maximum — giá trị lớn nhất (trong vùng hợp lệ).
Phần thân hộp (box) trải từ Q1 đến Q3 chính là nơi chứa 50% dữ liệu ở giữa — đám đông cốt lõi của quá trình.

IQR — thước đo biến thiên trung tâm

IQR (Interquartile Range — khoảng tứ phân vị) = Q3 − Q1.

IQR là chiều cao của hộp, đo độ trải rộng của nửa giữa dữ liệu. Ưu điểm lớn của IQR so với độ lệch chuẩn là nó kháng nhiễu (robust): một vài giá trị cực đoan không làm IQR méo đi, vì nó chỉ dựa vào hai mốc 25% và 75%. Đây là lý do IQR được dùng làm nền tảng cho việc phát hiện outlier.

Whisker — các "râu" và quy tắc 1,5×IQR

Hai "râu" (whisker) kéo dài từ hộp ra hai phía. Trong cách dựng box plot chuẩn của Tukey — cách mà Minitab, JMP, R, Python đều dùng mặc định — whisker không kéo tới giá trị nhỏ nhất/lớn nhất một cách máy móc. Thay vào đó:

  • Tính hai hàng rào (fence):
- Hàng rào dưới = Q1 − 1,5 × IQR - Hàng rào trên = Q3 + 1,5 × IQR
  • Whisker kéo tới điểm dữ liệu thực tế cuối cùng còn nằm trong hàng rào.
  • Mọi điểm nằm ngoài hàng rào được đánh dấu riêng bằng dấu chấm hoặc dấu sao — đó chính là outlier.
Hệ số 1,5 không phải con số thần thánh; nó là lựa chọn kinh nghiệm của nhà thống kê John Tukey. Với phân phối chuẩn, quy tắc này gắn cờ khoảng 0,7% dữ liệu — đủ nhạy để bắt bất thường nhưng không quá ồn ào. Nhiều phần mềm còn dùng thêm hàng rào 3×IQR để phân biệt "outlier nhẹ" (mild) và "outlier nặng/cực đoan" (extreme/far out).

Vì sao Green Belt cần outlier detection

Trong giai đoạn Measure và Analyze, outlier có ba ý nghĩa khác nhau và bạn phải phân biệt được:

  • Lỗi dữ liệu — nhập nhầm dấu phẩy, máy đo trục trặc. Cần sửa hoặc loại bỏ.
  • Special cause — một sự kiện đặc biệt (nhân viên mới, máy hỏng, sự cố mất điện). Đây là manh mối nguyên nhân gốc.
  • Dữ liệu thật và quan trọng — ví dụ giao dịch gian lận trong ngân hàng. Tuyệt đối không được xóa.

Tình huống thực tế

Ví dụ 1 — Ngân hàng số tại TP.HCM: thời gian duyệt khoản vay

Một ngân hàng bán lẻ ở TP.HCM chạy dự án LSS rút ngắn thời gian duyệt hồ sơ vay tiêu dùng. Đội Green Belt thu thập thời gian duyệt (đơn vị: giờ) của 200 hồ sơ trong một tháng. Five-number summary tính ra:

  • Min = 1,2 giờ
  • Q1 = 6 giờ
  • Median = 9 giờ
  • Q3 = 13 giờ
  • Max = 72 giờ
IQR = 13 − 6 = 7 giờ. Hàng rào trên = 13 + 1,5 × 7 = 23,5 giờ. Box plot lập tức gắn cờ một chùm điểm nằm trên 23,5 giờ, đỉnh điểm là hồ sơ mất 72 giờ.

Nếu chỉ nhìn trung bình (khoảng 11 giờ), đội sẽ tưởng quá trình tạm ổn. Nhưng box plot phơi bày đuôi dài phía phải. Khi đào sâu các outlier, họ phát hiện toàn bộ là hồ sơ rơi vào cuối tuần — bộ phận thẩm định không trực thứ Bảy, Chủ nhật, nên hồ sơ nộp chiều thứ Sáu phải chờ tới thứ Hai. Bài học: outlier không phải nhiễu để xóa đi; chúng chính là dấu vân tay của một special cause (lịch làm việc) — và là cơ hội cải tiến rõ ràng nhất của cả dự án.

Ví dụ 2 — Nhà máy điện tử Bắc Ninh: so sánh ba dây chuyền

Một nhà máy lắp ráp linh kiện điện tử ở Bắc Ninh nghi ngờ chất lượng hàn không đồng đều giữa ba dây chuyền A, B, C. Thay vì làm ba biểu đồ riêng, kỹ sư Green Belt vẽ box plot song song ba dây chuyền trên cùng một trục đo lực bám mối hàn (Newton):

  • Dây chuyền A: hộp thấp và gọn, median ≈ 8,0 N, IQR nhỏ → ổn định, đúng mục tiêu.
  • Dây chuyền B: hộp tương tự A nhưng có hai outlier dưới 5 N.
  • Dây chuyền C: hộp cao và rộng gấp đôi, median lệch lên 9,5 N, nhiều outlier cả trên lẫn dưới.
Chỉ trong một hình, câu chuyện hiện ra: dây chuyền C vừa lệch tâm (median cao) vừa biến thiên lớn (hộp rộng) — ưu tiên xử lý số một. Dây chuyền B về cơ bản ổn nhưng có sự cố cá biệt cần truy. Điều tra cho thấy C dùng một mỏ hàn cũ chưa hiệu chuẩn. Bài học: sức mạnh thật sự của box plot là so sánh nhóm. Một bức tranh ba hộp cạnh nhau truyền đạt nhiều hơn cả trang bảng số, và giúp lãnh đạo ra quyết định ưu tiên ngay tại cuộc họp.

Ví dụ 3 — Chuỗi cà phê: cẩn thận khi "xóa" outlier

Một chuỗi cà phê ở Đông Nam Á đo doanh thu ngày của 40 cửa hàng. Box plot gắn cờ ba cửa hàng outlier doanh thu rất cao. Một thành viên đề nghị loại ba điểm này "cho dữ liệu sạch". Trưởng dự án dừng lại và hỏi: tại sao chúng cao? Hóa ra ba cửa hàng đó nằm cạnh tòa nhà văn phòng lớn và áp dụng mô hình đặt trước qua app. Đây không phải lỗi — đây chính là mô hình cần nhân rộng.

Bài học: box plot chỉ gắn cờ điểm đáng nghi, nó không ra lệnh xóa. Mỗi outlier phải được điều tra bằng câu hỏi "tại sao", không phải bị xóa cho gọn. Xóa mù quáng là cách nhanh nhất để vứt đi insight đắt giá nhất của dự án và làm sai lệch kết luận.

Hướng dẫn từng bước

Bước 1 — Chuẩn bị dữ liệu. Đảm bảo dữ liệu liên tục (continuous) cùng đơn vị, đã làm sạch lỗi nhập liệu hiển nhiên. Box plot cần tối thiểu khoảng 8–10 điểm mỗi nhóm mới có ý nghĩa; dưới mức đó nên dùng dot plot.

Bước 2 — Sắp xếp và tính tứ phân vị. Sắp dữ liệu tăng dần. Xác định Median, rồi Q1 (trung vị của nửa dưới) và Q3 (trung vị của nửa trên). Trong thực hành bạn sẽ để phần mềm tính, nhưng hiểu cơ chế giúp bạn không bị bất ngờ khi hai phần mềm cho kết quả lệch nhẹ (do khác công thức nội suy phân vị).

Bước 3 — Tính IQR và hàng rào. IQR = Q3 − Q1. Hàng rào dưới = Q1 − 1,5×IQR; hàng rào trên = Q3 + 1,5×IQR.

Bước 4 — Vẽ hộp và whisker. Dựng hộp từ Q1 đến Q3, kẻ đường median. Kéo whisker tới điểm dữ liệu thực cuối cùng còn nằm trong hàng rào.

Bước 5 — Đánh dấu outlier. Mọi điểm ngoài hàng rào vẽ thành chấm riêng. Nếu muốn, phân biệt mild (1,5–3×IQR) và extreme (>3×IQR).

Bước 6 — Đọc hình. Hỏi bốn câu: (a) Median nằm đâu — nhóm nào lệch tâm? (b) Hộp rộng hay hẹp — biến thiên thế nào? (c) Hộp có đối xứng không — median lệch về một cạnh cho thấy phân phối lệch (skew)? (d) Có outlier không, ở phía nào?

Bước 7 — Điều tra outlier. Với mỗi outlier, truy ngược về quan sát gốc và hỏi "tại sao". Phân loại: lỗi dữ liệu / special cause / dữ liệu thật. Hành động tương ứng, và ghi lại lý do cho mọi điểm bị loại.

Bước 8 — Thực hiện trong phần mềm. Minitab: Graph → Boxplot. R: boxplot(value ~ group, data). Python: seaborn.boxplot(x='group', y='value', data=df). Excel cũng đã có biểu đồ Box and Whisker dựng sẵn từ phiên bản 2016.

Lỗi thường gặp & mẹo

Lỗi 1 — Tưởng whisker là min/max. Nhiều người đọc nhầm đầu whisker là giá trị nhỏ nhất/lớn nhất. Thực ra trong box plot Tukey, whisker dừng ở điểm cuối trong hàng rào; min/max thật có thể nằm ngoài, dưới dạng outlier. Luôn kiểm tra phần mềm bạn dùng theo quy ước nào.

Lỗi 2 — Xóa outlier không suy nghĩ. Như ví dụ 3 đã cho thấy, đây là sai lầm tốn kém nhất. Quy tắc vàng: box plot gắn cờ, con người điều tra. Không bao giờ xóa chỉ vì "trông xấu".

Lỗi 3 — So sánh nhóm có cỡ mẫu chênh lệch lớn mà không ghi chú. Một hộp dựng từ 8 điểm và một hộp từ 800 điểm trông giống nhau nhưng độ tin cậy khác xa. Mẹo: ghi cỡ mẫu n dưới mỗi hộp, hoặc dùng box plot có độ rộng tỉ lệ với căn bậc hai của n.

Lỗi 4 — Quên rằng box plot giấu hình dạng phân phối. Hai phân phối rất khác nhau (một đỉnh và hai đỉnh) có thể cho box plot gần giống hệt. Mẹo: với dữ liệu quan trọng, vẽ kèm histogram hoặc dùng violin plot để thấy mật độ.

Mẹo nâng cao — Đọc skew từ box plot. Nếu median nằm lệch về đáy hộp và whisker trên dài hơn, dữ liệu lệch phải (right-skewed) — rất thường gặp với dữ liệu thời gian, chi phí, thời gian chờ. Điều này báo hiệu bạn có thể cần biến đổi dữ liệu trước khi làm các phép kiểm định giả định phân phối chuẩn ở các bài sau.

Mẹo thực chiến — Dùng box plot làm "cửa ngõ" Analyze. Ngay khi có dữ liệu, vẽ box plot phân theo từng yếu tố nghi ngờ (ca làm, máy, nhà cung cấp, chi nhánh). Nhóm nào có hộp lệch hẳn hoặc rộng hẳn chính là nơi đáng đào sâu tiếp.

Bài tập thực hành

Dữ liệu: thời gian xử lý đơn hàng (phút) của một kho thương mại điện tử, đã sắp xếp: 4, 5, 6, 6, 7, 7, 8, 8, 9, 9, 10, 11, 12, 13, 15, 16, 18, 22, 35.

  • Xác định Median, Q1, Q3 của bộ dữ liệu (19 giá trị).
  • Tính IQR và hai hàng rào (1,5×IQR).
  • Liệt kê các điểm là outlier. Whisker trên sẽ dừng ở giá trị nào?
  • Hộp có đối xứng không? Dữ liệu lệch về phía nào? Điều đó gợi ý gì về quá trình?
  • Suy ngẫm: Outlier 35 phút có thể đến từ nguyên nhân gì? Bạn sẽ điều tra thế nào trước khi quyết định giữ hay loại?
Gợi ý đáp án: Median = 9 (giá trị thứ 10). Nửa dưới 9 giá trị → Q1 = 7; nửa trên 9 giá trị → Q3 = 14 (trung bình 13 và 15). IQR = 7. Hàng rào trên = 14 + 10,5 = 24,5 → điểm 35 là outlier; whisker trên dừng ở 22. Hàng rào dưới = 7 − 10,5 = −3,5 → không có outlier dưới. Median lệch về đáy hộp, whisker/outlier kéo lên trên → lệch phải, điển hình của dữ liệu thời gian; cần điều tra điểm 35 (đơn hàng cồng kềnh? hệ thống treo? nhân viên mới?).

Tóm tắt

  • Box plot dựng từ five-number summary: Min, Q1, Median, Q3, Max. Hộp trải từ Q1 (đáy) đến Q3 (đỉnh), đường giữa là median, và chứa 50% dữ liệu trung tâm.
  • IQR = Q3 − Q1 là thước đo biến thiên kháng nhiễu, làm nền cho phát hiện outlier.
  • Quy tắc 1,5×IQR của Tukey định ra hàng rào trên/dưới; whisker dừng ở điểm thực cuối cùng trong hàng rào, mọi điểm ngoài hàng rào là outlier được đánh dấu riêng.
  • Sức mạnh lớn nhất của box plot là so sánh nhiều nhóm cạnh nhau, lộ ra ngay nhóm nào lệch tâm hoặc biến thiên lớn — cực hữu ích trong giai đoạn Analyze của DMAIC.
  • Outlier không phải để xóa cho gọn; nó là điểm cần điều tra: lỗi dữ liệu, special cause hay dữ liệu thật quan trọng. Quyết định phải kèm lý do.
  • Hãy nhớ box plot giấu hình dạng phân phối — khi cần, bổ sung histogram hoặc violin plot để có bức tranh đầy đủ.
Học xong bài này rồi? Tạo tài khoản miễn phí để lưu lại — lần sau vào là biết ngay đang dở ở đâu, và học hết khóa thì có chứng chỉ. Lưu tiến độ của tôi