Nửa việc mà không ai đặc tả
Đặc tả cho hệ thống xác suất có hai nửa. Nửa thứ nhất — nó làm gì khi đúng — ai cũng viết. Nửa thứ hai — chuyện gì xảy ra ở 5% còn lại — hầu như không ai viết, và đó là nửa quyết định người dùng có tin sản phẩm hay không.
Lý do thực tế: 5% đó là nơi người dùng gặp AI ở trạng thái tệ nhất, và trải nghiệm ở đó định hình niềm tin của họ với toàn bộ 95% kia. Một hệ thống đúng 95% với đường sai tốt được dùng; một hệ thống đúng 97% mà sai âm thầm thì bị tắt.
Ba câu hỏi phải trả lời trong đặc tả
Với mỗi đầu ra AI, đặc tả phải trả lời:
- Người dùng biết đây là đầu ra AI, hay tưởng là dữ liệu chắc chắn?
- Người dùng sửa được không, và sửa mất bao lâu?
- Việc người dùng sửa có được ghi lại để cải thiện hệ thống không?
Bốn mẫu thiết kế cho đường sai
| Mẫu | Dùng khi | Chi tiết cần đặc tả |
|---|---|---|
| Điền sẵn, người xác nhận | Đầu vào có thể sai, sửa nhanh | Trường nào đánh dấu "cần xem"; hiện ảnh gốc cạnh ô nhập |
| Ba làn theo độ tin cậy | Có ngưỡng tin cậy dùng được | Ngưỡng cụ thể; hàng chờ ai xử lý; thời hạn xử lý |
| Đưa hai phương án | Mơ hồ thật, không có đáp án duy nhất | Khi nào hiện 2 lựa chọn thay vì 1; có cho phép "không cái nào" |
| Từ chối và nói lý do | Ngoài phạm vi | Câu thông báo cụ thể; đường đi tiếp cho người dùng |
Cụ thể cần viết vào đặc tả: "Trường có điểm tin cậy dưới 0,85 hiển thị viền cảnh báo và không được đưa vào phép tính tổng cho tới khi người dùng xác nhận trường đó." Ràng buộc kỹ thuật đó là thứ giữ cho cổng kiểm soát có thật.
Ngôn ngữ giao diện: nói chắc chắn là một lỗi đặc tả
Cùng một đầu ra, ba cách trình bày, ba mức niềm tin sai khác nhau:
| Cách viết | Người dùng hiểu | Đánh giá |
|---|---|---|
| "Tổng tiền: 12.500.000đ" | Đây là dữ liệu | Sai — trình bày phỏng đoán như sự thật |
| "Tổng tiền (hệ thống đọc, vui lòng kiểm): 12.500.000đ" | Cần xem lại | Đúng |
| "Không đọc được tổng tiền — vui lòng nhập" | Phải làm gì | Đúng, và tốt hơn khi hệ thống thật sự không chắc |
Việc hoàn tác phải được đặc tả, không phải được hy vọng
Hai câu hỏi cụ thể mà tài liệu phải trả lời:
- Hoàn tác được trong bao lâu? "Bản ghi do hệ thống tạo tự động có thể hoàn tác trong 30 ngày; sau đó cần bút toán điều chỉnh."
- Ai hoàn tác được? Người tạo, hay cần người có quyền cao hơn?
Vòng phản hồi: biến việc sửa thành dữ liệu
Điều khoản đáng có trong mọi đặc tả AI:
> Mỗi lần người dùng sửa một trường do hệ thống điền, hệ thống ghi lại: giá trị gốc, giá trị sửa, và ca đầu vào. Dữ liệu này được tổng hợp hằng tháng, và các ca bị sửa nhiều nhất được thêm vào bộ ca kiểm.
Điều khoản này rẻ để làm, và sau sáu tháng nó là nguồn cải thiện tốt nhất bạn có — vì nó là dữ liệu từ ca thật, với đáp án đúng do người dùng thật điền.
Phép thử nhanh cho nửa thứ hai
Đưa đặc tả cho một người chưa đọc và hỏi một câu: "Theo tài liệu này, khi hệ thống không chắc thì người dùng thấy gì?" Nếu họ không trả lời được trong 30 giây, nửa thứ hai chưa được viết.
Làm ngay
Với một tính năng AI của bạn, viết nửa thứ hai của đặc tả: chọn một trong bốn mẫu đường sai, ghi ngưỡng cụ thể, ghi cách phân biệt trường AI với trường người nhập, và thêm điều khoản ghi lại việc sửa. Nếu đặc tả hiện tại không có nửa này, nó chưa xong dù dài bao nhiêu.