Kiểm soát AI trong doanh nghiệp: Khi nào AI phải dừng và hỏi người?

Kiểm soát AI trong doanh nghiệp: Khi nào AI phải dừng và hỏi người?

Một hóa đơn có 20 dòng.

AI đọc rõ 19 dòng. Dòng cuối cùng bị mờ, không chắc con số là 8 hay 3.

AI nên làm gì?

Đoán con số có khả năng đúng nhất để hoàn thành công việc?

Hay dừng lại, chỉ ra vị trí chưa chắc chắn và yêu cầu người phụ trách xác nhận?

Khi AI chỉ dùng để hỏi đáp, một câu trả lời sai có thể dừng lại trong khung chat.

Nhưng khi AI bắt đầu bóc tách chứng từ, đối chiếu dữ liệu, lập báo cáo hoặc ghi thông tin vào hệ thống, một sai lệch nhỏ có thể tiếp tục đi qua nhiều bước khác của quy trình.

Vì vậy, khi đưa AI vào vận hành, doanh nghiệp không chỉ cần quan tâm AI làm được gì.

Một câu hỏi khác cũng quan trọng không kém:

Doanh nghiệp kiểm soát AI như thế nào để AI biết khi nào được tiếp tục và khi nào phải dừng?

Kiểm soát AI không có nghĩa là không cho AI làm gì

Khi nhắc đến kiểm soát AI, nhiều người dễ hình dung tới việc giới hạn quyền truy cập hoặc yêu cầu con người duyệt mọi thao tác.

Nhưng nếu tất cả công việc đều phải chờ một người kiểm tra lại từ đầu đến cuối, doanh nghiệp sẽ khó tận dụng được giá trị của tự động hóa.

Ngược lại, nếu AI được phép tự xử lý mọi tình huống, rủi ro lại nằm ở những trường hợp dữ liệu thiếu, không nhất quán hoặc đòi hỏi phán đoán mà AI không nên tự quyết.

Do đó, kiểm soát AI nên được hiểu là việc xác định rõ:

AI được làm gì?

AI được sử dụng nguồn dữ liệu nào?

Kết quả nào AI có thể tự giao?

Hành động nào cần người duyệt?

Và tình huống nào AI bắt buộc phải dừng?

Đây chính là ranh giới giữa AI tự động hóa công việc và việc trao toàn bộ quyền quyết định cho AI.

1. AI phải dừng khi dữ liệu chưa đủ

Giả sử nhân viên yêu cầu AI lập một bảng giá.

Trong dữ liệu đầu vào có:

mã sản phẩm,
số lượng,
đơn vị tính,

nhưng một dòng lại thiếu đơn giá.

AI có thể tìm một đơn giá ở lô trước và tự điền vào.

Nhưng câu hỏi là: đơn giá cũ có còn đúng hay không?

Nếu không có quy tắc cho phép sử dụng dữ liệu lịch sử, hành động an toàn hơn là:

Để trống trường chưa đủ dữ liệu và yêu cầu người phụ trách xác nhận.

Nguyên tắc này đặc biệt quan trọng với những dữ liệu ảnh hưởng trực tiếp đến tiền, chứng từ hoặc quyết định nghiệp vụ.

Với Nhân viên AI của WATATECH, trường hợp thiếu đơn giá được đặt thành một ranh giới rõ: không suy từ lô trước để tự điền.

Kiểm soát AI trong trường hợp này không phải làm AI chậm đi.

Nó giúp ngăn một giả định chưa được xác nhận trở thành dữ liệu “có vẻ chính xác”.

2. AI phải dừng khi các nguồn dữ liệu không khớp

Một công việc phổ biến trong doanh nghiệp là đối chiếu nhiều nguồn:

Đơn đặt hàng
↕
Phiếu giao hàng
↕
Hóa đơn

Nếu cả ba nguồn đều khớp, quy trình có thể tiếp tục.

Nhưng nếu đơn đặt hàng ghi 500 sản phẩm còn hóa đơn ghi 550 thì AI không nên tự chọn một bên là đúng.

Một cách xử lý phù hợp hơn là:

Chỉ ra chính xác trường bị lệch, đưa cả hai giá trị để người phụ trách kiểm tra và dừng bước tiếp theo.

Trong các nghiệp vụ mua hàng và xuất nhập khẩu của WATATECH, AI có thể đối chiếu số lượng, quy cách, đơn giá hoặc các trường bắt buộc giữa nhiều chứng từ; khi thông tin không khớp, trợ lý không tự quyết nguồn nào đúng.

Đây là một điểm rất quan trọng khi kiểm soát AI trong doanh nghiệp:

AI có thể phát hiện mâu thuẫn. Nhưng không phải lúc nào AI cũng nên tự giải quyết mâu thuẫn đó.

3. AI phải biết nói “tôi chưa chắc”

Một hệ thống AI trả lời trôi chảy chưa chắc đã là một hệ thống phù hợp để tham gia công việc.

Trong nghiệp vụ thực tế sẽ luôn có những trường hợp như:

ảnh chứng từ bị mờ,
file scan mất một phần,
tên mã gần giống nhau,
thông tin viết tắt,
dữ liệu đầu vào có nhiều cách hiểu.

Nếu AI vẫn cố đưa ra một đáp án, người dùng rất dễ hiểu kết quả đó là chắc chắn.

Trong những trường hợp này, hành động đáng tin cậy hơn là:

“Tôi chưa chắc trường này.”

Sau đó AI có thể chỉ đúng vị trí cần kiểm tra và yêu cầu người dùng xác nhận trước khi tiếp tục.

Đây là nguyên tắc được đặt khá rõ trong cách WATATECH xây dựng Nhân viên AI: khi ảnh không đủ rõ để đọc chắc một con số, trợ lý phải hỏi lại thay vì đoán.

Một AI biết làm việc là hữu ích.

Nhưng một AI biết mức độ chắc chắn của mình mới phù hợp hơn để đi vào quy trình doanh nghiệp.

4. AI phải dừng trước những quyết định thuộc về con người

Không phải mọi công việc đều có một đáp án đúng tuyệt đối.

Ví dụ phòng mua hàng cần lựa chọn giữa ba nhà cung cấp.

AI có thể:

tổng hợp báo giá,
so sánh điều kiện giao,
đối chiếu thời hạn thanh toán,
chỉ ra chênh lệch,
trình bày ưu và nhược điểm.

Nhưng:

“Chọn nhà cung cấp nào?”

lại là một quyết định thương mại.

Tương tự, AI có thể hỗ trợ dựng báo giá nháp, nhưng việc quyết định mức giá cuối cùng hoặc gửi ra khách hàng có thể vẫn cần người có thẩm quyền duyệt.

Trong cách triển khai của WATATECH, ranh giới này được giữ khá rõ: AI hỗ trợ đưa dữ kiện và hệ quả, còn các quyết định như chọn nhà cung cấp, chốt giá hay phát hành thông tin ra ngoài vẫn thuộc về con người.

Đó là lý do kiểm soát AI không nên chỉ được thiết kế theo câu hỏi:

“AI có đủ khả năng làm việc này không?”

Mà còn phải hỏi:

“AI có nên được quyền quyết định việc này không?”

5. Ghi vào hệ thống cần một cấp kiểm soát cao hơn

Có sự khác biệt lớn giữa:

AI tạo một bản nháp

và:

AI ghi dữ liệu trực tiếp vào phần mềm doanh nghiệp.

Một báo cáo nháp sai còn có thể được sửa trước khi sử dụng.

Nhưng nếu dữ liệu sai đã được ghi vào hệ thống kế toán, kho hoặc một hệ thống vận hành khác, nó có thể ảnh hưởng đến những quy trình phía sau.

Vì vậy, các hành động có tác động trực tiếp lên hệ thống cần được kiểm soát chặt hơn.

Một mô hình có thể là:

AI xử lý
→ Tự đối chiếu
→ Người kiểm tra
→ Mở quyền thực hiện
→ Ghi vào hệ thống

WATATECH áp dụng nguyên tắc người duyệt trước khi trợ lý ghi vào phần mềm hoặc gửi thông tin ra bên ngoài; với những nghiệp vụ cần nhập liệu, có thể bắt đầu từ lô nhỏ để kiểm tra trước khi mở rộng.

Đây cũng là cách để doanh nghiệp tăng mức tự động hóa theo từng bước thay vì giao toàn bộ quyền ngay từ đầu.

Kiểm soát AI bằng “điểm dừng”, không phải kiểm tra lại mọi thứ

Nếu sau mỗi thao tác của AI đều cần một người kiểm tra toàn bộ từ đầu, AI rất khó giúp doanh nghiệp giảm phần việc lặp lại.

Một cách tiếp cận thực tế hơn là xác định trước những điểm dừng.

Ví dụ:

Tình huống	AI xử lý
Dữ liệu đầy đủ, đối chiếu khớp	Tiếp tục
Thiếu trường bắt buộc	Dừng và hỏi
Hai nguồn dữ liệu lệch	Dừng và chỉ ra chênh lệch
Không đọc chắc thông tin	Dừng và yêu cầu xác nhận
Cần quyết định thương mại	Chuẩn bị dữ kiện, chuyển người quyết
Ghi dữ liệu vào hệ thống	Thực hiện theo quyền và bước phê duyệt

Khi những ranh giới này được xác định rõ, AI vẫn có thể tự thực hiện phần lớn công việc phù hợp nhưng không vượt qua những điểm mà doanh nghiệp muốn giữ quyền kiểm soát.

AI làm được nhiều chưa chắc đã tốt hơn AI biết dừng đúng lúc

Khi đánh giá một giải pháp AI, doanh nghiệp rất dễ tập trung vào số lượng tính năng:

AI đọc được bao nhiêu loại file?
AI làm được bao nhiêu nghiệp vụ?
AI có tự động được bao nhiêu bước?

Nhưng khi AI bắt đầu tham gia trực tiếp vào workflow, một tiêu chí khác trở nên quan trọng:

AI xử lý thế nào khi gặp một tình huống mà nó không nên tự quyết?

Một AI Workforce phù hợp không phải là hệ thống cố hoàn thành mọi yêu cầu bằng mọi giá.

Nó cần biết:

Việc nào được phép làm.

Dữ liệu nào đủ tin cậy để tiếp tục.

Khi nào phải hỏi lại.

Quyết định nào phải trả về cho con người.

Với WATATECH, Nhân viên AI được xây dựng theo hướng AI đảm nhiệm những phần việc phù hợp để tra cứu, tổng hợp, đối chiếu và xử lý; còn các điểm cần phán đoán, phê duyệt hoặc chịu trách nhiệm vẫn có sự tham gia của con người.