Bạn không phải chọn giữa ngồi canh và nhắm mắt — có cổng giữa đường

Nhị phân 'duyệt từng bước' hoặc 'thả tới cuối' là một lựa chọn giả. Cách thứ ba: để nó tự chạy, nhưng đặt một cánh cổng đúng ngay điểm khó lùi.

Đọc4 phút đọc
Chủ đềautonomy · approval-gate · control · delegation
TL;DR

"Ngồi duyệt từng bước" và "thả cho chạy tới cuối" nghe như hai lựa chọn duy nhất, nhưng chúng là một nhị phân giả. Cách thứ ba: để agent tự chạy hết tốc, nhưng cài một cánh cổng phê duyệt đúng ngay điểm khó lùi. Bạn không kiểm soát mọi bước — bạn kiểm soát đúng vài bước đáng dừng. Phần còn lại để nó bay.

Bạn muốn tự động hoá một việc, nhưng sợ mất kiểm soát. Nên bạn kẹt giữa hai lựa chọn, và cả hai đều dở.

Lựa chọn A: ngồi duyệt từng bước. An toàn — nhưng bạn vừa biến mình thành nút bấm "tiếp tục", và toàn bộ lợi thế tốc độ của agent bốc hơi. Lựa chọn B: thả cho nó chạy tới cuối rồi mới xem. Nhanh — nhưng bạn đang cầu may, và bài trước trong cụm này đã kể nó hay phản đòn cỡ nào.

Vấn đề không phải bạn chọn sai trong hai cái. Là bạn tưởng chỉ có hai cái để chọn.

01Cái nhị phân đó là giả — và nó tính phí bạn ở cả hai đầu

Hai lựa chọn trên trông như hai đầu của một thang đo: an toàn ở đầu này, tốc độ ở đầu kia, bạn trượt qua trượt lại tìm điểm cân bằng. Nhưng nó không phải một thang đo. Nó là hai cực, và cả hai cực đều bắt bạn trả giá.

Ngồi canh từng bước: bạn trả bằng thời gian của chính mình — và tệ hơn, sự chú ý của bạn loãng dần sau bước thứ mười, nên bạn canh mà không thật sự nhìn. Thả tới cuối: bạn trả bằng việc chỉ phát hiện lỗi sau khi nó đã đi quá sâu để sửa rẻ.

Cách thứ ba không nằm giữa hai cực. Nó nằm ở một trục khác: thay vì hỏi "duyệt bao nhiêu?", hỏi "duyệt ở đâu?".

MỘT LƯỢT TỰ CHẠY
giao việc
1
Thả chạyđoạn rủi ro thấp
2
Cổng duyệttrước bước khó lùi
3
Thả chạyđoạn rủi ro thấp
4
Cổng kiểmtrước khi giao đi
xong →

Không dừng ở mọi bước, cũng không nhắm mắt tới cuối. Hai cổng đặt đúng hai điểm khó lùi — phần giữa các cổng để nó chạy hết tốc.

02Cổng không phải để xem nó làm gì — để chặn cái không lùi được

Đây là chỗ dễ hiểu nhầm. Cổng giữa đường nghe như một phiên bản nhẹ của "canh từng bước" — dừng lại để liếc xem agent đang làm gì. Không phải.

Cổng đặt đúng không phải để bạn quan sát. Là để bạn quyết định — ngay trước một hành động mà sau đó không rút lại được. Agent có thể chạy ba mươi bước mà chẳng bước nào đáng để bạn dừng, rồi tới đúng một bước: ghi đè dữ liệu thật, gửi thứ gì đó ra ngoài, chốt một lựa chọn rẽ nhánh cả phần sau. Đó mới là chỗ cần một cánh cổng.

Để ý điều này tách hẳn khỏi việc chia công việc thành từng phần. Chia phần là sắp xếp lại quy trình. Cổng giữa đường là chèn một điểm con người gật đầu vào trong một lượt agent vẫn đang tự chạy — không đụng tới việc nó chạy thế nào, chỉ canh đúng ngưỡng nó sắp bước qua một cánh cửa một chiều.

03Đặt cổng ở đâu: ba loại điểm đáng dừng

Không phải mọi bước. Chỉ ba loại điểm — và chúng thường ít hơn bạn tưởng trong một task.

1
Trước hành động không lùi được

Ghi đè, xoá, gửi, công bố, tính tiền — bất cứ động tác nào mà "undo" không tồn tại hoặc tốn kém. Đặt cổng ngay trước đó. Phần dựng nháp trước đấy cứ để nó tự làm; chỉ cú bấm cuối cùng cần tay bạn.

2
Trước khi output rời khỏi tay bạn

Khoảnh khắc kết quả đi tới người khác — khách, đồng nghiệp, một hệ thống hạ nguồn — là vị trí cuối cùng bạn còn bắt được lỗi trước khi nó thành hậu quả của người khác. Một cổng kiểm ở đây đáng giá hơn mười lần kiểm sau khi đã gửi.

3
Trước một quyết định rẽ nhánh định hình phần còn lại

Khi agent sắp chọn một hướng mà mọi bước sau dựa vào — chọn cách tiếp cận, chốt một giả định lớn — sai ở đây nhân lên qua cả chuỗi. Dừng để gật một cái trước ngã ba rẻ hơn nhiều so với quay đầu cả đoàn xe sau đó.

Câu thực thi gói gọn trong một mẫu: "Tự chạy tới khi chạm <điểm này>, thì dừng và đợi tôi duyệt rồi mới đi tiếp." Bạn không mô tả nó phải làm gì — bạn chỉ định đúng ngưỡng nó phải khựng lại.

04Cánh cổng đổi luôn cỡ việc bạn dám giao

Tác dụng thật của cổng giữa đường không chỉ là bắt lỗi. Là nó đổi cái bạn dám giao.

Khi lựa chọn duy nhất là canh-hết hay thả-hết, mọi task rủi ro cao đều bị kéo về phía "tự làm cho chắc" — vì thả thì sợ, mà canh thì cũng chẳng còn lời. Một khi bạn biết đặt cổng đúng chỗ, cái trần đó nâng lên: bạn giao được những việc lớn hơn, đáng sợ hơn, vì bạn đã quyết trước chính xác chỗ nào mình sẽ chen vào. Phần còn lại, bạn thả thật lòng.

Autonomy không lớn lên theo độ gan của bạn. Nó lớn lên theo chất lượng những cánh cổng bạn biết đặt ở đâu.

c
Người viết

Mỗi câu chuyện ở đây gói một bài học đã trả giá để học.

craftagentmột người vừa xây vừa học

Bạn đang xây gì với agent? Muốn trao đổi, phản biện, hay cùng làm một thứ gì đó — viết cho mình một dòng.

58bài12cụmVI·ENsong ngữ

Nhận bài mới qua email

Ghi chép thực chiến về làm việc với AI agent — thi thoảng, không spam.