Quan sát trước khi giao — dù bạn đã dùng agent hai năm

Cùng một agent behave khác nhau tùy domain. Và khi vào domain mới, ngay cả người có kinh nghiệm cũng cần một vòng quan sát trước.

Đọc4 phút đọc
Chủ đềoperator · delegation · domain · calibration
TL;DR

Cùng một agent behave khác nhau tùy domain. Giỏi code review không có nghĩa là giỏi phân tích pháp lý — dù là cùng một model. Khi vào domain mới, ngay cả người đã dùng agent hai năm cũng cần một vòng quan sát trước khi giao thật: không phải vì nghi ngờ agent, mà vì chưa có model về cách nó fail trong vùng đó.

Bạn đã dùng agent gần hai năm.

Code review, tóm tắt tài liệu, soạn thảo nháp — bạn làm được tất cả những việc này với agent mà gần như không cần xem lại. Bạn biết khi nào nó tốt, khi nào nó cần thêm vòng, khi nào cần thay prompt. Đó là calibration thật sự.

Rồi một ngày bạn nhờ nó đọc một điều khoản hợp đồng — lần đầu tiên. Bạn tin vào track record, thả cho nó chạy hết. Output về trông đàng hoàng: có cấu trúc, có highlight, có risk note.

Ba điều khoản quan trọng bị bỏ qua. Bạn không phát hiện cho đến khi đối tác hỏi lại.

Không phải agent đột ngột kém đi. Là bạn đã dùng calibration của domain cũ để đánh giá domain mới — và hai cái đó không cùng thang đo.

01Giỏi ở đây không phải giỏi ở kia — dù "ở đây" và "ở kia" là cùng một agent

Với nhiều loại công việc, agent hoạt động ở vùng giữa: vấn đề rõ ràng, có thể kiểm chứng, feedback nhanh. Code có syntax error thì compile không được — bạn thấy ngay. Tóm tắt thiếu điểm thì bạn nhận ra khi đọc lại. Đây là vùng giữa của agent.

Domain khác có vùng giữa khác. Trong phân tích pháp lý, "đúng" có thể trông giống "gần đúng" mà không có syntax error. Trong tư vấn chiến lược, output nghe thuyết phục và thiếu quan trọng là hai thứ không loại trừ nhau. Trong lĩnh vực bạn không quen, bạn cũng không có cơ sở để phân biệt.

Kết quả: agent có thể đang ở rìa của khả năng thật trong domain đó — nhưng output của nó trông giống như vùng giữa của domain bạn quen.

Bạn không nhận ra. Không phải vì không cẩn thận. Mà vì bạn chưa có model về cách nó fail ở đây.

Giao thẳng từ track record cũ

Dùng calibration từ domain A để tin tưởng trong domain B
Không có test trung gian để so sánh output với kỳ vọng
Phát hiện sai ở task quan trọng — lúc đó chi phí đã cao

Quan sát trước khi giao thật

Dành một vòng test nhỏ ở domain mới, hậu quả thấp
Đọc cách agent fail — không chỉ ghi nhận kết quả đúng hay sai
Điều chỉnh ngưỡng giao và gate point trước khi leo lên task thật

Quan sát không phải không tin — là không dùng nhầm thước đo. Hai năm kinh nghiệm là thứ giúp bạn quan sát đúng chỗ và đọc pattern nhanh. Nhưng quan sát vẫn phải có.

02Ba bước calibration khi vào domain mới

Không cần phức tạp. Nhưng cần có.

DOMAIN MỚIGIAO THẬT
Bước 1 — Test nhỏ, hậu quả thấp: giao task cùng loại nhưng ở quy mô nhỏ và với output không dùng thật ngay.

Bước 2 — Quan sát pattern fail: đọc kỹ output kể cả khi trông đúng — tìm chỗ nó có thể thiếu hoặc sai mà không lộ rõ.

Bước 3 — Điều chỉnh trước khi giao thật: cập nhật gate point và scope dựa trên điều bạn quan sát được, không phải dựa trên track record từ domain cũ.

Ba bước này không bảo vệ bạn khỏi mọi lỗi — chúng bảo vệ bạn khỏi loại lỗi đắt tiền nhất: lỗi xuất phát từ calibration sai vùng.

Không cần bước này kéo dài lâu. Với domain tương đối gần với domain bạn đã quen, một hoặc hai test nhỏ thường đủ để có model cơ bản. Với domain cách xa — pháp lý, y tế, kỹ thuật đặc thù — dành nhiều hơn một chút.

03Dấu hiệu bạn đang bỏ qua bước quan sát

Hầu hết người không có khoảnh khắc ý thức "tôi quyết định bỏ qua quan sát". Nó xảy ra tự nhiên hơn:

Bạn có deadline. Thứ này trông giống thứ bạn đã làm. Track record tốt. Nên bạn đẩy thẳng vào.

Câu hỏi thật chỉ là: trông giống có nghĩa là cùng failure profile không? Thường là không.

Một cách nhanh để check: nếu output sai ở domain mới này, bạn sẽ phát hiện ra trước hay sau khi đã dùng? Nếu câu trả lời là "sau khi đã dùng" — bạn cần thêm một vòng quan sát trước.

Không phải vì agent không đáng tin. Mà vì bạn chưa có đủ model để tin đúng chỗ ở đây.

Hai năm kinh nghiệm không mất đi khi bạn chịu quan sát thêm một vòng. Nó là thứ giúp bạn quan sát đúng chỗ, đọc pattern nhanh, và biết khi nào một vòng là đủ. Nhưng vòng đó vẫn phải có.

c
Người viết

Mỗi câu chuyện ở đây gói một bài học đã trả giá để học.

craftagentmột người vừa xây vừa học

Bạn đang xây gì với agent? Muốn trao đổi, phản biện, hay cùng làm một thứ gì đó — viết cho mình một dòng.

58bài12cụmVI·ENsong ngữ

Nhận bài mới qua email

Ghi chép thực chiến về làm việc với AI agent — thi thoảng, không spam.