Nó đúng hai mươi lần, nên bạn thôi nhìn. Lần thứ hai mươi mốt cắn.

Lòng tin trôi dần theo mỗi lần đúng — đúng cách nó tích rủi ro mà bạn không hay

Đọc2 phút đọc
Chủ đềproduction · trust · reliability
TL;DR

Agent đúng nhiều lần liền làm lòng tin của bạn trôi lên, và bạn buông dần việc kiểm. Nhưng cảm giác tin của bạn tăng không kéo theo độ đúng của nó tăng — lần sai vẫn đến với xác suất cũ, chỉ khác là giờ bạn không còn nhìn. Hãy kiểm theo mức rủi ro của việc, đừng theo cảm giác tin đã tích lũy.

Tuần đầu làm với agent, bạn soi từng dòng nó viết. Nó đúng. Lần sau bạn soi bớt. Vẫn đúng. Tới lần thứ hai mươi, bạn chỉ liếc tiêu đề rồi gật. Rồi một lần — đúng cái lần bạn không nhìn — nó làm sai một thứ nhỏ mà nghiêm trọng, và cái sai đó đi thẳng vào việc thật vì không còn ai chặn ở cửa.

Cái bẫy này khó thấy vì nó không phải một quyết định. Không ai chủ động nói "thôi từ giờ khỏi kiểm". Lòng tin chỉ trôi — mỗi lần đúng lại nới một chút, êm tới mức bạn không nhận ra mình đã buông tay từ lúc nào.

01Tin nhiều hơn không phải vì nó đúng hơn

Đây là chỗ trực giác phản bội bạn. Hai mươi lần đúng tạo cảm giác "nó đáng tin rồi" — nhưng hai mươi lần đó không làm nó đúng hơn ở lần hai mươi mốt. Mỗi lượt vẫn có cùng cái xác suất sai như lượt đầu, vì bản chất của nó không đổi: vẫn là một đứa cực giỏi, hay quên, và tự tin kể cả khi sai. Cái duy nhất đã đổi là bạn — bạn đã ngừng nhìn.

Lòng tin tích lũy là một cảm giác về quá khứ. Độ đúng của lượt tới là một chuyện ở tương lai. Lẫn hai cái đó là gốc của bẫy này.

02Kiểm theo rủi ro, không theo cảm giác

Cách thoát không phải là kiểm mọi thứ mãi mãi với cùng cường độ — như thế thì mất luôn cái tốc độ bạn đang mua. Cách thoát là neo việc kiểm vào một thứ không trôi: mức rủi ro của việc, chứ không phải mức tin của bạn.

Việc rủi ro thấp — một thay đổi cục bộ, dễ phát hiện nếu sai, dễ hoàn tác — thì đúng là nên kiểm nhẹ, kể cả lần đầu. Việc rủi ro cao — chạm đồ dùng chung, khó hoàn tác, sai thì âm thầm — thì kiểm kỹ mọi lần, kể cả khi nó vừa đúng mười lần liền. Cái quyết định mức kiểm là hậu quả nếu sai, một đại lượng nằm ở bản thân công việc và không nhúc nhích theo chuỗi may mắn vừa qua.

Một dấu hiệu bạn đang trôi: khi bạn nhận ra mình duyệt một thứ rủi ro cao chỉ vì "mấy lần trước nó làm ngon". Đó không phải lý do để tin — đó chính là tiếng cọt kẹt của cái cửa đang từ từ mở ra mà không ai gác.

c
Người viết

Mỗi câu chuyện ở đây gói một bài học đã trả giá để học.

craftagentmột người vừa xây vừa học

Bạn đang xây gì với agent? Muốn trao đổi, phản biện, hay cùng làm một thứ gì đó — viết cho mình một dòng.

58bài12cụmVI·ENsong ngữ

Nhận bài mới qua email

Ghi chép thực chiến về làm việc với AI agent — thi thoảng, không spam.