Làm sản phẩm AI nhỏ: bắt đầu từ công việc, không phải từ model

Mỗi tuần lại có một model mới, một bảng xếp hạng mới. Rất dễ bắt đầu một sản phẩm AI bằng câu hỏi “model này làm được gì?”. Mình nghĩ câu hỏi tốt hơn là: có việc gì người ta đang làm tay, lặp đi lặp lại, và ghét phải làm?

Model là phần dễ thay nhất

Model tốt nhất hôm nay, vài tháng nữa sẽ có cái tốt hơn và rẻ hơn. Nếu giá trị sản phẩm nằm ở chỗ “dùng model X”, nó sẽ mất giá trị khi ai cũng dùng được model X. Thứ khó sao chép hơn là hiểu đúng một công việc cụ thể, ngữ cảnh và dữ liệu của người dùng, và trải nghiệm khi AI làm sai.

Chọn việc hẹp, đau và đo được

• Hẹp: mô tả được trong một câu. “Viết lại mô tả sản phẩm cho sàn thương mại điện tử” tốt hơn “trợ lý viết lách”.
• Đau: người ta đang tốn thời gian hoặc tiền cho nó mỗi tuần.
• Đo được: nhìn kết quả là biết tốt hay chưa.

Gom ví dụ trước khi viết prompt

Trước khi tối ưu prompt, hãy gom 20–30 ví dụ thật: đầu vào thật, và kết quả mà một người làm giỏi sẽ tạo ra. Đó là bài kiểm tra của bạn. Mỗi lần đổi prompt, đổi model hay thêm một bước xử lý, chạy lại cả bộ và so sánh. Không có bộ ví dụ, mọi cải tiến chỉ là cảm giác.

Thiết kế cho lúc AI sai

AI sẽ sai; câu hỏi là sai thì sao. Cho người dùng xem lại trước khi gửi, sửa thật nhanh, hoặc thấy rõ chỗ nào AI không chắc. Một sản phẩm đúng 90% và cho sửa 10% còn lại trong vài giây thường tốt hơn một sản phẩm đúng 95% nhưng sai mà không ai biết.

Tính chi phí ngay từ đầu

Mỗi lần gọi model đều tốn tiền và thời gian chờ. Ước lượng sớm: một người dùng gọi bao nhiêu lần mỗi ngày, mỗi lần dài bao nhiêu, phải chờ bao lâu. Nhiều khi một bước đơn giản như lọc bằng code, dùng lại kết quả đã có, hay dùng model nhỏ cho việc dễ, cắt được phần lớn chi phí mà người dùng không thấy khác biệt.

Ra mắt nhỏ, lặp nhanh

Bản đầu tiên chỉ cần làm tốt một việc cho một nhóm người. Đưa cho vài người dùng thật, xem họ dùng thế nào, sửa rồi lặp lại. AI giúp việc xây nhanh hơn bao giờ hết; lợi thế bây giờ nằm ở việc chọn đúng thứ để xây.