Chi phí khi chạy AI Agent

Nếu bạn đang là một doanh nghiệp đang muốn tìm cách giảm chi phí nhân sự của mình bằng AI Agent. Nhưng bạn lo lắng rằng liệu AI Agent có thật sự giúp giảm chi phí so với con người thì bài viết này sẽ phân tích sâu việc khi sử dụng một AI Agent bạn sẽ tốn những chi phí nào, giúp có góc nhìn tổng quan hơn khi đưa ra quyết định cho doanh nghiệp.

Bạn có thể đọc khái niệm AI Agent tại đây: https://blog.slimcrm.vn/ai-agent-la-gi

Chi phí LLM (Large Language Model)

Đầu tiên là chi phí LLM, đây là chi phí cho việc sử dụng mô hình ngôn ngữ lớn như GPT, Gemini. Bạn có thể hiểu là các ông lớn này đã training chúng với một bộ data rất rất lớn để nó có thể trả lời một cách trôi chảy cho các câu hỏi của con người, và chúng ta sẽ tận dụng các mô hình và cách trả lời này để đưa vào AI Agent của mình, mỗi LLM sẽ có một mức giá khác nhau tùy vào câu trả lời nó có thể đưa ra như text, hình ảnh hay video. Ngoài ra, việc duy trì ngữ cảnh của cuộc trò chuyện, nghĩa là AI có thể nhớ được những vấn đề mình nói trước đó lâu hay mau cũng ảnh hưởng đến giá tính cho LLM.

Tip: Chi phí LLM thường tính theo token (một chữ, một từ, hoặc nửa từ tùy mô hình LLM). Bạn có thể tham khảo chi phí LLM của OpenAI tại đây: https://openai.com/api/pricing/.

Chi chí knowledge

Thứ hai, là chi phí cho các database bạn đưa vào để training một AI Agent cho các kiến thức riêng biệt mà bạn muốn nó nhớ. Ví dụ về danh sách khách hàng hay các tài liệu mà không có AI phổ thông nào nói cho bạn biết. Để AI nhớ và truy xuất được các dữ liệu này để trả lời bạn thì bạn phải tốn 1 chi phí gọi là Knowledge cost.

Chi phí công cụ (Tool)

Chi phí tiếp theo là các tool mà bạn muốn AI Agent sử dụng cho việc tự động hóa của chúng, khi AI Agent có được các tool này thì nó sẽ thay bạn làm cách loại công việc lặp đi lặp lại, tuy nhiên thì việc sử dụng nó cũng phải cần liên kết với các bên thứ ba cung cấp tool để có quyền truy cập và kích hoạt. Ví dụ khi bạn muốn đăng một bài trên facebook, thì việc đầu tiên bạn phải cấp quyền cho AI Agent truy cập vào tài khoản facebook của bạn.

Chi phí cho từng lần chạy (run cost)

Và cuối cùng, ngoài các chi phí khi sử dụng AI như trên thì khi bạn qua một bên thứ ba cung cấp công cụ cho bạn làm việc với AI Agent thì mỗi lần chạy AI Agent thì bạn sẽ một khoản chi phí cố định, xem như là phần hoa hồng cho “dịch vụ” bạn đang sử dụng.

Sau khi biết sử dụng AI Agent sẽ tốn những chi phí nào thì mình tin chắc rằng bạn đã có những quyết định của riêng mình cho việc vận hành doanh nghiệp. Hy vọng bài viết này sẽ giúp ích cho bạn.

Mẹo tối ưu chi phí

Việc tính chi phí khi chạy một AI Agent có thể là có cách thành phần cố định như vậy tuy nhiên đối với cách bên cung cấp dịch vụ tạo ra workflow hay AI Agent tương tự thì việc phải kiểm soát chi phí giữa khách hàng và các bên dịch vụ cần tích hợp trên website (như RelevanceAI, n8n, …) thì không chỉ là câu chuyện đơn giản như vậy. Mỗi bên sẽ có các cách thu phí khác nhau chẳng hạn như subscription (thu phí hàng tháng), thu phí theo từng lần sử dụng,... và họ cũng cần phải đảm bảo việc thu phí người dùng phải cho họ cảm thấy không bị tốn phí quá nhiều hơn so với mua trực tiếp các bên còn lại mà vẫn đảm bảo được các rủi ro khi tiền thu từ khách hàng không đủ tiền trả cho các bên còn lại, đó là một bài toán phức tạp cần nghiên cứu sâu hơn.

Và cách để tiết kiệm chi phí khi sử dụng 1 AI Agent cách tốt nhất chính là tối ưu việc viết prompt của bạn. Prompt được xem là một guideline hướng dẫn AI Agent là ai, làm gì, làm như thế nào. Bạn có bao giờ gặp trường hợp mà AI không hiểu ý mình muốn rồi phải giải thích quá nhiều lần, xong cuối cùng nó đưa ra một câu trả lời lệch hẳn mục đích ban đầu của bạn chưa? Đó là vấn đề của prompt AI đấy. Việc thiết kế một prompt chặt chẽ sẽ giúp AI Agent đưa ra câu trả lời mà bạn mong muốn nhất, hạn chế được việc nói quá nhiều và khiến AI “quên mất” những gì bạn mong muốn từ đầu.

Đối với một AI Agent thì việc hỏi đi hỏi lại cũng khiến tăng chi phí nếu bạn hỏi 1 vấn đề quá nhiều lần, còn không ra được kết quả mình muốn. Để giải quyết chuyện này không chỉ đơn giản là bạn prompt cho AI làm việc bạn muốn mà bạn cần phải xây dựng AI Agent như một con người thực thụ. Bạn cần dạy cho AI Agent biết chúng những việc như:

• Vai trò, tính cách, giới hạn
• Kiến thức, khi nào cần sử dụng kiến thức
• Các công cụ thực hiện công việc, thực hiện như thế nào

Thay vì viết một prompt chung chung như: “Giúp tôi trả lời khách hàng” thì AI sẽ không hiểu bạn muốn trả lời vấn đề gì cho khách hàng, đôi khi sẽ trả lời sai và không đúng ý.

Thì bạn cần nêu cặn kẽ hơn như AI Agent là ai, sử dụng kiến thức nào để trả lời “Bạn là trợ lý chăm sóc khách hàng, trả lời câu hỏi sản phẩm X trên Zalo bằng giọng thân thiện, dựa trên danh sách FAQ của doanh nghiệp”