Hồi đầu dùng AI, mình hay gặp mấy từ này khắp nơi: skill, memory, agent, context, RAG... Đọc tài liệu tiếng Anh thì hiểu lờ mờ. Nhưng đến lúc làm thật lại không biết nó nằm ở đâu trong công việc của mình.
Hỏi AI giải thích thì thường ra một đoạn rất học thuật. Đọc xong cũng có vẻ hiểu, nhưng vẫn không biết lúc nào cần dùng, lúc nào không.
Bài này mình viết lại theo cách mình đang hiểu và đang dùng.
Prompt và system prompt
Prompt thì hầu hết ai dùng AI cũng biết: Là câu mình gõ vào để hỏi hoặc ra lệnh.
Nhưng có một thứ nằm phía sau mà nhiều người ít để ý hơn: system prompt.
System prompt là phần hướng dẫn chạy ngầm để định hình cách AI phản hồi trước khi mình nói gì. Kiểu như trước khi mình vào một buổi họp, sếp đã dặn nhân viên: "Hôm nay khách quan trọng, nói chuyện kỹ một chút." Mình không nghe câu đó, nhưng mình sẽ thấy thái độ của người kia khác.
Khi bạn dùng một app AI nào đó và thấy nó có "tính cách" khá nhất quán, thường là do system prompt đã được cài sẵn. AI không tự nhiên lịch sự hơn, ngắn gọn hơn, hay chuyên gia hơn một cách ngẫu nhiên.
Context / context window
Mình hay hình dung AI như một người đang ngồi cùng bàn làm việc với mình. Nó chỉ nhìn thấy những gì đang được bày trên bàn.
Bàn rộng thì để được nhiều tài liệu. Bàn hẹp thì để một lúc là đầy, muốn đưa thêm tài liệu mới vào phải dọn bớt tài liệu cũ ra.
Context window là cái giới hạn đó: Lượng thông tin AI có thể "thấy" trong một lần làm việc. Khi cuộc chat kéo dài quá, những thứ mình nói từ đầu có thể bị đẩy ra ngoài vùng nó còn nhìn thấy. Lúc đó AI bắt đầu quên, trả lời lệch, hoặc làm lại những việc đã làm rồi.
Nên nhiều khi AI "ngu đi" không hẳn vì nó ngu. Có thể là vì cái bàn làm việc của nó đã quá đầy.
Memory
Context là những gì AI thấy trong một buổi làm việc. Memory là những gì AI có thể nhớ qua nhiều buổi khác nhau.
- Không có memory: Mỗi lần mở chat mới là bắt đầu lại từ đầu. Bạn phải giải thích lại mình là ai, đang làm gì, thích giọng văn nào, ghét kiểu trả lời nào.
- Có memory: AI nhớ một số thông tin quan trọng về bạn và tự áp dụng ở lần sau.
Cái này nghe nhỏ, nhưng dùng AI thường xuyên mới thấy tiết kiệm rất nhiều công. Nhất là với những việc cần giữ phong cách cá nhân, quy trình làm việc, hoặc tiêu chuẩn riêng.
Tất nhiên memory cũng không phải thứ gì thần kỳ. Nó chỉ hữu ích khi AI nhớ đúng thứ cần nhớ. Nếu nhớ bừa, nhớ sai, hoặc tự suy diễn quá nhiều thì lại thành phiền.
Skill
Skill là một quy trình được đóng gói sẵn để AI biết làm một việc cụ thể theo đúng cách mình muốn.
Giống như mình đã hướng dẫn một nhân viên cách làm báo giá, cách đặt tên file, cách viết đúng giọng, cách lưu đúng thư mục. Lần sau mình chỉ cần gọi đúng tên việc đó, không cần dạy lại từ đầu.
Ví dụ thực tế: Mình có skill `/tao-bao-gia`. Mỗi lần gọi lên, AI tự biết lấy thông tin khách, điền vào đúng mẫu, giữ đúng format, rồi xuất ra file cần dùng. Mình không phải nhắc lại từng bước.
Skill hợp với những việc lặp lại và có quy trình tương đối cố định. Càng đóng gói rõ, AI càng ít làm sai.
Tool / tool use
Mặc định, AI chỉ suy nghĩ và trả lời trong khung chat. Nó không tự đọc được file trên máy, không tự gửi email, không tự gọi API, không tự kiểm tra dữ liệu mới nhất.
Tool use là lúc AI được trao quyền dùng công cụ thật: Tìm kiếm web, đọc file, gửi email, chạy code, truy cập Google Drive, gọi hệ thống nội bộ...
Không có tool, AI giống một người tư vấn miệng. Có tool, AI bắt đầu cầm tay vào làm việc.
Đây là một trong những lý do AI bây giờ mạnh hơn rất nhiều so với giai đoạn đầu. Không chỉ vì mô hình thông minh hơn, mà vì nó được kết nối với công cụ thật và dữ liệu thật.
Agent
Agent là bước tiếp theo sau tool use.
Nếu tool use là AI biết dùng công cụ, thì agent là AI biết tự chia việc, tự dùng công cụ, tự đi qua nhiều bước để hoàn thành một mục tiêu.
Ví dụ: Thay vì mình nói từng câu "tìm thông tin khách", "mở file hợp đồng", "điền thông tin", "xuất PDF", "soạn email", mình chỉ nói: "Chuẩn bị hợp đồng và email gửi cho khách X."
Agent sẽ tự xử lý cả chuỗi đó, miễn là nó có đủ quyền và đủ ngữ cảnh.
Phân biệt nhanh: Chat AI thông thường thì mình lái từng bước. Agent thì mình đặt đích, nó tự tìm đường đi.
RAG (Retrieval-Augmented Generation)
Tên nghe rất kỹ thuật, nhưng ý đơn giản là: AI đi tìm thông tin từ nguồn bên ngoài trước khi trả lời.
Ví dụ dễ thấy nhất là NotebookLM. Mình tải tài liệu lên, nó đọc tài liệu đó rồi trả lời dựa trên tài liệu mình đưa. Nó không chỉ dựa vào những gì đã được học từ trước.
RAG quan trọng vì AI không biết mọi thứ mới nhất, và cũng không tự biết tài liệu riêng của mình. Muốn AI trả lời dựa trên dữ liệu thật của dự án, của công ty, của khách hàng, thì phải có cách cho nó truy xuất đúng nguồn.
Hiểu đơn giản: RAG là cách để AI mở tủ tài liệu ra xem trước khi nói.
Token
Token là đơn vị AI dùng để tính độ dài. Nó không hẳn là chữ cái, cũng không hẳn là từ.
Biết token để làm gì? Vì context window, chi phí API và tốc độ phản hồi đều liên quan đến token. Chat càng dài, tài liệu càng nặng, yêu cầu càng nhiều, thì token càng tăng.
Nếu bạn chỉ dùng ChatGPT bình thường thì chưa cần quá ám ảnh chuyện này. Nhưng khi bắt đầu làm workflow, dùng API, hoặc xử lý nhiều tài liệu dài, token sẽ ảnh hưởng trực tiếp đến chi phí và độ ổn định.
Nói ngắn gọn: Token là thứ làm cho AI có giới hạn. Không phải cứ nhét càng nhiều thông tin càng tốt.
Biết mấy từ này không làm mình giỏi AI ngay. Nhưng ít nhất mình sẽ đỡ bị choáng mỗi lần đọc tài liệu, nghe người khác nói về AI, hoặc thử một công cụ mới.
Quan trọng hơn là mình bắt đầu hiểu vì sao có lúc AI làm rất tốt, có lúc lại rất lạc đề.
Nhiều khi vấn đề không nằm ở câu prompt. Nó nằm ở context chưa đủ, memory chưa đúng, tool chưa có, hoặc mình đang kỳ vọng một chatbot làm việc như một agent.
Khi hiểu đúng vai trò của từng phần, mình sẽ dùng AI bình tĩnh hơn. Không thần thánh hóa, cũng không thất vọng quá nhanh.
Nếu bạn muốn xem cách mình đang áp dụng mấy thứ này vào công việc thực tế, có thể đọc thêm bài [Quy trình 4 bước ứng dụng AI để giải phóng bộ não](https://thanconghuy.com/blog/quy-trinh-4-buoc-ung-dung-ai-giai-phong-bo-nao).
No comments yet