- Thiết kế, xây dựng và triển khai các ứng dụng LLM/AI
phục vụ sản phẩm (chatbot, trợ lý nội bộ, tìm kiếm ngữ nghĩa, hỏi đáp tài liệu).
- Xây dựng pipeline RAG cho dữ liệu lớn: ingestion, chunking, embedding, indexing, retrieval, reranking, generation và đánh giá chất lượng.
- Thiết kế thuật toán tìm kiếm nội dung hybrid search (kết hợp keyword + vector) và tối ưu truy hồi (recall/precision, latency, cost).
- Làm việc với vector database (schema, index, partition, filtering) để tối ưu hiệu năng và khả năng mở rộng.
- Tiền xử lý dữ liệu phi cấu trúc (PDF, Word, Excel, HTML, email, log...): làm sạch, chuẩn hóa, loại trùng, trích xuất metadata.
- Fine-tune/điều chỉnh mô hình (khi cần): xây dựng tập dữ liệu, huấn luyện, đánh giá, theo dõi drift; tối ưu prompt và system instruction.
- Phát triển ứng dụng AI Agent: thiết kế agent skill/tool, orchestration, memory, planning và cơ chế an toàn/giới hạn.
- Tích hợp MCP (Model Context Protocol) để kết nối agent với công cụ/hệ thống nội bộ (DB, API, file, workflow).
- Phối hợp với PM/BA/QA và các team sản phẩm để đặc tả yêu cầu, test và đưa giải pháp vào vận hành.
- Theo dõi, đo lường và cải tiến: logging, tracing, evaluation, A/B test, tối ưu chi phí inference.
- Từ 1-4 năm kinh nghiệm phát triển ứng dụng AI/ML hoặc backend liên quan đến LLM.
- Thành thạo Python (ưu tiên) hoặc một ngôn ngữ backend tương đương; biết cách xây dựng API (FastAPI/Flask) và tích hợp dịch vụ.
- Kinh nghiệm làm việc với vector database (ví dụ: Milvus, Pinecone, Weaviate, Qdrant, pgvector) và các kỹ thuật indexing/filtering.
- Hiểu và triển khai embedding model: lựa chọn model, chiến lược chunking, chuẩn hóa metadata, đo lường chất lượng retrieval.
- Nắm vững RAG cho dữ liệu lớn và tối ưu pipeline: ingestion, caching, batching, reranking, guardrails.
- Có kinh nghiệm fine-tuning/PEFT (LoRA/QLoRA) hoặc instruction tuning; biết đánh giá mô hình và quản lý dataset.
- Am hiểu
kiến trúc Transformer/LLM: attention, context window, tokenization, inference, các yếu tố ảnh hưởng đến chất lượng/chi phí.
- Kinh nghiệm tiền xử lý dữ liệu phi cấu trúc và xây dựng pipeline ETL/ELT cho dữ liệu tài liệu.
- Có kinh nghiệm phát triển ứng dụng AI Agent, thiết kế agent skill/tool và thuật toán tìm kiếm/truy hồi hiệu quả.
- Tư duy hệ thống, khả năng thiết kế kiến trúc có thể mở rộng, logging/monitoring và đảm bảo an toàn dữ liệu.
- Sử dụng Git thành thạo.
ƯU TIÊN ỨNG VIÊN
- Kinh nghiệm triển khai hybrid search với Elasticsearch/OpenSearch (BM25) kết hợp vector search; có kinh nghiệm reranker (cross-encoder) là điểm cộng.
- Có kinh nghiệm với framework LangChain/LlamaIndex hoặc các orchestration framework tương đương.
- Có kinh nghiệm vận hành inference (vLLM, TGI, Ollama, Triton), tối ưu throughput/latency.
- Hiểu về MCP và/hoặc các chuẩn tool calling, function calling; đã triển khai agent với nhiều tool là lợi thế.
- Kinh nghiệm làm việc với cloud (Azure/AWS/GCP), Docker, Kubernetes; biết CI/CD là điểm cộng.
- Có kinh nghiệm bảo mật dữ liệu và an toàn AI: PII redaction, prompt injection mitigation, access control, audit log.
- Có sản phẩm/demo/portfolio về AI Agent, RAG hoặc tìm kiếm ngữ nghĩa.