NLP(LLM) Engineer (Junior+, Upto 60M)

MỤC TIÊU CÔNG VIỆC
Xây dựng và vận hành các giải pháp NLP/LLM ở môi trường production cho tập khách hàng là các doanh nghiệp hàng đầu trong các ngành, lĩnh vực khác nhau: tóm tắt - trích xuất - phân loại - tìm kiếm ngữ nghĩa - hỏi đáp theo tài liệu - phân tích rủi ro/tuân thủ - trợ lý nghiệp vụ... trên hạ tầng dữ liệu rất lớn, yêu cầu độ tin cậy, kiểm soát chất lượng, bảo mật và tối ưu chi phí.
A. Thiết kế & triển khai sản phẩm LLM/NLP end-to-end
Phân tích yêu cầu nghiệp vụ enterprise, thiết kế pipeline NLP/LLM phù hợp (online/near-realtime/batch).
Xây dựng RAG (Retrieval-Augmented Generation): ingestion → chunking → embedding → indexing → retrieval → rerank → generation.
Thiết kế prompt/policy: prompt templates, function-calling/tool-use, guardrails, kiểm soát hallucination, citation/traceability.
Phát triển agentic workflows khi cần (routing, tool orchestration, multi-step tasks).
B. Vận hành production quy mô lớn
Thiết kế dịch vụ LLM/NLP theo hướng microservice, API chuẩn (OpenAI-compatible hoặc nội bộ).
Tối ưu throughput/latency/cost: batching, streaming, caching, quantization, GPU scheduling (vLLM/TensorRT-LLM/[protected info]).
Xây dựng cơ chế observability: logging/tracing/metrics, SLO/SLA, canary, rollback.
C. Xử lý dữ liệu cực lớn & nền tảng tìm kiếm trên quy mô hàng tỷ bản ghi
Xử lý ingestion từ nhiều nguồn: DB/log/stream (Kafka/RabbitMQ), file/object storage.
Tối ưu index & search: Elasticsearch/Solr/OpenSearch; vector DB; hybrid search (BM25 + dense).
Thiết kế data governance: PII masking, retention, access control, audit.
D. Đánh giá chất lượng & cải tiến
Xây dựng LLM evaluation framework: offline testset, golden set, A/B test, regression test, judge-model/human-in-the-loop.
Định nghĩa tiêu chí đo: factuality, faithfulness, coverage, latency, cost, safety.
Fine-tune/adapter khi cần: LoRA/QLoRA, distillation, reranker fine-tuning, domain adaptation.
E. Phối hợp khách hàng & đội nội bộ
Làm việc với PM/BA/Infra/Sec để triển khai theo quy trình enterprise (security review, compliance).
Hỗ trợ presales/POC: tư vấn kiến trúc, estimate, demo, triển khai thử nghiệm.