Data Engineer (Big data)Apollo Solutions
Hình thức: Toàn thời gian
Ngày đăng: 15/11/2024
Hạn nộp: 06/01/2025
Mô tả công việc
Your role & responsibilities
- Thiết kế và xây dựng hệ thống xử lý dữ liệu: Chịu trách nhiệm thiết kế, xây dựng, và duy trì các hệ thống xử lý dữ liệu quy mô lớn, đảm bảo dữ liệu được xử lý và lưu trữ một cách hiệu quả, chính xác và an toàn.
- Phát triển và duy trì các pipeline dữ liệu: Làm việc chặt chẽ với các team khác để phát triển và duy trì các pipeline dữ liệu, đảm bảo dữ liệu được thu thập, chuyển đổi, và lưu trữ chính xác từ các nguồn khác nhau.
- Tối ưu hóa hiệu suất hệ thống: Tham gia vào việc tối ưu hóa hiệu suất của các hệ thống cơ sở dữ liệu và xử lý dữ liệu, đảm bảo rằng hệ thống hoạt động với hiệu suất cao nhất và đảm bảo khả năng mở rộng khi lưu lượng dữ liệu tăng.
- Trích xuất, tổng hợp dữ liệu phục vụ phân tích: Cung cấp hỗ trợ kỹ thuật cho các team phân tích dữ liệu và các bên liên quan khác, giúp họ tiếp cận và sử dụng dữ liệu một cách hiệu quả.
- Đảm bảo chất lượng dữ liệu: Thực hiện kiểm tra chất lượng dữ liệu để đảm bảo dữ liệu đầu vào và đầu ra đáp ứng các tiêu chuẩn chất lượng.
- Xử lý xung đột và lỗi tích hợp: Phát hiện, giải quyết và sửa chữa các xung đột và lỗi liên quan. Đảm bảo các luồng tích hợp đồng bộ/bất đồng bộ hoạt động một cách chính xác.
- Hỗ trợ triển khai và triển khai: Cung cấp hỗ trợ và hướng dẫn cho quá trình triển khai và triển khai hệ thống trong môi trường thực tế
- Vận hành và bảo trì: Vận hành, giám sát hiệu suất và bảo trì các luồng dữ liệu. Cảnh báo cho các bên liên quan khi hệ thống gặp sự cố. Khắc phục sự cố trong thời gian sớm nhất.
- Đảm bảo bảo mật dữ liệu và tuân thủ các quy định về quyền riêng tư trong quá trình xử lý dữ liệu.
- Hỗ trợ các dự án liên quan đến dữ liệu trong công ty theo điều động của quản lý.
Your skills & qualifications
- Yêu cầu tối thiểu: Thành thạo các công cụ Elasticsearch, Kakfa, PySpark, Airflow, Nifi và kinh nghiệm làm việc trong các dự án xử lý dữ liệu lớn và các hệ thống phân tán. Thành thạo phát triển ứng dụng trên Docker và triển khai vận hành trên Kubernetes.
- Kinh nghiệm về cơ sở dữ liệu: Thành thạo với các hệ quản trị cơ sở dữ liệu như SQL, NoSQL, và các công cụ như MySQL, PostgreSQL, Elasticsearch, Cassandra...
- Kiến thức về ETL (Extract, Transform, Load): Kinh nghiệm xây dựng và duy trì các pipeline ETL để thu thập, chuyển đổi, và tích hợp dữ liệu từ các nguồn khác nhau.
- Kinh nghiệm với các ngôn ngữ lập trình: Thành thạo ngôn ngữ Python trong xử lý các định dạng dữ liệu khác nhau và xử lý dữ liệu lớn.
- Hiểu biết về các công cụ Big Data: Kinh nghiệm làm việc với các công nghệ Big Data như Hadoop, Spark, Kafka...
- Kỹ năng xử lý dữ liệu: Kinh nghiệm làm việc với các công cụ xử lý dữ liệu bao gồm Pandas, NumPy và các công cụ tương tự.
- Kỹ năng giao tiếp và làm việc nhóm: Kỹ năng giao tiếp tốt, có khả năng làm việc hiệu quả trong môi trường nhóm.
- Hiểu biết sâu về xử lý dữ liệu lớn và phân tích dữ liệu.
- Thành thạo công cụ Data pipeline và workflow management: Airflow, Nifi.
- Kinh nghiệm làm việc với các giải pháp monitoring: Prometheus, Grafana, ELK Stack.
- Có kinh nghiệm làm việc với Kubernetes Orchestration và Configuration Management: Rancher, ArgoCD, Docker Compose, Docker. Có khả năng build docker image một cách tối ưu cho các pipeline.
- Có khả năng triển khai và vận hành Spark Job, Airflow Job, Cronjob trên môi trường Kubernetes.
Benefits for you
- Được hưởng lương phản ánh đúng năng lực và cạnh tranh trên thị trường
- Phụ cấp ngoài lương: Ăn sáng, ăn trưa tại Công ty
- Được đánh giá năng lực làm việc theo quý/năm và nâng cấp bậc trong công việc; làm việc, cộng tác cùng đội ngũ nhân sự chất lượng cao
- Được cung cấp trang thiết bị làm việc (Macbook, Laptop, LCD 24"...)
- Làm việc 5 ngày trên 1 tuần (nghỉ thứ 7 chủ nhật)
- Cơ hội tham gia các khóa đào tạo chuyên môn, nâng cao kỹ năng thực hiện công việc, kỹ năng mềm và thi các chứng chỉ CNTT
- Môi trường làm việc trẻ trung, năng động, được tạo điều kiện để phát huy tối đa năng lực, nhiều cơ hội thăng tiến
- Văn phòng làm việc hiện đại, không gian mở, tòa nhà không chung với các công ty khác
- Chế độ nghỉ phép và bảo hiểm (BHXH-BHYT-BHTN) theo quy định pháp luật
- Chế độ Bảo hiểm sức khỏe cho bản thân và người nhà
- Hỗ trợ chi phí đi công tác
- Tham gia các hoạt động văn hóa nội bộ, team building, nghỉ mát hàng năm
- Chế độ mừng kết hôn, quà nhân ngày Lễ/ Tết và các chế độ phúc lợi khác
Yêu cầu
Python, Big Data, Kubernetes
Quyền lợi
- Được hưởng lương phản ánh đúng năng lực và cạnh tranh trên thị trường
- Phụ cấp ngoài lương: Ăn sáng, ăn trưa tại Công ty
- Được đánh giá năng lực làm việc theo quý/năm và nâng cấp bậc trong công việc; làm việc, cộng tác cùng đội ngũ nhân sự chất lượng cao
- Được cung cấp trang thiết bị làm việc (Macbook, Laptop, LCD 24"...)
- Làm việc 5 ngày trên 1 tuần (nghỉ thứ 7 chủ nhật)
- Cơ hội tham gia các khóa đào tạo chuyên môn, nâng cao kỹ năng thực hiện công việc, kỹ năng mềm và thi các chứng chỉ CNTT
- Môi trường làm việc trẻ trung, năng động, được tạo điều kiện để phát huy tối đa năng lực, nhiều cơ hội thăng tiến
- Văn phòng làm việc hiện đại, không gian mở, tòa nhà không chung với các công ty khác
- Chế độ nghỉ phép và bảo hiểm (BHXH-BHYT-BHTN) theo quy định pháp luật
- Chế độ Bảo hiểm sức khỏe cho bản thân và người nhà
- Hỗ trợ chi phí đi công tác
- Tham gia các hoạt động văn hóa nội bộ, team building, nghỉ mát hàng năm
- Chế độ mừng kết hôn, quà nhân ngày Lễ/ Tết và các chế độ phúc lợi khác
Giới thiệu công ty
Việc làm tương tự
VIỆC LÀM PYTHON DEVELOPER/DATA ENGINEER tại TPHCM - Pi Associates
PI ASSOCIATES JSC.,
10,000,000 - 30,000,000 VNĐ 0 VNĐ
Hồ Chí Minh
31/12/2024
Fullstack Developer (Python / Reactjs)
CÔNG TY TNHH CÔNG NGHỆ INNOMIZE
1,500 - 2,500 USD
Hồ Chí Minh
19/12/2024
Python Developer (SENIOR)
Công ty Cổ phần Viễn thông FPT - FPT Telecom
30 - 60 triệu
Hồ Chí Minh
20/01/2025
SOFTWARE DEVELOPER (PYTHON)
Công ty Cổ phần Viễn thông FPT - FPT Telecom
Thương lượng
Hồ Chí Minh
19/12/2024
Software Developer
Công Ty TNHH Phát Triển Hệ Thống Nichietsu
20 triệu - 40 triệu
Hồ Chí Minh
01/12/2024
Vị trí Data Engineer (Big data) do công ty Apollo Solutions tuyển dụng tại Hồ Chí Minh, Joboko tự động tổng hợp mức lương Negotiable, tìm thêm việc làm về Data Engineer (Big data) hoặc công ty Apollo Solutions ở các link phía trên
Giới thiệu công ty