Data Engineer (Hadoop)

CÔNG TY TNHH BHNT CHUBB LIFE VIỆT NAM

Hết hạn: 23/10/2022

Chi tiết công việc
Giới thiệu công ty

Vị trí công việc này hiện tại đã hết hạn nộp hồ sơ, bạn có thể tham khảo thêm một số công việc liên quan phía dưới

Job Requirements

We are looking to hire a data analyst to join our data team. Who will take responsibility for managing master data set, developing reports, and troubleshooting data issues. To do well in this role is necessary a very fine eye for detail, experience as a data analyst, and a deep understanding of the popular data analysis tools and databases.

Responsibilities:

• You will be using Data wrangling techniques converting one "raw" form into another including data visualization, data aggregation, training a statistical model etc.

• Work with various relational and non-relational data sources with the target being Azure based SQL Data Warehouse & Cosmos DB repositories

• Clean, unify and organize messy and complex data sets for easy access and analysis

• Create different levels of abstractions of data depending on analytics needs

• Hands on data preparation activities using the Azure technology stack especially Azure Databricks is strongly preferred

• Implement discovery solutions for high speed data ingestion

• Work closely with the Data Science team to perform complex analytics and data preparation tasks

• Work with the Sr. Data Engineers on the team to develop APIs

• Sourcing data from multiple applications, profiling, cleansing and conforming to create master data sets for analytics use

• Experience with Complex Data Parsing (Big Data Parser) and Natural Language Processing (NLP) Transforms on Azure a plus

• Design solutions for managing highly complex business rules within the Azure ecosystem

Work Experience

Minimum Requirements:

• Mid to advanced level knowledge of Python and Pyspark is an absolute must.

• Knowledge of Azure, Hadooop 2.0 ecosystems, HDFS, MapReduce, Hive, Pig, sqoop, Mahout, Spark etc. a must

• Experience with Web Scraping frameworks (Scrapy or Beautiful Soup or similar)

• Significant programming experience (with above technologies as well as Java, R and Python on Linux) a must

• Extensive experience working with Data APIs (Working with RESTful endpoints and/or SOAP)

• Excellent working knowledge of relational databases, MySQL, Oracle etc.

• Experience with Complex Data Parsing (Big Data Parser) a must. Should have worked on XML, JSON and other custom Complex Data Parsing formats

• Knowledge of High-Speed Data Ingestion, Real-Time Data Collection and Streaming is a plus

• Bachelor's in computer science or related educational background

• 3-5 years of solid experience in Big Data technologies a must

Thông tin chung

Ngày hết hạn: 23/10/2022
Thu nhập: Thỏa thuận

Giới thiệu công ty

Chubb là tập đoàn bảo hiểm hàng đầu thế giới. Hoạt động tại 54 quốc gia và các vùng lãnh thổ trên toàn cầu, Tập đoàn Chubb cung cấp các dịch vụ bảo hiểm tài sản doanh nghiệp và cá nhân, bảo hiểm tai nạn cá nhân và bảo hiểm y tế bổ sung, tái bảo hiểm và bảo hiểm nhân thọ cho các đối tượng khách hàng đa dạng. Là một tập đoàn chuyên cung cấp dịch vụ bảo hiểm, chúng tôi đánh giá và quản lý rủi ro với sự am hiểu và tính kỷ luật. Chúng tôi thực hiện hoạt động bồi thường bảo hiểm một cách công bằng và ...

Quy mô công ty

Từ 26 - 100 nhân viên

Chia sẻ: