< Naar alle vacatures

Data Quality Framework Engineer (PySpark/Databricks)

Opleidingsniveau

Bachelor of Master in Computer Science, Software Engineering or Data Engineering

Salarisindicatie in loondienst

€60000 - €85000 per jaar

Indicatie uurtarief bij ZZP

€450 - €750 per uur

Doorgroeimogelijkheden

Lead Data Engineer, Principal Data Engineer, Data Engineering Manager, Head of Data, Chief Data Officer

Competenties & vaardigheden

Python, PySpark, Databricks, CI/CD, SQL

Gerelateerde functies

Data Engineer, Data Platform Engineer, Data Engineer (PySpark), Databricks Engineer, Quality Assurance Engineer

Functiebeschrijving

Een Data Quality Framework Engineer ontwerpt en ontwikkelt herbruikbare validatiecomponenten en regeluitvoering voor datakwaliteit in PySpark op Databricks.

De rol vereist zowel software- als platformdenken om tests, CI/CD en productiebeheer voor meerdere omgevingen te borgen.

Je levert contract-gedreven validaties, resultaatafhandeling en monitoring met alerts, notificaties en jobmanagement.

Werkvormen omvatten loondienst, interim werk en opdrachten overheid of commerciële zzp opdrachten via DAS.

Salarisindicatie

Salaris voor vaste aanstellingen ligt typisch tussen €60.000 en €85.000 per jaar afhankelijk van ervaring, verantwoordelijkheden en locatie.

Consultants en zzp opdrachten vragen dagtarieven van circa €450 tot €750; opdrachten via bureaus of DAS beïnvloeden tarieven en voorwaarden.

Bij interim werk komen vaak extra vergoedingen voor out-of-hours support, on-call en projecttoeslagen voor specifieke productiebeheerverantwoordelijkheden.

Typische werkzaamheden

Ontwikkelen en refactoren van PySpark-libraries en shared packages die data quality checks en rule engines mogelijk maken.

Implementeren van CI/CD pipelines, unit- en integration-tests en packaging voor herbruikbare artifacts en betrouwbaar releasebeheer.

Beheren van Databricks-jobs, alerts, triggers en multi-omgeving configuraties inclusief deployment, monitoring en rollbackprocedures.

Afstemmen met datastewards, architecten en stakeholders over data contracts, rule-versioning en governance-eisen.

Monitoren van productie-resultaten, analyseren van datakwaliteitsincidenten en uitvoeren van root-cause analyses met terugkoppeling naar het framework.

Hoe word je specialist

Begin met een hbo- of wo-opleiding in Informatica, Software- of Data Engineering en bouw minimaal vijf jaar relevante ervaring op in data- of platformengineering.

Verkrijg praktijkervaring met Python, PySpark en Databricks door samenhangende projecten te leiden die reusable frameworks en CI/CD implementeren.

Verdiep je in data contracts, governance, rule-versioning en Spark performance tuning om impact op productie te minimaliseren.

Zet interim werk, opdrachten overheid of zzp opdrachten in om domeinkennis en procesvariatie te verzamelen en gebruik DAS of gespecialiseerde bureaus voor opdrachten en netwerken.

Richt je op certificeringen van cloudproviders (bij voorkeur Azure) en Databricks en draag bij aan interne of open source shared libraries om door te groeien richting lead- of managementfuncties.

Opleidingsniveau

Bachelor of Master in Computer Science, Software Engineering or Data Engineering

Salarisindicatie in loondienst

€60000 - €85000 per jaar

Indicatie uurtarief bij ZZP

€450 - €750 per uur

Doorgroeimogelijkheden

Lead Data Engineer, Principal Data Engineer, Data Engineering Manager, Head of Data, Chief Data Officer

Competenties & vaardigheden

Python, PySpark, Databricks, CI/CD, SQL

Gerelateerde functies

Data Engineer, Data Platform Engineer, Data Engineer (PySpark), Databricks Engineer, Quality Assurance Engineer

Functiebeschrijving

Een Data Quality Framework Engineer ontwerpt en ontwikkelt herbruikbare validatiecomponenten en regeluitvoering voor datakwaliteit in PySpark op Databricks.

De rol vereist zowel software- als platformdenken om tests, CI/CD en productiebeheer voor meerdere omgevingen te borgen.

Je levert contract-gedreven validaties, resultaatafhandeling en monitoring met alerts, notificaties en jobmanagement.

Werkvormen omvatten loondienst, interim werk en opdrachten overheid of commerciële zzp opdrachten via DAS.

Salarisindicatie

Salaris voor vaste aanstellingen ligt typisch tussen €60.000 en €85.000 per jaar afhankelijk van ervaring, verantwoordelijkheden en locatie.

Consultants en zzp opdrachten vragen dagtarieven van circa €450 tot €750; opdrachten via bureaus of DAS beïnvloeden tarieven en voorwaarden.

Bij interim werk komen vaak extra vergoedingen voor out-of-hours support, on-call en projecttoeslagen voor specifieke productiebeheerverantwoordelijkheden.

Typische werkzaamheden

Ontwikkelen en refactoren van PySpark-libraries en shared packages die data quality checks en rule engines mogelijk maken.

Implementeren van CI/CD pipelines, unit- en integration-tests en packaging voor herbruikbare artifacts en betrouwbaar releasebeheer.

Beheren van Databricks-jobs, alerts, triggers en multi-omgeving configuraties inclusief deployment, monitoring en rollbackprocedures.

Afstemmen met datastewards, architecten en stakeholders over data contracts, rule-versioning en governance-eisen.

Monitoren van productie-resultaten, analyseren van datakwaliteitsincidenten en uitvoeren van root-cause analyses met terugkoppeling naar het framework.

Hoe word je specialist

Begin met een hbo- of wo-opleiding in Informatica, Software- of Data Engineering en bouw minimaal vijf jaar relevante ervaring op in data- of platformengineering.

Verkrijg praktijkervaring met Python, PySpark en Databricks door samenhangende projecten te leiden die reusable frameworks en CI/CD implementeren.

Verdiep je in data contracts, governance, rule-versioning en Spark performance tuning om impact op productie te minimaliseren.

Zet interim werk, opdrachten overheid of zzp opdrachten in om domeinkennis en procesvariatie te verzamelen en gebruik DAS of gespecialiseerde bureaus voor opdrachten en netwerken.

Richt je op certificeringen van cloudproviders (bij voorkeur Azure) en Databricks en draag bij aan interne of open source shared libraries om door te groeien richting lead- of managementfuncties.