Les règles en SQL, les étapes en Python
Pourquoi je garde les règles d’affaires en SQL, près des données, et n’utilise Python que pour exécuter les étapes autour.
Je migre les données des banques et des assureurs vers le nuage, et je prouve qu’elles sont arrivées intactes.
Région du Grand Toronto · SQL · Oracle PL/SQL · Python · Azure · Google Cloud · Anglais et espagnol
$ python migrate.py --source oracle --target gcp[info] profiling source tables…[info] null keys: 0 · schema drift: 2 columns[warn] drifted columns mapped in the standardization layer[info] landing → standardization → serving[info] loading partitions 1/12 … 12/12[info] reconciling row counts and amounts…[ OK ] rows: source = target[ OK ] totals match to the cent[ OK ] nightly window met✓ migration complete$
Je suis Manuel Pérez, Senior Data Engineer dans la région du Grand Toronto. Depuis 2009, j’ai bâti des entrepôts de données et des processus ETL pour une banque, migré ses pipelines vers Azure et fait passer un assureur santé à une nouvelle plateforme dans deux pays. Aujourd’hui, je travaille à la migration des données d’International Banking de la Banque Scotia vers Google Cloud.
Pourquoi je garde les règles d’affaires en SQL, près des données, et n’utilise Python que pour exécuter les étapes autour.
Un traitement qui se termine sans erreur prouve seulement qu’il s’est exécuté. Voici comment je prouve que les données sont les mêmes des deux côtés.
Parlez-moi du poste ou du projet. Je lis chaque message et je réponds personnellement.