Introduction to Data Engineering
از کانتینرسازی با Docker تا طراحی پایگاهداده، SQL حرفهای، NoSQL، اتصال پایتون به دیتابیس و ساخت پایپلاین ETL با Airflow؛ مسیر کامل زیرساخت داده.


اگر علم داده و یادگیری ماشین «تحلیل» داده هستند، مهندسی داده «زیرساخت» آن است؛ یعنی همان چیزی که داده را از منبع خام به دست تحلیلگر و مدل میرساند. این دوره از Docker بهعنوان ابزار راهاندازی محیطهای ایزوله شروع میشود و وارد طراحی پایگاهدادهی رابطهای (مدلسازی ER، نرمالسازی) میشود. در ادامه SQL را از دستورات پایه تا subquery و index حرفهای پوشش میدهد و مفاهیم حیاتی ACID و امنیت دیتابیس را آموزش میدهد. سپس با NoSQL و اتصال پایتون به دیتابیس (از جمله ساخت یک REST API با Flask) ادامه پیدا میکند و در نهایت با ETL و ارکستریشن پایپلاین با Airflow جمعبندی میشود.

پوریا بادامچی
تحلیلگر داده

اشکان دیوبند
مدیر فنی و مهندس ارشد نرمافزار
در پایان این دوره میتوانید: ۱. یک محیط کاری با Docker راهاندازی و مدیریت کنید. ۲. یک پایگاهدادهی رابطهای را از صفر طراحی (ER Diagram و نرمالسازی) و پیادهسازی کنید. ۳. کوئریهای SQL پیچیده (Join، Aggregation، Subquery) بنویسید. ۴. مفاهیم ACID، کنترل همزمانی و امنیت دیتابیس را در طراحی سیستم بهکار ببرید. ۵. تفاوت SQL و NoSQL را درک کرده و بدانید کِی از کدام استفاده کنید. ۶. از پایتون به دیتابیس متصل شوید و یک API برای خواندن/نوشتن داده بسازید. ۷. یک پایپلاین ETL بسازید و آن را با Airflow زمانبندی و ارکستریت کنید.