التحقق من نموذج البيانات لتحسين جودة مخطط مستودع البيانات

By |2022-01-20T10:07:44+00:0029 سبتمبر، 2021|

ماذا هل يستغرق الأمر لضمان جودة ومتانة تنفيذ مستودع البيانات الخاص بك؟ نظام التحقق من نموذج البيانات المتعمق الذي يسمح لك بالتحقق بدقة من نماذج المصدر والوجهة والمساعدة في إصلاحها قبل نشرها على الإطلاق. لأنه إذا كان مخطط مستودع البيانات الخاص بك دقيقًا ، فسيتم تبسيط عمليات تحميل البيانات وإعداد التقارير اللاحقة تلقائيًا وخالية من الأخطاء.

تعمل نماذج البيانات كأساس لأي بنية مستودع بيانات مصممة لتقديم بيانات موثوقة لإعداد التقارير والتحليلات. نظرًا لكونها جوهر هذه الآلات المذهلة (مستودع البيانات) ، فمن المنطقي فقط التأكد من أن نماذج البيانات ، عند استخدامها ، تعمل بسلاسة دون إعطاء أي أخطاء أو تعطيل عملية التطوير.

الصور: المهوس وكزة

لكن بناء نماذج البيانات نادرًا ما يكون بسيطًا. قد يقول البعض إنه سيكون حلمًا يتحقق لمصممي البيانات الذين يريدون أن تعمل نماذجهم مثل السحر في المرة الأولى التي يستخدمها المطورون لعمليات تحميل البيانات. إذن كيف يمكنك ، بصفتك مصمم نماذج ، تحقيق هذه النيرفانا من الثقة الكاملة والثقة في نماذج البيانات الخاصة بك وتخطي دورات الاختبار الطويلة؟

تكمن الإجابة في إجراء فحوصات شاملة للتحقق من صحة نموذج البيانات أثناء وقت التصميم وقبل نشرها مباشرةً.

دعنا نلقي نظرة عميقة على المقصود بالتحقق من نموذج البيانات وكيف يمكن أن يؤثر على الجدول الزمني العام وجودة مشروع مستودع البيانات.

ما الذي يجعل التحقق من نموذج البيانات ضرورة DW

يعد اكتشاف أخطاء نموذج البيانات هذه في وقت التصميم أمرًا ضروريًا

عند إنشاء مخطط مستودع البيانات ، يجب على مصممي البيانات توخي الحذر بشأن الكثير من التفاصيل الدقيقة لنماذج البيانات الخاصة بهم لتعمل بسلاسة في العمليات اللاحقة. لإعطائك فكرة ، دعنا نلقي نظرة على مرحلتين رئيسيتين لنمذجة البيانات التي من شأنها أن تستفيد بشكل كبير من عمليات التحقق المناسبة.

1. فحوصات التحقق من وقت التصميم

يتم إنشاء نماذج البيانات بالرجوع إلى قواعد بيانات المصدر والوجهة. تحتاج إلى التأكد من أن النماذج الخاصة بك تلبي قواعد ومعايير معينة لقواعد البيانات هذه وليس لديها منطقي أخطاء.

XNUMX. من قائمة منظور نمذجة البيانات المصدر، تتضمن الأنواع المختلفة من عمليات التحقق البحث عن حالات عدم التطابق على مستوى الحقل بين النموذج وقاعدة البيانات المصدر. تتراوح هذه من الاختلافات في أنواع البيانات والفهارس والأسماء المستعارة وأسماء الأعمدة والجداول وصولاً إلى أطوال الأحرف وإلغاء الأعمدة والمفاتيح الأساسية والحقول المفقودة في قاعدة البيانات.

في الأساس ، إذا لم تكن جداول قاعدة البيانات ونموذج البيانات المصدر متزامنين ، فستحصل على أخطاء في مرحلة لاحقة عندما تستخدم نماذج البيانات لبناء خطوط أنابيب البيانات وحقول التعيين.

دعونا نتحدث عن بناء مخطط الوجهة، والتي يمكن أن تكون 3NF ، أو نموذج الأبعاد ، أو قبو البيانات. من أجل هذه المناقشة ، سنستخدم نمذجة الأبعاد (بسبب شعبيتها بين الجماهير). يتطلب منك تكوين الحقائق والأبعاد من خلال تحديد مفاتيح العمل والمفاتيح البديلة ومفاتيح تاريخ المعاملة ، أدوار SCDومعرفات الصفوف والتحقق من القيمة الفارغة وبعض المواصفات الأخرى.

لنأخذ مثال موظف البعد. تريد الاحتفاظ بسجل مختلف جوانب الموظفين ، مثل وقت ترقيتهم ، والتغيير في الرواتب ، وتاريخ تعيينهم وتركهم الشركة ، وما إلى ذلك. لهذا ، ستحتاج إلى استخدام SCD Type 2 أو Type 6 بالإضافة إلى ذلك ، يجب عليك التأكد من تعيين مفاتيح الأعمال والمفاتيح البديلة ، وتأسيس العلاقات ، وتحديد معرف صف واحد.

خطأ مفتاح بديل مفقود في بُعد الموظف مع السياق الكامل

لذا ، ماذا سيحدث إذا فقدت قطعة واحدة أو أكثر من اللغز؟ لنفترض أن المفتاح البديل لم يتم تعريفه.

عند تنفيذ خط أنابيب البيانات لأول مرة ، سيتم إدراج البيانات بشكل طبيعي. عند إصلاح ذلك ، سيتعين على مطوري ETL توصيل هذه المشكلة إلى فريق نمذجة البيانات ، والذي سيتعين عليه بعد ذلك البحث عن هذا البعد المحدد مع المفتاح البديل المفقود لإصلاحه. مرة أخرى ، كل إعادة العمل هذه ستكون عملية طويلة.

2. عمليات التحقق للتأكد من التوافق مع قاعدة بيانات الوجهة

بعد إنشاء مخطط مستودع البيانات ، فإن الخطوة التالية هي تكرارها في قاعدة البيانات الهدف. في هذه المرحلة ، تحتاج إلى التأكد من أن البرنامج النصي للمخطط الخاص بك يتوافق مع موفر قاعدة البيانات الوجهة ، والذي قد يكون Snowflake أو Oracle أو Azure أو Teradata.

لوضع هذا في المنظور ، دعنا نأخذ مثال Snowflake وكيف أنه لا يستخدم الفهارس. لذلك ، إذا كان نظام المصدر الخاص بك هو SQL Server ، والذي يدعم جميع أنواع خيارات الفهرسة المختلفة (المفتاح الأساسي ، أو المجمعة ، أو غير المجمعة ، وما إلى ذلك) ، فسيعطي Snowflake خطأً مفاده أن الفهرسة غير مدعومة في وقت التشغيل.

مع وجود وحدة التحقق من صحة نموذج البيانات ، يمكنك بسهولة اختبار جودة نماذج البيانات وسلامتها قبل نشرها على قاعدة البيانات الهدف أو استخدامها لملء مستودع البيانات. إنه يوفر على الفرق الكثير من ساعات التطوير التي كان من الممكن إنفاقها في إعادة تصميم نموذج البيانات وإعادة بناء خطوط أنابيب البيانات.

هل يحتاج فريق نمذجة البيانات لديك إلى نظام تحقق؟

هم بالتأكيد يفعلون.

دعنا نتحدث عن الفوائد المطلقة التي تتمتع بها فرق تخزين البيانات من خلال وجود نظام تحقق كفء لنموذج البيانات.

يحدد مكان الأخطاء والتحذيرات بالضبط

ضع في اعتبارك أن لديك حوالي 60 جدولًا في قاعدة بيانات OLTP الخاصة بك والتي قمت من خلالها بإنشاء نموذج بيانات مصدر. قد تحتوي بعض الجداول على أكثر من 30 حقلاً. الآن عندما تحاول تحميل البيانات في هذه الجداول ، يعطي موفر قاعدة البيانات خطأً مفاده أن أنواعًا معينة من البيانات وأطوال الأحرف غير مدعومة ويجب تغييرها. من المحتمل أن تضطر أنت وزملاؤك من مصممي البيانات إلى قضاء ساعات طويلة في البحث في النماذج ، والتحقق من كل كيان ، وتصحيح كل هذه الأخطاء.

بعض الأخطاء الشائعة في نماذج البيانات

يساعد وجود أداة التحقق من نموذج البيانات في تحديد جميع الأخطاء والتحذيرات على الفور وتوفر سياقًا كاملاً لمكان وجودها. إنه عمليًا يأخذ التخمين من اختبار نماذج البيانات الخاصة بك ويوجهك إلى حيث تحتاج إلى إجراء إصلاحات في مخططك.

ينقذ من العودة والرابع بين الفرق

الصور: مدونة ريتش مورنان

في إعداد نموذجي ، تشتمل مشاريع تخزين البيانات على فرق متعددة تتعامل مع جوانب مختلفة من مستودع البيانات. سيكون هناك مصممو بيانات و DBAs ومطورو ETL ومهندسو بيانات والعديد من الآخرين. يعمل فريق نمذجة البيانات مع مستخدمي الأعمال لتحديد احتياجات التقارير الخاصة بهم ، والتشاور مع مسؤولي قواعد البيانات للحصول على مواصفات الموفر ، وبناء النماذج ونشرها ، وأخيراً يعطي الإشارة الخضراء لمطوري ETL لبدء إنشاء خطوط أنابيب لتحميل البيانات.

الآن ، حتى مع وجود أداة تخزين البيانات ، فهي عملية كثيفة العمالة. لكن الأخطاء بشكل عام لا تظهر حتى تصل إلى نقطة تنفيذ خطوط أنابيب البيانات لملء مستودع البيانات.

يحفظ نظام التحقق من نموذج البيانات المتعمق المستخدمين من العودة إلى خط البداية ، وإجراء تغييرات على نموذج البيانات ، وتسليمه إلى الفريق التالي ، ثم تشغيل تدفقات تحميل البيانات للتحقق مما إذا كان يعمل بشكل جيد. من خلال إجراء الإصلاحات أثناء تصميم نماذج البيانات ، يمكنك تبسيط العملية بشكل كبير ، وتسريع دورة التطوير بأكملها بساعات ، إن لم يكن أيامًا أو أسابيع.

يضمن الامتثال لقواعد البرمجة النصية لموفر قاعدة البيانات

لنفترض أن قاعدة بيانات OLTP موجودة في SQL Server ، وأنت تقوم ببناء مستودع البيانات في Oracle. عند نشر مخططك على قاعدة بيانات Oracle ، من المحتمل أن تواجه مشكلات تتعلق بالقيود المفروضة على أنواع البيانات وأطوال الأحرف والمقياس حيث يتعامل كلا الموفرين مع هذه المعلمات بشكل مختلف. وبالمثل ، قد تحصل على خطأ في وجود فهرس مجمع في نموذج الوجهة الخاص بك ، والذي ، مرة أخرى ، لا تدعمه Oracle.

مع وجود نظام للتحقق من نموذج البيانات ، يمكنك بسهولة حل مشكلات الامتثال هذه جيدًا قبل نشر المخطط في قاعدة بيانات Oracle. يوفر هذا كلاً من مصممي البيانات ومطوري ETL العديد من ساعات إعادة العمل التطويرية التي من شأنها أن تدخل في تحديد المشكلات وحلها في كل كيان نموذج بيانات.

يسرع عملية تخزين البيانات الشاملة

"يا رجل ، إذا كان هناك فقط نظام لاختبار نماذج البيانات هذه وأبلغني بأخطائه على الفور ، لكنا قد وفرنا الكثير من ساعات التطوير التي ذهبت لإصلاحها مرارًا وتكرارًا."

~ مجهول ، عارض بيانات التمني

يمكن أن يكون نظام التحقق من نموذج البيانات الفعال هو الكأس المقدسة لفرق تخزين البيانات حيث يقوم بإجراء مئات الفحوصات في وقت التصميم ووقت النشر لضمان استقرار نماذج البيانات الخاصة بك. يسمح باختبار تكامل ودقة النماذج بناءً على متطلبات إعداد التقارير ويضمن أنها تلبي معايير البرمجة النصية لمزود قاعدة البيانات المعني.

مع ترتيب كل شيء قبل نشر نماذج البيانات وتسليمها إلى الفريق التالي ، يمكن للمؤسسات الاستفادة من توفير كبير للوقت ، مما يؤدي إلى تقليل الجدول الزمني للمشروع.

الاستفادة من التحقق من نموذج البيانات بنقرة واحدة باستخدام Astera DW Builder

توضح المناقشة أعلاه أن نظام التحقق من نموذج البيانات هو جوهر حيوي لـ عملية نمذجة البيانات ويساعد على تبسيط العمليات عبر دورة حياة مستودع البيانات.

Astera DW Builder هو حل مرن يعتمد على البيانات الوصفية يسمح لك بتصميم نماذج البيانات ونشرها واختبارها واستخدامها لبناء خطوط أنابيب تحميل البيانات ، وكل ذلك من نظام أساسي واحد. يأتي مزودًا بوحدة التحقق من نموذج البيانات المتعمقة التي تقف حراسة في وقت النشر وتضمن عدم تجاوز أي خطأ أو تحذير دون التحقق منه من قبل المستخدم.

بنقرة واحدة فقط ، يوفر لك النظام الأساسي تلقائيًا صورة عن صحة نماذج البيانات الخاصة بك. من التحقق من مفاتيح العمل المفقودة ، والعلاقات الشاذة ، وأنواع البيانات غير المتطابقة إلى ضمان الامتثال لمعايير البرمجة النصية لقاعدة البيانات المستهدفة ، يمكنك الاعتماد عليها Astera DW Builder لتحديد جميع الأخطاء والتحذيرات المحتملة والإبلاغ عنها. يضمن ذلك أن تكون نماذج البيانات الخاصة بك مستقرة وكاملة قبل الانتقال إلى المرحلة التالية من المشروع.

مفتون وترغب في معرفة كيف يمكنك التحقق من صحة نماذج البيانات الخاصة بك وتبسيط عملية تخزين البيانات بأكملها؟ الدفع عرض المنتج، أو أخرجها لتدور لترى بنفسك مع ملف مجانا محاكمة شنومك يوم.

 

مقالات ذات صلة

تسليم تغييرات المخطط إلى مستودع البيانات الخاص بك مع إعادة التوجيه ...

في عالم اليوم المعتمد على البيانات ، تعد مستودعات البيانات ضرورية لتشغيل مشاريع التحليلات. تقنيات تخزين البيانات الرئيسية مثل النمذجة الأبعاد ...
المزيد

دليل تحديث مستودع البيانات: الأساليب والمحركات والأساليب

غالبًا ما نسمع العبارة: مستودع البيانات يتطور ويتطور. لكن هل تساءلت يومًا عما يعنيه هذا ...
المزيد

3 حالات استخدام لتغيير الأبعاد ببطء في Astera DW ...

التغيير موجود دائمًا في كل عمل. من منظور الموارد البشرية ، يتم ترقية الموظفين والحصول على ألقاب جديدة ، بينما المكافآت و ...
المزيد