মূল লেখায় যান

AWS Data Pipeline

#184 · Level 3 · আধুনিক architecture · Data ও Analytics

AWS Data Pipeline ছিল নিয়ম করে এক জায়গা থেকে আরেক জায়গায় data সরানো আর process করার পুরনো service। এতে একটা pipeline-এ লেখা থাকতো data কোথা থেকে আসবে, কী কাজ হবে আর কখন চলবে। কাজগুলো চালানোর জন্য এটা EC2 বা EMR-এর মতো resource ব্যবহার করতো। কোনো ধাপ ব্যর্থ হলে আবার চেষ্টা করার ব্যবস্থাও ছিল। AWS এটা নতুন গ্রাহকদের জন্য বন্ধ করেছে; বিকল্প হলো AWS Glue, Step Functions বা Amazon MWAA।

পুরনো ভ্যান সার্ভিস — রুটিন মাফিক মাল পৌঁছাতো, কিন্তু এখন দ্রুত আর আধুনিক বিকল্প আছে।

নিয়মিত data সরানো আর process করার কাজ স্বয়ংক্রিয় করতে।

কোথায় ব্যবহার হয়

“কোথায় ব্যবহার হয়” অংশ

AWS এটা নতুন গ্রাহকদের জন্য বন্ধ করেছে; বিকল্প: AWS Glue, Step Functions, MWAA।

Azure Data Factory

বিস্তারিত আর সর্বশেষ তথ্যের জন্য official documentation দেখুন: