FlowFile Content হ্যান্ডলিং

Java Technologies - অ্যাপাচি নিফাই (Apache NiFi) NiFi FlowFile Attributes এবং Content Management |
134
134

অ্যাপাচি নিফাই (Apache NiFi) একটি শক্তিশালী ডেটা ফ্লো ম্যানেজমেন্ট প্ল্যাটফর্ম যা ডেটার সংগ্রহ, প্রক্রিয়াকরণ, এবং ট্রান্সফরমেশন সহজ করে তোলে। NiFi ডেটাকে FlowFile নামক একটি কনটেইনারে ধারণ করে এবং এই FlowFile এর মাধ্যমে ডেটার হ্যান্ডলিং এবং প্রক্রিয়াকরণ করা হয়। FlowFile এর কন্টেন্ট (content), মেটাডেটা (metadata), এবং প্রোপার্টি (properties) ব্যবহার করে NiFi ডেটাকে বিভিন্ন প্রক্রিয়াকরণে পাঠাতে সক্ষম।

FlowFile Content হ্যান্ডলিং হল NiFi এর একটি গুরুত্বপূর্ণ দিক, কারণ এটি ডেটার মূল অংশ, যা প্রক্রিয়া এবং ট্রান্সফর্মেশন করতে ব্যবহৃত হয়। এখানে FlowFile Content কীভাবে হ্যান্ডেল করা হয় এবং এটি কিভাবে NiFi প্রসেসরগুলির মাধ্যমে প্রক্রিয়াকৃত হয় তা আলোচনা করা হবে।

FlowFile Content এর ধারণা

NiFi একটি FlowFile ধারণ করে যা দুটি প্রধান অংশ নিয়ে গঠিত:

  1. Content (কনটেন্ট): এটি FlowFile এর মূল ডেটা। উদাহরণস্বরূপ, যদি আপনি একটি JSON ফাইল বা XML ডকুমেন্ট প্রসেস করতে চান, তাহলে ওই ফাইলটি FlowFile এর কনটেন্ট অংশ হিসেবে সংরক্ষিত হয়।
  2. Attributes (অ্যাট্রিবিউট): এটি FlowFile এর মেটাডেটা, যেমন ফাইলের নাম, তারিখ, আকার, প্রকার ইত্যাদি। এই অ্যাট্রিবিউটগুলি FlowFile কে চিহ্নিত করার জন্য ব্যবহৃত হয় এবং ডেটা রুটিং, ফিল্টারিং বা প্রক্রিয়াকরণের জন্য সহায়ক।

FlowFile Content হ্যান্ডলিং এর প্রসেস

NiFi এ FlowFile Content হ্যান্ডলিং প্রক্রিয়া কিছু নির্দিষ্ট প্রসেসর এবং কনফিগারেশনের মাধ্যমে করা হয়। FlowFile এর কনটেন্টের সাথে কাজ করার জন্য NiFi এ বিভিন্ন ধরনের প্রসেসর ব্যবহৃত হয়, যেমন ডেটা পড়া, লেখা, পরিবর্তন বা ম্যানিপুলেট করা।

১. FlowFile Content পড়া

FlowFile Content পড়ার জন্য NiFi অনেক প্রসেসর সরবরাহ করে। একটি সাধারণ উদাহরণ হলো GetFile প্রসেসর, যা একটি ফাইল সিস্টেম থেকে ফাইল নিয়ে আসে এবং তা FlowFile এর কনটেন্ট হিসেবে রাখে।

1. Add the "GetFile" processor to the NiFi canvas.
2. Set the directory path where the files are stored.
3. The processor will fetch files and create FlowFiles, where the file content will be stored as the FlowFile content.

২. FlowFile Content লেখা

FlowFile Content লেখার জন্য PutFile, PutDatabaseRecord, বা PutHTTP মতো প্রসেসর ব্যবহার করা হয়। এগুলি FlowFile এর কনটেন্ট একটি নির্দিষ্ট গন্তব্যে পাঠিয়ে দেয়।

1. Add the "PutFile" processor to the NiFi canvas.
2. Set the directory path where the FlowFile content should be written.
3. The processor will write the FlowFile content to the specified directory.

৩. FlowFile Content পরিবর্তন করা

UpdateAttribute বা ExecuteScript প্রসেসর ব্যবহার করে FlowFile এর কনটেন্ট পরিবর্তন করা যেতে পারে। উদাহরণস্বরূপ, আপনি JSON বা XML কনটেন্ট পরিবর্তন করতে পারেন এবং FlowFile এর কনটেন্টকে নতুনভাবে তৈরি করতে পারেন।

1. Add the "ExecuteScript" processor.
2. Write a script (e.g., Groovy, Python) that modifies the content of FlowFile.
3. The processor will modify the FlowFile content based on the script logic.

৪. FlowFile Content এর সাথে কাজ করা (Process Content)

ConvertRecord, ExtractText, RouteOnAttribute এবং অন্যান্য প্রসেসর ব্যবহার করে FlowFile এর কনটেন্ট থেকে নির্দিষ্ট তথ্য আহরণ করা, ফিল্টার করা বা রূপান্তর করা সম্ভব। উদাহরণস্বরূপ, আপনি ExtractText প্রসেসরের মাধ্যমে একটি ফাইলের কনটেন্ট থেকে নির্দিষ্ট তথ্য (যেমন নাম, তারিখ) বের করতে পারেন।

1. Add the "ExtractText" processor.
2. Define a regular expression to extract specific content from the FlowFile.
3. The processor will extract the desired content and create a new attribute with the extracted value.

FlowFile Content এর সাথে কাজ করার জন্য গুরুত্বপূর্ণ প্রসেসর

  1. GetFile: ফাইল সিস্টেম থেকে ফাইল পড়ে এবং FlowFile এর কনটেন্টে রাখে।
  2. PutFile: FlowFile এর কনটেন্ট একটি নির্দিষ্ট ডিরেক্টরিতে লিখে।
  3. ExecuteScript: স্ক্রিপ্ট ব্যবহার করে FlowFile কনটেন্ট পরিবর্তন বা প্রক্রিয়াকরণ।
  4. UpdateAttribute: FlowFile এর অ্যাট্রিবিউট বা কনটেন্ট আপডেট করা।
  5. ConvertRecord: ডেটার রূপান্তর (যেমন CSV থেকে JSON) করা।
  6. ExtractText: FlowFile এর কনটেন্ট থেকে নির্দিষ্ট তথ্য বা ভ্যালু বের করা।
  7. RouteOnAttribute: FlowFile এর অ্যাট্রিবিউটের ভিত্তিতে ডেটার রুটিং করা।

FlowFile Content হ্যান্ডলিং এর সুবিধা

  1. ফাইল প্রক্রিয়াকরণ: NiFi এর FlowFile Content হ্যান্ডলিং ফাইল সিস্টেম, ডেটাবেস, বা ইন্টারনেট থেকে ডেটা সংগ্রহ এবং প্রক্রিয়াকরণের জন্য অত্যন্ত কার্যকরী।
  2. রিয়েল-টাইম ডেটা প্রসেসিং: FlowFile এর মাধ্যমে রিয়েল-টাইম ডেটা প্রসেসিং সম্ভব, যেমন সেন্সর ডেটা বা লগ ফাইলের দ্রুত প্রক্রিয়াকরণ।
  3. ডেটার রূপান্তর ও ফিল্টারিং: NiFi FlowFile কনটেন্টের রূপান্তর এবং ফিল্টারিংয়ের মাধ্যমে ডেটাকে আরও কার্যকরীভাবে ব্যবহারের উপযোগী করে তোলে।
  4. স্কেলেবিলিটি: FlowFile Content হ্যান্ডলিং অনেক বেশি স্কেলেবল, যেখানে একাধিক নোড ব্যবহার করে বৃহৎ পরিসরে ডেটা প্রক্রিয়াকরণ করা সম্ভব।
  5. ডেটা ম্যানিপুলেশন: বিভিন্ন প্রসেসর এবং স্ক্রিপ্ট ব্যবহার করে ডেটার গভীর ম্যানিপুলেশন সম্ভব, যা বিশেষত জটিল ডেটা প্রক্রিয়াকরণের ক্ষেত্রে গুরুত্বপূর্ণ।

NiFi এর FlowFile Content হ্যান্ডলিং একটি অত্যন্ত গুরুত্বপূর্ণ দিক যা ডেটার সঠিক প্রক্রিয়াকরণ এবং ট্রান্সফরমেশন নিশ্চিত করে। এটি ব্যবহারকারীদের দ্রুত এবং কার্যকরীভাবে ডেটা সংগ্রহ, প্রক্রিয়া এবং পাঠানোর সুযোগ দেয়, বিশেষত বৃহৎ পরিসরে ডেটা ম্যানেজমেন্টের ক্ষেত্রে।

common.content_added_by
টপ রেটেড অ্যাপ

স্যাট অ্যাকাডেমী অ্যাপ

আমাদের অল-ইন-ওয়ান মোবাইল অ্যাপের মাধ্যমে সীমাহীন শেখার সুযোগ উপভোগ করুন।

ভিডিও
লাইভ ক্লাস
এক্সাম
ডাউনলোড করুন
Promotion