রাস্পবেরি পাই আই কিট কীভাবে কাজ করে
Raspberry Pi AI কিট একটি M.2 HAT-কে Hailo-8L এক্সিলারেটর চিপের সাথে একত্রিত করে আপনার Pi 5 কে একটি সক্ষম এজ এআই প্ল্যাটফর্মে রূপান্তরিত করে৷ সহজ কথায়, এটি একটি ডেডিকেটেড নিউরাল প্রসেসিং ইউনিটে CPU থেকে AI কম্পিউটেশন অফলোড করে কাজ করে যা সাধারণ কাজের চাপের সময় মাত্র 1-2 ওয়াট খরচ করে প্রতি সেকেন্ডে 13 ট্রিলিয়ন অপারেশন (13 TOPS) প্রদান করে (সূত্র: theregister.com, 2024)। $70-এর জন্য, আপনি হার্ডওয়্যার ত্বরণ পাচ্ছেন যা রিয়েল-টাইম অবজেক্ট ডিটেকশন, পোজ এস্টিমেশন এবং ইমেজ শ্রেণীবিভাগকে প্রকৃতপক্ষে $60 একক-বোর্ড কম্পিউটারে কার্যকর করে তোলে।
আমি এই স্থাপত্য বিশেষ করে চতুর খুঁজে পেয়েছি. একটি সমন্বিত NPU তৈরির জন্য Raspberry Pi-এর জন্য বছরের পর বছর অপেক্ষা করার পরিবর্তে, তারা একটি মডুলার সমাধান তৈরি করতে Hailo-এর সাথে অংশীদারিত্ব করেছে যা আজ কাজ করে এবং আগামীকাল সহজেই আপগ্রেড করবে-26 TOPS সহ AI HAT+ যাদের আরও শক্তি প্রয়োজন তাদের জন্য ইতিমধ্যেই উপলব্ধ (সূত্র: techcrunch.com, 2024)৷
হার্ডওয়্যার আর্কিটেকচার: কীভাবে উপাদান সংযুক্ত হয়
AI কিট দুটি শারীরিক অংশ নিয়ে গঠিত যা একটি সিস্টেম হিসাবে কাজ করে। প্রথমে, আপনার কাছে অফিসিয়াল Raspberry Pi M.2 HAT+ আছে, যা একটি সার্কিট বোর্ড যা আপনার Pi 5 এর 40-পিন GPIO হেডারের সাথে সংযুক্ত করে এবং একটি M.2 2242 বা 2280 স্লট প্রদান করে। দ্বিতীয়ত, আছে Hailo-8L AI এক্সিলারেটর মডিউল-একটি ছোট M.2 কার্ড যা সেই স্লটে প্লাগ করা গামের স্টিকের আকারের।

আপনি যখন সবকিছু সংযুক্ত করেন তখন কী ঘটে তা এখানে রয়েছে:
M.2 HAT Pi 5 এর GPIO পিন থেকে শক্তি টেনে নেয় এবং বোর্ডের PCIe ইন্টারফেসের মাধ্যমে একটি PCIe Gen 2 বা Gen 3 সংযোগ স্থাপন করে। Hailo-8L মডিউল এই একক M.2 সংযোগের মাধ্যমে পাওয়ার এবং ডেটা উভয়ই গ্রহণ করে। আপনার Pi 5 এর CPU অপারেটিং সিস্টেম, অ্যাপ্লিকেশন লজিক এবং প্রাক-প্রসেসিং পরিচালনা করে, যখন নিউরাল নেটওয়ার্ক অনুমান ঘটতে হবে তখন হাইলো চিপটি গ্রহণ করে।
পারফরম্যান্সের উপর PCIe সংযোগের প্রভাব
সংযোগের গতি এখানে উল্লেখযোগ্যভাবে গুরুত্বপূর্ণ। একই YOLOv8s মডেলে Gen 2-এর তুলনায় PCIe Gen 3 চালানোর সময় পরীক্ষার ফ্রেম রেট দ্বিগুণ দেখায় (সূত্র: forums.raspberrypi.com, 2024)। Pi 5 PCIe Gen 3 x1 সমর্থন করে, আপনাকে CPU এবং AI এক্সিলারেটরের মধ্যে প্রায় 1 GB/s ব্যান্ডউইথ দেয়{12}}বিঘ্নতা ছাড়াই বেশিরভাগ কম্পিউটার ভিশন কাজের জন্য যথেষ্ট।
Hailo-8L প্রতি ওয়াট কার্যকারিতা 3-4 TOPS অর্জন করে, এটিকে প্রতি ডলার এবং প্রতি ওয়াট পারফরম্যান্সের ক্ষেত্রে Nvidia-এর Jetson Orin ডিভাইসের সাথে রাখে (সূত্র: jeffgeerling.com, 2024)। আপনি যখন Pi 5 এর 3-4W নিষ্ক্রিয় খরচের উপর নির্ভর করেন, তখন পুরো সিস্টেমটি AI ওয়ার্কলোড প্রক্রিয়া করার সময় একটি ফোন চার্জারের চেয়ে কম শক্তি নেয়।
Hailo-8L এর ভিতরে: নিউরাল নেটওয়ার্ক ত্বরণ ব্যাখ্যা করা হয়েছে
Hailo-8L একটি সাধারণ-উদ্দেশ্য প্রসেসর নয়-এটি একটি ASIC (অ্যাপ্লিকেশন-স্পেসিফিক ইন্টিগ্রেটেড সার্কিট) বিশেষভাবে স্নায়ু নেটওয়ার্কগুলিকে দক্ষতার সাথে চালানোর জন্য ডিজাইন করা হয়েছে৷ এটিকে একটি গ্রাফিক্স কার্ডের মতো মনে করুন, তবে ত্রিভুজ রেন্ডার করার পরিবর্তে, এটি ম্যাট্রিক্স গুণন এবং কনভোল্যুশনের জন্য অপ্টিমাইজ করা হয়েছে যা AI মডেলগুলিকে শক্তি দেয়৷
চিপটি একটি মালিকানাধীন স্থাপত্য ব্যবহার করে যা হাইলোকে "স্ট্রাকচার্ড ASIC" বলে। সিলিকন ডিজাইনের খুব গভীরে না গিয়ে, এর অর্থ হল চিপটিতে বিভিন্ন নিউরাল নেটওয়ার্ক অপারেশনের জন্য হার্ডওয়্যার ইউনিটগুলি নিবেদিত রয়েছে: কনভোল্যুশনাল লেয়ার, অ্যাক্টিভেশন ফাংশন, পুলিং অপারেশন এবং সম্পূর্ণভাবে সংযুক্ত লেয়ারগুলি তাদের নিজস্ব অপ্টিমাইজ করা এক্সিকিউশন পাথগুলি পায়৷
কিভাবে অনুমান আসলে ঘটবে
আপনি যখন বস্তু সনাক্তকরণের জন্য YOLOv8 এর মতো একটি মডেল চালান, তখন এখানে সরলীকৃত কর্মপ্রবাহ রয়েছে:
আপনার ক্যামেরা ফ্রেম ক্যাপচার করে এবং সেগুলিকে Pi এর CPU-তে পাঠায়। CPU ইমেজ প্রিপ্রসেসিং পরিচালনা করে-মডেলের ইনপুট ডাইমেনশনে রিসাইজ করা, রঙ স্পেস রূপান্তর করা, পিক্সেল মান স্বাভাবিক করা। এই প্রি-প্রসেসড ডেটা PCIe বাসের মাধ্যমে Hailo-8L-এ পাঠানো হয়। এক্সিলারেটর নিউরাল নেটওয়ার্ক চালায়, কাঁচা সনাক্তকরণের ফলাফল বের করে (বাউন্ডিং বক্স, কনফিডেন্স স্কোর, ক্লাস প্রেডিকশন)। CPU এই ফলাফলগুলি গ্রহণ করে এবং পোস্ট-প্রসেসিং-অ-সর্বোচ্চ দমন নকল শনাক্তকরণ, চিত্রে বাক্স আঁকা, আপনার অ্যাপ্লিকেশনের UI আপডেট করার জন্য পরিচালনা করে৷
শ্রমের এই বিভাগের সৌন্দর্য মাপকাঠিতে দেখা যায়। পরীক্ষাগুলি শুধুমাত্র Pi 5-এর CPU-তে টেনসরফ্লো লাইট মডেল চালানোর চেয়ে 26-28 ফ্রেম প্রতি সেকেন্ডে 5.8 গুণ দ্রুতগতিতে AI কিট চালানোর হাত এবং ল্যান্ডমার্ক সনাক্তকরণ প্রদর্শন করে (সূত্র: raspberrypi.com, 2024)।
সমর্থিত মডেল বিন্যাস
Hailo-8L সরাসরি স্ট্যান্ডার্ড TensorFlow বা PyTorch মডেল চালায় না। আপনাকে হাইলোর ডেটাফ্লো কম্পাইলার ব্যবহার করে আপনার মডেলগুলিকে রূপান্তর করতে হবে, যা তাদের চিপের আর্কিটেকচারের জন্য অপ্টিমাইজ করে। সংকলন প্রক্রিয়াটি আপনার প্রশিক্ষিত মডেল (সাধারণত ONNX ফর্ম্যাট) নেয় এবং এটি হাইলো হার্ডওয়্যারে ম্যাপ করে, কোয়ান্টাইজেশন এবং অন্যান্য অপ্টিমাইজেশন প্রয়োগ করে।
সাধারণ আর্কিটেকচারের জন্য প্রাক-সংকলিত মডেলগুলি Hailo মডেল চিড়িয়াখানার মাধ্যমে উপলব্ধ: ResNet-50 500 FPS এ চলে, YOLOv5, একাধিক আকারে YOLOv8 ভেরিয়েন্ট, লাইটওয়েট শ্রেণীবিভাগের জন্য MobileNet, এবং পোজ অনুমান মডেল৷ আপনি যদি কাস্টম মডেলগুলির সাথে কাজ করেন তবে সংকলন কর্মপ্রবাহের জন্য কিছু শেখার প্রয়োজন কিন্তু মানক AI স্থাপনার অনুশীলনগুলি অনুসরণ করে।
বিদ্যুৎ খরচ এবং তাপ ব্যবস্থাপনা
AI কিটের সবচেয়ে চিত্তাকর্ষক বৈশিষ্ট্যগুলির মধ্যে একটি হল পাওয়ার দক্ষতা। Hailo-8L সাধারণত সক্রিয় অনুমানের সময় 1-2 ওয়াট ড্র করে, মডেলের জটিলতা এবং ফ্রেমের হারের উপর নির্ভর করে প্রায় 5 ওয়াটের শিখর সহ (সূত্র: theregister.com, 2024)। Pi 5 এর বেস খরচের সাথে মিলিত, আপনি AI ওয়ার্কলোডের অধীনে মোটামুটি 5-9 ওয়াট মোট সিস্টেম পাওয়ার দেখছেন।

M.2 মডিউলটিতে একটি ছোট হিটসিঙ্ক রয়েছে এবং স্বাভাবিক ক্রিয়াকলাপে, প্যাসিভ কুলিং যথেষ্ট প্রমাণিত হয়। আমি লক্ষ্য করেছি যে চিপটি যথেষ্ট ঠান্ডা থাকে যে তাপীয় থ্রটলিং সাধারণ কম্পিউটার ভিশন অ্যাপ্লিকেশনগুলির জন্য উদ্বেগের বিষয় নয়। আবদ্ধ প্রজেক্ট বা ক্রমাগত উচ্চ লোড পরিস্থিতির জন্য, আপনার Pi 5 কেসে একটি ফ্যান যোগ করা CPU এবং AI অ্যাক্সিলারেটর উভয়কেই সর্বোচ্চ কর্মক্ষমতা বজায় রাখতে সাহায্য করে।
এটিকে বিকল্পের সাথে তুলনা করলে মূল্যের প্রস্তাবনা প্রকাশ পায়: একটি এনভিডিয়া জেটসন ওরিন ন্যানো $249 থেকে শুরু হয় এবং 7-15W লোডের নিচে ড্র করে। গুগলের কোরাল ইউএসবি অ্যাক্সিলারেটরের দাম $60 কিন্তু এটি মাত্র 4টি টপস সরবরাহ করে এবং ইউএসবি 3.0 ব্যান্ডউইথের প্রয়োজন৷ ইন্টেল নিউরাল কম্পিউট স্টিক 2 বন্ধ করা হয়েছে। AI কিট দাম, কর্মক্ষমতা এবং পাওয়ার দক্ষতার একটি মিষ্টি জায়গা হিট করে যা 2024 সালের আগে বিদ্যমান ছিল না।
সফ্টওয়্যার স্ট্যাক: OS থেকে অ্যাপ্লিকেশন পর্যন্ত
AI কিটের জন্য Raspberry Pi OS (64-বিট) বুকওয়ার্ম বা তার পরে প্রয়োজন৷ Hailo একটি সফ্টওয়্যার স্যুট প্রদান করে যা PCIe যোগাযোগের জন্য কার্নেল ড্রাইভার, মডেল লোডিং এবং অনুমান পরিচালনা করে এমন রানটাইম লাইব্রেরি, সহজে ইন্টিগ্রেশনের জন্য পাইথন বাইন্ডিং এবং ক্যামেরা-ভিত্তিক প্রকল্পগুলির জন্য rpicam-অ্যাপস ইন্টিগ্রেশন অন্তর্ভুক্ত করে।
আপনার প্রথম মডেল সেট আপ করা হচ্ছে
আপনি যদি অফিসিয়াল গাইড অনুসরণ করেন তবে ইনস্টলেশনে প্রায় 15 মিনিট সময় লাগে। OS ফ্ল্যাশ করার পরে এবং হার্ডওয়্যার সংযোগ করার পরে, আপনি Hailo এর ইনস্টলেশন স্ক্রিপ্ট চালান, যা প্রয়োজনীয় কার্নেল মডিউল এবং লাইব্রেরি যোগ করে। হাইলো সমর্থন অন্তর্ভুক্ত করার জন্য rpicam-অ্যাপস প্যাকেজ আপডেট করা হয়, আপনাকে ক্যামেরা পাইপলাইন থেকে সরাসরি AI মডেলগুলি চালাতে দেয়৷
অন্তর্ভুক্ত ডেমোগুলির সাথে পরীক্ষা করা সিস্টেমটিকে কার্যে দেখায়:
rpicam-হ্যালো --পোস্ট-process-file /usr/share/rpicam-assets/hailo_yolov8_pose.json
এই কমান্ডটি ক্যামেরা ফ্রেম ক্যাপচার করে, হাইলো চিপে একটি পোজ অনুমান মডেলের মাধ্যমে চালায়, এবং বাস্তব- সময়ে ফলাফলগুলি প্রদর্শন করে৷ ফ্রেম রেট মডেলের জটিলতার উপর নির্ভর করে-হালকা মডেল যেমন YOLOv8n হিট 60+ FPS, যখন YOLOv8m এর মতো ভারী সংস্করণ 20-30 FPS এ চলতে পারে।
পাইথন ডেভেলপমেন্টের জন্য, ওয়ার্কফ্লো স্ট্যান্ডার্ড OpenCV প্লাস Hailo{0}}নির্দিষ্ট কলের মত দেখায়:
আপনি HailorT লাইব্রেরি আমদানি করুন, আপনার সংকলিত মডেল ফাইল লোড করুন, মডেলে প্রি-প্রসেস করা ফ্রেমগুলি ফিড করুন, অনুমান ফলাফল পুনরুদ্ধার করুন এবং আপনার অ্যাপ্লিকেশন লজিকের আউটপুটগুলি প্রক্রিয়া করুন৷ এপিআই সবচেয়ে জটিলতাকে বিমূর্ত করে, যদিও ইনপুট/আউটপুট টেনসর ফরম্যাট বোঝার জন্য মডেল ডকুমেন্টেশন পড়তে হয়।
বাস্তব-বিশ্ব অ্যাপ্লিকেশন উদাহরণ
বেশ কয়েকটি প্রকল্প ব্যবহারিক এআই কিট বাস্তবায়ন প্রদর্শন করে। একটি খুচরা ইনভেন্টরি ম্যানেজমেন্ট সিস্টেম তাকগুলিতে পণ্যগুলি সনাক্ত করতে YOLOv8n চালিত AI কিট ব্যবহার করে, যখন গুদামে অনুপ্রবেশের জন্য CPU মনিটরে EfficientNet ব্যবহার করে (সূত্র: forums.raspberrypi.com, 2024)। দ্বৈত-মডেল পদ্ধতি দেখায় কিভাবে আপনি প্রয়োজনের সময় CPU-ভিত্তিক মডেলের সাথে ত্বরিত অনুমানকে একত্রিত করতে পারেন।
নিরাপত্তা অ্যাপ্লিকেশনগুলি কিটের বাস্তব-সময় ক্ষমতা থেকে উপকৃত হয়৷ ফেসিয়াল রিকগনিশন সিস্টেম 25-30 FPS এ ভিডিও স্ট্রিম প্রক্রিয়া করে, ক্লাউড নির্ভরতা ছাড়াই এন্ট্রি কন্ট্রোল বা ভিজিটর লগিং সক্ষম করে। ভঙ্গি অনুমান ফিটনেস অ্যাপ্লিকেশনের জন্য যথেষ্ট দ্রুত চলে যা ব্যায়ামের ফর্ম ট্র্যাক করে বা পুনরাবৃত্তি গণনা করে।
বন্যপ্রাণী পর্যবেক্ষণ প্রকল্পগুলি কম বিদ্যুত খরচ-সৌর-চালিত ক্যামেরার ফাঁদগুলিকে ব্যবহার করে এবং ঘন ঘন ব্যাটারি পরিবর্তন ছাড়াই প্রাণী এবং তাদের আচরণ সনাক্ত করতে ভঙ্গি এবং বস্তু সনাক্তকরণ চালায়৷ Pi এর বহুমুখীতা এবং হার্ডওয়্যার-ত্বরিত AI এর সংমিশ্রণ পূর্বে অব্যবহারিক প্রান্ত স্থাপনাগুলিকে কার্যকর করে তোলে৷
[ভিজ্যুয়াল এলিমেন্ট সাজেশন: ক্যামেরা → Pi CPU (প্রিপ্রসেসিং) → PCIe → Hailo-8L (অনুমান) → Pi CPU (ফলাফল) → ডিসপ্লে/স্টোরেজ থেকে ডেটা প্রবাহ দেখানো ডায়াগ্রাম সন্নিবেশ করান]
সীমাবদ্ধতা এবং কখন এআই কিট ব্যবহার করবেন না
কিটটি অনুমানের জন্য দুর্দান্তভাবে কাজ করে কিন্তু মডেল প্রশিক্ষণে সাহায্য করবে না{0}} যেটির জন্য এখনও ক্লাউড জিপিইউ বা ওয়ার্কস্টেশন প্রয়োজন। 13 TOPS চিত্তাকর্ষক শোনাতে পারে, কিন্তু এটি ডেটাসেন্টার হার্ডওয়্যারের কাছাকাছি কোথাও নেই। জটিল মডেল বা একাধিক যুগপত অনুমান স্ট্রীম এক্সিলারেটরকে অভিভূত করতে পারে।
মডেল সামঞ্জস্য মনোযোগ প্রয়োজন. আপনি হাইলোর কম্পাইলার সমর্থন করে এমন আর্কিটেকচারে আটকে আছেন। Hailo সমর্থন যোগ না করা পর্যন্ত অথবা আপনি কাস্টম সংকলনে সময় বিনিয়োগ না করা পর্যন্ত গবেষণাপত্রের অত্যাধুনিক মডেলগুলি কাজ নাও করতে পারে৷ মডেল চিড়িয়াখানা সর্বাধিক সাধারণ ব্যবহারের ক্ষেত্রে কভার করে, তবে বিশেষ অ্যাপ্লিকেশনগুলির জন্য সমাধানের প্রয়োজন হতে পারে।
কিছু অ্যাপ্লিকেশনের জন্য লেটেন্সি গুরুত্বপূর্ণ। যদিও Hailo-8L দ্রুত, PCIe-এর মাধ্যমে ডেটা পাঠানোর রাউন্ড-ট্রিপ সময়, ইনফারেন্স চালানো এবং ফলাফল ফেরানো সমন্বিত NPU-এর তুলনায় কয়েক মিলিসেকেন্ড যোগ করে। রোবোটিক্স বা রিয়েল-টাইম কন্ট্রোল সিস্টেমের জন্য যেখানে প্রতি মিলিসেকেন্ড গণনা করা হয়, এই পাইপলাইন বিলম্ব উল্লেখযোগ্য হতে পারে।
বাজেটের সীমাবদ্ধতা মূল্য প্রস্তাবকে প্রভাবিত করে। আপনি যদি ইতিমধ্যেই একটি Pi 5-এর মালিক হন, তাহলে $70 AI কিট একটি নো-ব্রেইনার৷ আপনি যদি স্ক্র্যাচ থেকে শুরু করেন, আপনি সম্পূর্ণ সিস্টেমের জন্য $130+ খরচ করছেন (Pi 5 + AI কিট + পাওয়ার সাপ্লাই + স্টোরেজ), যেখানে জেটসন ন্যানো প্রতিযোগীরা আপনার কর্মক্ষমতা চাহিদার উপর নির্ভর করে প্রতিযোগিতামূলক দেখাতে শুরু করে।
হার্ডওয়্যার স্পেসিফিকেশন তুলনা
| স্পেসিফিকেশন | রাস্পবেরি পাই এআই কিট | রাস্পবেরি পাই এআই হ্যাট+ (১৩টি শীর্ষ) | রাস্পবেরি পাই AI HAT+ (26 টপস) |
|---|---|---|---|
| এক্সিলারেটর চিপ | হাইলো-8 এল | হাইলো-8 এল | হাইলো-8 |
| কর্মক্ষমতা | 13টি শীর্ষ | 13টি শীর্ষ | 26 টপস |
| দাম | $70 | $70 | $110 |
| পাওয়ার ড্র | 1-2W সাধারণ, 5W শিখর | 1-2W সাধারণ | 2.5W সাধারণ |
| ফর্ম ফ্যাক্টর | M.2 2242 | M.2 2242/2280 | M.2 2242/2280 |
| মুক্তির তারিখ | জুন 2024 | অক্টোবর 2024 | অক্টোবর 2024 |
AI HAT+ ভেরিয়েন্টগুলি Pi 5 এর কেস এবং উন্নত যান্ত্রিক ডিজাইনের সাথে আরও ভাল সামঞ্জস্যপূর্ণতা প্রদান করে কিন্তু 13টি শীর্ষ স্তরে মূল কিটের সাথে অভিন্ন কর্মক্ষমতা প্রদান করে (সূত্র: electronicsweekly.com, 2025)। 26 TOPS সংস্করণটি এমন অ্যাপ্লিকেশনগুলির জন্য দ্বিগুণ থ্রুপুট করে যা উচ্চতর রেজোলিউশন ইনপুটগুলি প্রক্রিয়া করতে বা আরও জটিল মডেলগুলি চালাতে হয়।
সাধারণ সেটআপ সমস্যা এবং সমাধান
AI কিট ইনস্টল করার পরে সনাক্ত করা হয় না
এটি সাধারণত একটি PCIe গণনা সমস্যা নির্দেশ করে। পরীক্ষা করুন যে আপনি Pi এর config.txt ফাইলে PCIe সক্ষম করেছেন এবং M.2 HAT দৃঢ়ভাবে সমস্ত GPIO পিনে বসে আছে। সংযোগটি কাজ করলে lspci চালানো হলে Hailo ডিভাইস দেখাতে হবে।
মডেলগুলি প্রত্যাশার চেয়ে ধীর গতিতে চলে
যাচাই করুন আপনি আসলে Hailo এক্সিলারেটর ব্যবহার করছেন এবং CPU অনুমানে ফিরে যাচ্ছেন না। মডেল লোড করার সময় ত্রুটিগুলির জন্য লগগুলি পরীক্ষা করুন৷ নিশ্চিত করুন যে আপনার মডেল হাইলো আর্কিটেকচারের জন্য সঠিকভাবে কম্পাইল করা হয়েছে-অপরিবর্তিত মডেল চালানোর চেষ্টা করা ব্যর্থ হবে বা ডিফল্ট হবে CPU এক্সিকিউশনে।
লোড অধীনে সিস্টেম ক্র্যাশ
পাওয়ার সাপ্লাই সমস্যাগুলি বেশিরভাগ স্থিতিশীলতার সমস্যা সৃষ্টি করে। Pi 5-এর ন্যূনতম 5V/5A (27W) প্রয়োজন, এবং AI কিট সেই প্রয়োজনীয়তাকে যোগ করে। অফিসিয়াল রাস্পবেরি পাই 27W পাওয়ার সাপ্লাই বা সমতুল্য ব্যবহার করুন। অপর্যাপ্ত শক্তির কারণে ভোল্টেজ ড্রপ হয় যা সর্বোচ্চ অনুমানের সময় সিস্টেমকে বিপর্যস্ত করে।
ক্যামেরা ইন্টিগ্রেশন কাজ করে না
rpicam-অ্যাপস Hailo ইন্টিগ্রেশনের জন্য নির্দিষ্ট rpicam সংস্করণের প্রয়োজন। আরও সমস্যা সমাধানের আগে sudo apt আপডেট এবং sudo apt আপগ্রেড দিয়ে সবকিছু আপডেট করুন। কিছু ক্যামেরা মডিউল এআই পাইপলাইনের সাথে সর্বোত্তমভাবে কাজ করার জন্য /boot/config.txt-এ কনফিগারেশন পরিবর্তন করতে হবে।
ভবিষ্যত-আপনার বিনিয়োগের প্রমাণ
মডুলার ডিজাইন মানে আপনি স্বাধীনভাবে আপগ্রেড করতে পারেন। এই মুহূর্তে, আপনি 13টি টপস সহ $70 এআই কিট চালাতে পারেন৷ পরের বছর, আপনার অ্যাপ্লিকেশানের আরও কর্মক্ষমতা প্রয়োজন হলে, আপনার Pi 5 প্রতিস্থাপন না করে 26 টপস AI HAT+-এ $110-এ অদলবদল করুন। সফ্টওয়্যার স্ট্যাকটি Hailo-8L এবং Hailo-8 চিপ জুড়ে সামঞ্জস্যপূর্ণ থাকবে।
Hailo তাদের মডেল চিড়িয়াখানা প্রসারিত এবং কম্পাইলার সমর্থন উন্নতি অব্যাহত. 2024 সালের জুনে যে মডেলগুলির ম্যানুয়াল অপ্টিমাইজেশনের প্রয়োজন ছিল সেগুলির এখন প্রি-সংকলিত সংস্করণ রয়েছে৷ প্ল্যাটফর্ম পরিপক্ক হওয়ার সাথে সাথে এই প্রবণতা ত্বরান্বিত হয়। Pi-ভিত্তিক AI প্রকল্পগুলির চারপাশে ইকোসিস্টেম দ্রুত বৃদ্ধি পায়-ফোরাম, টিউটোরিয়াল, এবং তৃতীয়-পক্ষের সরঞ্জামগুলি প্রতি মাসে বাস্তবায়নকে সহজ করে তোলে৷
সফ্টওয়্যার আপডেটগুলি কার্যক্ষমতার উন্নতিও নিয়ে আসে। প্রারম্ভিক বেঞ্চমার্কগুলি X FPS এ চলমান নির্দিষ্ট মডেলগুলিকে দেখায়; অপ্টিমাইজড ড্রাইভার এবং ফার্মওয়্যার আপডেটগুলি হার্ডওয়্যার পরিবর্তন ছাড়াই এই সংখ্যাগুলিকে 10-20% বৃদ্ধি করেছে। OS এবং Hailo প্যাকেজ আপডেটের সাথে বর্তমান থাকা আপনার কিটের ক্ষমতাকে সর্বাধিক করে তোলে।
প্রায়শই জিজ্ঞাসিত প্রশ্নাবলী
রাস্পবেরি পাই এআই কিট কি পুরানো পাই মডেলগুলির সাথে কাজ করে?
না, এআই কিটের জন্য একটি রাস্পবেরি পাই 5 প্রয়োজন৷ CPU এবং এক্সিলারেটরের মধ্যে প্রয়োজনীয় উচ্চ-ব্যান্ডউইথ যোগাযোগের জন্য PCIe সংযোগ অপরিহার্য৷ পূর্ববর্তী Pi মডেলগুলিতে PCIe সমর্থনের অভাব ছিল, যা তাদের এই আর্কিটেকচারের সাথে বেমানান করে তোলে।
আমি কি একসাথে একাধিক এআই মডেল চালাতে পারি?
হ্যাঁ, কিন্তু কর্মক্ষমতা মডেল জটিলতা এবং ফ্রেম হার উপর নির্ভর করে. Hailo-8L মডেলগুলির মধ্যে সময়- কাটাতে পারে, যদিও ভারী মডেলগুলি একসাথে চালানোর ফলে পৃথক ফ্রেমের হার কমে যাবে৷ ব্যবহারিক প্রকল্পগুলি প্রায়ই একটি ত্বরিত মডেল এবং এক বা একাধিক CPU-ভিত্তিক মডেল সমান্তরালভাবে চালায়।
মডেল সংকলন কতক্ষণ লাগে?
একটি শালীন ল্যাপটপে সহজ মডেলগুলি 5-15 মিনিটে কম্পাইল করে৷ অনেক স্তর সহ জটিল মডেলগুলি 30-60 মিনিট সময় নিতে পারে। আপনি শুধুমাত্র মডেল প্রতি একবার কম্পাইল করুন, তারপর কম্পাইল করা .hef ফাইলটিকে আপনার Pi-এ স্থাপন করুন। মডেল চিড়িয়াখানা থেকে প্রাক-সংকলিত মডেলগুলির জন্য মোটেই কোনো সংকলনের প্রয়োজন নেই।
এআই কিট কি ইন্টারনেট সংযোগ ছাড়াই কাজ করে?
একেবারে। একবার আপনি সফ্টওয়্যারটি ইনস্টল করে আপনার মডেলগুলি কম্পাইল করলে, সবকিছু স্থানীয়ভাবে চলে। এটি গোপনীয়তার জন্য কিটটিকে আদর্শ করে তোলে-সংবেদনশীল অ্যাপ্লিকেশন, দূরবর্তী স্থাপনা, বা যেকোনো জায়গায় নেটওয়ার্ক অ্যাক্সেস অবিশ্বস্ত বা অনুপলব্ধ।
আমি কি সরাসরি এআই কিটে মডেলদের প্রশিক্ষণ দিতে পারি?
না, Hailo-8L হল শুধুমাত্র অনুমান-হার্ডওয়্যার। প্রশিক্ষণের জন্য বিভিন্ন হার্ডওয়্যার অপ্টিমাইজেশান এবং যথেষ্ট বেশি শক্তি প্রয়োজন। সাধারণ ওয়ার্কফ্লোতে ক্লাউড GPU বা PyTorch/TensorFlow-এর সাথে ওয়ার্কস্টেশনের প্রশিক্ষণ, ONNX ফর্ম্যাটে রূপান্তর করা, Hailo-এর সরঞ্জামগুলির সাথে কম্পাইল করা, তারপর কম্পাইল করা মডেলটিকে আপনার Pi-এ স্থাপন করা অন্তর্ভুক্ত।
AI Kit এবং AI HAT+ এর মধ্যে পার্থক্য কী?
আসল AI কিট M.2 HAT-এর সাথে একটি Hailo-8L মডিউলের সাথে $70 বান্ডিল করে। AI HAT+ হল একটি সংশোধিত বোর্ড যেখানে আরও ভাল কেস সামঞ্জস্য রয়েছে, এটি একটি 13 TOPS Hailo-8L ($70) অথবা 26 TOPS Hailo-8 ($110) এর সাথে উপলব্ধ। 13টি শীর্ষ স্তরে কর্মক্ষমতা অভিন্ন; প্রাপ্যতার উপর ভিত্তি করে চয়ন করুন এবং আপনার উন্নত শারীরিক নকশা প্রয়োজন কিনা।
এআই কিট কিভাবে বিভিন্ন ইমেজ রেজুলেশন পরিচালনা করে?
আপনার মডেলকে যে রেজোলিউশনে প্রশিক্ষিত করা হয়েছিল-সাধারণত 640x640 বা বস্তুর সনাক্তকরণের জন্য অনুরূপ রেজোলিউশনটি অ্যাক্সিলারেটর প্রক্রিয়া করে। আপনার সিপিইউ মডেলের প্রত্যাশিত মাত্রার সাথে মেলে ক্যামেরা ইনপুট রিসাইজিং পরিচালনা করে। উচ্চতর ইনপুট রেজোলিউশনের জন্য আরও প্রি-প্রসেসিং সময়ের প্রয়োজন হয় কিন্তু মডেল ইনপুট আকার স্থির থাকার কারণে Hailo অনুমান গতিকে সরাসরি প্রভাবিত করে না।
Hailo-8L কি টেনসরফ্লো লাইট মডেলের সাথে সামঞ্জস্যপূর্ণ?
সরাসরি না। আপনাকে টেনসরফ্লো লাইট মডেলগুলিকে ওএনএনএক্স ফর্ম্যাটে রূপান্তর করতে হবে, তারপর সেগুলি হাইলোর ডেটাফ্লো কম্পাইলারের সাথে কম্পাইল করুন৷ অনেক সাধারণ TensorFlow Lite আর্কিটেকচার সমর্থিত, কিন্তু রূপান্তর প্রক্রিয়ার মডেল জটিলতা এবং ব্যবহৃত অপারেশনগুলির উপর নির্ভর করে সামঞ্জস্যের প্রয়োজন হতে পারে।
আপনার প্রথম পদক্ষেপ গ্রহণ
কাস্টম মডেলগুলিতে ডুব দেওয়ার আগে কর্মক্ষমতা বৈশিষ্ট্যগুলি বোঝার জন্য প্রাক-সংকলিত ডেমো দিয়ে শুরু করুন৷ বস্তু সনাক্তকরণ এবং ভঙ্গি অনুমান নমুনা মডেল সংকলন জ্ঞান প্রয়োজন ছাড়াই কিটের ক্ষমতা প্রদর্শন করে। একবার আপনি হার্ডওয়্যারের সাথে স্বাচ্ছন্দ্য বোধ করলে, আপনার অ্যাপ্লিকেশনের জন্য সঠিকতা এবং গতির মধ্যে ভারসাম্য খুঁজে পেতে হাইলো মডেল চিড়িয়াখানা থেকে বিভিন্ন মডেলের সাথে পরীক্ষা করুন।
রাস্পবেরি পাই এআই কিট এজ এআই অ্যাক্সেসিবিলিটির একটি উল্লেখযোগ্য পরিবর্তনের প্রতিনিধিত্ব করে। প্রথমবারের মতো, শখের মানুষ এবং ছোট-ডেভেলপাররা পারফরম্যান্স সহ অত্যাধুনিক কম্পিউটার ভিশন সিস্টেম স্থাপন করতে পারে যার জন্য আগে ব্যয়বহুল হার্ডওয়্যার বা ক্লাউড নির্ভরতা প্রয়োজন ছিল। রাস্পবেরি পাই এর ইকোসিস্টেম এবং হাইলোর দক্ষ এক্সিলারেটরের সংমিশ্রণ এমন সম্ভাবনা তৈরি করে যা 2024 সাল পর্যন্ত সাব-$100 বিভাগে বিদ্যমান ছিল না।
আপনি একটি স্মার্ট সিকিউরিটি ক্যামেরা, একটি শিল্প পরিদর্শন ব্যবস্থা, বা প্রান্তে AI নিয়ে পরীক্ষা-নিরীক্ষা করছেন না কেন, AI কিট সেই প্রকল্পগুলিকে কার্যকর করার জন্য গণনামূলক অশ্বশক্তি প্রদান করে৷ স্থাপত্যটি প্রমাণিত, সফ্টওয়্যারটি দ্রুত পরিপক্ক হচ্ছে এবং সম্প্রদায় সক্রিয়ভাবে সমাধানগুলি তৈরি করছে যা আপনি শিখতে এবং মানিয়ে নিতে পারেন৷




