রাস্পবেরি পাই আই কিট কিভাবে কাজ করে?
Raspberry Pi AI কিট আপনার Raspberry Pi 5 এর PCIe ইন্টারফেসের সাথে একটি M.2 HAT+ অ্যাডাপ্টারের মাধ্যমে একটি ডেডিকেটেড নিউরাল প্রসেসিং ইউনিট সংযুক্ত করে কাজ করে। কিটটি AI প্রক্রিয়াকরণ শক্তির প্রতি সেকেন্ডে 13 টেরা-অপারেশন প্রদান করে মাত্র $70-এ, প্রকৃত-সময় অবজেক্ট সনাক্তকরণ, পোজ অনুমান, এবং ইমেজ সেগমেন্টেশন সক্ষম করে প্রধান CPU-কে অপ্রতিরোধ্য না করে। এই স্বতন্ত্র ত্বরণ মডিউলটি স্থানীয়ভাবে AI অনুমান পরিচালনা করে, যা আপনার Pi 5কে অত্যাধুনিক কম্পিউটার ভিশন মডেলগুলি চালাতে সক্ষম করে যা আগে ক্লাউড কম্পিউটিং বা ব্যয়বহুল হার্ডওয়্যারের প্রয়োজন ছিল।
বাজার সময় তাৎপর্যপূর্ণ. AI এবং IoT হার্ডওয়্যারের উপর দৃষ্টি নিবদ্ধ করে 22টি পণ্য লঞ্চের মাধ্যমে Raspberry Pi FY 2024-এর জন্য $259.5M রাজস্বের রিপোর্ট করেছে, এজ কম্পিউটিংয়ে তাদের কৌশলগত বাজির ইঙ্গিত দেয়। যেহেতু ব্যবসাগুলি AI ওয়ার্কলোডগুলিকে ক্লাউড থেকে এজ ডিভাইসগুলিতে স্থানান্তরিত করে, এই সাশ্রয়ী কিটটি কীভাবে কাজ করে তা বোঝা স্মার্ট ক্যামেরা, রোবোটিক্স এবং শিল্প অটোমেশন প্রকল্পগুলিতে কাজ করা বিকাশকারীদের জন্য গুরুত্বপূর্ণ হয়ে ওঠে।
হার্ডওয়্যারের ভিতরে: শারীরিক স্থাপত্য
এআই কিট তিনটি সমন্বিত উপাদান নিয়ে গঠিত যা একসঙ্গে কাজ করে। Hailo-8L নিউরাল প্রসেসর মূলে বসে-এখানেই প্রকৃত AI গণনা হয়। মডিউলটি একটি M.2 2242 ফর্ম ফ্যাক্টর ব্যবহার করে এবং একটি M কী প্রান্ত সংযোগকারীর মাধ্যমে সংযোগ করে, স্ট্যান্ডার্ড PC কম্পোনেন্ট কনভেনশন অনুসরণ করে।
M.2 HAT+ হাইলো চিপ এবং আপনার রাস্পবেরি পাই এর PCIe Gen 3 ইন্টারফেসের মধ্যে সেতু হিসাবে কাজ করে। এটিকে একটি অনুবাদক হিসাবে ভাবুন যা দুটি ভিন্ন হার্ডওয়্যার ভাষার মধ্যে সংকেত রূপান্তর করে। একটি থার্মাল প্যাড আগে থেকে আসে-নিবিড় AI অপারেশনের সময় অতিরিক্ত গরম হওয়া প্রতিরোধ করতে মডিউল এবং HAT+ এর মধ্যে লাগানো থাকে-এই বিশদটি গুরুত্বপূর্ণ কারণ স্নায়ু প্রক্রিয়াকরণ উল্লেখযোগ্য তাপ উৎপন্ন করে।
সংযোগের ক্রমটি এভাবে প্রবাহিত হয়: রাস্পবেরি পাই 5 → PCIe FPC কেবল → M.2 HAT+ → Hailo-8L চিপ। নতুন AI HAT+ এর বিপরীতে যা সবকিছুকে এক বোর্ডে একীভূত করে, AI কিট এই মডুলার M.2 পদ্ধতি ব্যবহার করে, প্রয়োজনে NVMe স্টোরেজে সম্ভাব্য অদলবদল করার জন্য আপনাকে নমনীয়তা দেয়।
কার্যক্ষমতা মেট্রিক্স যা আসলে গুরুত্বপূর্ণ
কাঁচা টপস সংখ্যা সম্পূর্ণ গল্প বলে না। Hailo-8L প্রতি ওয়াট দক্ষতায় 3-4 TOPS অর্জন করে, যা ব্যাখ্যা করে কেন এটি 5x বেশি খরচের সিস্টেমের তুলনায় তুলনামূলকভাবে কাজ করে। বাস্তব-বিশ্বের পরীক্ষা আরও ব্যবহারিক অন্তর্দৃষ্টি প্রকাশ করে।
একটি 640x640 পিক্সেল ভিডিও ফিডে YOLOv8s অবজেক্ট ডিটেকশন চালানোর মাধ্যমে, Hailo-8L সহ Pi 5 PCIe Gen 3 সক্ষম সহ 80 FPS অর্জন করে- Gen 2 মোডের কর্মক্ষমতা দ্বিগুণ করে৷ পাওয়ার খরচ উল্লেখযোগ্যভাবে কম থাকে। Hailo ত্বরণ সহ সমগ্র Pi 5 8GB সিস্টেম সক্রিয় AI অনুমানের সময় আনুমানিক 10W ড্র করে, একটি সাধারণ ফোন চার্জারের সাথে তুলনীয়।
তাপমাত্রা ব্যবস্থাপনা অনুশীলনে কার্যকর প্রমাণিত হয়। সিড স্টুডিওর বেঞ্চমার্ক টেস্টিং থ্রটলিং ছাড়াই বর্ধিত সেশন জুড়ে স্থিতিশীল কর্মক্ষমতা দেখিয়েছে, পূর্বে ইনস্টল করা থার্মাল সমাধানের জন্য ধন্যবাদ। এটি GPU-ভিত্তিক অনুমানের বিপরীতে যেখানে তাপীয় সীমাবদ্ধতাগুলি প্রায়শই বাধা হয়ে দাঁড়ায়৷
ডেটা ফ্লো: ক্যামেরা থেকে ইনফারেন্স ফলাফল পর্যন্ত
আপনার Pi 5 এআই কিটের মাধ্যমে লাইভ ভিডিও প্রক্রিয়া করলে আসলে কী ঘটে তা এখানে। ক্যামেরা মডিউল ফ্রেম ক্যাপচার করে এবং সিএসআই ইন্টারফেসের মাধ্যমে রাস্পবেরি পাই এর সিপিইউতে কাঁচা চিত্র ডেটা পাঠায়। CPU ন্যূনতম প্রিপ্রসেসিং সঞ্চালন করে-সাধারণত শুধুমাত্র ফরম্যাট রূপান্তর এবং রেজোলিউশন সমন্বয়-হাইলো অ্যাক্সিলারেটরের কাছে ডেটা হস্তান্তরের আগে।
PCIe Gen 3 বাস এই প্রি-প্রসেসড ডেটা Hailo-8L-এ 8 GT/s পর্যন্ত গতিতে স্থানান্তর করে। নিউরাল প্রসেসর তখন তার বিশেষ আর্কিটেকচার ব্যবহার করে প্রকৃত অনুমান চালায়। Hailo-8 আর্কিটেকচারে বাহ্যিক DRAM এর প্রয়োজন ছাড়াই স্বয়ংসম্পূর্ণ RAM রয়েছে, যা সিস্টেম মেমরি থেকে ক্রমাগত ডেটা আনয়নকারী ঐতিহ্যবাহী AI অ্যাক্সিলারেটরের তুলনায় নাটকীয়ভাবে বিলম্ব কমায়।
ফলাফলগুলি একই PCIe সংযোগের মাধ্যমে ফিরে আসে। CPU স্ট্রাকচার্ড ডেটা পায়-অবজেক্ট কোঅর্ডিনেট, ক্লাসিফিকেশন কনফিডেন্স স্কোর, সনাক্ত করা পোজ-কাঁচা পিক্সেল নয়। আপনার পাইথন স্ক্রিপ্ট তারপর এই ফলাফলগুলিকে ট্রিগার করার জন্য ব্যাখ্যা করে: একটি সতর্কতা পাঠান, ফুটেজ রেকর্ড করুন, মোটর সক্রিয় করুন বা একটি ডাটাবেস আপডেট করুন।
rpicam-অ্যাপস সফটওয়্যার স্ট্যাক ইন্টিগ্রেশন লেয়ার প্রদান করে। বর্তমানে, rpicam-অ্যাপস হল গভীর Hailo ইন্টিগ্রেশন সহ প্রাথমিক সফ্টওয়্যার, যদিও Picamera2 সমর্থন যোগ করা হয়েছে৷ এর অর্থ হল আপনি স্ক্রিপ্ট লিখতে পারেন যেগুলি কেবলমাত্র কয়েকটি লাইন কোড সহ নিউরাল নেটওয়ার্কের মাধ্যমে ক্যামেরা ইনপুটকে নির্বিঘ্নে পাইপ করে।
বাস্তব-ওয়ার্ল্ড ইমপ্লিমেন্টেশন: একটি স্মার্ট সিকিউরিটি ক্যামেরা কেস
আমাকে একটি কংক্রিট উদাহরণ দিয়ে হাঁটতে দিন যা কিটের ক্ষমতা প্রদর্শন করে। VEEB প্রকল্পগুলি "পিপার প্যাম" তৈরি করেছে, একটি AI-চালিত সনাক্তকরণ সিস্টেম যা ব্যবহারকারীদের সতর্ক করে যখন কেউ ভিডিও কলের সময় পেছন থেকে আসে, আসবাবপত্র এবং গাছপালা উপেক্ষা করে মানুষকে সনাক্ত করতে বস্তু সনাক্তকরণ ব্যবহার করে।
তাদের বাস্তবায়নের জন্য মৌলিক উপাদানগুলির প্রয়োজন: AI কিট সহ একটি রাস্পবেরি পাই 5, ক্যামেরা মডিউল 3, একটি রাস্পবেরি পাই পিকো ডব্লু এবং একটি এনালগ ভোল্টমিটার৷ সিস্টেমটি বিকাশ করতে মাত্র তিন দিন সময় লেগেছে, সবচেয়ে বড় প্রযুক্তিগত চ্যালেঞ্জ হল Pi 5 এবং Pico W-এর মধ্যে দক্ষ যোগাযোগের জন্য ওয়েব সকেট বাস্তবায়ন করা।
আর্কিটেকচারটি স্মার্ট এজ কম্পিউটিং প্রদর্শন করে। Pi 5 সমস্ত AI প্রক্রিয়াকরণ স্থানীয়ভাবে পরিচালনা করে-মানুষের উপস্থিতির জন্য প্রতিটি ফ্রেম বিশ্লেষণ করে, আত্মবিশ্বাসের স্কোর গণনা করে, এবং সতর্কতা ট্রিগার করে। লাইটওয়েট পিকো ডব্লিউ ক্রমাগত ভোটদান, শক্তি সংরক্ষণ এবং নেটওয়ার্ক ওভারহেড হ্রাস করার পরিবর্তে কেবল সংকেত শোনে। এনালগ মিটার তাৎক্ষণিক ভিজ্যুয়াল ফিডব্যাক প্রদান করে, অনিশ্চয়তার জন্য গ্রেডেশন সহ 0 (কোন ব্যক্তি সনাক্ত করা হয়নি) থেকে 1 (নির্দিষ্ট সনাক্তকরণ) এ চলে যায়।
এই প্রকল্পটি ক্যামেরা সহ প্রায় 12-15W মোট শক্তি খরচ করেছে, তুলনামূলক ক্লাউড-ভিত্তিক সমাধানগুলির তুলনায় অনেক কম যার জন্য ধ্রুবক ভিডিও স্ট্রিমিং প্রয়োজন হবে৷ স্থানীয় প্রক্রিয়াকরণ গোপনীয়তার উদ্বেগকেও দূর করেছে কারণ কোনও ফুটেজ ডিভাইসটি ছেড়ে যায় না।
ধাপে-দ্বারা-ধাপ সেটআপ প্রক্রিয়া
AI কিট চালু করার জন্য পাঁচটি স্বতন্ত্র পর্যায় জড়িত। প্রতিটি পর্যায়ে নির্দিষ্ট প্রয়োজনীয়তা এবং সাধারণ ক্ষতি এড়ানোর জন্য আছে.
পর্যায় 1: হার্ডওয়্যার সমাবেশ
সর্বশেষ 64-বিট রাস্পবেরি পাই OS চলমান একটি Raspberry Pi 5 দিয়ে শুরু করুন। সঠিক প্রান্তিককরণ নিশ্চিত করে GPIO হেডারে M.2 HAT+ সংযুক্ত করুন। PCIe FPC কেবলটিকে Pi এবং HAT উভয়ের সাথেই সংযুক্ত করুন+-তারের একটি নির্দিষ্ট অভিযোজন রয়েছে এবং এটিকে ভুলভাবে জোর করে সংযোগকারীর ক্ষতি করবে৷ অন্তর্ভুক্ত স্ট্যান্ডঅফ সহ M.2 স্লটে Hailo-8L মডিউল সুরক্ষিত করুন।
পর্যায় 2: PCIe Gen 3 সক্ষম করুন
স্থিতিশীলতার জন্য Pi 5 PCIe Gen 2-এ ডিফল্ট। /boot/firmware/config.txt সম্পাদনা করুন এবং dtparam=pciex1_gen=3. যোগ করুন এই একক পরিবর্তন আপনার অনুমান কার্যক্ষমতা দ্বিগুণ করে। রিবুট করুন এবং lspci -vv|দিয়ে যাচাই করুন grep "LnkSta:" নিশ্চিত করতে Gen 3 সক্রিয়।
পর্যায় 3: সফ্টওয়্যার ইনস্টলেশন
Hailo সফ্টওয়্যার স্ট্যাক ইনস্টল করুন: sudo apt update এবং sudo apt install hailo-সমস্ত। এই প্যাকেজের মধ্যে রয়েছে HailorRT রানটাইম, হাইলো সমর্থন সহ rpicam-অ্যাপ, এবং উদাহরণ নিউরাল নেটওয়ার্ক মডেল। ইনস্টলেশনের জন্য প্রায় 2GB ডিস্ক স্পেস এবং একটি সাধারণ ব্রডব্যান্ড সংযোগে 10-15 মিনিটের প্রয়োজন।
পর্যায় 4: যাচাইকরণ পরীক্ষা
অন্তর্ভুক্ত বস্তু সনাক্তকরণ ডেমো চালান: rpicam-হ্যালো -t 0 --পোস্ট-প্রক্রিয়া-ফাইল /usr/share/rpi-camera-assets/hailo_yolov6_inference.json৷ শনাক্ত করা আইটেমগুলির চারপাশে আঁকা বাউন্ডিং বাক্সের সাথে আপনি বাস্তব{11}}সময় অবজেক্ট সনাক্তকরণ দেখতে পাবেন৷ 60 FPS এর উপরে ফ্রেমের হার সঠিক Gen 3 অপারেশন নির্দেশ করে।
পর্যায় 5: কাস্টম মডেল স্থাপনা
আপনার নিজের প্রশিক্ষিত মডেলগুলির জন্য, টেনসরফ্লো বা পাইটর্চ মডেলগুলিকে হাইলোর এইচইএফ ফর্ম্যাটে রূপান্তর করতে হাইলো ডেটাফ্লো কম্পাইলার ব্যবহার করুন৷ কম্পাইলার স্বয়ংক্রিয়ভাবে পরিমাপ এবং অপ্টিমাইজেশন পরিচালনা করে, যদিও ক্রমাঙ্কনের জন্য আপনার প্রতিনিধি ডেটাসেট নমুনা প্রয়োজন হবে। ফলস্বরূপ .hef ফাইলটি স্থাপন করুন এবং এটিকে আপনার rpicam-অ্যাপস পাইপলাইনের সাথে একত্রিত করুন৷
বাজারের প্রসঙ্গ: কেন এজ এআই অ্যাক্সিলারেশন এখন গুরুত্বপূর্ণ
এজ এআই চিপ মার্কেট বিস্ফোরক বৃদ্ধির সম্মুখীন হচ্ছে। 2024 সালে গ্লোবাল এআই চিপ মার্কেট $123.16 বিলিয়ন এ পৌঁছেছে এবং 2029 সালের মধ্যে 311.58 বিলিয়ন ডলারে পৌঁছানোর প্রকল্পগুলি 24.4% CAGR-এ বৃদ্ধি পেয়েছে। এটি শুধু বড় সংখ্যা নয়-এটি যেখানে AI প্রক্রিয়াকরণ হয় সেখানে একটি মৌলিক পরিবর্তনের প্রতিনিধিত্ব করে৷
হাইলো, ত্বরণ চিপের পিছনে কোম্পানি, উল্লেখযোগ্য বৈধতা সুরক্ষিত করেছে। স্টার্টআপটি এপ্রিল 2024-এ $120 মিলিয়ন সংগ্রহ করেছে এবং এখন মোটরগাড়ি, নিরাপত্তা, খুচরা এবং শিল্প অটোমেশন সেক্টর জুড়ে 300 জনেরও বেশি গ্রাহককে পরিষেবা দেয়। এমন একটি বাজারে তাদের টিকে থাকা যেখানে অনেক AI চিপ স্টার্টআপ ব্যর্থ হয়েছে এজ-কেন্দ্রিক সমাধানের কার্যকারিতার কথা বলে৷
প্রতিযোগিতামূলক ল্যান্ডস্কেপ আকর্ষণীয় ট্রেডঅফ হাইলাইট করে। Hailo-10H 11 TOPS-এ Intel-এর Core Ultra Meteor Lake NPU এবং 16 TOPS-এ AMD-এর Ryzen 8040-এর তুলনায় INT8-এর 20 TOPS-এর সমতুল্য INT4 পারফরম্যান্সের 40 TOPS প্রদান করে৷ যাইহোক, ইউএস চিপ সংস্থাগুলি জানুয়ারী থেকে সেপ্টেম্বর 2023 পর্যন্ত মাত্র 881 মিলিয়ন ডলার সংগ্রহ করেছে, যা 2022 সালে $1.79 বিলিয়ন থেকে কম, চ্যালেঞ্জিং তহবিল পরিবেশ দেখায় যা হাইলোর সাফল্যকে উল্লেখযোগ্য করে তোলে।
রাস্পবেরি পাই ইকোসিস্টেমের জন্য বিশেষভাবে, AI এবং IoT ফোকাস 2026 সালের মধ্যে আনুষঙ্গিক বিক্রয়ে 15-20%-বছর ধরে বৃদ্ধির জন্য অনুমান করা হয়েছে৷ AI কিটটি এমন একটি বাজারে রাস্পবেরি পাই-এর প্রবেশের প্রতিনিধিত্ব করে যেখানে তারা তাদের বিশাল ব্যবহারকারী বেস এবং বিতরণকারী বিশেষ নেটওয়ার্কের বিপরীতে সুবিধা নিতে পারে৷
এআই কিট সম্পর্কে সাধারণ ভুল ধারণা
ভুল ধারণা: "13 TOPS মানে এটি যেকোন এআই মডেল চালায়"
বাস্তবতা উল্লেখযোগ্য nuance জড়িত. Hailo-8L কম্পিউটার দৃষ্টি-অবজেক্ট সনাক্তকরণ, বিভাজন, ভঙ্গি অনুমান করার জন্য কনভোলিউশনাল নিউরাল নেটওয়ার্কে পারদর্শী। এটি বড় ভাষার মডেলগুলির সাথে লড়াই করে কারণ চিপে এলএলএম অনুমানের জন্য পর্যাপ্ত VRAM নেই৷ 13 TOPS চিত্রটি INT8 অপারেশনে প্রযোজ্য, যখন অনেক ট্রান্সফরমার মডেল FP16 বা FP32 নির্ভুলতা আশা করে।
ভুল ধারণা: "এটি শুধু একটি দ্রুত GPU"
নিউরাল এক্সিলারেটর মৌলিকভাবে ভিন্ন আর্কিটেকচার ব্যবহার করে। GPU গুলি একটি সাধারণ-উদ্দেশ্য সমান্তরাল প্রক্রিয়াকরণ নকশা অনুসরণ করে, তাদের নমনীয় কিন্তু কম দক্ষ করে তোলে। Hailo-8-এর ডেটাফ্লো আর্কিটেকচার বিশেষভাবে নিউরাল নেটওয়ার্ক বৈশিষ্ট্যগুলিকে কাজে লাগায়, বহিরাগত DRAM নির্ভরতা দূর করে৷ এই বিশেষীকরণটি নির্দিষ্ট কাজের জন্য GPU সমাধানগুলির তুলনায় 20x ভাল শক্তি দক্ষতা সক্ষম করে, তবে এর অর্থ নন-এআই কাজের চাপের জন্য কম নমনীয়তা।
ভুল ধারণা: "প্লাগ-এবং-যে কোনো ক্যামেরা দিয়ে খেলুন"
যদিও কিট একাধিক ক্যামেরা সমর্থন করে, ইন্টিগ্রেশনের জন্য নির্দিষ্ট সফ্টওয়্যার সমর্থন প্রয়োজন। প্রাথমিকভাবে, শুধুমাত্র rpicam-অ্যাপগুলি গভীর Hailo ইন্টিগ্রেশন অফার করেছিল, যদিও পিকামেরা2 সমর্থন পরে এসেছে৷ USB ওয়েবক্যামগুলি কাজ করে তবে আলাদা কোড পাথের প্রয়োজন হয়৷ MIPI CSI ক্যামেরাগুলি সবচেয়ে শক্ত ইন্টিগ্রেশন প্রদান করে তবে আপনাকে আপনার নির্দিষ্ট ক্যামেরা মডেলের সাথে সামঞ্জস্যতা যাচাই করতে হবে।
ভুল ধারণা: "আরো ব্যাচের আকার সবসময় ভাল পারফরম্যান্সের সমান"
পরীক্ষা একটি আকর্ষণীয় সীমাবদ্ধতা প্রকাশ করে। ব্যাচ সাইজ 2 (80 FPS) থেকে ব্যাচ সাইজ 8 (120 FPS) এর মাধ্যমে কর্মক্ষমতা উন্নত হয়, কিন্তু PCIe ব্যান্ডউইথের সীমাবদ্ধতার কারণে ব্যাচ সাইজ 16 এ 100 FPS এ নেমে যায়। এটি প্রস্তাব করে যে Pi 5 এর PCIe Gen 3 x1 ইন্টারফেসটি বড় ব্যাচের সাথে বাধা হয়ে দাঁড়ায়, নিউরাল প্রসেসর নিজেই নয়।
প্রায়শই জিজ্ঞাসিত প্রশ্নাবলী
AI কিট কি ChatGPT বা অনুরূপ LLM চালাতে পারে?
কার্যকরভাবে এর বর্তমান ফর্মে নয়। Hailo-8L-এ বড় ভাষার মডেলগুলির জন্য মেমরির ক্ষমতার অভাব রয়েছে, যা সাধারণত মডেল ওজনের জন্য 4-16GB ডেডিকেটেড RAM প্রয়োজন। যাইহোক, 1B প্যারামিটারের অধীনে ছোট কোয়ান্টাইজড মডেলগুলি উল্লেখযোগ্য কর্মক্ষমতা সীমাবদ্ধতার সাথে চলতে পারে। বিতরণ করা লামা প্রকল্পটি LLaMA 3 8B কে চারটি Pi 4 ইউনিট জুড়ে 1.6 টোকেন প্রতি সেকেন্ডে চালানোর প্রদর্শন করে, যদিও এটি AI কিটের ত্বরণকে লাভ করে না।
AI Kit এবং AI HAT+ এর মধ্যে পার্থক্য কী?
AI কিট একটি M.2 মডিউল ব্যবহার করে যা একটি M.2 HAT+ অ্যাডাপ্টার বোর্ডে প্লাগ করে। AI HAT+ একটি সম্পূর্ণ HAT বোর্ডে Hailo চিপকে সরাসরি সংহত করে এবং 13টি TOPS ($70) এবং 26 TOPS ($110) ভেরিয়েন্টে আসে। 26 TOPS সংস্করণ Hailo-8L এর পরিবর্তে একটি Hailo-8 ব্যবহার করে। উভয়ই অভিন্ন সফ্টওয়্যার এবং লাইব্রেরি ব্যবহার করে, তাই তাদের মধ্যে নির্বাচন করা নির্ভর করে আপনার অন্য উদ্দেশ্যে M.2 স্লটের প্রয়োজন কিনা।
কিভাবে বিদ্যুত খরচ মেঘ অনুমানের সাথে তুলনা করে?
নাটকীয়ভাবে কম। সক্রিয় AI অনুমান সহ সম্পূর্ণ Pi 5 সিস্টেমটি 10W এর কাছাকাছি ড্র করে, যদি ক্রমাগত চলতে থাকে তাহলে প্রতিদিন প্রায় 240Wh। ক্লাউড অনুমানের জন্য ধ্রুবক ভিডিও স্ট্রিমিং (2-4Mbps আপলোড করা) এবং প্রক্রিয়াকরণের জন্য API কলগুলির প্রয়োজন হবে, সাধারণত ডেটা সেন্টারে আরও ব্যান্ডউইথ খরচ এবং শক্তি খরচ করে। একটি 24/7 নিরাপত্তা ক্যামেরা অ্যাপ্লিকেশনের জন্য, স্থানীয় প্রক্রিয়াকরণ ব্যান্ডউইথ এবং ক্লাউড API ফিতে মাসিক $20-40 সঞ্চয় করতে পারে।
আমি কি একটি রাস্পবেরি পাই 5 এ একাধিক AI কিট ব্যবহার করতে পারি?
একটি একক Pi 5-এ সরাসরি নয়, যার শুধুমাত্র একটি PCIe ইন্টারফেস রয়েছে। যাইহোক, জেফ গিয়ারলিং PCIe সুইচ এবং এক্সপেনশন বোর্ড ব্যবহার করে একাধিক অ্যাক্সিলারেটর সংযোগ প্রদর্শন করেছেন, বিভিন্ন হাইলো এবং কোরাল চিপ জুড়ে মোট 51 টি টপস অর্জন করেছেন, যদিও এই কনফিগারেশনটি আনুষ্ঠানিকভাবে সমর্থিত নয় এবং এর জন্য বাহ্যিক শক্তি সরবরাহের প্রয়োজন।
রিয়েল টাইম অ্যাপ্লিকেশনের জন্য আমার কি ফ্রেম রেট আশা করা উচিত?
এটি আপনার মডেলের জটিলতা এবং ইনপুট রেজোলিউশনের উপর নির্ভর করে। 640x640 রেজোলিউশনে YOLOv8s ব্যাচের আকারের উপর নির্ভর করে 80-120 FPS অর্জন করে। মোবাইলনেটের মতো সহজ মডেলগুলি 200+ FPS এ পৌঁছাতে পারে৷ YOLOv8x এর মত ভারী মডেল 30-40 FPS এ নেমে যেতে পারে। তুলনা করার জন্য, মানুষের দৃষ্টি 24-30 FPS-এ মসৃণভাবে গতি উপলব্ধি করে, তাই বেশিরভাগ রিয়েল-টাইম অ্যাপ্লিকেশনের আরামদায়ক পারফরম্যান্স হেডরুম রয়েছে।
কাস্টম মডেল প্রশিক্ষণ কতটা কঠিন?
প্রশিক্ষণ পর্বটি আপনার ডেস্কটপ কম্পিউটারে বা ক্লাউড ইন্সট্যান্সে স্ট্যান্ডার্ড টেনসরফ্লো বা পাইটর্চ ওয়ার্কফ্লো ব্যবহার করে ঘটে-হাইলো চিপ প্রশিক্ষণে অংশগ্রহণ করে না। রূপান্তর প্রক্রিয়ার জন্য হাইলো ডেটাফ্লো কম্পাইলার শেখা প্রয়োজন, যার একটি শেখার বক্ররেখা রয়েছে তবে ব্যাপক ডকুমেন্টেশন অন্তর্ভুক্ত রয়েছে। আপনি যদি ইতিমধ্যে নিউরাল নেটওয়ার্ক প্রশিক্ষণের সাথে পরিচিত হন তবে আপনার প্রথম কাস্টম মডেলটি চালু হতে 2-3 দিন আশা করুন৷ কম্পাইলার স্বয়ংক্রিয়ভাবে কোয়ান্টাইজেশন পরিচালনা করে, যদিও আপনার একটি প্রতিনিধি ক্রমাঙ্কন ডেটাসেটের প্রয়োজন হবে।
এটি কি অন্যান্য একক-বোর্ড কম্পিউটারের সাথে কাজ করে?
এআই কিট বিশেষভাবে রাস্পবেরি পাই 5 এর PCIe ইন্টারফেস এবং ফর্ম ফ্যাক্টরকে লক্ষ্য করে। যাইহোক, অন্তর্নিহিত Hailo-8L M.2 মডিউল একটি আদর্শ উপাদান। M.2 স্লট সহ Seeed Studio এর reComputer R1000 এর মত ডিভাইসগুলি Hailo মডিউলকে মিটমাট করতে পারে, যদিও আপনাকে সফ্টওয়্যার স্ট্যাকটি পোর্ট করতে হবে। M.2 স্লট সহ অন্যান্য SBCs (রক 5B, অরেঞ্জ পাই 5) তাত্ত্বিকভাবে কাজ করতে পারে তবে উল্লেখযোগ্য সফ্টওয়্যার একীকরণ প্রচেষ্টা প্রয়োজন।
মানুষ আসলে নির্মাণ কি প্রকল্প?
সম্প্রদায় বিভিন্ন অ্যাপ্লিকেশন তৈরি করেছে। প্রকল্পগুলির মধ্যে রয়েছে বস্তুর স্বীকৃতি ব্যবহার করে স্মার্ট পিল ডিসপেনসার, প্রজাতি সনাক্তকরণ সহ বন্যপ্রাণী ক্যামেরা এবং বস্তু গণনা করে এমন বিশৃঙ্খল ডেস্ক সতর্কতা। ভঙ্গি অনুমান ফিটনেস ট্র্যাকিং অ্যাপ্লিকেশনগুলিকে সক্ষম করে যা ব্যায়ামের ফর্ম নিরীক্ষণ করে এবং পুনরাবৃত্তি গণনা করে। শিল্প ব্যবহারকারীরা মান নিয়ন্ত্রণ পরিদর্শনের জন্য কিট স্থাপন করে, পরিবাহক বেল্টে পণ্য গণনা করে, এবং বাস্তব-সময়ের ভিডিও ফিডে নিরাপত্তা লঙ্ঘন সনাক্ত করে।
আপনার সিদ্ধান্ত নেওয়া: যখন এআই কিট অর্থবোধ করে
রাস্পবেরি পাই এআই কিট নির্দিষ্ট পরিস্থিতিতে উজ্জ্বল হয়। এটি আদর্শ যখন আপনার ব্যাটারি পাওয়ার বা এমবেডেড পরিবেশে যেখানে ক্লাউড সংযোগ অবিশ্বস্ত হয় সেখানে আপনার রিয়েল টাইম কম্পিউটার ভিশন প্রয়োজন৷ স্মার্ট ডোরবেল, ওয়াইল্ডলাইফ ক্যামেরা, ইন্ডাস্ট্রিয়াল ইন্সপেকশন সিস্টেম এবং রোবোটিক্স অ্যাপ্লিকেশানগুলি সুইট স্পট-কাজের প্রতিনিধিত্ব করে যাতে টাইট লেটেন্সি প্রয়োজনীয়তা এবং পাওয়ার বাজেটের সাথে ক্রমাগত AI প্রক্রিয়াকরণের প্রয়োজন হয়৷
আপনার প্রয়োজনীয়তা ভিন্ন হলে বিকল্প বিবেচনা করুন। আপনি যদি প্রাথমিকভাবে LLM বা প্রাকৃতিক ভাষা প্রক্রিয়াকরণে আগ্রহী হন, তাহলে আপনার বিভিন্ন হার্ডওয়্যার-সম্ভবত ডেস্কটপ GPU বা ক্লাউড API অ্যাক্সেসের প্রয়োজন হবে৷ মাঝে মাঝে AI কাজগুলির জন্য যেখানে লেটেন্সি গুরুত্বপূর্ণ নয়, ক্লাউড পরিষেবাগুলি আরও বেশি খরচ-প্রতি-অনুমান খরচ হওয়া সত্ত্বেও কার্যকর হতে পারে৷
$70 মূল্য বিন্দু কিটটিকে একটি পরীক্ষামূলক প্ল্যাটফর্ম হিসাবে অবস্থান করে যা শেখার জন্য যথেষ্ট সাশ্রয়ী তবে উত্পাদন প্রোটোটাইপের জন্য যথেষ্ট শক্তিশালী। রাস্পবেরি পাই-এর এআই সক্ষমতার উপর কৌশলগত জোর দেওয়া এবং 2024 সালে 22টি পণ্য লঞ্চ করার সাথে, সফ্টওয়্যার ইকোসিস্টেম পরিপক্ক হতে থাকবে, সময়ের সাথে সাথে বিনিয়োগকে আরও মূল্যবান করে তুলবে।
সহায়ক উপাদানগুলির জন্য একটি অতিরিক্ত $100-150 বাজেট করুন: একটি মানসম্পন্ন পাওয়ার সাপ্লাই, ক্যামেরা মডিউল, কুলিং সহ কেস এবং পর্যাপ্ত গতির ক্লাস সহ মাইক্রোএসডি কার্ড৷ 200-250 ডলারের মোট সিস্টেম খরচ এখনও বাণিজ্যিক AI ক্যামেরা সিস্টেমগুলিকে 50-70% কম করে যখন সম্পূর্ণ কাস্টমাইজেশন স্বাধীনতা প্রদান করে।
এজ এআই মার্কেটের ট্র্যাজেক্টোরি পরামর্শ দেয় যে এখন এই সরঞ্জামগুলির সাথে দক্ষতা তৈরি করার একটি কৌশলগত সময়। আপনি ক্যারিয়ারের বিকল্পগুলি অন্বেষণকারী একজন শিক্ষার্থী, একজন নির্মাতা প্রোটোটাইপিং পণ্য, বা শিল্প স্থাপনের জন্য প্রযুক্তির মূল্যায়নকারী একজন প্রকৌশলী হোক না কেন, রাস্পবেরি পাই এআই কিট কীভাবে কাজ করে তা বোঝার জন্য{1}}কম্পিউটিং আর্কিটেকচারের অভিজ্ঞতা প্রদান করে যা পরবর্তী দশকের স্মার্ট ডিভাইসগুলিকে শক্তিশালী করবে৷