Raspberry Pi, Jetson හෝ ARM VM වැනි කුඩා පරිගණකයක් මත AI මොඩලයක් ධාවනය කරමින්, බ්රවුසරයෙන් Token‑by‑Token ප්රතිඵල ලබාගත හැකිවීමත්, IoT උපාංග MQTT මගින් දත්ත හුවමාරු කර ගැනීමත් එක්ක එකවර කළහැකි නව පද්ධතියක් දැන් ලැබුණා.
සම්ප්රදායිකව Edge පද්ධතියක HTTP සර්වර්, reverse proxy, MQTT broker වැනි තවත් සේවා 3‑4ක් ධාවනය කරගන්න අවශ්ය වෙයි. ඒවා එක්‑එකක් ස්ථාපනය, නිරීක්ෂණ, අනුග්රහය (cross‑compile) වැනි වැඩ බරක් තබා දෙනවා. මේකට විකල්පයක් ලෙස BlackBull නමැති පූර්ණ‑Python ASGI framework එක භාවිතා කරමින්, HTTP/1.1, HTTP/2, WebSocket, gRPC, MQTT 5 සියල්ල එකම Python ක්රියාවලියක ඇතුළත් කර ඇත.
මෙම පද්ධතියේ මූලික සැලැස්ම මෙසේය: :8000 පෝට් එකේ HTTP/1.1 සහ HTTP/2 (h2c හෝ TLS සමඟ ALPN) අන්තර්ගත කර, /generate මාර්ගයෙන් SSE (Server‑Sent Events) ආකාරයෙන් Token‑stream එකක් ලබා දේ. ඒ සමග :1883 පෝට් එකේ MQTT 5 broker එකක් ධාවනය කර, sensors/{device}/{metric} වැනි විෂයයන්ට in‑memory tap එකක්, jobs/# සඳහා round‑robin work queue එකක් සපයයි. බ්රවුසර, curl, httpx වැනි client‑වලින් එම SSE endpoint එකට GET ඉල්ලීමක් කර Token එකක් පළමුව ලැබෙන තෙක් ඉතිරි Token‑වල උත්පාදනය දිගටම සිදු වේ.
HTTP/2 භාවිතයෙන් බහු‑stream එකක් එකම සම්බන්ධතාවයෙන් multiplex කර, head‑of‑line blocking නොවී කාර්ය සාධනය වැඩි වේ. LAN පරිසරයක TLS අවශ්ය නැති නිසා සැකසීම ඉතා සරලයි; බ්රවුසර සඳහා TLS අවශ්ය නම් certfile සහ keyfile ලබා දීම පමණක්.
ශ්රී ලංකාවට ඇති වැදගත්කම
මෙම තාක්ෂණය ශ්රී ලංකාවේ තාක්ෂණික පරිසරයට ගෙනෙන ප්රතිඵල කිහිපයක් ඇත:
- වියදම් අඩු කිරීම: එක් Python ක්රියාවලියක් තුළ HTTP, MQTT, gRPC සියල්ල සම්බන්ධ කිරීමෙන් අමතර සේවා ස්ථාපනය, නඩත්තු වියදම් ඉහළ යාම නැත.
- ඉගෙනුම් අවකාශය: AI මොඩලය Raspberry Pi මත ධාවනය කරමින්, සිසුන්ට edge AI ක්රමවේදය ප්රායෝගිකව අත්හදා බැලීමට අවස්ථාව ලැබේ.
- ව්යවසාය අවස්ථා: කුඩා IoT ව්යාපෘති, ස්මාර්ට් ගෘහ උපකරණ, කෘෂිකාර්මික සංවේදක වැනි උපාංගයන් MQTT මගින් සම්බන්ධ කර, real‑time inference ලබා දීමට හැකියාව ලැබේ.
- දෙබල අභ්යන්තරය: Python‑මූලිකව නිර්මාණය කර ඇති නිසා, දේශීය සංවර්ධකයින්ට පරිසරය පහසුවෙන් අනුකූල කර ගත හැක.
ඉදිරියේදී, CPU‑බැඳි හෝ NPU/GPU‑බැඳි මොඩලයක් භාවිතා කිරීමට අවශ්ය නම්, inference කාර්යය ත්රෙඩ් එකකට මාරු කර event loop එක නිදහස් කර ගැනීමේ උදාහරණය කේතයෙන් පැහැදිළි කර ඇත. මෙය Edge පද්ධතියේ ප්රතිචාර වේගය අඩු නොකර, MQTT broker එකත් සමඟ සමකාලීනව ක්රියා කිරීමට ඉඩ සලසයි.
සාරාංශයෙන්, BlackBull framework එක Raspberry Pi වැනි කුඩා පරිගණකයක් මත AI සේවා, SSE streaming, MQTT messaging එකම පද්ධතියෙන් සපයන නව ආකාරයක් වන අතර, ශ්රී ලංකාවේ තාක්ෂණික නවෝත්පාදන, අධ්යාපනය, ව්යාපාරික ප්රයෝගය සඳහා විශාල වාසියක් ගෙන දෙයි.
