කොඩින් ලෝකයට නව තාක්ෂණික සුවිශේෂී පළපුරුද්දක්. $8 කට මිලදී ගත හැකි ESP32‑S3 මයික්රොකන්ට්රෝලරයක් මත 28.9 මිලියන පරාමිතීන් AI මාදිලියක් ක්රියාත්මක කළ බව දැන් පෙනෙයි.
මෙම මාදිලිය, 28.9M පරාමිතීන් සමඟ TinyStories දත්ත කට්ටලය මත පුහුණු කරගෙන, ESP32‑S3 හි 512KB SRAM, 8MB PSRAM සහ 16MB FLASH මත සෘජුව ක්රියා කරයි. මොඩලයේ බහුතරයක් FLASH හි lookup table එකක් ලෙස ගබඩා කර, සෑම වචනයක් ලියන විටත් අවශ්ය 450 බයිට් පමණ පමණක් RAM වෙත ලබා ගැනේ. එම නිසා, පද්ධතිය තත්පරයකට 9–10 token (වචන) වේගයෙන්, බාහිර සර්වර් හෝ Wi‑Fi සම්බන්ධතාවයක් අවශ්ය නොවී, කුඩා තිරයක ප්රදර්ශනය කරයි.
මෙම සැලැස්මේ මූලික ගැටළුව මයික්රොකන්ට්රෝලරයේ වෙගවත් මතකය (SRAM) ඉතා සීමිතය ය. පෙර පරීක්ෂණවල 260,000 පරාමිතීන් පමණක් තිබූ අතර, මේක 100 ගුණයක් වැඩි ප්රමාණයක්. Google හි Gemma මොඩලයෙන් උදව් ගත් Per‑Layer Embeddings තාක්ෂණය භාවිතා කර, embedding පේළි FLASH එකේ තබා, අවශ්ය පේළි පමණක් RAM වෙත ඇදගෙන එයි. ඒ නිසා, මොඩලය බොහෝමයක් ස්ථානය ගන්නේ නැතිව, කුඩා චිප් එකකත් ධාරිතාව වැඩි කරගත හැකි වුණි.
ශ්රී ලංකාවට ඇති වැදගත්කම
ශ්රී ලංකාවේ තාක්ෂණ ශිෂ්යයන්, නිර්මාතෘවරුන් හා ව්යාපාරිකයන්ට මේ පර්යේෂණය ගෙන오는 ප්රතිලාභ කිහිපයක් ඇත:
- අඩු පිරිවැය – $8 මයික්රොකන්ට්රෝලරයක් මත AI ක්රියාත්මක කිරීම, පරිගණක හෝ සර්වර් පරිභෝගය වඩාත් අඩු කරයි.
- ස්ථානීය සංවර්ධනය – බාහිර සර්වර් අවශ්ය නොවීම නිසා, දත්ත රහස්යතාවය රැක ගත හැකි අතර, ශ්රී ලංකාවේ පරිසරයට හොඳයි.
- ඉගෙනීමේ අවස්ථා – පාඨමාලා, වැඩමුළු හා ප්රායෝගික ව්යාපෘති තුළ, මොඩලය ධාවනය කරමින් AI මූලධර්ම ඉගෙනීමට හැකියාව ලැබේ.
- ව්යාපාරික නවෝත්පාදනය – කුඩා IoT උපාංග, ගෘහස්ථ රොබෝ, හෝ භාෂා මූලික chatbot වැනි නිෂ්පාදන ඉතා අඩු වියදමින් නිර්මාණය කළ හැක.
ඉදිරි කාලයේ, මෙම තාක්ෂණය ශ්රී ලංකාවේ තාක්ෂණික සමාජය තුළ නව නිර්මාණ, පර්යේෂණ සහ ආරම්භක ව්යාපාර සඳහා ප්රබල වේගයක් ලබා දෙනු ඇත.
අවසානයේ, ESP32‑S3 මත 28.9M පරාමිතීන් AI මාදිලිය ක්රියාත්මක කිරීම, මයික්රොකන්ට්රෝලර තලයේ AI සීමා ඉක්මවා, අඩු පිරිවැය, ඉහළ ප්රයෝජන සහිත තාක්ෂණයක් බවට පත් වෙයි.
