ඉදිරි AI ප්රවණතාවක් ලෙස, Petals නමැති නව ව්යාපෘතිය BitTorrent‑වල වැනි පීර්-ටු-පීර් (P2P) ජාලයක් භාවිතා කර ලොකු භාෂා ආදර්ශ (LLM) ගත හැකි බව පෙන්වා දෙයි. මෙයින් ඔබට සාමාන්ය පරිභෝජක‑පරිගණකයක් හෝ Google Colab පරිසරයක් මත Llama 3.1 (405 බිලියන් පරාමිතීන් දක්වා), Mixtral, Falcon 40B+ හෝ BLOOM 176B වැනි අති විශාල මොඩලයන් ක්රියාත්මක කළ හැකිය.
කාර්ය සාධනය සරලයි: පළමුව ඔබට මොඩලයේ කොටසක් පමණක් බාගත කර ගන්න. පසුව එම කොටසට සම්බන්ධ වූ ලෝකය පුරා පවතින අයගේ පරිගණකයන් මගින් අනෙක් කොටස් සපයනු ලබයි. එක් එක් ඉන්ෆරන්ස් (inference) සදහා Llama 2 (70 බි) මොඩලය සදහා තත්පරයකට 6 ටෝකන, Falcon (180 බි) සදහා තත්පරයකට 4 ටෝකන වේගයක් ලැබේ — චැට්බොට් හෝ අන්තර්ක්රියාත්මක යෙදුම් සඳහා ප්රමාණවත් වේගයක්.
මෙම සේවාව සාම්ප්රදායික LLM API පමණක් නොව, PyTorch සහ 🤗 Transformers හි සම්පූර්ණ සූක්ෂමතාවයන් ලබා දේ. ඔබට ඕනෑම fine‑tuning, sampling ක්රමයක් යොදා ගත හැකි අතර, මොඩලය තුළ ගුප්ත (hidden) තත්ත්වයන් ද නිරීක්ෂණය කළ හැකිය. ඉන්පසු Discord හෝ ඊමේල් මාර්ගයෙන් සංවර්ධන තොරතුරු ලබා ගත හැකි අතර, Spam නොමැතිව මාසික යාවත්කාලීන කිරීම් ලැබේ.
ශ්රී ලංකාවට ඇති වැදගත්කම
ශ්රී ලංකාවේ විශ්වවිද්යාල සිසුන්, ස්වයංක්රීය සංවර්ධකයින් සහ තාක්ෂණ ආරම්භකයන්ට මෙම ව්යාපෘතිය විශාල අවස්ථාවක් වේ. පළමුව, ඉහළ පරිමාණ AI මොඩලයන් ගෘහ පරිසරයෙන්ම පවත්වා ගැනීමේ හැකියාව, පිරිවැය අඩු කරයි. මෙය පරිගණක ශිල්පීන්ට අධික පරිමාණ මොඩලයන් සමඟ පර්යේෂණ, ප්රොටෝටයිප් නිර්මාණ සහ නව නිෂ්පාදන සංවර්ධනය සඳහා වඩාත් ලාභදායී වේ.
- අධ්යාපනය: සිසුන්ට LLM ආකෘතින් මත පදනම් වූ AI පරීක්ෂණ, fine‑tuning, prompt engineering වැනි නව තාක්ෂණික කුසලතා අත්හදා බැලීමට හැකියාව ලැබේ.
- ව්යාපාරික ප්රයෝජන: කුඩා හා මධ්ය පරිමාණ ව්යාපාර (SMEs) සඳහා AI‑චැට්බොට්, ලේඛන සාරාංශකරණ, අන්තර්ගත නිර්මාණ සේවා වැනි අන්තර්ක්රියාත්මක යෙදුම් ඉතා අඩු වියදමින් ක්රියාත්මක කළ හැකිය.
- ඉදිරි සංවර්ධනය: P2P ජාලය මත පදනම් වූ විවෘත ප්රජා ව්යාපෘතියක් වන නිසා, ශ්රී ලංකා තාක්ෂණ ප්රජාවට දායක වීමෙන් ජාලයේ සම්පත් වැඩි කර, ලෝක පරිසරයේ AI පරිසරයක් සමඟ සම්බන්ධ වීමට අවස්ථාව ලැබේ.
අවසන් වශයෙන්, Petals වැනි ව්යාපෘති AI තාක්ෂණය ජනතා මට්ටමේ පවා පළකරමින්, ගෝලීය තාක්ෂණික සමාජයේ ශ්රී ලංකාවට නව දොරටුවක් විවෘත කරයි. ඔබත් මේ අලුත් AI අත්දැකීමේ කොටසක් වීමට අදම එක්වන්න.
