Google සමාජය තවත් නව නවෝත්පාදනයක් හඳුන්වා දී තිබේ – Tunix නමින් හැඳින්වෙන පසු‑පුහුණු ලයිබ්රරිය. මෙම මෙවලම, LLM (Large Language Model) ඒජන්ට්වලට බහු‑පියවර තීරණ ගන්නා, API ඇමතුම්, වෙබ් සෙවුම් වැනි සංකීර්ණ පරිසර සමඟ ක්රියාකාරීත්වය ලබාදීමට අවශ්ය පුහුණුව ඉතා කාර්යක්ෂමව සිදු කරයි.
පැරණි සින්ක්රෝනස් රෝලවුට් ආකෘතියේදී, ඒජන්ට් එකක් කේතයක් ධාවනය කිරීම, දත්ත ගබඩා විමසීම හෝ වෙබ් සෙවුමක් කිරීමට ඉදිරිපත් වුනොත්, TPU (Tensor Processing Unit) හි පවතින සම්පත් අඩු වීමෙන් කාර්යක්ෂමතාව අඩු වුනා. Tunix, අසින්ක්රෝනස් රෝලවුට් හා බැරිඅඩංගු පයිප්ලයින් යන දෙකම එක් කර, මෙම “idle time” ගැටලුව අඩු කරයි. Python asyncio භාවිතයෙන් ලොකු පිරිසක් එක්ක ඒජන්ට්‑පරිසර සම්බන්ධතා සමකාලීනව ක්රියාත්මක කර, එකම වේලාවේ බහු‑trajectory ගොඩනැගීම සිදු කරයි.
ඉන්පසු, vLLM‑TPU සහ SGLang‑Jax වැනි උසස් inference engine සමඟ සෘජු සම්බන්ධතාවයක් ඇති කර, ඉල්ලීම් අසින්ක්රෝනස් ලෙස සකස් කර, මොඩලය, මෙවලම් හා ප්රතිඵල ගණනය කිරීම අතර සම්පූර්ණ අභ්යන්තර සම්බන්ධතාවයක් පවත්වා ගනී. මේ නිසා TPU පරිසරය 99% කට අධික භාවිතයෙන් පවතින අතර, රෝලවුට්‑පුහුණුව අතර ඇති “බැරිඅඩංගු” අවස්ථා අඩු වේ.
ශ්රී ලංකාවට ඇති වැදගත්කම
මෙම තාක්ෂණය, ශ්රී ලංකාවේ AI සංවර්ධකයින්, පර්යේෂකයින් සහ ව්යාපාරිකයින්ට විශාල අවස්ථා සපයයි:
- ඉගෙනුම් ව්යාපෘති – විශ්වවිද්යාල සහ පුහුණු මධ්යස්ථාන AI ඒජන්ට් පාඨමාලා තුළ, උසස් තත්ත්වයේ රියල්‑ටයිම් පරිසර සමඟ පුහුණුව සිදු කර ගැනීමට හැකියාව ලැබේ.
- ව්යාපාරික ප්රයෝජන – ගනුදෙනුකාරක API, ගබඩා පරිපාලන, හෝ වෙබ් සෙවුම් සේවාවන් සමඟ ඒජන්ට් එකතු කර, ක්රියාකාරිත්වය වැඩි දියුණු කළ හැකිය.
- විකාසක සමාජය – TPU‑මිතුරු පයිප්ලයින්වලින් ඉහල throughput ලබා ගැනීමෙන්, පරිසර-අඩංගු AI ආකෘති නිර්මාණය සඳහා වියදම අඩු කර, තාක්ෂණික ආරම්භකයන්ට තරඟකාරී වාසියක් ලැබේ.
කෙටි කාලයේම Tunix, AI ඒජන්ට් පුහුණුවේ පරිසර ධාරිතාවය, කාර්යක්ෂමතාව සහ පාලන හැකියාවන් අතිශය වැඩි කරයි. මෙය ශ්රී ලංකාවේ AI පර්යේෂණ හා නිෂ්පාදන ක්ෂේත්රයේ නව මාර්ගයක් විවර කරයි.
අදම Tunix බාගත කර, ඔබේ AI ඒජන්ට් පුහුණුවේ වේගය, පරිසර භාවිතය සහ ගුණාත්මකත්වය වැඩි කරමු.
