OpenAI Codex භාවිතා කරන සංවර්ධකයින් අතර, එක් එක් ඇමතුමකට නව Codex ක්රියාකාරකමක් ආරම්භ කිරීම සාමාන්ය ක්රමයක්. එය සරලව පෙනුනත්, ප්රොම්ප්ට් කෑෂ් හරහා වේගය වැඩි කරන විකල්පයක් තිබේ. ඒ ගැන පරීක්ෂා කිරීම සඳහා, කණ්ඩායමක් කුඩා AI සේවාදායකයක් (app‑server) පිහිටුවා, ඒකම ත්රෙඩ් එකක් භාවිතා කරමින් පිරිසිදු පරීක්ෂණයක් සිදු කළා.
පරීක්ෂණය තුළ, කෑෂ් 86% දක්වා පවතින තැනින්, පයිප්ලයින් වේගය බොහෝ විට බරපතළ වුනා. වඩාත්ම වැදගත් වුණේ, කෑෂ් වැඩි වුවත්, සම්පූර්ණ පිරිවැය ටෝකන් 39%කින් වැඩි වීමයි. එමඟින්, කෑෂ් එකම නොව, ප්රොම්ප්ට් සැකසීමේ ක්රමයද කාර්ය සාධනයට බලපාන බව පැහැදිළිය.
දැනුම් දීමේ අරමුණින්, කණ්ඩායම පළමු වරට Codex CLI එකේ සම්පූර්ණ සම්බන්ධතා පරීක්ෂා කළා. ඒ අතර, cwd සහ sandboxPolicy වැනි පරාමිතීන් නිශ්චිතව සඳහන් නොකළහොත්, පසුගිය ටර්න් එකේ අවසරයන් පසුබැසීමක් වගේ අනිසි ලෙස ඉතිරි විය. තවත් සොයාගැනීමක් නම්, ටෝකන් භාවිතය thread/tokenUsage/updated මාර්ගයෙන් ලැබෙයි, turn/completed නොව.
ශ්රී ලංකාවට ඇති වැදගත්කම
- සංවර්ධකයින්ට – ප්රොම්ප්ට් කෑෂ් භාවිතයෙන් මොඩලයේ ප්රතිචාර වේගය වැඩි කළ හැකි නමුත්, ඒ සඳහා සැකසීමේ ස්කීමා එකසේ තබා ගැනීම අත්යවශ්ය බව ඉගෙන ගත හැක.
- ඉගෙනුම් ආයතනවලට – AI පදනම් වූ පාඨමාලා නිර්මාණය කරන විට, ටෝකන් පරිභෝජනය මැනීමේ වැරදි වලින් පසුබැසීමක් ඇති නොවීමට අවධානය යොමු කළ යුතුය.
- ව්යාපාරිකයන්ට – OpenAI API ගෙවීම් වලට අධික පිරිවැයක් වැළැක්වීමට, කෑෂ් සහ ප්රොම්ප්ට් සැකසීමේ පද්ධතිය නිරීක්ෂණය කර, අවශ්ය අංග පමණක් පවත්වා ගැනීම අත්යවශ්ය වේ.
අවසානයේ, app‑server එකේ සැපයුම්කාරක වශයෙන් thread/list, thread/resume, thread/fork වැනි විශේෂාංග තිබුණද, ඒවා බ්යාච් ප්රොසෙසිං සඳහා නොවන බව පැහැදිළිය. කෑෂ්, වේගය, පිරිවැය යන තුන් මූලික කරුණු සමග සම්බන්ධතාවය හොඳින් සැලැස්වීම අත්යවශ්ය බව මෙම පරීක්ෂණයෙන් පෙනී යයි.
ඉදිරියේදී, සංවර්ධකයින්ට කෑෂ් ප්රතිඵලය උපරිම කරගැනීමට, සමාන ස්කීමා භාවිතය, අනිවාර්ය නොවන embeddings ඉවත් කිරීම, සහ thread history පරිභෝජනය පිළිබඳ නව උපදෙස් අවශ්ය වේ.
