ඔබ චැට් බොට් එකකට ප්රශ්නයක් යවන තත්පරයෙන් පසු, පිළිතුරේ පළමු වචනයක් පෙනෙන තෙක් කුමක් සිදු වෙනවාද? මේ ලිපියෙන් LLM (Large Language Model) එකකට ඉල්ලීමක් එවීමේ සිට ප්රතිචාරයක් ඔබේ තිරයේ දිස් වීමට වන සම්පූර්ණ ක්රියා පටිපාටිය පියවරෙන් පියවර විස්තර කරමු.
පියවර 1 – ඔබ ‘Send’ බොත්තම ඔබාම ඔබේ චැට් යෙදුම කෙලින්ම පාඨය පවා යවනවා නැහැ. එය JSON ආකාරයේ සංග්රහිත ඉල්ලීමක් ගොඩනඟා, මොඩල නාමය, පද්ධති පණිවිඩය, ඔබේ පණිවිඩය, temperature, max_tokens, stream වැනි පරාමිතීන් සමඟ HTTPS මගින් API අන්තර්මුඛයට යවයි.
පියවර 2 – API ගේට්වේ ඉල්ලීම සෘජුවම මොඩලයට යන්නේ නැහැ. ප්රථමයෙන් API ගේට්වේ එකට ගොස්, API යතුර සත්යාපනය, රේට් ලිමිට් පරීක්ෂා, අදාළ මොඩල හා ගණනක කණ්ඩායම තෝරා, ලොග් කිරීම වැනි කාර්යයන් සිදු කරයි. මෙය AI ක්රියාත්මක වීමට පෙර අවශ්ය “බ්රෝකර්” වගේ කාර්යයක්.
පියවර 3 – Tokenization මොඩලය ඉංග්රීසි වචන කියවන්නේ නැහැ; එය සංඛ්යාත්මක token පදනම්ව කටයුතු කරයි. ඔබේ වාක්යය "What's the capital of India?" වැනි token වලට බෙදෙයි, උදා: ["What", "'s", " the", " capital", " of", " India", "?"] හා ඒවාට අදාළ අංක IDs ලබා දේ. මෙයින් පසු පණිවිඩය අංක අනුක්රමයක් බවට පත්වෙයි.
පියවර 4 – Forward Pass & Streaming token අනුක්රමය මොඩලයේ transformer ස්ථර හරහා එක්‑එක් token එකක් අනුමාන කරයි. මොඩලය ඉලක්ක token එකක් නිර්මාණය කරන තුරු මෙම ලූප් නැවත නැවත සිදු වේ, ඉතිරි token එකක් “end‑of‑sequence” සංකේතය දක්වන තුරු. නිර්මාණය වූ token එකක් තත්කාලිකව client වෙත stream කර, එය තවත් JSON කොටසක් ලෙස පැමිණෙයි. client ඒ token එක පරිවර්තනය කර, පදයක්‑පදයක් තිරයේ පෙන්වයි; එනිසා ඔබට වචනය‑වචනය පිළිතුර දිස් වීමට හැකියාව ලැබේ.
ශ්රී ලංකාවට ඇති වැදගත්කම
- සිසුන් – LLM ක්රියා පටිපාටිය හොඳින් තේරුම් ගැනීමෙන් AI පදනම් පාඨමාලා වලට ප්රායෝගික උදාහරණයක් ලැබේ.
- ඩෙවලපර්ලා – tokenization, streaming API, rate‑limit වැනි තාක්ෂණික කරුණු දැන ගැනීමෙන් ලෝක මට්ටමේ AI සේවා නිර්මාණය කිරීමේ හැකියාව වැඩිවේ.
- ව්යාපාර – LLM භාවිතයෙන් chatbot, ලේඛන සැකසීම, දත්ත විශ්ලේෂණය වැනි ක්රියාකාරකම් ස්වයංක්රීය කර, කාර්ය සාධනය හා පාරිභෝගික අත්දැකීම උත්තරීතර කර ගත හැක.
ඉතා කෙටි කාලයක් තුළ ඔබේ පණිවිඩය ලොකු පරිමාණ AI මොඩලයක් තුළ ගමන් කර, token එකක්‑එකක් නිර්මාණය කර, streaming ආකාරයෙන් තිරයට පැමිණෙන්නේ කෙසේදැයි දැන් ඔබට පැහැදිලිව අවබෝධයක් ලැබුණි. මේ තොරතුරු ඔබේ AI ව්යාපෘති, අධ්යාපන පද්ධති, හෝ පෞද්ගලික පරිශීලනය සඳහා මූලික මාර්ගෝපදේශයක් වශයෙන් සේවය කරයි.
