ඔබගේ AI යෙදුම හදිසියේම නවතීද? ග්රාහකයන්ගේ ඉල්ලීම්වලට පසුබැසීමක් වුවත්, එය බොහෝ විට මොඩල් සපයන්නාගේ API වෙනස් වීම නිසා වේ. OpenAI ගේ GPT‑4o හි ප්රතිචාර ගොඩක් වෙනස් වීම, Claude, Qwen, DeepSeek වැනි වෙනත් මොඩල් වෙත මාරු වීමට අමාරුකමක් පැන නැගෙයි.
මෙම ගැටළුවේ මූලික හේතුව වන්නේ ලොව පුරා AI සපයන්නන්ගේ API සැකසුම් එකිනෙක වෙනස් වීමයි. සෑම සපයන්නාටම වෙනස් SDK, වෙනස් ක්ෂේත්ර නාම, විවිධ streaming protocol, function‑call ආකාරය, මලටි‑මෝඩල් (vision) සහිත ආකාරය ඇත. ඒ නිසා 8 සපයන්නන්ට 8 කෝඩ් බ්ලොක්, 8 දෝෂ හසුරුවීම්, 8 streaming පාර්ස් කිරීමක් ලියවිය යුතුය. 176 මොඩල් එකකට මේ වගේ වැඩක් කළොත්, අසීමිත කාලය හා වැය වැටෙනු ඇත.
IHUI AI විසින් මේ ගැටළුවට විසඳුමක් ගොඩනැගී ඇත – LiteLLM සහ LangGraph එකතු කරමින් 176 මොඩල් එකම “model” නාමයක් මගින් ඇමතුමක් ලබා දෙන පද්ධතියක්. LiteLLM Python පුස්තකාලයක් වන අතර, 100‑ට වැඩි LLM සපයන්නන්ගේ API එක OpenAI ආකාරයට සම්මත කරයි. ඔබට model නාමය වෙනස් කිරීමෙන් පමණක් මූලික මොඩලය මාරු කළ හැකිය. LangGraph, LangChain හි stateful multi‑step agent framework එකක් වන අතර, workflow (planning, retrieval, call, reflection) නියමිත ලෙස සැලසුම් කරයි.
උදාහරණයක් ලෙස, පහත කේත කොටසෙන් ඔබට OpenAI, Claude, Qwen, DeepSeek, Ollama වැනි මොඩල් එකම ක්රමයෙන් ඇමතුම් කළ හැකිය. ප්රතිඵලය OpenAI ආකාරයේ JSON වශයෙන් ලැබේ, එමනිසා පරණ කේතය කිසිදු වෙනස්කමක් nélkül ක්රියාත්මක වේ.
ශ්රී ලංකාවට ඇති වැදගත්කම
ශ්රී ලංකාවේ තාක්ෂණික ශිෂ්යයන්, නිර්මාණකරුවන් සහ ව්යාපාරිකයන්ට මෙම විසඳුම විශාල වාසියක් ගෙනදෙයි. මුලින්ම, විවිධ AI සපයන්නන් අතර මාරු කිරීමේ කාලය තත්පර කිහිපයකට අඩු වේ; එම නිසා සේවා අස්ථානගත වීමක් අඩු වේ. දෙවැනි, LiteLLM මගින් API ගාස්තු, token භාවිතය, response latency වැනි පාරිභෝගික-මට්ටමේ මොනිටරින් පහසු වේ; ඒ නිසා ව්යාපාරිකයන්ට වියදම් පාලනය සහිත AI‑අපලෝඩ් කිරීමට හැකියාව ලැබේ.
තවත් වැදගත් කරුණක් වන්නේ, LangGraph මඟින් සංකීර්ණ workflow (knowledge‑retrieval + tool‑calling) සැකසීමට හැකි වීමයි. මෙය ශ්රී ලංකාවේ පර්යේෂකයින්ට AI‑ආශ්රිත පර්යේෂණ, chatbot, සහ data‑analysis වැනි ව්යාපෘති ඉක්මනින් නිර්මාණය කිරීමට මාර්ගයක් සලසයි. ඉන්පසු, ලොව පුරා පවතින 176 මොඩල් එකම පද්ධතියෙන් භාවිතා කරමින්, ලාංකීය AI නිෂ්පාදනවල ගුණාත්මකභාවය වැඩිදියුණු කර, ගෝලීය තරගකාරීත්වය ලබාගත හැකිය.
අවසන් වශයෙන්, LiteLLM + LangGraph එකතුව AI සේවා සංවර්ධනයේ “one‑click switch” සංකල්පය සත්ය කරයි. එය කේතය සරල කිරීම, දෝෂ අවදානම අඩු කිරීම, සහ පරිශීලක‑අත්දැකීම් නවීකරණය කිරීමේ අරමුණින් ඉදිරිපත් කර ඇත. ලංකාවේ තාක්ෂණික පරිසරය මේ නව පියවරෙන් ලාභී වනු ඇත.
