ඔබගේ යෙදුමට AI විශේෂාංග එක්කරන සෑම වරක්ම නව SDK එකක්, නව බිල්පත් එකක්, නව අසාර්ථකතා සැකසුමක් කියලා හිතාගන්න. මේ අඩුපාඩුවක් නිසා සංවර්ධකයින්ට වැඩේ අඩු වෙලා, ව්යාපාරිකයින්ට ගාස්තු වැඩි වෙලා. you.bot නම් ගේට්වේ එකක් නිර්මාණය කරලා, 70ට අධික AI මොඩල (LLM, පින්තූර, වීඩියෝ, සංගීත) එකම API එකෙන් පාලනය කරන පද්ධතියක් හදලා.
මුලින්ම ගැටළුව වුණේ, එක් එක් සැපයුම්කරුගේ ඉල්ලීමේ ආකාරය වෙනස් වීම. LLM ගොඩක් විනාඩි කිහිපයක් තුළ ප්රතිඵල දෙද්දී, පින්තූර මොඩලයක් සමහරවිට තත්ක්ෂණික, සමහරවිට asynchronous වශයෙන් වැඩ කරයි. වීඩියෝ මොඩලය නම් වැඩක් ආරම්භ කර පසුපස poll කිරීම හෝ webhook එකක් බලා ගත යුතුයි. සංගීත මොඩලයද එවැනි ආකාරයකින් පණිවුඩයක් ලබා දෙන්නේ නැත. මේ සියල්ල අන්තර්ගත කරන්නේ නම්, පරිශීලකයාට එම සංකීර්ණතාවයම යවනවා. ඒ නිසා අපි create‑then‑poll ආකාරයට සියල්ල සාමාන්යීකරණය කළෙමු.
API එකේ ප්රධාන ඇමතුම දෙකක් පමණයි: POST /generate මගින් කාර්යයක් සකස් කර, GET /task/{id} මගින් එය සම්පූර්ණ වූවාද කියලා පරීක්ෂා කිරීම. LLM කාර්යයක් නම් create ප්රතිචාරයේම ප්රතිඵල ලැබෙනවා, එමනිසා poll කිරීම අවශ්ය නොවේ. ඒත් වීඩියෝ හෝ සංගීත කාර්යයන්ට තත්පර කිහිපයකින් පසු GET ඇමතුමෙන් ප්රතිඵල ලබා ගත හැක. මොඩලය වෙනස් කිරීමට අවශ්ය එකම දෙය modelId එකයි; ඉන්පසු input පරාමිතීන් පමණක් වෙනස් වේ.
මෙම සැලැස්මෙන් modelId එකක් වෙනස් කිරීමෙන් නව AI සේවාවක් පරීක්ෂා කළ හැකිවීම, ඒ සඳහා අලුත් SDK එකක් හෝ බිල්පත් එකක් සකස් කරන අවශ්යතාවයක් නැතිවීමයි. එක් එක් මොඩලය සඳහා වෙන්වූ playground එකක් තිබෙන නිසා, සංවර්ධකයාට කේතය ලියන පෙරම පරීක්ෂා කිරීම පහසුයි.
ගෙවීම් පිළිබඳවද නව ප්රවණතාවක් ගෙන එයි. උත්පත්තිය අසාර්ථක වූ විට පාරිභෝගිකයාට කිසිදු ගාස්තුවක් අයකරන්නේ නැත. ඒ සඳහා මොඩල අනුව "සාර්ථක" බව තීරණය කරන predicate එකක් සකසා, taskId මත පදනම්ව credit එක reverse කරන ledger එකක් පවත්වා ඇත. සියලුම මොඩලයන්ට එකම prepaid wallet එකක් භාවිතා කරන නිසා, සැපයුම්කරු අනුව balance ගැලපීමේ ගැටළුවක් නොපවතී.
ශ්රී ලංකාවට ඇති වැදගත්කම
- සිසුන් – AI මොඩල 70කට එකම API එකෙන් ප්රවේශය ලැබීම, පළපුරුදු ව්යාපෘති සෑදීමට අවශ්ය කාලය අඩු කරයි. පළපුරුදු අධිකාරී පරිසරයක් නිර්මාණය කර, තාක්ෂණික පරීක්ෂණය පහසු කරයි.
- ඩිවෙලපර් – SDK, බිල්පත්, retry logic වැනි අතිරේක වැඩ බාධක ඉවත් කර, මොඩලයක් වෙනස් කිරීමේදී කේතය කිහිපයක් වෙනස් කිරීමේ අවශ්යතාවයක් නැත. ඒ නිසා වේගවත් prototyping හා rapid iteration සිදු කළ හැක.
- ව්යාපාර – ගාස්තු පාලනය සරල වේ. සාර්ථක ප්රතිඵල පමණක් ගෙවීම නිසා, AI සේවාවන් භාවිතා කිරීමේ ROI වැඩි වේ. එක් gateway එක මඟින් සියලු AI සේවාවන් එකම security key එකෙන් පාලනය කළ හැකිවීම, compliance සහ data privacy අංශයටත් වඩාත් අනුකූල වේ.
අවසන් වශයෙන්, AI තාක්ෂණය ඉදිරියට යාමේදී එක් API එකක් මඟින් බහුමොඩල පාලනය කිරීම, සංවර්ධකයින්ගේ වැඩ බර අඩු කර, ගාස්තු පාලනය ඉතා කාර්යක්ෂම කරයි. ශ්රී ලංකාවේ තාක්ෂණික පරිසරය මේ වැනි නවීන විසඳුම් වලින් වර්ධනය වෙයි.
