LiteLLM ගේට්වේ AI ඇප්ලිකේෂන් සඳහා වර්චුඅල් යතුරු, කණ්ඩායම්, බජට් සහ වියදම් තොරතුරු කළමනාකරණය කරන මධ්යස්ථානයක්. එය OpenAI‑compatible API එකක් ලෙස සේවය කරන අතර, ඇතුළත තත්ත්වය PostgreSQL දත්ත ගබඩාවෙහි රැඳී ඇත.
දත්ත ගබඩාවේ ඇතුළත් වන්නේ වර්චුඅල් යතුරු (hash කරලා), ඒවායේ ප්රමාණය, පරිශීලක‑කණ්ඩායම් සම්බන්ධතා, බජට්, RPM සීමා, සහ වියදම් ලොග්. ප්රොවයිඩර් රහස් යතුරුද එම ගබඩාවේ ගුප්තකරණය කර ඇති විය හැක, නැතහොත් බාහිර secret store එකකින් ලබා ගත හැක.
ඇතැම් වෙලාවේ පද්ධතියේ container එකක් පමණක් අලුත් කරනවා නම්, PostgreSQL දත්ත ගබඩාව, කොන්ෆිග්රේෂන් ගොනුව, සහ ගුප්තකරණ යතුර (salt key හෝ master key) නැතිවීමෙන් ගේට්වේ සකස් කරගත නොහැක. ඒ නිසා සම්පූර්ණ පිළිගැනීමේ සැලැස්ම තුනේම කොටස් එකට ගෙන ඒම අත්යවශ්ය වේ.
සම්පූර්ණ පිළිගැනීමේ ක්රියාවලිය
- PostgreSQL දත්ත ගබඩාව, එය භාවිතා කරන config ගොනුව, සහ ගුප්තකරණ යතුර (salt key) එකම backup එකේ සුරකින්න.
- දත්ත ගබඩාව හා config එක එකම version එකට අදාළව backup කර, ගුප්තකරණ යතුර වෙනත් secret store එකක (උදා. Vault, AWS Secrets Manager) රඳවා තබන්න.
- backup එකක් අත්හදා බැලීමට නව sandbox instance එකක් සකස් කර, ඒ곳ේ config, DB, සහ key එක restore කර, ගේට්වේ ආරම්භ කරන්න.
- Admin UI එකේ වර්චුඅල් යතුරක් තවමත් ක්රියාත්මකද, එම යතුරෙන් model එකක් (ගුප්තකරණය කර ඇති provider key සමඟ) ඇමතුමක් සාර්ථකද කියා තහවුරු කරන්න.
ඕනෑම backup එකක් අත්හදා බැලීම නොකළහොත්, එය වැඩ කරනවාදැයි තහවුරු කළ නොහැක. එබැවින් backup frequency සහ retention period එක, ඔබේ වියදම් ඉතිහාසය සහ සක්රිය යතුරු ගණන අනුව සැලසුම් කර, නිතර rehearsal එකක් කරගැනීම අත්යවශ්ය වේ.
PostgreSQL මෙහි system of record බව නිසා, එයට පවතින storage, connection pool sizing, සහ write‑throughput නියාමනය කිරීම අත්යවශ්යය. ලොකු traffic එකේදී write volume වැඩිවීම නිසා batching settings පරික්ෂා කර, performance bottleneck එකක් නොමැතිව තබාගන්න.
ශ්රී ලංකාවට ඇති වැදගත්කම
- සිසුන් – AI API backup‑restore පද්ධති ගැන අධ්යයනය කිරීම, cloud computing හා data security කුසලතා වර්ධනය කරයි.
- ඩිවෙලොපර් – නිශ්චිත backup strategy එකක් ඇතිවීම, ලෝක මට්ටමේ AI සේවා නිර්මාණය කිරීමේ විශ්වාසනීයත්වය වැඩි කරයි.
- ව්යාපාර – බජට්, වියදම්, සහ කී‑රෝට්ටු තොරතුරු නැති වීමේ අවදානම අඩු කර, AI‑driven සේවාවන් අඛණ්ඩව පැවැත්වීමට හැකියාව ලබා දේ.
සාරාංශයෙන්, LiteLLM ගේට්වේ ආරක්ෂිතව පවත්වාගෙන යාමට දත්ත ගබඩාව, කොන්ෆිග්, සහ ගුප්තකරණ යතුර එකට backup කර, නිතර rehearsal කිරීම අත්යවශ්යය. මෙයින් ඔබේ AI සේවාවන්ට අඛණ්ඩ, විශ්වාසනීය, සහ ආර්ථික වශයෙන් පාලනය කළ හැකි පදනමක් සපයයි.
