කෘතිම බුද්ධිය (AI) ඒජන්ට් එකක් නිර්මාණය කරන විට මතක පරිමාණය අභියෝගයකි. නව දෙපට්ටම් මතක ව්යුහය L1 Scratchpad සහ L2 Vault යන දෙකක් එක්කර, 14,726 මතක අතරින් අවශ්ය 7ක් 94 මිලිසේකන්ඩ් තුළ ලබාගත හැකි බව දැක්වෙයි – ඒත් ඒ සඳහා Pinecone වැනි ක්ලවුඩ් සේවාවක්ත් අවශ්ය නොවේ.
කියුනු සිදුවීම – ලේඛකයා 6 මාසක ගනුදෙනුකාරක සපෝට් සංවාදයන්ගෙන් සංග්රහ කළ 14,726 මතකයන් SQLite‑vec දත්තගබඩාවකට හා Pinecone ක්ලවුඩ් සේවාවකට එක්කර පරීක්ෂා කළා. සෑම මතකයක්ම 512‑ටෝකන් කැබලි වලට බෙදී OpenAI text‑embedding‑3‑small (1536‑මාන) භාවිතා කර ඇත. Pinecone හි මධ්යම ප්රශ්න ප්රතිචාර කාලය 127ms, 99% කාලය 342ms වූ අතර, මාසික වියදම $70 + $135 පමණයි. එයට විරුද්ධව SQLite‑vec එකේ මධ්යම කාලය 94ms, වියදම කිසිදු නොමැතිව, දෝෂ සිදුවීම් 6 මාසයේදී 3ක් පමණයි.
ඇයි වැදගත්ද? L1 Scratchpad RAM තුළ තාවකාලික, කී‑වටිනාකම් ආකාරයේ දත්ත ගබඩා කර, 3ms කට අඩු කාලයකින් ලබා ගනී. එය AI ඒජන්ට් එකේ වර්තමාන සංවාද, උපකරණ ප්රතිඵල, අවසන් තීරණ 3‑5 ක් වැනි තොරතුරු සඳහා වේ. L2 Vault SQLite‑vec භාවිතා කර, එහි සම්මත සෙවීම, අර්ථවත් සටහන්, පරිශීලක කැමැත්ත, ඉගෙනුම් රටාවන් වැනි දේවල් සඳහා භාවිතා කරයි. මෙය ක්ලවුඩ්‑අඩාල, අඩු latency, අඩු වියදම සහ වැඩි විශ්වාසනීයතාවයක් ලබා දේ.
ශ්රී ලංකාවට ඇති වැදගත්කම
ශ්රී ලාංකීය සංවර්ධකයන්ට, මෙම දෙපට්ටම් ව්යුහය භාවිතා කරමින්:
- ඉතා අඩු latency නිසා රියල්‑ටයිම් AI සේවා ඉදිරිපත් කිරීමේ හැකියාව.
- ක්ලවුඩ් සේවාවන්ට ගෙවිය යුතු මුදල් අවශ්ය නොවීම නිසා ව්යාපාරික පිරිවැය අඩු කිරීම.
- දේශීය සර්වර් හෝ පරිගණකයක් මත සියලුම මතකය ගබඩා කිරීම නිසා දත්ත රහස්යතාවය වැඩිවීම.
- විශ්ව විද්යාල, තාක්ෂණික පාඨමාලා සහ ව්යාපාරික පුහුණුවල AI මතක කළමනාකරණය සරල කර, ඉගෙනුම් වේගය වැඩි කිරීම.
අවසානයේ, L1/L2 ව්යුහය AI ඒජන්ට් සම්බන්ධීකරණය, ගනුදෙනුකාරක සේවා, සහ තොරතුරු විශ්ලේෂණය වැනි ක්ෂේත්රවල ශ්රී ලංකාවේ තාක්ෂණික ප්රගතියේ නව මට්ටමක් තැබීමට උපකාරී වේ.
ඔබේ AI ව්යාපෘතියේ මතක කළමනාකරණය දැන්ම මෙයින් පරික්ෂා කර, ක්ලවුඩ් ගාස්තු රහිත, වේගවත් විසඳුමක් අත්විඳින්න.
