සොෆ්ට්වෙයා සේවා සමාගමේ ඉන්ටර්නශිප් එකේදී, තාක්ෂණික කාර්ය මණ්ඩලය PDF මාර්ගෝපදේශ ගොනු සෙවීමට ගත කරන වේලාව ගණනාවකට වැඩිය. ගනුදෙනුකරුවන්ගේ ප්රශ්න වලට නිවැරදි පිළිතුරු ලබා දීමට මෙවැනි ගොනු භාවිතා කරන අතර, මෙය කාලයත්, වැරදි අවදානමත් වැඩි කරන ලදී.
මෙම ගැටලුවට විසඳුම් සොයමින්, ලේඛකයා AI හා Big Data විශේෂාංගයක් ලෙස RAG (Retrieval‑Augmented Generation) තාක්ෂණය භාවිතා කර, ලොකල් පරිසරයක් තුළම පූර්ණ AI අසහකයක් සකස් කළේය. දත්ත සුරක්ෂිතතාවය උදෙසා, OpenAI, Anthropic වැනි බාහිර සේවාදායකයන්ට කිසිදු තොරතුරක් යැවීමේ අවශ්යතාවයක් නොතිබුණි.
RAG ක්රමවේදය සරළව කියනවා නම්, LLM එකට “සියලු දේ දැනගෙන” කියා ඉල්ලීම වෙනුවට, පළමුව ලේඛන වලින් සම්බන්ධිත කොටස් ලබාගෙන, ඒ කොටස් ප්රශ්නයේ පසුබැසි ලෙස LLM එකට දෙනවා. මෙයින් LLM එකට නවතම, නිවැරදි තොරතුරු පමණක් පෙන්වන බැවින්, හලුස්සන (hallucination) අවදානම අඩුවේ.
ශ්රී ලංකාවට ඇති වැදගත්කම
ලොකල් RAG අසහකය ශ්රී ලංකාවේ තාක්ෂණික පරිසරයට පළපුරුදු වාසි කිහිපයක් ගෙන එයි:
- දත්ත රහස්යතාවය: රජයේ, අන්තර්ජාතික donor‑ගෙන් අරමුදල ලබා ගන්නා ව්යාපාරයන්ට තොරතුරු බාහිර සේවාදායකයන්ට යැවීමේ අවශ්යතාව නොමැති බැවින්, ආරක්ෂණ නීති රීති අනුගමනය කළ හැක.
- වියදම් ඉතිරි කිරීම: OpenAI වැනි සබැඳි සේවාවල API ගාස්තු ගෙවීමේ අවශ්යතාව නැතිව, Docker‑Compose මගින් සියලු සේවා ස්ථානයේම ධාවනය කළ හැක.
- දක්ෂතා වර්ධනය: දේශීය සංවර්ධකයන්ට LLM, embeddings, vector database වැනි නව තාක්ෂණික සංකල්ප ඉගෙන ගැනීමට, ප්රායෝගික ව්යාපෘතියක් සපයයි.
- අනුවර්තනීයතාව: ලේඛන යාවත්කාලීන කරන විට, නැවත ඉන්ජෙෂන් (ingestion) කිරීම පමණක් අවශ්ය, පුනර්‑පුහුණු කිරීමේ අවශ්යතාව නැත.
මෙම පද්ධතියේ ව්යුහය Docker Compose මඟින් පාලනය වන හතරක් සේවාවන්ගෙන් යුක්තයි: Ollama (Llama 3), ChromaDB (vector database), FastAPI (RAG pipeline + REST API) සහ Streamlit (පරිශීලක අතුරුමුහුණත). ඉන්ජෙෂන් පියවරේදී 2,111 පිටු PDF ගොනු 9,669 කුඩා කොටස් (300 චරිත) ලෙස බෙදා, HuggingFace embeddings භාවිතා කර vector ගණනය කර ChromaDB තුළ සුරකින්නාය. පරිශීලක ප්රශ්නයක් ඇතුළත් කළ විට, ඒ ප්රශ්නයේ embedding එක ගණනය කර, ChromaDB තුළින් ඉහලම සමාන 3 කොටස් ලබා, Llama 3 වෙත ප්රශ්නය සහ කොටස් එක් කර පිළිතුර ජනනය කරයි.
මෙම සාර්ථක උදාහරණය, ශ්රී ලංකාවේ සංවිධානවලට AI භාවිතය සුරක්ෂිත, පාරිභෝගික‑මිතුරා සහ පිරිවැය‑කාර්යක්ෂම ලෙස ගත හැකි බව පෙන්වයි. ඉදිරි කාලයේ, තවත් ක්ෂේත්රවල (HR, ලොජිස්ටික්ස්, ආර්ථික) මෙවැනි RAG විසඳුම් දියුණු කර, දේශීය AI පර්යේෂණය තවත් ඉදිරියට ගෙන යාමට මාර්ගයක් වනු ඇත.
අපේ තාක්ෂණික කාර්ය මණ්ඩලය දැන් තවත් වේගයෙන්, නිවැරදිව, සහ ආරක්ෂිතව ගනුදෙනුකරුවන්ගේ ප්රශ්න විසඳා ගත හැකිය. ඔබේ ආයතනයටත් මෙවැනි ලොකල් AI අසහකයක් අවශ්ය නම්, මේකෙන් ආරම්භ කරන්න.
