ඔබට ඔබගේම ලේඛන, ගිවිසුම්, හෝ පර්යේෂණ ලිපි වලින් පැනවෙන ප්රශ්නවලට සෘජු පිළිතුරු ලබා දෙන චැට්බොට් එකක් අවශ්යද? දැන් එය ඉතා සරලව, සම්පූර්ණයෙන්ම ඔබේ පරිගණකයේ පවත්වා, API යතුරක් අවශ්ය නොවී සකස් කරගත හැකිය.
Dev.to හි පළ වූ ලිපිය අනුව, FastAPI, ChromaDB, SentenceTransformers වැනි නොමිලේ ලයිබ්රරීන් භාවිතා කරමින් RAG (Retrieval‑Augmented Generation) තාක්ෂණය මත පදනම් වූ චැට්බොට් එකක් නිර්මාණය කළ හැකිය. මෙහිදී ලේඛන PDF වලින් පෙළ ලබාගෙන, ඒක කොටස් (chunks) ලෙස බෙදා, ඒ කොටස් සඳහා අර්ථවත් embeddings (vector) ගණනක් සකසා, ChromaDB යන ලාඛ්ය දත්ත ගබඩාවේ ගබඩා කරයි. පරිශීලකයෙකු ප්රශ්නයක් ඇසූ විට ඒ ප්රශ්නයත් සමඟම එකම embedding මොඩලය භාවිතා කර vector සෙවීම සිදු කර, ඉහළ සමාන කොටස් තේරී ලැබේ. එම කොටස් සහ ප්රශ්නය LLM (Large Language Model) එකට ලබාදී, එය ප්රශ්නයට පිළිතුරු දෙන අතර මූලාශ්ර පිටුදැකීම් (citations) සමඟින් පෙන්වයි.
මෙම ක්රමය භාවිතා කිරීමේ ප්රධාන ලාභය, LLM එකේ “hallucination” (අසත්ය පිළිතුරු) අවදානම අඩු කර, ඔබේ ලේඛන වලට අමතරව නිශ්චිත, සත්ය තොරතුරු පදනම් කරගත් පිළිතුරු ලබා දීමයි. එමඟින් ව්යාපාරික වාර්තා, අභ්යන්තර මාර්ගෝපදේශ, හෝ අධ්යාපනික පද්ධති සඳහා විශ්වාසදායක Q&A පද්ධතියක් ඉතා කුඩා පරිමාණයකින් ගොඩනැගිය හැකිය.
ශ්රී ලංකාවට ඇති වැදගත්කම
ශ්රී ලංකාවේ සිසුන්, ඩෙවලපර්ලා සහ ව්යාපාරිකයින් සඳහා මේ තාක්ෂණය ගෙනෙන ප්රතිලාභ විශාලය.
- ඉගෙනුම් කටයුතු සරල කිරීම: විශ්වවිද්යාල පාඨමාලා, පර්යේෂණ ලිපි, හෝ පළපුරුදු මාර්ගෝපදේශ වලින් තොරතුරු සොයා ගැනීමට AI චැට්බොට් එකක් භාවිතා කළ හැකිය.
- ව්යාපාරික කාර්යක්ෂමතාව වැඩිදියුණු කිරීම: ආභ්යන්තර ප්රශ්න-පිළිතුරු පද්ධතියක් නිර්මාණය කර, සේවකයින්ගේ කාලය ඉතිරි කර, දෝෂ සහිත තොරතුරු වළක්වයි.
- වියදම් ඉතිරි කිරීම: API යතුරක් නොමැතිව, සියලුම ගණනය කිරීම පරිගණකයේම සිදු වීම නිසා බාහිර සේවා ගාස්තුවක් අඩුවේ.
- සිංහල සහ අනෙකුත් භාෂා වලට සහය: SentenceTransformers හි බහුභාෂා embeddings නිසා, සිංහල ලේඛන වලින්ද නිවැරදි පිළිතුරු ලැබේ.
මෙම පද්ධතිය Docker භාවිතයෙන් තත්කාලිකව ඩිප්ලෝයි කළ හැකි අතර, GitHub රෙපොසිටරියෙන් සෘජුවම කෝඩ් එක ලබාගත හැකිය. ඔබට අවශ්ය එකම දෙය Docker install කර, රෙපොසිටරිය clone කර, “docker compose up” විධානයක් ක්රියාත්මක කිරීමයි. එවිට ඔබේම ලොකල AI චැට්බොට් එකක් තත්කාලිකව ක්රියාත්මක වනු ඇත.
තවදුරටත් තාක්ෂණික විස්තර, සම්පූර්ණ සෙට්‑අප් ගයිඩ් සහ සම්පූර්ණ කේතය GitHub හි ලබාගත හැකිය. ඔබත් අදම මෙම විවෘත‑මූලාශ්ර ආකෘතිය භාවිතා කර, ඔබේ ලේඛන‑කේන්ද්රිත AI චැට්බොට් එකක් සකස් කර බලන්න.
