Spring AI යෙදුම්වල Retrieval‑Augmented Generation (RAG) ක්රියාවලිය නිවැරදිව ක්රියාකරවීම සඳහා දැන් Late Chunking යන නව පදනම ඉදිරිපත් කර ඇත. පෙරදී බහුලව භාවිතා වූ naive chunking ක්රමය, ලේඛනයේ වචන කට්ටලයන් 512‑token පරිමාණයට කපා, ඒවාය embedding මොඩලයට යැවීමෙන් පෙර ප්රසංගය කඩාගෙන, ලේඛනයේ සම්පූර්ණ අර්ථය අහිමි කරයි.
මෙම ගැටලුව සෘජුවම අඩු සමානත්ව (similarity) ප්රතිඵල, වැඩි API වියදම්, හා අධික query latency ලෙස පෙනේ. බොහෝ සංවර්ධකයින් මෙම අඩුවට vector database distance metrics වගකීම් දෙනවාද? ඇත්තේ embedding කිරීමට පෙර සන්ධිභාවය (context) අඩු වීමයි.
Late Chunking විසඳුම, පළමුව ලේඛනය මුළුමනින්ම දිගු‑context transformer (උදා: jina‑embeddings‑v3, 8k token window) එකක් හරහා ගලා, token‑level representation ලබා ගැනීමයි. පසුව, අවශ්ය කට්ටල සීමා (span) අනුව ඒ token vectors මධ්යස්ථ (mean‑pool) කර chunk embeddings සකස් කරයි. මේ ආකාරයෙන් vector store (PgVectorStore, QdrantVectorStore) වෙත සුරැකුම් කරන්නේ සම්පූර්ණ සන්දර්භය රැගෙන යන vectors පමණයි, එමනිසා downstream retrieval ලොජික් එකේ කිසිදු වෙනසක් අවශ්ය නොවේ.
උදාහරණයක් ලෙස, Spring AI EmbeddingModel pipeline එකේ පහත සේවාවක් එක් කිරීමෙන් මේ ක්රියාවලිය සම්පූර්ණ කළ හැකිය:
- Full document එකක් embeddingModel.encodeDocumentTokens() මගින් encode කිරීම.
- ලැබූ token embeddings මත span‑wise mean‑pooling කිරීම.
- අවසන් chunk vectors ගබඩා කිරීම.
කේත උදාහරණය සරලව, ලේඛනයේ span list එකක් ගෙන, එක් එක් span සඳහා poolSpan() ක්රමය භාවිතා කර VectorChunk objects සකස් කරයි.
ශ්රී ලංකාවට ඇති වැදගත්කම
ශ්රී ලංකාවේ තාක්ෂණික ශිෂ්යයෝ, සංවර්ධකයින්, සහ ව්යාපාරිකයින්ට Late Chunking RAG එකේ ප්රයෝජන විශාලයි. පළමුව, ලේඛන‑මට්ටමේ සන්දර්භය සුරැකිම නිසා AI‑driven search, knowledge‑base chatbots, සහ දත්ත‑විශ්ලේෂණ වැනි අයදුම්පත් වල නිවැරදි ප්රතිඵල ලැබේ. දෙවැනි, embedding පියවරේ token ගණන අඩුවීම නිසා API call ගණන හා වියදම 30‑40% පමණ අඩු වේ – මෙය ශ්රී ලංකාවේ සීමිත IT බජට් ඇති ආයතන සඳහා සෘජු ලාභයක්.
තවත් ප්රතිලාභයක් වන්නේ, Spring AI පරිසරය භාවිතා කරන පළපුරුදු Java සංවර්ධකයින්ට කේත වෙනස්කම් අඩු කර, වත්මන් vector store schema එක 그대로 පවත්වා ගැනීමට හැකියාව ලැබීම. මෙයින් ඉගෙනුම් කාලය කෙටි වීමත්, දේශීය startup කණ්ඩායම්වලට MVP (Minimum Viable Product) ඉක්මනින් නිර්මාණය කිරීමේ හැකියාව ලැබේ.
සමස්තයෙන්, Late Chunking RAG තාක්ෂණය ශ්රී ලංකාවේ AI‑driven නිර්මාණ ක්ෂේත්රයට වේගවත්, කාර්යක්ෂම, හා පිරිවැය‑මිතුරා වූ විසඳුමක් ලෙස ඉදිරියට යනවා.
ඔබගේ පළපුරුද්ද හා අදහස් අප සමඟ බෙදාගන්න – AI‑කේත ලෝකය තවත් ඉදිරියට ගෙන යමු!
