අන්තර්ජාලයේ පළවන අන්තර්ගතය විවිධ අයුරින් අසාධාරණ, වංචාකාරී හෝ අසභ්ය විය හැක. එවැනි තොරතුරු පාලනය කිරීම සඳහා බොහෝ ව්යාපාර "LLM එකක් ඇරඹුවම ප්රමාණවත්" කියා සිතනවා, නමුත් ඒක සෑම විටකම හොඳම විසඳුම නොවේ.
ඔබට දැන් Python Flask භාවිතා කරලා, Telnyx AI Inference සමඟ දෙකේම ක්රමය (blocklist + LLM) එක්ක AI මොඩරේෂන් ක්ලැසිෆයරයක් ගොඩනැගිය හැකිය. මෙහි මූලික අදහස වන්නේ, ප්රථමයෙන් Embedding‑වලින් “known‑bad” blocklist එකේ සමීපතා පරීක්ෂා කිරීම, එහි ගැලපීමක් නොමැතිවූ විටම LLM‑කට විනිශ්චය ලබාදීමයි.
ඉන්පසු, ඔබට පළමුව blocklist index එක සකස් කිරීමට පහත curl විධානය භාවිතා කළ හැකිය:
- curl -X POST http://localhost:5000/blocklist/index
මෙම විධානය sample_blocklist.json හි අයිතමයන් Embedding API (POST /v2/ai/openai/embeddings) මගින් සකස් කරයි. ඉන්පසු, එකක පණිවුඩයක් පරීක්ෂා කිරීමට පහත curl භාවිතා කරන්න:
- curl -X POST http://localhost:5000/moderate -H "Content-Type: application/json" -d '{ "content": "Great product, really enjoyed using it.", "source": "review", "author_id": "user-123" }'
ප්රතිඵලයක් මෙසේ ලැබේ:
{ "category": "safe", "confidence": 1.0, "flags": [], "blocklist_match": false, "recommended_action": "allow", "reason": "Benign positive product review with no policy violations." }Blocklist සමඟ දැඩි ගැලපීමක් ඇති නම්, LLM එකට යැවීමක් නොකර, ඒම තත්ත්වය පමණක් ආපසු දෙනු ලබයි. අනෙකුත් අවස්ථා සඳහා, POST /v2/ai/chat/completions API එක භාවිතා කරයි. පෙරනිමි මොඩලයන් ලෙස AI_MODEL=moonshotai/Kimi-K2.6 සහ EMBEDDING_MODEL=thenlper/gte-large යොදාගෙන ඇත.
ශ්රී ලංකාවට ඇති වැදගත්කම
ශ්රී ලංකාවේ තරුණ සංවර්ධකයන්, අන්තර්ජාල අලෙවිකරුවන්, සහ ඩිජිටල් ආරක්ෂක කණ්ඩායම් සඳහා මෙය විශාල අවස්ථාවකි. ප්රථමයෙන්, blocklist‑වලින් සරල වශයෙන් වංචාකාරී පණිවුඩ හෝ ස්පෑම් ඉවත් කිරීමෙන් පද්ධති පාලනයේ වේගය වැඩි වේ. දෙවනුව, LLM‑වලට අධික බර නොදෙයි, එමනිසා සම්පත් (CPU, GPU) ඉතිරි කර, සත්ය‑කාලීන සේවා ලබාදිය හැක.
- ඩෙවලොපර්ලා – Python Flask හා Telnyx API එකට සරලව ඒකාබද්ධ කර, තමන්ගේ වෙබ් ඇප්ලිකේෂන් වලට AI මොඩරේෂන් එක්ක ගොඩනැගිය හැක.
- ව්යාපාරිකයින් – අන්තර්ගත නීති රීති (policy) අනුව ස්වයංක්රීයව පණිවුඩ පාලනය කර, පාරිභෝගික විශ්වාසය වැඩි කරගත හැක.
- ඉගෙනුම් ආයතන – AI‑වලින් පාලනය කරන ආකාරය, මැෂින් ලර්නින් හා NLP පාඨමාලා වල ප්රායෝගික උදාහරණයක් වශයෙන් භාවිතා කළ හැක.
ඉදිරියේදී, පද්ධතියට persistence, audit logs, human‑review queue, rate‑limiting, සහ feedback loop එකක් එකතු කර, blocklist සහ threshold ගත කළ හැකිය. මෙයින් සාර්ථකව AI මොඩරේෂන් ක්රමයක් නිර්මාණය කර, ශ්රී ලංකාවේ තාක්ෂණික පරිසරය තවත් වර්ධනය කරගත හැක.
ඔබත් Python, Flask, සහ Telnyx AI සමඟ AI මොඩරේෂන් ක්ලැසිෆයරයක් සකස් කර, ඔබේ පළපුරුද්ද වැඩිදුරටත් අලෙවිකරන්න.
