OpenAI සහ Hugging Face මෑතකදී ප්රකාශ කළ ‘මෝඩල ඇගයීමේ ආරක්ෂා කඩාවැටි’ එක, සරළ ‘security incident’ ලෙස දැක්වුණාට වඩා බරපතල ය. AI‑මූලික පයිප්ලයින් රචනා කරන ඉංජිනේරුවන්ට මේ කතාව සැලකිල්ලට ගත නොකළහොත්, තමන්ගේ රහස් දත්ත හා පද්ධතියන් අත්හිටුවීමේ අවදානමක් ඇත.
සිදුවීමේ මූලික හේතුව ‘Eval by Proxy’ ය. මෝඩලයක් තරඟකාරී පරීක්ෂණයක් කරන අවස්ථාවේ, බාහිර API ඉල්ලීමක් හරහා අනවසර payload එකක් පද්ධතියට ඇතුළත් විය. බොහෝ මෝඩල ඇගයීමේ ප්රවේශයන් (Hugging Face Spaces, අභ්යන්තර cloud) sandboxed නොවීම නිසා, මෝඩලයට Python REPL, දත්ත පිවිසුම, පරිසරය තවත් පියවරක් පවත්වා ගැනීමේ හැකියාව තිබුණා. මෙය රෙමෝට් කෝඩ් එකක් (RCE) හෝනිපොට් එකක් වැනි අභියෝගයක් බවට පත් වුණා.
ඉතින්, මෙය අපගේ ආරක්ෂා මෝඩලයට අලුත් මට්ටමක් ගෙන එයි. ඉන්ජිනේරුවන් LLM‑වලට ‘safe text input’ ලෙස සලකන අතර, ඇගයීමේදී මෝඩලය orchestrator වශයෙන් ක්රියා කරනවා. එය දූෂිත දත්ත හෝ poisoned fine‑tune එකකින් බිඳ වැටුවහොත්, ඇගයීමම ආක්රමණික vector එකක් වෙයි. ඒ නිසා, පහත දේවල් දැන්ම කරගත යුතුයි:
- Sandboxing the Eval Loop: සෑම ඇගයීමක්ම කෙටි කාලීන, ඉන්ග්රහිත container එකක, egress නැති, kernel limits දුර්වල කරගෙන ක්රියාත්මක කරන්න.
- Data Scrubbing for Evals: රහස් “golden data” භාවිතා කරනවා නම් differential privacy හෝ data sanitization අත්යවශ්ය. නැත්නම් තොරතුරු API හරහා leakage වේ.
- Audit the Eval Service: Hugging Face වැනි තෙවන පාර්ශව API‑වලට blind trust නොදෙන්න. Rate limiting, input validation, logging වැනි ක්රියාමාර්ග ගන්න.
ශ්රී ලංකාවට ඇති වැදගත්කම
ශ්රී ලංකාවේ AI පර්යේෂකයෝ, විශ්වවිද්යාල සිසුන්, තාක්ෂණික ආයතන සඳහා මේ සිදුවීම ඉතා වැදගත්. අපගේ රහස් දත්ත, පර්යේෂණ මූලද්රව්ය, සහ ව්යාපාරික මෝඩලයන් බාහිර cloud‑වලට ලබා දීමේදී, නිසි sandbox නොමැතිව තිබේ නම්, ඒවා සොරකම් වීමට ඉඩ ඇත. ඒ නිසා, පළමු පියවර ලෙස, සියලුම AI ඇගයීමේ පයිප්ලයින්වලට container‑based isolation ක්රමයක් හඳුන්වා දීම, දත්ත ආරක්ෂාවට මූලික පියවර වේ.
දෙවනුව, ශ්රී ලංකාවේ ස්ට්රාට්ජික් AI start‑up ගණන්ට, “Eval‑as‑a‑Service” භාවිතා කරන අවස්ථාවේ, ආරක්ෂක audit එකක් නොකළහොත්, ගනුදෙනුකරුවන්ගේ රහස් තොරතුරු නාස්ති වීමේ අවදානමක් ඇත. එම නිසා, ආරක්ෂිත CI/CD pipeline එකක්, data‑privacy policy එකක්, සහ පරිසරය sandboxed කරගැනීම, දේශීය AI පර්යේෂණයේ විශ්වාසය තබා ගැනීමට අත්යවශ්ය වේ.
අවසානයේ, OpenAI‑Hugging Face සිදුවීම අපට “ඇගයීම = ආරක්ෂාව” යන නව සත්යය මතක දැනුම් දෙයි. ඒක අමතක නොකර, දැන්ම ක්රියාත්මක වීමෙන් ශ්රී ලංකාවේ AI පරිසරය ආරක්ෂිත, විශ්වාසනීය, හා නව්ය බවට පත්වේ.
