OpenAI විසින් නව AI ආරක්ෂා මෙවලමක් වන GPT-Red හඳුන්වා දී ඇත. මේක ස්වයං-රෙඩ් ටීම් (red teaming) පද්ධතියක් වන අතර, AI මොඩලයන්ට වඩා හොඳ ආරක්ෂාව, අනුකූලතාව සහ ප්රොම්ප්ට් ඉන්ජෙක්ෂන් ප්රතිරෝධය ලබා දීමට නිර්මාණය කර තිබේ.
GPT-Red මූලික වශයෙන් “self‑play” තත්ත්වයක් භාවිතා කරයි. එහිදී AI මොඩලය තමමත් එක්ක තරඟ කරමින්, හැකි ඉක්මනින් ආකාරවත් වැරදි හෝ හුදකලා අවස්ථා සොයාගනී. මේ ක්රියාවලිය මගින් මොඩලය නව නුසුදුසු ප්රතිචාර හඳුනාගෙන, ඒවාට එරෙහිව උත්තර සැකසීමට ඉගෙන ගනී. එමෙන්ම, පද්ධතිය ස්වයංක්රීයව අධි-පරිමාණ දත්ත සකස් කර, නව ප්රශ්න හා ප්රතිචාර නියමිතව පරීක්ෂා කරයි.
මෙම පද්ධතියේ වැදගත්කම AI ක්ෂේත්රයට අතිශයය. ප්රොම්ප්ට් ඉන්ජෙක්ෂන් වැනි තාක්ෂණික ආකාරයන් මගින් පද්ධතියට අනිච්චිත හෝ අනපේක්ෂිත පිළිතුරු ලැබීමේ අවදානම අඩු කරයි. ඒ නිසා AI මොඩලයන් ව්යාපාර, රජයේ සේවා සහ අධ්යාපන පද්ධතිවල භාවිතයට වඩා විශ්වාසදායක වේ. තවද, මෙය OpenAI API සහ cloud පදනම්ව ක්රියාත්මක වන නිසා, සංවර්ධකයින්ට ඉක්මනින් සහ සුරක්ෂිතව නව AI සේවාවන් නිර්මාණය කිරීමේ හැකියාව ලැබේ.
ශ්රී ලංකාවට ඇති වැදගත්කම
- සිසුන්ට AI ආරක්ෂාව පිළිබඳ නව පර්යේෂණ කලාපයක් ලබාදීම, ඉගෙනුම් කුසලතා වර්ධනය කිරීම.
- දේශීය සංවර්ධකයින්ට OpenAI API සමඟ වැඩ කිරීමේදී ආරක්ෂාකාරී මොඩලයක් භාවිතා කර, ගනුදෙනුකරුවන්ගේ දත්ත රැක ගැනීමේ හැකියාව.
- ව්යාපාරික සමාගම්ට AI‑driven සේවාවන් ක්රියාත්මක කිරීමේදී ප්රොම්ප්ට් ඉන්ජෙක්ෂන් අවදානම අඩු කර, සේවා විශ්වාසභරිතභාවය වැඩි කිරීම.
GPT-Red තාක්ෂණය ඉදිරියේදී AI සුරක්ෂිතතා පිළිබඳ නව මාර්ගෝපදේශයක් ලෙස පවතින අතර, OpenAI නව පරීක්ෂණ පදනම් කරගනිමින් AI ක්ෂේත්රයේ ප්රගතිය තවත් අගුළු විවර කරනු ඇත. ශ්රී ලංකා තොරතුරු තාක්ෂණ ක්ෂේත්රය මේ නවෝත්පාදනයෙන් ලාභ ලබමින්, ගෝලීය තරඟයේ ඉදිරියට යාමට නව අවස්ථා සොයාගනු ඇත.
