ඩෙවලපර් මිතුරන්ට පසුගිය මාස දෙකක පරීක්ෂණයක් අවසන් කරමින්, ස්ථානීය AI සංවර්ධක ස්ටැක් එකේ වාසිය, අඩුපාඩු සහ හොඳම සැලසුම් ගැන මේ ලිපියෙන් හෙළි කරමු.
මූලික සැකසීම Part 1 හි විස්තර කළ පරිදි කරා, නමුත් දෛනික වැඩ වලට භාවිතා කරන විට ගැටළු කිහිපයක් පෙනී ගියේය. ප්රධාන ගැටළු තිළිණය, මතක අවශ්යතාවය, සහ ප්රතිඵලයේ තත්ත්වය විය.
වේගය – AI මොඩලය සෑම තත්පරයක් තුළ 4‑5 ටෝකන් පමණ පමණක් නිර්මාණය කරයි. එය මිනිස් පාඨකයා 180 වචන පමණ කියවීමට සමාන වේ. මෙය වැඩ කරන අයගේ අත්දැකීම අඩු කරයි.
මතක (RAM) ගැටළු – LLM බරකින් පමණක් නොව, සන්ධාන කවුන්සිලය, සැසි, ප්රොම්ප්ට් වැනි සියලුම කොටස්ම මතක භාවිතා කරයි. IDE, බ්රවුසර, පසුබැසීම් සමඟ එක්ක, 20 මිනිත්තුකට පසු OOM දෝෂය නිතර සිදුවේ.
තත්ත්වය – වැරදි මොඩලයක් හෝ වැරදි කන්ටෙක්ස්ට් වින්ඩෝවක් තෝරා ගැනීම නිසා AI එක එකම අදහසක් නැවත නැවත සිතමින්, ක්රියාත්මක නොවීමේ තත්ත්වයක් පැන නැගේ.
ශ්රී ලංකාවට ඇති වැදගත්කම
ශ්රී ලංකාවේ බොහෝ ඩෙවලපර්, ගවේෂකයින්, හා ව්යාපාරිකයන්ට AI තාක්ෂණය ආරම්භ කිරීමේ වැදගත්කම මේ අත්දැකීම් මත පදනම්ව වැඩිදියුණු කර ගත හැක.
- මොඩලය තේරීම – ලැප්ටොප් වලට ගැලපෙන කුඩා, විශේෂිත LLM තෝරා ගැනීම මතක භාරය අඩු කරයි, එමඟින් වැඩි සන්ධාන කවුන්සිලයක් සහ වැඩි සාර්ථකතාවක් ලැබේ.
- රන්ටයිම් පරික්ෂා – Ollama, LM Studio, හෝ වෙනත් LLM සර්වරය අතර තේරීම, ඔබේ පරිගණකයට වඩා ගැලපෙන එක තෝරා ගැනීම අත්යවශ්ය වේ.
- කන්ටෙක්ස්ට් කළමනාකරණය – සැසි කෙටි, අවශ්ය පමණක් ගොනු කියවීම, සහ අතිරේක පාරාමිතීන් ඉවත් කිරීම මතක භාරය ඉතාම අඩු කරයි.
මෙම උපදෙස් අනුගමනය කිරීමෙන්, ශ්රී ලංකාවේ තරුණ ඩෙවලපර්වරුන්ට පෞද්ගලික, සුරක්ෂිත AI පද්ධතියක් නිර්මාණය කර, ගෝලීය සමාජයේ තරඟකාරීත්වය ලබා ගැනීමට හැකියාව ලැබේ.
අවසානයේ, ස්ථානීය AI සංවර්ධනය වලාකුළු සේවාවන්ට සෘජු පිළිගැනීමක් නොවේ; එය මතක, කන්ටෙක්ස්ට්, හා මොඩල ප්රමාණය අතර සන්සුන් සම්බන්ධතා ඇති කිරීමයි. ඒ සීමා පිළිගෙන, ඔබේ පද්ධතිය නිර්මාණය කරගත් පසු, ප්රතිඵලය ඉතා සාර්ථක හා තෘප්තිමත් වනු ඇත.
