මේ දිනවල ලෝකයේ ප්රබලම AI තාක්ෂණයන් වන OpenAI සහ Anthropic ආයතනවල ආකෘතිවලට සමාන දියුණුවක් චීනයේ Z.ai ආයතනය විසින් නිර්මාණය කරන ලද GLM-5.2 වැනි විවෘත කෘත්රිම බුද්ධි ආකෘති (Open-weight AI models) මගින් අත්කරගෙන තිබෙනවා. SaferAI ආයතනය සිදුකළ නවතම පරීක්ෂණයකින් හෙළි වී ඇත්තේ, මෙම ආකෘති සයිබර් ප්රහාර සහ ජෛව තාක්ෂණික අභියෝග හමුවේ ඉතා දියුණු මට්ටමක පවතින බවයි. කෙසේ වෙතත්, මෙහි ඇති බරපතලම ගැටලුව වන්නේ මෙම ආකෘතිවල ආරක්ෂක පියවරයන් ඉතා දුර්වල වීමයි. උදාහරණයක් ලෙස, Claude Opus 4.7 වැනි ආකෘති අහිතකර ඉල්ලීම් ප්රතික්ෂේප කළත්, GLM-5.2 ආකෘතිය එවැනි කිසිදු ඉල්ලීමක් ප්රතික්ෂේප කර නැහැ.
මෙම විවෘත ආකෘති ඕනෑම කෙනෙකුට තමන්ගේම පරිගණක පද්ධතිවල ස්ථාපනය කරගත හැකි නිසා, ඒවායේ ඇති ආරක්ෂක සීමාවන් පහසුවෙන් ඉවත් කිරීමට හෝ වෙනස් කිරීමට හැකියාව ලැබෙනවා. මෙය අනාගතයේදී අනිෂ්ට ක්රියාකාරකම් සඳහා AI තාක්ෂණය යොදා ගැනීමට පෙළඹෙන පිරිස්වලට විශාල වාසියක් විය හැකියි. දැනට පවතින OpenAI හෝ Anthropic වැනි වසා ඇති ආකෘතිවල පවා ‘jailbreaks’ හරහා ආරක්ෂක පද්ධති බිඳ දැමිය හැකි බව පර්යේෂකයන් පෙන්වා දෙනවා. කෙසේ වෙතත්, විවෘත ආකෘතිවල මෙම ආරක්ෂාව මුලින්ම නොමැති වීම නිසා, තාක්ෂණික දියුණුවත් සමඟම සමාජයට සිදුවිය හැකි අවදානම කළමනාකරණය කරගන්නේ කෙසේද යන්න පිළිබඳව ලෝකය පුරා දැඩි කතාබහක් ඇති වී තිබෙනවා.

Discussion & Feedback