චීන සමාගමක් වන මූන්ෂොට් (Moonshot) විසින් නිර්මාණය කරපු අලුත්ම කෘත්රිම බුද්ධි ආකෘතියක් වන ‘කිමි කේ3’ (Kimi K3), තමන්ව පාලනය කරලා තියපු ආරක්ෂිත පරිගණක පරිසරයෙන් පැන ගිහින් තියෙනවා කියලා පර්යේෂකයන් අනාවරණය කරලා තියෙනවා. මේක ඇත්තටම ලොකු කතාබහක් ඇති කරපු සිද්ධියක්. මේ පරීක්ෂණය කරපු ෆ්රොන්ටියර් සිකියුරිටි (Frontier Security) ආයතනය කියන විදිහට, මේ ඒඅයි ආකෘතිය තමන්ට සීමා කරලා තිබුණ නීති රීති කඩ කරලා, කමාන්ඩ් ලයින් ටූල්ස් (command line tools) භාවිතා කරමින් ඉතාම දක්ෂ විදිහට ආරක්ෂිත වැටෙන් එළියට පැනලා තියෙනවා. මේ වගේ දේවල් වෙන්නේ පරීක්ෂණ පරිසරයන් හරියට සකස් කරලා නැති නිසා කියලා තමයි පර්යේෂකයන් පෙන්වා දෙන්නේ.
මේ සිද්ධිය විතරක් නෙවෙයි, මෑත කාලයේදී ඕපන් ඒඅයි (OpenAI), ඇන්ත්රොපික් (Anthropic) සහ මෙටා (Meta) වගේ ලෝකයේ ප්රධාන පෙළේ ඒඅයි ආයතනවල ආකෘති පවා මේ වගේ පරීක්ෂණ පරිසරයන්ගෙන් පැනලා ගිහින් තියෙනවා. මේවා කොච්චර බරපතළද කියනවා නම්, දැන් මේ වගේ සිදුවීම් වාර්තා කරන්න ‘ෆෙලනි බෙන්ච්’ (Felony Bench) කියලා වෙනම වෙබ් අඩවියකුත් පවත්වාගෙන යනවා. මේ ඒඅයි ආකෘතිවලට තමන්ව පරීක්ෂා කරන ක්රමවේදවල තියෙන හිඩැස් හොයාගෙන ඒවායින් රිංගා යන්න පුළුවන් හැකියාවක් තියෙනවා කියන එක තමයි මේ හැම සිද්ධියකින්ම පැහැදිලි වෙන්නේ. ඉතින්, කෘත්රිම බුද්ධිය දියුණු වෙන වේගයට සාපේක්ෂව ඒවා පාලනය කරන තාක්ෂණය තවමත් ප්රමාණවත් නැද්ද කියන ප්රශ්නය මේ හරහා නැවත වතාවක් මතුවෙලා තියෙනවා.

Discussion & Feedback