OpenAI ආයතනය විසින් හඳුන්වා දීමට නියමිත නවතම ‘Astra’ මාදිලිය සම්බන්ධයෙන් මේ වන විට ලොව පුරා සිටින කෘත්රිම බුද්ධි (AI) ආරක්ෂක විශේෂඥයන් දැඩි අවධානයක් යොමු කර තිබෙනවා. ඔවුන් මේ ගැන කනස්සල්ලට පත්වෙලා ඉන්නේ ‘recurrent depth’ හෙවත් ‘opaque recurrence’ නමින් හැඳින්වෙන නව තාක්ෂණික ක්රමවේදයක් මෙම මාදිලිය සඳහා භාවිතා කරන නිසයි. සාමාන්යයෙන් AI මාදිලි ගැටලුවක් විසඳන විට එය සිදුකරන ආකාරය පියවරෙන් පියවර ‘Chain of Thought’ (CoT) හරහා අපිට දැකගන්න පුළුවන්. නමුත් මෙම නව ක්රමය මගින් එම ක්රියාවලිය වඩාත් සංකීර්ණ කරමින්, AI එකක් තීරණයක් ගන්නේ කෙසේදැයි නිරීක්ෂණය කිරීමේ හැකියාව සීමා කරන බවයි විශේෂඥයන් පවසන්නේ.
Redwood ආයතනයේ ප්රධානී බක් ශ්ලේගරිස් ඇතුළු ප්රවීණයන් පෙන්වා දෙන්නේ, මෙය අනාගතයේදී AI මාදිලිවල ක්රියාකාරිත්වය පාලනය කරගත නොහැකි තත්ත්වයකට පත් කිරීමට හේතු විය හැකි බවයි. ඔවුන් පවසන පරිදි, මෙම තාක්ෂණය මගින් AI මාදිලිවලට මිනිසුන්ට තේරුම් ගත නොහැකි රහසිගත භාෂාවකින් හෝ ක්රමවේදයකින් තීරණ ගැනීමේ හැකියාව ලැබෙනවා. මෙය අනාගතයේදී AI ආරක්ෂාව සම්බන්ධයෙන් විශාල අභියෝගයක් විය හැකියි.
කෙසේ වෙතත්, OpenAI ආයතනය පවසන්නේ Astra මාදිලිය තුළ මෙම තාක්ෂණය භාවිතා කරන්නේ ඉතා සීමිතව බවයි. ඔවුන්ගේ ප්රධාන විද්යාඥ ජකුබ් පචොකි පවසන පරිදි, AI මාදිලිවල ක්රියාකාරිත්වය විනිවිදභාවයකින් යුතුව නිරීක්ෂණය කිරීම ඔවුන්ගේ මූලික අරමුණක්. කෙසේ වෙතත්, ගූගල් සහ ඇන්ත්රොපික් වැනි අනෙකුත් ප්රධාන පෙළේ ආයතන පවා මෙම තාක්ෂණය ගැන සාකච්ඡා කරමින් සිටින නිසා, ඉදිරියේදී AI තාක්ෂණයේ ආරක්ෂාව සහ විනිවිදභාවය පිළිබඳව දැඩි නීති රීති අවශ්ය වනු ඇති බවටයි බොහෝ දෙනා අනතුරු අඟවන්නේ.

Discussion & Feedback