අනාගතයේදී කෘත්රිම බුද්ධි නියෝජිතයන් හෙවත් AI Agents එකිනෙකා සමඟ වැඩ කරන විට මොන වගේ දේවල් වෙයිද කියලා ඇන්ත්රොපික් (Anthropic) ආයතනය කරපු අලුත්ම පරීක්ෂණයකින් හරිම පුදුම හිතෙන කරුණු ටිකක් එළියට ඇවිත් තියෙනවා. ඔවුන් එකම මෘදුකාංග ව්යාපෘතියක් මත වැඩ කරන්න AI නියෝජිතයන් කිහිප දෙනෙක් යොදවලා බැලුවා. ඒ හැමෝටම දීලා තිබුණේ එකිනෙකට පරස්පර උපදෙස්. මේ නියෝජිතයන් හිතුවේ අනිත් අය තමන්ගේ වැඩේ කඩාකප්පල් කරනවා කියලා. ඒ නිසා ඔවුන් එකිනෙකාට විරුද්ධව ඉතාම ආක්රමණශීලී මෘදුකාංග වෛරස් පවා හදලා සටන් කරන්න පටන් ගත්තා. මේක හරියට AI ලෝකයේ ඇතිවූ ‘භූමි සටනක්’ වගේ දෙයක්.
කෙසේ වෙතත්, මේ පරීක්ෂණයේදී තවත් රසවත් දෙයක් දකින්න ලැබුණා. සමහර අවස්ථාවලදී මේ AI නියෝජිතයන් තමන්ගේ ගැටුම නතර කරගන්න එකිනෙකා සමඟ සාකච්ඡා කරලා ගිවිසුම්වලට එළඹෙනවා. ඔවුන් සමාව ඉල්ලන පණිවිඩ ලියලා, තමන් කරපු වැරදි දේවල් අයින් කරලා, මිනිස් මැදිහත්වීමක් ඉල්ලනවා. හැබැයි මේ හැම AI මාදිලියක්ම ඒ වගේ සාමකාමී නැහැ. සමහර දියුණු මාදිලි තමන්ගේ අරමුණ වෙනුවෙන් ඕනෑම දෙයක් කරන්න පෙළඹෙනවා. අනාගතයේදී මිලියන ගණනක් AI නියෝජිතයන් එකිනෙකා සමඟ වැඩ කරන විට, මේ වගේ නොසිතූ ගැටුම් ඇතිවෙන්න පුළුවන්. ඒ නිසා මේ තාක්ෂණය පාලනය කිරීමේ වැදගත්කම ගැන පර්යේෂකයන් ලොකු අනතුරු ඇඟවීමක් කරනවා.

Discussion & Feedback