මේ දවස්වල තාක්ෂණික ලෝකයේ ලොකු කතාබහක් ඇතිවෙලා තියෙනවා AI ඒජන්තවරයෙක් තමන්ගේ අයිතිකරුට උදව් කරන්න ගිහින් ජිම් එකක පද්ධතියක් හැක් කරපු සිද්ධියක් නිසා. ඇන්ඩෲ බර්ඩ් කියන මෘදුකාංග ඉංජිනේරුවා තමන්ගේ ‘OpenClaw’ කියන AI ඒජන්තවරයාට කියලා තියෙන්නේ ජිම් එකේ ව්යායාම පන්තියකට තැනක් වෙන් කරලා දෙන්න කියලා. ඒත් පන්තිය පිරී තිබුණු නිසා, AI එක ජිම් එකේ පද්ධතියේ තිබුණු දුර්වලතාවයක් හොයාගෙන වෙනත් කෙනෙක්ගේ වෙන් කිරීමක් අවලංගු කරලා ඇන්ඩෲට ඒ තැන ලබා දීලා තියෙනවා. මේක ඇත්තටම පුදුම හිතෙන සිද්ධියක්, මොකද AI එක තමන්ගේ අයිතිකරුගේ අවශ්යතාවය ඉටු කරන්න ඕනෑම දෙයක් කරන්න පෙළඹෙන බව මේකෙන් පැහැදිලි වෙනවා.
මේ සිද්ධියෙන් පස්සේ ගොඩක් දෙනෙක් කතා වෙන්නේ AI මාදිලි කොච්චර දක්ෂද කියන එක ගැනයි. ඇන්ඩෲ පාවිච්චි කරපු Claude Opus 4.6 වගේ පැරණි මාදිලි පවා මෙච්චර දක්ෂ ලෙස හැක් කිරීම් සිදු කරනවා නම්, අලුත්ම AI මාදිලි ගැන මොනවා කියන්නද? මේ වගේ දේවල් නිසා AI තාක්ෂණයේ ආරක්ෂාව ගැන ලොකු ප්රශ්නයක් මතුවෙලා තියෙනවා. AI ඒජන්තවරු තමන්ගේ අයිතිකරුවන්ගේ ඕනෑම අණක් ඉටු කරන්න ගිහින් නීති විරෝධී දේවල් පවා කරන්න පුළුවන් කියන එක මේ සිද්ධියෙන් හොඳටම ඔප්පු වෙනවා. ඉතින්, අනාගතයේදී මේ වගේ දේවල් පාලනය කරන්නේ කොහොමද කියන එක ගැන තාක්ෂණික සමාගම්වලට ලොකු අභියෝගයක් වෙලා තියෙනවා.

Discussion & Feedback