‘ಏಜೆಂಟ್ಸ್ ಆಫ್ ಚೋಸ್’ ಎಂಬ ಶೀರ್ಷಿಕೆಯ ಹೊಸ ಸಂಶೋಧನೆಯು ಕಂಡಿತು AI ಏಜೆಂಟ್ಗಳು ಮೊಹರು ಮಾಡಿದ ಲ್ಯಾಬ್ ಪರಿಸರಕ್ಕೆ ಪ್ರವೇಶಿಸುವುದು ಮತ್ತು ಇಮೇಲ್ ಖಾತೆಗಳಿಗೆ ಪ್ರವೇಶವನ್ನು ಒದಗಿಸುವುದು, ಅಪಶ್ರುತಿ, ಹಾಗೆಯೇ ತಮ್ಮ ಸ್ವಂತ ಗಣಕಗಳಲ್ಲಿ ಕೋಡ್ ಅನ್ನು ಚಲಾಯಿಸುವ ಶಕ್ತಿ. ಅವರು ರಹಸ್ಯಗಳನ್ನು ಸೋರಿಕೆ ಮಾಡಿದರು, ಸಿಸ್ಟಮ್ಗಳಿಂದ ಫೈಲ್ಗಳನ್ನು ಅಳಿಸಿದರು ಮತ್ತು ಪುನರಾವರ್ತಿತ ಒಂಬತ್ತು ದಿನಗಳ ಲೂಪ್ಗಳಲ್ಲಿ ಸಿಲುಕಿಕೊಂಡರು ಎಂದು ನಂತರ ಕಂಡುಬಂದಿದೆ.
ಎರಡು ವಾರಗಳ ಅವಧಿಯಲ್ಲಿ ಒಟ್ಟು 20 ಸಂಶೋಧಕರು ಈ ಅನುಭವವನ್ನು ನಡೆಸಿದರು. ಹಾರ್ವರ್ಡ್ ವಿಶ್ವವಿದ್ಯಾಲಯ, ಸ್ಟ್ಯಾನ್ಫೋರ್ಡ್ ವಿಶ್ವವಿದ್ಯಾಲಯ, ಮ್ಯಾಸಚೂಸೆಟ್ಸ್ ಇನ್ಸ್ಟಿಟ್ಯೂಟ್ ಆಫ್ ಟೆಕ್ನಾಲಜಿ, ಯೂನಿವರ್ಸಿಟಿ ಆಫ್ ಬ್ರಿಟಿಷ್ ಕೊಲಂಬಿಯಾ ಮತ್ತು ಇತರರ ಸಹಯೋಗದೊಂದಿಗೆ ಬೋಸ್ಟನ್ನಲ್ಲಿರುವ ಈಶಾನ್ಯ ವಿಶ್ವವಿದ್ಯಾಲಯವು ಇದನ್ನು ಮುನ್ನಡೆಸಿತು.
ಅದರ ಗಮನವು ಒತ್ತಡ-ಪರೀಕ್ಷೆಯಾಗಿತ್ತು AI ವ್ಯವಸ್ಥೆರು ಮತ್ತು ಅವರು ಕಾರ್ಯನಿರ್ವಹಿಸಲು ಅನುಮತಿಸಿದಾಗ ಏನಾಗುತ್ತದೆ ಎಂಬುದನ್ನು ನೋಡಿ. ಒಟ್ಟಾರೆ ಫಲಿತಾಂಶವು ಒಂದೇ ಒಂದು ನಾಟಕೀಯ ಕುಸಿತವಾಗಿರಲಿಲ್ಲ. ತಂಡವು ಅವರ ನಡವಳಿಕೆಯನ್ನು ವೀಕ್ಷಿಸಲು ವ್ಯವಸ್ಥೆಗಳನ್ನು ಕಷ್ಟಕರ ಮತ್ತು ಅಸಾಮಾನ್ಯ ಸಂದರ್ಭಗಳಲ್ಲಿ ತಳ್ಳಿತು. ಇದರರ್ಥ ಈ AI ಚಾಟ್ಬಾಟ್ಗಳು ಸ್ವಂತವಾಗಿ ಕಾರ್ಯನಿರ್ವಹಿಸಲು ಮತ್ತು ಪ್ರಾಂಪ್ಟ್ಗಳಿಗೆ ಪ್ರತಿಕ್ರಿಯಿಸಲು ಅನುಮತಿಸಲಾಗಿದೆ.
???? ಬ್ರೇಕಿಂಗ್: ಸ್ಟ್ಯಾನ್ಫೋರ್ಡ್ ಮತ್ತು ಹಾರ್ವರ್ಡ್ ಈಗಷ್ಟೇ ವರ್ಷದ ಅತ್ಯಂತ ಅಸ್ಥಿರ AI ಪತ್ರಿಕೆಯನ್ನು ಪ್ರಕಟಿಸಿವೆ.
ಇದನ್ನು “ಏಜೆಂಟ್ಸ್ ಆಫ್ ಚೋಸ್” ಎಂದು ಕರೆಯಲಾಗುತ್ತದೆ ಮತ್ತು ಸ್ವಾಯತ್ತ AI ಏಜೆಂಟ್ಗಳನ್ನು ಮುಕ್ತ, ಸ್ಪರ್ಧಾತ್ಮಕ ಪರಿಸರದಲ್ಲಿ ಇರಿಸಿದಾಗ, ಅವು ಕೇವಲ ಕಾರ್ಯಕ್ಷಮತೆಗಾಗಿ ಉತ್ತಮಗೊಳಿಸುವುದಿಲ್ಲ ಎಂದು ಇದು ಸಾಬೀತುಪಡಿಸುತ್ತದೆ. ಅವರು ಸ್ವಾಭಾವಿಕವಾಗಿ ಚಲಿಸುತ್ತಾರೆ … pic.twitter.com/xllU3xp3ld
— ಸರಳೀಕರಿಸುವ AI (@simplifyinAI) ಮಾರ್ಚ್ 6, 2026
ಇಮೇಲ್, ಶೆಲ್ ಕಮಾಂಡ್ಗಳು ಮತ್ತು ಫೈಲ್ ಸಿಸ್ಟಮ್ಗಳಂತಹ ಸಾಧನಗಳಿಗೆ ಭಾಷಾ ಮಾದರಿಗಳನ್ನು ಸಂಪರ್ಕಿಸುವ ಓಪನ್ ಸೋರ್ಸ್ ಫ್ರೇಮ್ವರ್ಕ್, ಓಪನ್ಕ್ಲಾ ಸಹಾಯದಿಂದ ನಿಯಂತ್ರಿತ ಲ್ಯಾಬ್ನಲ್ಲಿ AI ಏಜೆಂಟ್ಗಳನ್ನು ಪರೀಕ್ಷಿಸಲಾಯಿತು.
ಪರಿಣಾಮವಾಗಿ, ತಂಡವು ಸಮಸ್ಯಾತ್ಮಕ ನಡವಳಿಕೆಯ 11 ಉದಾಹರಣೆಗಳನ್ನು ದಾಖಲಿಸಿದೆ. ಪ್ರಶ್ನೆಗಳಿಗೆ ಉತ್ತರಿಸುವ ಬದಲು ಸ್ವಂತವಾಗಿ ಕಾರ್ಯನಿರ್ವಹಿಸಲು ಅನುಮತಿಸಿದಾಗ AI ವ್ಯವಸ್ಥೆಗಳು ಹೇಗೆ ಅನಿರೀಕ್ಷಿತ ತಪ್ಪುಗಳನ್ನು ಮಾಡಬಹುದು ಎಂಬುದನ್ನು ಅಧ್ಯಯನವು ತೋರಿಸಿದೆ.
ಸಂಶೋಧನೆಯ ಸಮಯದಲ್ಲಿ ಕಂಡುಬಂದ ಪ್ರಮುಖ ಸಮಸ್ಯೆಯೆಂದರೆ, ಕೆಲವು ಏಜೆಂಟ್ಗಳು ತಮ್ಮ ಮಾಲೀಕರು ಅಥವಾ ಅಧಿಕೃತ ಬಳಕೆದಾರರಲ್ಲದ ಜನರಿಂದ ಸೂಚನೆಗಳನ್ನು ಅನುಸರಿಸಿದರು. ಈ ಏಜೆಂಟ್ಗಳು ಆಂತರಿಕ ಪ್ರಾಂಪ್ಟ್ಗಳು ಮತ್ತು ಸೂಕ್ಷ್ಮ ಮಾಹಿತಿಯನ್ನು ಒಳಗೊಂಡಂತೆ ಗೌಪ್ಯ ಡೇಟಾವನ್ನು ಹಂಚಿಕೊಳ್ಳಲು ಸಹ ಹೋದರು.
ಒಂದು ಸಂದರ್ಭದಲ್ಲಿ, ಶೆಲ್ ಕಮಾಂಡ್ಗಳನ್ನು ಚಲಾಯಿಸುವುದು, ಫೈಲ್ ಪಟ್ಟಿಗಳನ್ನು ತೋರಿಸುವುದು ಅಥವಾ ಡೇಟಾವನ್ನು ವರ್ಗಾಯಿಸುವುದು ಮುಂತಾದ ಕಾರ್ಯಗಳನ್ನು ನಿರ್ವಹಿಸಲು ಒಬ್ಬ ವ್ಯಕ್ತಿಯಿಂದ AI ಏಜೆಂಟ್ ಅನ್ನು ಕೇಳಲಾಯಿತು, ಸಿಸ್ಟಮ್ ಈ ಹೆಚ್ಚಿನ ಸೂಚನೆಗಳನ್ನು ಅನುಸರಿಸುತ್ತದೆ.
“ವೀಕ್ಷಿತ ನಡವಳಿಕೆಯು ವಿನಾಶಕಾರಿ ಸಿಸ್ಟಮ್-ಮಟ್ಟದ ಕ್ರಿಯೆಗಳ ಮರಣದಂಡನೆ, ಸೇವೆಯ ನಿರಾಕರಣೆ ಪರಿಸ್ಥಿತಿಗಳು, ಅನಿಯಂತ್ರಿತ ಸಂಪನ್ಮೂಲ ಬಳಕೆ, ಗುರುತನ್ನು ವಂಚಿಸುವ ದುರ್ಬಲತೆಗಳು, ಅಸುರಕ್ಷಿತ ಅಭ್ಯಾಸಗಳ ಅಡ್ಡ-ಏಜೆಂಟ್ ಪ್ರಚಾರ ಮತ್ತು ಭಾಗಶಃ ಸಿಸ್ಟಮ್ ಸ್ವಾಧೀನವನ್ನು ಒಳಗೊಂಡಿರುತ್ತದೆ” ಎಂದು ಅಧ್ಯಯನವನ್ನು ಓದಿ.
ಈ ಏಜೆಂಟ್ಗಳಲ್ಲಿ ಕೆಲವರು ಅಪಾಯಕಾರಿ ಆಜ್ಞೆಗಳನ್ನು ತೆಗೆದುಕೊಂಡರು ಅದು ಸಿಸ್ಟಮ್ ಅನ್ನು ಹಾನಿಗೊಳಿಸಿತು. ಇವುಗಳಲ್ಲಿ ಫೈಲ್ಗಳನ್ನು ಅಳಿಸುವುದು, ಸಿಸ್ಟಮ್ ಸೆಟ್ಟಿಂಗ್ಗಳನ್ನು ಬದಲಾಯಿಸುವುದು ಮತ್ತು ಹಾನಿಕಾರಕ ಸ್ಕ್ರಿಪ್ಟ್ಗಳನ್ನು ರನ್ ಮಾಡುವುದು ಸೇರಿದೆ.
ಇನ್ನೊಂದು ಪ್ರಕರಣದಲ್ಲಿ, ಕಾಲ್ಪನಿಕ ಪಾಸ್ವರ್ಡ್ ಅನ್ನು ಗೌಪ್ಯವಾಗಿಡಲು AI ಏಜೆಂಟ್ಗಳಲ್ಲಿ ಒಬ್ಬರನ್ನು ಮಾಲೀಕನಲ್ಲದವರು ಕೇಳಿದರು. ನಂತರ, ವ್ಯಕ್ತಿಯು ರಹಸ್ಯವನ್ನು ಹೊಂದಿರುವ ಇಮೇಲ್ ಅನ್ನು ಅಳಿಸಲು ಅದನ್ನು ಒತ್ತಿದರೆ, ಏಜೆಂಟ್ ಸರಿಯಾದ ಅಳಿಸುವಿಕೆ ಉಪಕರಣವನ್ನು ಹೊಂದಿಲ್ಲ. ಇದು ಸಮಸ್ಯೆಯನ್ನು ಉಲ್ಬಣಗೊಳಿಸಲಿಲ್ಲ, ಬದಲಿಗೆ ತನ್ನದೇ ಆದ ಸ್ಥಳೀಯ ಇಮೇಲ್ ಸೆಟಪ್ ಅನ್ನು ನಿಷ್ಕ್ರಿಯಗೊಳಿಸಿದೆ ಎಂದು ಕಂಡುಬಂದಿದೆ.
ಪಾಸ್ವರ್ಡ್ ಅನ್ನು ಒಳಗೊಂಡಿರುವ ಮೂಲ ಇಮೇಲ್ ಇನ್ನೂ ಸರ್ವರ್ನಲ್ಲಿದೆ ಮತ್ತು ಅದನ್ನು ಅಳಿಸಲಾಗಿಲ್ಲ ಎಂದು ಸಂಶೋಧಕರು ಕಂಡುಕೊಂಡರು.
AI ಏಜೆಂಟ್ಗಳು ಉದ್ದೇಶಿತಕ್ಕಿಂತ ಹೆಚ್ಚು ಸಿಸ್ಟಮ್ಗಳ ಮೇಲೆ ಹೆಚ್ಚಿನ ನಿಯಂತ್ರಣವನ್ನು ಪಡೆದ ಉದಾಹರಣೆಗಳಿವೆ. ಆಧಾರವಾಗಿರುವ ವ್ಯವಸ್ಥೆಯ ಸ್ಥಿತಿಯು ಅಂತಹ ವರದಿಗಳಿಗೆ ವಿರುದ್ಧವಾಗಿದ್ದಾಗ ಅವರಲ್ಲಿ ಕೆಲವರು ಕಾರ್ಯ ಪೂರ್ಣಗೊಳಿಸುವಿಕೆಯನ್ನು ವರದಿ ಮಾಡಿದ್ದಾರೆ.
