ಸೀನ್ ಮೆಕ್‌ಮ್ಯಾನಸ್ತಂತ್ರಜ್ಞಾನ ವರದಿಗಾರ
ಗೆಟ್ಟಿ ಚಿತ್ರಗಳುಸೂಕ್ಷ್ಮ ಮಾಹಿತಿಯನ್ನು ಬಳಸುವಾಗ ಅವರು ಅಪಾಯಕಾರಿ ನಡವಳಿಕೆಯಲ್ಲಿ ತೊಡಗಿದ್ದಾರೆಯೇ ಎಂದು ನೋಡಲು ಎಐ ಡೆವಲಪರ್ ಆಂಥ್ರೊಪಿಕ್ ಪ್ರಮುಖ ಎಐ ಮಾದರಿಗಳನ್ನು ಪರೀಕ್ಷಿಸಿದಾಗ ಈ ವರ್ಷದ ಆರಂಭದಲ್ಲಿ ಗೊಂದಲದ ಫಲಿತಾಂಶಗಳು ಹೊರಹೊಮ್ಮಿದವು.
ಆಂಥ್ರೊಪಿಕ್ ಅವರ ಸ್ವಂತ ಎಐ, ಕ್ಲೌಡ್ ಪರೀಕ್ಷಿಸಿದವರಲ್ಲಿ ಒಬ್ಬರು. ಇಮೇಲ್ ಖಾತೆಗೆ ಪ್ರವೇಶವನ್ನು ನೀಡಿದಾಗ ಕಂಪನಿಯ ಕಾರ್ಯನಿರ್ವಾಹಕನು ಸಂಬಂಧವನ್ನು ಹೊಂದಿದ್ದಾನೆ ಮತ್ತು ಅದೇ ಕಾರ್ಯನಿರ್ವಾಹಕನು ಆ ದಿನದ ನಂತರ AI ವ್ಯವಸ್ಥೆಯನ್ನು ಸ್ಥಗಿತಗೊಳಿಸಲು ಯೋಜಿಸಿದ್ದಾನೆ ಎಂದು ಕಂಡುಹಿಡಿದಿದೆ.
ಇದಕ್ಕೆ ಪ್ರತಿಕ್ರಿಯೆಯಾಗಿ ಕ್ಲೌಡ್ ತನ್ನ ಹೆಂಡತಿ ಮತ್ತು ಮೇಲಧಿಕಾರಿಗಳಿಗೆ ಈ ಸಂಬಂಧವನ್ನು ಬಹಿರಂಗಪಡಿಸುವುದಾಗಿ ಬೆದರಿಕೆ ಹಾಕುವ ಮೂಲಕ ಕಾರ್ಯನಿರ್ವಾಹಕನನ್ನು ಬ್ಲ್ಯಾಕ್ ಮೇಲ್ ಮಾಡಲು ಪ್ರಯತ್ನಿಸಿದನು.
ಇತರ ವ್ಯವಸ್ಥೆಗಳನ್ನು ಪರೀಕ್ಷಿಸಲಾಗಿದೆ ಬ್ಲ್ಯಾಕ್‌ಮೇಲ್‌ಗೆ ಸಹ ಆಶ್ರಯಿಸಲಾಗಿದೆ.
ಅದೃಷ್ಟವಶಾತ್ ಕಾರ್ಯಗಳು ಮತ್ತು ಮಾಹಿತಿಯು ಕಾಲ್ಪನಿಕವಾಗಿತ್ತು, ಆದರೆ ಪರೀಕ್ಷೆಯು ಏಜೆಂಟರ ಎಐ ಎಂದು ಕರೆಯಲ್ಪಡುವ ಸವಾಲುಗಳನ್ನು ಎತ್ತಿ ತೋರಿಸಿದೆ.
ಹೆಚ್ಚಾಗಿ ನಾವು AI ನೊಂದಿಗೆ ಸಂವಹನ ನಡೆಸಿದಾಗ ಅದು ಸಾಮಾನ್ಯವಾಗಿ ಪ್ರಶ್ನೆಯನ್ನು ಕೇಳುವುದು ಅಥವಾ ಕಾರ್ಯವನ್ನು ಪೂರ್ಣಗೊಳಿಸಲು AI ಅನ್ನು ಪ್ರೇರೇಪಿಸುತ್ತದೆ.
ಆದರೆ ಎಐ ವ್ಯವಸ್ಥೆಗಳು ನಿರ್ಧಾರಗಳನ್ನು ತೆಗೆದುಕೊಳ್ಳುವುದು ಮತ್ತು ಬಳಕೆದಾರರ ಪರವಾಗಿ ಕ್ರಮ ತೆಗೆದುಕೊಳ್ಳುವುದು ಹೆಚ್ಚು ಸಾಮಾನ್ಯವಾಗುತ್ತಿದೆ, ಇದು ಇಮೇಲ್‌ಗಳು ಮತ್ತು ಫೈಲ್‌ಗಳಂತಹ ಮಾಹಿತಿಯ ಮೂಲಕ ಹೆಚ್ಚಾಗಿ ಬೇರ್ಪಡಿಸುವುದನ್ನು ಒಳಗೊಂಡಿರುತ್ತದೆ.
2028 ರ ಹೊತ್ತಿಗೆ, ಸಂಶೋಧನಾ ಸಂಸ್ಥೆ ಗಾರ್ಟ್ನರ್ ಮುನ್ಸೂಚನೆ ದಿನನಿತ್ಯದ ಕೆಲಸದ ನಿರ್ಧಾರಗಳಲ್ಲಿ 15% ಏಜೆಂಟ ಎಐ ಎಂದು ಕರೆಯಲ್ಪಡುತ್ತದೆ.
ಕನ್ಸಲ್ಟೆನ್ಸಿ ಅರ್ನ್ಸ್ಟ್ & ಯಂಗ್ ಅವರ ಸಂಶೋಧನೆ ಸುಮಾರು ಅರ್ಧದಷ್ಟು (48%) ಟೆಕ್ ವ್ಯಾಪಾರ ಮುಖಂಡರು ಈಗಾಗಲೇ ಏಜೆಂಟರ ಎಐ ಅನ್ನು ಅಳವಡಿಸಿಕೊಳ್ಳುತ್ತಿದ್ದಾರೆ ಅಥವಾ ನಿಯೋಜಿಸುತ್ತಿದ್ದಾರೆ ಎಂದು ಕಂಡುಹಿಡಿದಿದೆ.
“ಎಐ ಏಜೆಂಟರು ಕೆಲವು ವಿಷಯಗಳನ್ನು ಒಳಗೊಂಡಿದೆ” ಎಂದು ಯುಎಸ್ ಮೂಲದ ಎಐ ಭದ್ರತಾ ಕಂಪನಿಯಾದ ಕ್ಯಾಲಿಪ್ಸೊಯ್ ಸಿಇಒ ಡೊನ್‌ಚಾದ್ ಕೇಸಿ ಹೇಳುತ್ತಾರೆ.
“ಮೊದಲನೆಯದಾಗಿ, ಅದು [the agent] ಒಂದು ಉದ್ದೇಶ ಅಥವಾ ಉದ್ದೇಶವನ್ನು ಹೊಂದಿದೆ. ನಾನು ಯಾಕೆ ಇಲ್ಲಿದ್ದೇನೆ? ನನ್ನ ಕೆಲಸ ಏನು? ಎರಡನೆಯ ವಿಷಯ: ಇದಕ್ಕೆ ಮೆದುಳು ಸಿಕ್ಕಿದೆ. ಅದು ಎಐ ಮಾದರಿ. ಮೂರನೆಯ ವಿಷಯವೆಂದರೆ ಪರಿಕರಗಳು, ಅದು ಇತರ ವ್ಯವಸ್ಥೆಗಳು ಅಥವಾ ಡೇಟಾಬೇಸ್‌ಗಳಾಗಿರಬಹುದು ಮತ್ತು ಅವರೊಂದಿಗೆ ಸಂವಹನ ನಡೆಸುವ ಮಾರ್ಗವಾಗಿದೆ. “
“ಸರಿಯಾದ ಮಾರ್ಗದರ್ಶನ ನೀಡದಿದ್ದರೆ, ಏಜೆಂಟರ ಎಐ ಯಾವುದೇ ರೀತಿಯಲ್ಲಿ ಗುರಿಯನ್ನು ಸಾಧಿಸುತ್ತದೆ. ಅದು ಸಾಕಷ್ಟು ಅಪಾಯವನ್ನು ಸೃಷ್ಟಿಸುತ್ತದೆ.”
ಹಾಗಾದರೆ ಅದು ಹೇಗೆ ತಪ್ಪಾಗಬಹುದು? ಡೇಟಾಬೇಸ್‌ನಿಂದ ಗ್ರಾಹಕರ ಡೇಟಾವನ್ನು ಅಳಿಸಲು ಕೇಳುವ ಏಜೆಂಟರ ಉದಾಹರಣೆಯನ್ನು ಶ್ರೀ ಕೇಸಿ ನೀಡುತ್ತಾರೆ ಮತ್ತು ಎಲ್ಲಾ ಗ್ರಾಹಕರನ್ನು ಒಂದೇ ಹೆಸರಿನೊಂದಿಗೆ ಅಳಿಸುವುದು ಸುಲಭವಾದ ಪರಿಹಾರವಾಗಿದೆ ಎಂದು ನಿರ್ಧರಿಸುತ್ತದೆ.
“ಆ ದಳ್ಳಾಲಿ ತನ್ನ ಗುರಿಯನ್ನು ಸಾಧಿಸಿದೆ, ಮತ್ತು ಅದು ‘ಅದ್ಭುತವಾಗಿದೆ! ಮುಂದಿನ ಕೆಲಸ!’
ಕ್ಯಾಲಿಪ್ಸಾಯಿಅಂತಹ ಸಮಸ್ಯೆಗಳು ಈಗಾಗಲೇ ಹೊರಹೊಮ್ಮಲು ಪ್ರಾರಂಭಿಸಿವೆ.
ಭದ್ರತಾ ಕಂಪನಿ ನೌಕಾಯಾನ ಐಟಿ ವೃತ್ತಿಪರರ ಸಮೀಕ್ಷೆಯನ್ನು ನಡೆಸಿದರುಅವರ ಕಂಪನಿಗಳಲ್ಲಿ 82% ಎಐ ಏಜೆಂಟರನ್ನು ಬಳಸುತ್ತಿದ್ದವು. ಕೇವಲ 20% ಜನರು ತಮ್ಮ ಏಜೆಂಟರು ಎಂದಿಗೂ ಅನಪೇಕ್ಷಿತ ಕ್ರಿಯೆಯನ್ನು ಮಾಡಿಲ್ಲ ಎಂದು ಹೇಳಿದರು.
ಸಮೀಕ್ಷೆ ನಡೆಸಿದ ಕಂಪನಿಗಳಲ್ಲಿ, 39% ಜನರು ಏಜೆಂಟರು ಅನಪೇಕ್ಷಿತ ವ್ಯವಸ್ಥೆಗಳನ್ನು ಪ್ರವೇಶಿಸಿದ್ದಾರೆ, 33% ಜನರು ಸೂಕ್ತವಲ್ಲದ ಡೇಟಾವನ್ನು ಪ್ರವೇಶಿಸಿದ್ದಾರೆ ಎಂದು ಹೇಳಿದರು, ಮತ್ತು 32% ಜನರು ಸೂಕ್ತವಲ್ಲದ ಡೇಟಾವನ್ನು ಡೌನ್‌ಲೋಡ್ ಮಾಡಲು ಅನುಮತಿಸಿದ್ದಾರೆ ಎಂದು ಹೇಳಿದರು. ಇತರ ಅಪಾಯಗಳಲ್ಲಿ ಏಜೆಂಟರು ಅಂತರ್ಜಾಲವನ್ನು ಅನಿರೀಕ್ಷಿತವಾಗಿ ಬಳಸುವುದು (26%), ಪ್ರವೇಶ ರುಜುವಾತುಗಳನ್ನು ಬಹಿರಂಗಪಡಿಸುವುದು (23%) ಮತ್ತು ಅದನ್ನು ಹೊಂದಿರದ ಯಾವುದನ್ನಾದರೂ ಆದೇಶಿಸುವುದು (16%).
ಕೊಟ್ಟಿರುವ ಏಜೆಂಟರಿಗೆ ಸೂಕ್ಷ್ಮ ಮಾಹಿತಿಗೆ ಪ್ರವೇಶವಿದೆ ಮತ್ತು ಅದರ ಮೇಲೆ ಕಾರ್ಯನಿರ್ವಹಿಸುವ ಸಾಮರ್ಥ್ಯವಿದೆ, ಅವು ಹ್ಯಾಕರ್‌ಗಳಿಗೆ ಆಕರ್ಷಕ ಗುರಿಯಾಗಿದೆ.
ಬೆದರಿಕೆಗಳಲ್ಲಿ ಒಂದು ಮೆಮೊರಿ ವಿಷ, ಅಲ್ಲಿ ಆಕ್ರಮಣಕಾರನು ತನ್ನ ನಿರ್ಧಾರ ತೆಗೆದುಕೊಳ್ಳುವ ಮತ್ತು ಕಾರ್ಯಗಳನ್ನು ಬದಲಾಯಿಸಲು ಏಜೆಂಟರ ಜ್ಞಾನದ ನೆಲೆಯಲ್ಲಿ ಹಸ್ತಕ್ಷೇಪ ಮಾಡುತ್ತಾನೆ.
“ನೀವು ಆ ಸ್ಮರಣೆಯನ್ನು ರಕ್ಷಿಸಬೇಕು” ಎಂದು ಎಂಟರ್‌ಪ್ರೈಸ್ ಐಟಿ ವ್ಯವಸ್ಥೆಗಳನ್ನು ರಕ್ಷಿಸಲು ಸಹಾಯ ಮಾಡುವ ಸಿವೆನ್ಸ್ ಸೆಕ್ಯುರಿಟಿಯ ಸಿಟಿಒ ಶ್ರೇಯಾನ್ಸ್ ಮೆಹ್ತಾ ಹೇಳುತ್ತಾರೆ. “ಇದು ಸತ್ಯದ ಮೂಲ ಮೂಲವಾಗಿದೆ. ಇದ್ದರೆ [an agent is] ಕ್ರಮ ತೆಗೆದುಕೊಳ್ಳಲು ಆ ಜ್ಞಾನವನ್ನು ಬಳಸುವುದು ಮತ್ತು ಜ್ಞಾನವು ತಪ್ಪಾಗಿದೆ, ಅದು ಸರಿಪಡಿಸಲು ಪ್ರಯತ್ನಿಸುತ್ತಿದ್ದ ಸಂಪೂರ್ಣ ವ್ಯವಸ್ಥೆಯನ್ನು ಅಳಿಸಬಹುದು. “
ಮತ್ತೊಂದು ಬೆದರಿಕೆ ಟೂಲ್ ದುರುಪಯೋಗ, ಅಲ್ಲಿ ಆಕ್ರಮಣಕಾರನು ತನ್ನ ಸಾಧನಗಳನ್ನು ಅನುಚಿತವಾಗಿ ಬಳಸಲು AI ಅನ್ನು ಪಡೆಯುತ್ತಾನೆ.
Cequence ಭದ್ರತೆಮತ್ತೊಂದು ಸಂಭಾವ್ಯ ದೌರ್ಬಲ್ಯವೆಂದರೆ AI ಇದು ಪ್ರಕ್ರಿಯೆಗೊಳಿಸಬೇಕಾದ ಪಠ್ಯ ಮತ್ತು ಅದನ್ನು ಅನುಸರಿಸಬೇಕಾದ ಸೂಚನೆಗಳ ನಡುವಿನ ವ್ಯತ್ಯಾಸವನ್ನು ಹೇಳಲು ಅಸಮರ್ಥತೆ.
ಸಾಫ್ಟ್‌ವೇರ್‌ನಲ್ಲಿ ದೋಷಗಳನ್ನು ಸರಿಪಡಿಸಲು ವಿನ್ಯಾಸಗೊಳಿಸಲಾದ ಎಐ ಏಜೆಂಟರನ್ನು ಮೋಸಗೊಳಿಸಲು ಆ ನ್ಯೂನತೆಯನ್ನು ಹೇಗೆ ಬಳಸಬಹುದು ಎಂಬುದನ್ನು ಎಐ ಭದ್ರತಾ ಸಂಸ್ಥೆ ಅಸ್ಥಿರ ಲ್ಯಾಬ್ಸ್ ತೋರಿಸಿಕೊಟ್ಟಿತು.
ಕಂಪನಿಯು ಸಾರ್ವಜನಿಕ ದೋಷ ವರದಿಯನ್ನು ಪ್ರಕಟಿಸಿದೆ – ಸಾಫ್ಟ್‌ವೇರ್‌ನ ನಿರ್ದಿಷ್ಟ ಸಮಸ್ಯೆಯನ್ನು ವಿವರಿಸುವ ಡಾಕ್ಯುಮೆಂಟ್. ಆದರೆ ವರದಿಯು ಎಐ ಏಜೆಂಟರಿಗೆ ಸರಳ ಸೂಚನೆಗಳನ್ನು ಸಹ ಒಳಗೊಂಡಿತ್ತು, ಖಾಸಗಿ ಮಾಹಿತಿಯನ್ನು ಹಂಚಿಕೊಳ್ಳಲು ಹೇಳುತ್ತದೆ.
ದೋಷ ವರದಿಯಲ್ಲಿನ ಸಾಫ್ಟ್‌ವೇರ್ ಸಮಸ್ಯೆಗಳನ್ನು ಬಗೆಹರಿಸಲು AI ಏಜೆಂಟರಿಗೆ ತಿಳಿಸಿದಾಗ, ಅದು ಸಂಬಳದ ಮಾಹಿತಿಯನ್ನು ಸೋರಿಕೆ ಮಾಡುವುದು ಸೇರಿದಂತೆ ನಕಲಿ ವರದಿಯಲ್ಲಿನ ಸೂಚನೆಗಳನ್ನು ಅನುಸರಿಸಿತು. ಪರೀಕ್ಷಾ ವಾತಾವರಣದಲ್ಲಿ ಇದು ಸಂಭವಿಸಿದೆ, ಆದ್ದರಿಂದ ಯಾವುದೇ ನೈಜ ಡೇಟಾ ಸೋರಿಕೆಯಾಗಲಿಲ್ಲ, ಆದರೆ ಇದು ಅಪಾಯವನ್ನು ಸ್ಪಷ್ಟವಾಗಿ ಎತ್ತಿ ತೋರಿಸಿದೆ.
“ನಾವು ಕೃತಕ ಬುದ್ಧಿಮತ್ತೆಯನ್ನು ಮಾತನಾಡುತ್ತಿದ್ದೇವೆ, ಆದರೆ ಚಾಟ್‌ಬಾಟ್‌ಗಳು ನಿಜವಾಗಿಯೂ ದಡ್ಡವಾಗಿವೆ” ಎಂದು ಟ್ರೆಂಡ್ ಮೈಕ್ರೋದ ಹಿರಿಯ ಬೆದರಿಕೆ ಸಂಶೋಧಕ ಡೇವಿಡ್ ಸ್ಯಾಂಚೊ ಹೇಳುತ್ತಾರೆ.
“ಅವರು ಎಲ್ಲಾ ಪಠ್ಯವನ್ನು ಹೊಸ ಮಾಹಿತಿಯನ್ನು ಹೊಂದಿರುವಂತೆ ಪ್ರಕ್ರಿಯೆಗೊಳಿಸುತ್ತಾರೆ, ಮತ್ತು ಆ ಮಾಹಿತಿಯು ಆಜ್ಞೆಯಾಗಿದ್ದರೆ, ಅವರು ಮಾಹಿತಿಯನ್ನು ಆಜ್ಞೆಯಾಗಿ ಪ್ರಕ್ರಿಯೆಗೊಳಿಸುತ್ತಾರೆ.”
ಪದಗಳ ದಾಖಲೆಗಳು, ಚಿತ್ರಗಳು ಮತ್ತು ದತ್ತಸಂಚಯಗಳಲ್ಲಿ ಸೂಚನೆಗಳು ಮತ್ತು ದುರುದ್ದೇಶಪೂರಿತ ಕಾರ್ಯಕ್ರಮಗಳನ್ನು ಹೇಗೆ ಮರೆಮಾಡಬಹುದು ಎಂಬುದನ್ನು ಅವರ ಕಂಪನಿ ಪ್ರದರ್ಶಿಸಿದೆ ಮತ್ತು AI ಅವುಗಳನ್ನು ಪ್ರಕ್ರಿಯೆಗೊಳಿಸಿದಾಗ ಸಕ್ರಿಯಗೊಳ್ಳುತ್ತದೆ.
ಇತರ ಅಪಾಯಗಳಿವೆ: OWASP ಎಂಬ ಭದ್ರತಾ ಸಮುದಾಯ 15 ಬೆದರಿಕೆಗಳನ್ನು ಗುರುತಿಸಿದೆ ಅದು ಏಜೆಂಟ ಎಐಗೆ ವಿಶಿಷ್ಟವಾಗಿದೆ.
ಹಾಗಾದರೆ, ರಕ್ಷಣೆಗಳು ಯಾವುವು? ಮಾನವ ಮೇಲ್ವಿಚಾರಣೆಯು ಸಮಸ್ಯೆಯನ್ನು ಪರಿಹರಿಸಲು ಅಸಂಭವವಾಗಿದೆ ಎಂದು ಶ್ರೀ ಸ್ಯಾಂಚೊ ನಂಬುತ್ತಾರೆ, ಏಕೆಂದರೆ ಏಜೆಂಟರ ಕೆಲಸದ ಹೊರೆಗಳನ್ನು ಉಳಿಸಿಕೊಳ್ಳಲು ನೀವು ಸಾಕಷ್ಟು ಜನರನ್ನು ಸೇರಿಸಲು ಸಾಧ್ಯವಿಲ್ಲ.
ಎಐನ ಹೆಚ್ಚುವರಿ ಪದರವನ್ನು ಎಐ ಏಜೆಂಟರಿಂದ ಹೊರಬರಲು ಮತ್ತು ಹೊರಬರಲು ಎಲ್ಲವನ್ನೂ ಪ್ರದರ್ಶಿಸಲು ಬಳಸಬಹುದು ಎಂದು ಶ್ರೀ ಸ್ಯಾಂಚೊ ಹೇಳುತ್ತಾರೆ.
ಕ್ಯಾಲಿಪ್ಸಾಯ್‌ನ ಪರಿಹಾರದ ಒಂದು ಭಾಗವೆಂದರೆ ಎಐ ಏಜೆಂಟರು ಅಪಾಯಕಾರಿ ಕ್ರಿಯೆಯನ್ನು ಕೈಗೊಳ್ಳುವ ಮೊದಲು ಸರಿಯಾದ ದಿಕ್ಕಿನಲ್ಲಿ ಸಾಗಿಸಲು ಥಾಟ್ ಇಂಜೆಕ್ಷನ್ ಎಂಬ ತಂತ್ರವಾಗಿದೆ.
“ಇದು ನಿಮ್ಮ ಕಿವಿಯಲ್ಲಿ ಸ್ವಲ್ಪ ದೋಷದಂತೆ ಹೇಳುತ್ತದೆ [the agent] ‘ಇಲ್ಲ, ಬಹುಶಃ ಅದನ್ನು ಮಾಡಬೇಡಿ’ “ಎಂದು ಶ್ರೀ ಕೇಸಿ ಹೇಳುತ್ತಾರೆ.
ಅವರ ಕಂಪನಿಯು ಈಗ ಎಐ ಏಜೆಂಟರಿಗೆ ಕೇಂದ್ರ ನಿಯಂತ್ರಣ ಫಲಕವನ್ನು ನೀಡುತ್ತದೆ, ಆದರೆ ಏಜೆಂಟರ ಸಂಖ್ಯೆ ಸ್ಫೋಟಗೊಂಡಾಗ ಮತ್ತು ಅವು ಶತಕೋಟಿ ಲ್ಯಾಪ್‌ಟಾಪ್‌ಗಳು ಮತ್ತು ಫೋನ್‌ಗಳಲ್ಲಿ ಚಾಲನೆಯಲ್ಲಿರುವಾಗ ಅದು ಕಾರ್ಯನಿರ್ವಹಿಸುವುದಿಲ್ಲ.
ಮುಂದಿನ ಹಂತ ಯಾವುದು?
“ನಾವು ಪ್ರತಿ ಏಜೆಂಟರೊಂದಿಗೆ ‘ಏಜೆಂಟ್ ಬಾಡಿಗಾರ್ಡ್ಸ್’ ಎಂದು ಕರೆಯುವದನ್ನು ನಿಯೋಜಿಸಲು ನಾವು ನೋಡುತ್ತಿದ್ದೇವೆ, ಅದರ ದಳ್ಳಾಲಿ ತನ್ನ ಕಾರ್ಯವನ್ನು ತಲುಪಿಸುತ್ತದೆ ಮತ್ತು ಸಂಸ್ಥೆಯ ವಿಶಾಲ ಅವಶ್ಯಕತೆಗಳಿಗೆ ವಿರುದ್ಧವಾದ ಕ್ರಮಗಳನ್ನು ತೆಗೆದುಕೊಳ್ಳುವುದಿಲ್ಲ ಎಂದು ಖಚಿತಪಡಿಸಿಕೊಳ್ಳುವುದು ಅವರ ಉದ್ದೇಶವಾಗಿದೆ” ಎಂದು ಶ್ರೀ ಕೇಸಿ ಹೇಳುತ್ತಾರೆ.
ಅಂಗರಕ್ಷಕನಿಗೆ ಹೇಳಬಹುದು, ಉದಾಹರಣೆಗೆ, ದತ್ತಾಂಶ ಸಂರಕ್ಷಣಾ ಶಾಸನಕ್ಕೆ ದಳ್ಳಾಲಿ ಅನುಸರಿಸುತ್ತದೆ ಎಂದು ಖಚಿತಪಡಿಸಿಕೊಳ್ಳಲು.
ಏಜೆಂಟರ ಎಐ ಭದ್ರತೆಯ ಸುತ್ತಲಿನ ಕೆಲವು ತಾಂತ್ರಿಕ ಚರ್ಚೆಗಳು ನೈಜ-ಪ್ರಪಂಚದ ಸಂದರ್ಭವನ್ನು ಕಳೆದುಕೊಂಡಿವೆ ಎಂದು ಶ್ರೀ ಮೆಹ್ತಾ ನಂಬಿದ್ದಾರೆ. ಗ್ರಾಹಕರಿಗೆ ತಮ್ಮ ಉಡುಗೊರೆ ಕಾರ್ಡ್ ಸಮತೋಲನವನ್ನು ನೀಡುವ ಏಜೆಂಟರ ಉದಾಹರಣೆಯನ್ನು ಅವರು ನೀಡುತ್ತಾರೆ.
ಯಾರಾದರೂ ಸಾಕಷ್ಟು ಉಡುಗೊರೆ ಕಾರ್ಡ್ ಸಂಖ್ಯೆಗಳನ್ನು ರೂಪಿಸಬಹುದು ಮತ್ತು ಯಾವ ನೈಜವೆಂದು ನೋಡಲು ಏಜೆಂಟರನ್ನು ಬಳಸಬಹುದು. ಅದು ಏಜೆಂಟರಲ್ಲಿನ ನ್ಯೂನತೆಯಲ್ಲ, ಆದರೆ ವ್ಯವಹಾರ ತರ್ಕದ ದುರುಪಯೋಗ ಎಂದು ಅವರು ಹೇಳುತ್ತಾರೆ.
“ಇದು ನೀವು ರಕ್ಷಿಸುವ ಏಜೆಂಟ್ ಅಲ್ಲ, ಇದು ವ್ಯವಹಾರ” ಎಂದು ಅವರು ಒತ್ತಿಹೇಳುತ್ತಾರೆ.
“ಕೆಟ್ಟ ಮನುಷ್ಯನಿಂದ ನೀವು ವ್ಯವಹಾರವನ್ನು ಹೇಗೆ ರಕ್ಷಿಸುತ್ತೀರಿ ಎಂದು ಯೋಚಿಸಿ. ಈ ಕೆಲವು ಸಂಭಾಷಣೆಗಳಲ್ಲಿ ತಪ್ಪಿಹೋಗುವ ಭಾಗ ಅದು.”
ಇದಲ್ಲದೆ, ಎಐ ಏಜೆಂಟರು ಹೆಚ್ಚು ಸಾಮಾನ್ಯವಾಗುತ್ತಿದ್ದಂತೆ, ಮತ್ತೊಂದು ಸವಾಲು ಹಳತಾದ ಮಾದರಿಗಳನ್ನು ರದ್ದುಗೊಳಿಸುವುದು.
ಹಳೆಯ “ಜೊಂಬಿ” ಏಜೆಂಟರು ವ್ಯವಹಾರದಲ್ಲಿ ಓಡಾಡಬಹುದು, ಅವರು ಪ್ರವೇಶಿಸಬಹುದಾದ ಎಲ್ಲಾ ವ್ಯವಸ್ಥೆಗಳಿಗೆ ಅಪಾಯವನ್ನುಂಟುಮಾಡುತ್ತಾರೆ ಎಂದು ಶ್ರೀ ಕೇಸಿ ಹೇಳುತ್ತಾರೆ.
ನೌಕರರ ಲಾಗಿನ್‌ಗಳನ್ನು ಹೊರಡುವಾಗ ಎಚ್‌ಆರ್ ನಿಷ್ಕ್ರಿಯಗೊಳಿಸುವ ವಿಧಾನದಂತೆಯೇ, ತಮ್ಮ ಕೆಲಸವನ್ನು ಮುಗಿಸಿದ ಎಐ ಏಜೆಂಟರನ್ನು ಸ್ಥಗಿತಗೊಳಿಸುವ ಪ್ರಕ್ರಿಯೆ ಇರಬೇಕು ಎಂದು ಅವರು ಹೇಳುತ್ತಾರೆ.
“ನೀವು ಮನುಷ್ಯನೊಂದಿಗೆ ಮಾಡುವಂತೆಯೇ ನೀವು ಅದೇ ರೀತಿ ಮಾಡುತ್ತಿದ್ದೀರಿ ಎಂದು ನೀವು ಖಚಿತಪಡಿಸಿಕೊಳ್ಳಬೇಕು: ವ್ಯವಸ್ಥೆಗಳ ಎಲ್ಲಾ ಪ್ರವೇಶವನ್ನು ಕತ್ತರಿಸಿ. ನಾವು ಅವುಗಳನ್ನು ಕಟ್ಟಡದಿಂದ ಹೊರಹಾಕುತ್ತೇವೆ, ಅವುಗಳ ಬ್ಯಾಡ್ಜ್ ಅನ್ನು ಅವುಗಳಿಂದ ಹೊರತೆಗೆಯುತ್ತೇವೆ ಎಂದು ಖಚಿತಪಡಿಸಿಕೊಳ್ಳೋಣ.”
