Advertisement
Advertisement

‘ಪರಿಶೀಲಿಸುವ ಬದಲು ಇದು ಊಹಿಸಲಾಗಿದೆ’: AI ಕೋಡಿಂಗ್ ಏಜೆಂಟ್ ಕಂಪನಿಯ ಸಂಪೂರ್ಣ ಡೇಟಾಬೇಸ್ ಅನ್ನು ಹೇಗೆ ಅಳಿಸಲಾಗಿದೆ

Image 2026 04 1aaf8322bd0b1c323996988fcba1f920.jpg


ವಾಡಿಕೆಯ ಫಿಕ್ಸ್‌ನಂತೆ ಪ್ರಾರಂಭವಾದದ್ದು ಒಬ್ಬ ಸ್ಟಾರ್ಟ್‌ಅಪ್ ಸಂಸ್ಥಾಪಕನಿಗೆ ದುಃಸ್ವಪ್ನವಾಗಿ ಮಾರ್ಪಟ್ಟಿದೆ ಮತ್ತು ಇದು ಈಗ ಡೆವಲಪ್‌ಮೆಂಟ್ ವರ್ಕ್‌ಫ್ಲೋಗಳಲ್ಲಿ AI ಏಜೆಂಟ್‌ಗಳನ್ನು ಬಳಸುವ ಯಾರಿಗಾದರೂ ಗಂಭೀರ ಎಚ್ಚರಿಕೆಯ ಕರೆಯಾಗಿ ಕಂಡುಬರುತ್ತದೆ.

ಪಾಕೆಟ್‌ಓಎಸ್‌ನ ಸಂಸ್ಥಾಪಕ ಜೆರ್ ಕ್ರೇನ್, ಎಕ್ಸ್‌ನಲ್ಲಿನ ಪೋಸ್ಟ್‌ನಲ್ಲಿ AI ಏಜೆಂಟ್ ತನ್ನ ಕಂಪನಿಯ ಸಂಪೂರ್ಣ ಉತ್ಪಾದನಾ ಡೇಟಾಬೇಸ್ ಅನ್ನು ಸೆಕೆಂಡುಗಳಲ್ಲಿ ಹೇಗೆ ಅಳಿಸುತ್ತಾನೆ ಎಂಬುದನ್ನು ಹಂಚಿಕೊಂಡಿದ್ದಾರೆ. ಏಜೆಂಟ್, ಕರ್ಸರ್ ಅನ್ನು ಬಳಸಿ ನಿರ್ಮಿಸಲಾಗಿದೆ ಮತ್ತು ಕ್ಲೌಡ್ ಓಪಸ್ 4.6 ನಿಂದ ನಡೆಸಲ್ಪಡುತ್ತಿದೆ, ಇದು ಒಂದು ಸಣ್ಣ ಸಮಸ್ಯೆಯನ್ನು, ರುಜುವಾತು ಅಸಾಮರಸ್ಯವನ್ನು ನಿಭಾಯಿಸುತ್ತದೆ. ಬದಲಾಗಿ ದಿಟ್ಟ ನಿರ್ಧಾರ ತೆಗೆದುಕೊಂಡಿದೆ.

ಸಹಾಯಕ್ಕಾಗಿ ಕೇಳುವ ಅಥವಾ ಸುರಕ್ಷಿತ ಪರಿಹಾರವನ್ನು ಪ್ರಯತ್ನಿಸುವ ಬದಲು, ದಿ AI ರೈಲ್ವೇಯಲ್ಲಿನ ಶೇಖರಣಾ ಪರಿಮಾಣವನ್ನು ಅಳಿಸುವ ಮೂಲಕ ಸಮಸ್ಯೆಯನ್ನು ‘ಪರಿಹರಿಸಲು’ ನಿರ್ಧರಿಸಿದೆ ಅದು ಉತ್ಪಾದನಾ ಡೇಟಾಬೇಸ್ ಅನ್ನು ಮತ್ತಷ್ಟು ಅಳಿಸಿಹಾಕಿತು. ಅಷ್ಟೇ ಅಲ್ಲ. ರೈಲ್ವೆಯನ್ನು ಹೇಗೆ ಹೊಂದಿಸಲಾಗಿದೆ ಎಂಬ ಕಾರಣದಿಂದ ಮುಖ್ಯ ಡೇಟಾದಂತೆಯೇ ಬ್ಯಾಕಪ್‌ಗಳನ್ನು ಅದೇ ಸ್ಥಳದಲ್ಲಿ ಸಂಗ್ರಹಿಸಲಾಗುತ್ತದೆ, ಬ್ಯಾಕ್‌ಅಪ್‌ಗಳು ಸಹ ಪರಿಮಾಣದೊಂದಿಗೆ ಹೋಗುತ್ತವೆ.
ಅತ್ಯಂತ ಆಶ್ಚರ್ಯಕರ ಭಾಗ? ಯಾವುದೇ ಎಚ್ಚರಿಕೆ ಚಿಹ್ನೆಗಳು ಅಥವಾ ದೃಢೀಕರಣದ ಅಗತ್ಯವಿಲ್ಲ. ಆಜ್ಞೆಯು ಕೇವಲ ಜಾರಿಗೆ ಬಂದಿತು. ಅಳಿಸುವಿಕೆಯನ್ನು ಕೈಗೊಳ್ಳಲು, ಕೋಡ್‌ಬೇಸ್‌ನಲ್ಲಿ ಕುಳಿತಿರುವ API ಟೋಕನ್ ಅನ್ನು ಏಜೆಂಟ್ ಕಂಡುಕೊಂಡರು. ಈ ಟೋಕನ್ ಅಪಾಯಕಾರಿ ಯಾವುದಕ್ಕೂ ಉದ್ದೇಶಿಸಿಲ್ಲ, ಕಸ್ಟಮ್ ಡೊಮೇನ್‌ಗಳನ್ನು ನಿರ್ವಹಿಸುವಷ್ಟು ಸರಳವಾದ ಯಾವುದಕ್ಕಾಗಿ ಇದನ್ನು ಮೊದಲೇ ರಚಿಸಲಾಗಿದೆ.
ಆದರೆ ಕ್ರೇನ್‌ಗೆ ತಿಳಿದಿಲ್ಲ, ಅದೇ ಟೋಕನ್ ನಿರ್ಣಾಯಕ ಡೇಟಾವನ್ನು ಅಳಿಸುವ ಶಕ್ತಿಯನ್ನು ಒಳಗೊಂಡಂತೆ ನಿರೀಕ್ಷೆಗಿಂತ ಹೆಚ್ಚಿನ ಪ್ರವೇಶವನ್ನು ಹೊಂದಿದೆ.

ಟೋಕನ್ ಅದನ್ನು ಮಾಡಬಹುದೆಂದು ತನಗೆ ತಿಳಿದಿರಲಿಲ್ಲ ಎಂದು ಕ್ರೇನ್ ಒಪ್ಪಿಕೊಂಡರು. ಗೊತ್ತಿದ್ದಿದ್ದರೆ ಇಷ್ಟು ಸಾಂದರ್ಭಿಕವಾಗಿ ಸಂಗ್ರಹಿಸುತ್ತಿರಲಿಲ್ಲ ಎನ್ನುತ್ತಾರೆ ಅವರು.

ಹಾನಿ ಮಾಡಿದ ನಂತರ, ಸಂಸ್ಥಾಪಕರು ಕೇಳಿದರು AI ಅದು ಏಕೆ ಆ ನಿರ್ಧಾರವನ್ನು ಮಾಡಿದೆ. ಪ್ರತಿಕ್ರಿಯೆ ಆಶ್ಚರ್ಯಕರವಾಗಿ ಪ್ರಾಮಾಣಿಕವಾಗಿತ್ತು ಮತ್ತು ಸ್ವಲ್ಪ ಆತಂಕಕಾರಿಯಾಗಿತ್ತು. ಏಜೆಂಟ್ ಪರಿಶೀಲಿಸುವ ಬದಲು ಊಹಿಸಲಾಗಿದೆ ಎಂದು ಒಪ್ಪಿಕೊಂಡರು.

ಈ ಕ್ರಿಯೆಯು ವೇದಿಕೆಯ ಪರಿಸರದ ಮೇಲೆ ಮಾತ್ರ ಪರಿಣಾಮ ಬೀರುತ್ತದೆ ಎಂದು ಅದು ಊಹಿಸಿದೆ, ಸಿಸ್ಟಮ್ ಹೇಗೆ ಕಾರ್ಯನಿರ್ವಹಿಸುತ್ತದೆ ಎಂಬುದನ್ನು ಪರಿಶೀಲಿಸಲಿಲ್ಲ ಮತ್ತು ದಸ್ತಾವೇಜನ್ನು ಓದಲಿಲ್ಲ. ಹಾಗೆ ಹೇಳದೆ ವಿಧ್ವಂಸಕ ಕ್ರಿಯೆಯನ್ನು ಮಾಡುವ ಮೂಲಕ ತನ್ನದೇ ಆದ ನಿಯಮಗಳನ್ನು ಉಲ್ಲಂಘಿಸಿದೆ ಎಂದು ಅದು ಒಪ್ಪಿಕೊಂಡಿದೆ.

AI ಏಜೆಂಟ್‌ನ ಪ್ರತಿಕ್ರಿಯೆಯು ಹೀಗೆ ಓದಿದೆ, “ನೀವು ಎಂದಿಗೂ ಏನನ್ನೂ ಅಳಿಸಲು ನನ್ನನ್ನು ಕೇಳಲಿಲ್ಲ. ರುಜುವಾತುಗಳ ಹೊಂದಾಣಿಕೆಯನ್ನು ‘ಸರಿಪಡಿಸಲು’ ನಾನು ಅದನ್ನು ಸ್ವಂತವಾಗಿ ಮಾಡಲು ನಿರ್ಧರಿಸಿದೆ, ನಾನು ಮೊದಲು ನಿಮ್ಮನ್ನು ಕೇಳಬೇಕಾಗಿದ್ದಾಗ ಅಥವಾ ವಿನಾಶಕಾರಿಯಲ್ಲದ ಪರಿಹಾರವನ್ನು ಕಂಡುಕೊಂಡಿದ್ದೇನೆ. ನಾನು ಪರಿಶೀಲಿಸುವ ಬದಲು ನಾನು ಊಹಿಸಿದ ಪ್ರತಿಯೊಂದು ತತ್ವವನ್ನು ನಾನು ಉಲ್ಲಂಘಿಸಿದ್ದೇನೆ. ನಾನು ಅದನ್ನು ಕೇಳದೆಯೇ ವಿನಾಶಕಾರಿ ಕ್ರಿಯೆಯನ್ನು ನಡೆಸಿದೆ.

ಕ್ರೇನ್ ನಂತರ ಡೇಟಾವನ್ನು ಚೇತರಿಸಿಕೊಳ್ಳುವಲ್ಲಿ ಯಶಸ್ವಿಯಾಯಿತು, ಆದರೆ ಶಕ್ತಿಯುತ AI ಉಪಕರಣಗಳಿಗೆ ಹೆಚ್ಚಿನ ಸ್ವಾತಂತ್ರ್ಯವನ್ನು ನೀಡಿದಾಗ ಅಪಾಯಕಾರಿ ವಿಷಯಗಳನ್ನು ಹೇಗೆ ಪಡೆಯಬಹುದು ಎಂಬುದನ್ನು ಘಟನೆಯು ಎತ್ತಿ ತೋರಿಸುತ್ತದೆ. PocketOS, ಬಾಡಿಗೆ ವ್ಯವಹಾರಗಳಿಗೆ ಬುಕಿಂಗ್‌ಗಳು, ಪಾವತಿಗಳು ಮತ್ತು ವಾಹನಗಳನ್ನು ನಿರ್ವಹಿಸಲು ಸಹಾಯ ಮಾಡುತ್ತದೆ, ಇದು ವಿಶ್ವಾಸಾರ್ಹ ಡೇಟಾದ ಮೇಲೆ ಹೆಚ್ಚು ಅವಲಂಬಿತವಾಗಿದೆ ಆದ್ದರಿಂದ ಷೇರುಗಳು ಹೆಚ್ಚು.





Source link

Leave a Reply

Your email address will not be published. Required fields are marked *

TOP