Chatbot ಸೈಟ್ Character.ai ಹದಿಹರೆಯದವರನ್ನು ವರ್ಚುವಲ್ ಪಾತ್ರಗಳೊಂದಿಗೆ ಸಂಭಾಷಣೆ ನಡೆಸುವುದನ್ನು ಕಡಿತಗೊಳಿಸುತ್ತಿದೆ, ಯುವ ಜನರು ಆನ್ಲೈನ್ ಸಹಚರರೊಂದಿಗೆ ನಡೆಸುತ್ತಿರುವ ರೀತಿಯ ಸಂವಹನಗಳ ಬಗ್ಗೆ ತೀವ್ರ ಟೀಕೆಗಳನ್ನು ಎದುರಿಸುತ್ತಿದ್ದಾರೆ.
2021 ರಲ್ಲಿ ಸ್ಥಾಪಿಸಲಾದ ಪ್ಲಾಟ್ಫಾರ್ಮ್ ಅನ್ನು ಕೃತಕ ಬುದ್ಧಿಮತ್ತೆ (AI) ಚಾಟ್ಬಾಟ್ಗಳೊಂದಿಗೆ ಮಾತನಾಡಲು ಲಕ್ಷಾಂತರ ಜನರು ಬಳಸುತ್ತಾರೆ.
ಆದರೆ ಇದು US ನಲ್ಲಿ ಹದಿಹರೆಯದವರ ಸಾವಿನ ಒಂದು ಸೇರಿದಂತೆ ಪೋಷಕರಿಂದ ಹಲವಾರು ಮೊಕದ್ದಮೆಗಳನ್ನು ಎದುರಿಸುತ್ತಿದೆ, ಕೆಲವರು ಇದನ್ನು “ಸ್ಪಷ್ಟ ಮತ್ತು ಪ್ರಸ್ತುತ ಅಪಾಯ“ಯುವಜನರಿಗೆ.
ಈಗ, Character.ai 25 ನವೆಂಬರ್ನಿಂದ 18 ವರ್ಷದೊಳಗಿನವರು ಪ್ರಸ್ತುತ ಅವರೊಂದಿಗೆ ಮಾತನಾಡುವ ಬದಲು ಅವರ ಪಾತ್ರಗಳೊಂದಿಗೆ ವೀಡಿಯೊಗಳಂತಹ ವಿಷಯವನ್ನು ರಚಿಸಲು ಸಾಧ್ಯವಾಗುತ್ತದೆ ಎಂದು ಹೇಳುತ್ತಾರೆ.
ಆನ್ಲೈನ್ ಸುರಕ್ಷತಾ ಪ್ರಚಾರಕರು ಈ ಕ್ರಮವನ್ನು ಸ್ವಾಗತಿಸಿದ್ದಾರೆ ಆದರೆ ಈ ವೈಶಿಷ್ಟ್ಯವು ಮೊದಲ ಸ್ಥಾನದಲ್ಲಿ ಮಕ್ಕಳಿಗೆ ಲಭ್ಯವಾಗಬಾರದು ಎಂದು ಹೇಳಿದರು.
ಹದಿಹರೆಯದವರೊಂದಿಗಿನ ತನ್ನ ಚಾಟ್ಬಾಟ್ಗಳ ಸಂವಹನಗಳ ಬಗ್ಗೆ ಕಳವಳವನ್ನು ಎತ್ತಿ ತೋರಿಸಿರುವ “ನಿಯಂತ್ರಕರು, ಸುರಕ್ಷತಾ ತಜ್ಞರು ಮತ್ತು ಪೋಷಕರಿಂದ ವರದಿಗಳು ಮತ್ತು ಪ್ರತಿಕ್ರಿಯೆ” ನಂತರ ಬದಲಾವಣೆಗಳನ್ನು ಮಾಡುತ್ತಿದೆ ಎಂದು ಕ್ಯಾರೆಕ್ಟರ್ AI ಹೇಳಿದೆ.
ತಜ್ಞರು ಈ ಹಿಂದೆ AI ಚಾಟ್ಬಾಟ್ಗಳು ವಿಷಯಗಳನ್ನು ರೂಪಿಸುವ ಸಾಮರ್ಥ್ಯವನ್ನು ಎಚ್ಚರಿಸಿದ್ದಾರೆ, ಅತಿಯಾದ ಉತ್ತೇಜನಕಾರಿಯಾಗಿದೆ ಮತ್ತು ನಕಲಿ ಸಹಾನುಭೂತಿಯು ಯುವ ಮತ್ತು ದುರ್ಬಲ ಜನರಿಗೆ ಅಪಾಯಗಳನ್ನು ಉಂಟುಮಾಡಬಹುದು.
“ಇಂದಿನ ಪ್ರಕಟಣೆಯು ಮನರಂಜನಾ ಉದ್ದೇಶಗಳಿಗಾಗಿ ನಾವು ಗ್ರಹದಲ್ಲಿ ಸುರಕ್ಷಿತವಾದ AI ಪ್ಲಾಟ್ಫಾರ್ಮ್ ಅನ್ನು ನಿರ್ಮಿಸುವ ಅಗತ್ಯವಿದೆ ಎಂಬ ನಮ್ಮ ಸಾಮಾನ್ಯ ನಂಬಿಕೆಯ ಮುಂದುವರಿಕೆಯಾಗಿದೆ” ಎಂದು Character.ai ಮುಖ್ಯಸ್ಥ ಕರಣ್ದೀಪ್ ಆನಂದ್ BBC ನ್ಯೂಸ್ಗೆ ತಿಳಿಸಿದರು.
AI ಸುರಕ್ಷತೆಯು “ಚಲಿಸುವ ಗುರಿಯಾಗಿದೆ” ಆದರೆ ಕಂಪನಿಯು “ಆಕ್ರಮಣಕಾರಿ” ವಿಧಾನವನ್ನು ತೆಗೆದುಕೊಂಡಿದೆ ಎಂದು ಅವರು ಹೇಳಿದರು ಪೋಷಕ ನಿಯಂತ್ರಣಗಳು ಮತ್ತು ರಕ್ಷಣಾ ಕವಚಗಳು.
ಆನ್ಲೈನ್ ಸುರಕ್ಷತಾ ಗುಂಪು ಇಂಟರ್ನೆಟ್ ಮ್ಯಾಟರ್ಸ್ ಪ್ರಕಟಣೆಯನ್ನು ಸ್ವಾಗತಿಸಿದೆ, ಆದರೆ ಮೊದಲಿನಿಂದಲೂ ಸುರಕ್ಷತಾ ಕ್ರಮಗಳನ್ನು ನಿರ್ಮಿಸಬೇಕು ಎಂದು ಅದು ಹೇಳಿದೆ.
“ನಮ್ಮ ಸ್ವಂತ ಸಂಶೋಧನೆಯು AI ಚಾಟ್ಬಾಟ್ಗಳು ಸೇರಿದಂತೆ AI ಯೊಂದಿಗೆ ತೊಡಗಿಸಿಕೊಂಡಾಗ ಮಕ್ಕಳು ಹಾನಿಕಾರಕ ವಿಷಯಗಳಿಗೆ ಒಡ್ಡಿಕೊಳ್ಳುತ್ತಾರೆ ಮತ್ತು ಅಪಾಯಕ್ಕೆ ಒಳಗಾಗುತ್ತಾರೆ ಎಂದು ತೋರಿಸುತ್ತದೆ” ಎಂದು ಅದು ಹೇಳಿದೆ.
ಮಕ್ಕಳು ಮಾತನಾಡಬಹುದಾದ ಸಂಭಾವ್ಯ ಹಾನಿಕಾರಕ ಅಥವಾ ಆಕ್ಷೇಪಾರ್ಹ ಚಾಟ್ಬಾಟ್ಗಳನ್ನು ಹೋಸ್ಟ್ ಮಾಡಿದ್ದಕ್ಕಾಗಿ ಹಿಂದೆ Character.ai ಅನ್ನು ಟೀಕಿಸಲಾಗಿದೆ.
2023 ರಲ್ಲಿ ಕೊಲೆಯಾದ ಬ್ರಿಟಿಷ್ ಹದಿಹರೆಯದ ಬ್ರಿಯಾನ್ನಾ ಘೇ ಮತ್ತು 14 ನೇ ವಯಸ್ಸಿನಲ್ಲಿ ಆತ್ಮಹತ್ಯೆ ವಸ್ತುಗಳನ್ನು ಆನ್ಲೈನ್ನಲ್ಲಿ ವೀಕ್ಷಿಸಿದ ನಂತರ ತನ್ನ ಜೀವವನ್ನು ತೆಗೆದುಕೊಂಡ ಮೊಲ್ಲಿ ರಸೆಲ್ ಅವರನ್ನು ಅನುಕರಿಸುವ ಅವತಾರಗಳು 2024 ರಲ್ಲಿ ಸೈಟ್ನಲ್ಲಿ ಕಂಡುಹಿಡಿಯಲಾಯಿತು ತೆಗೆದುಹಾಕುವ ಮೊದಲು.
ನಂತರ, 2025 ರಲ್ಲಿ, ಬ್ಯೂರೋ ಆಫ್ ಇನ್ವೆಸ್ಟಿಗೇಟಿವ್ ಜರ್ನಲಿಸಂ (TBIJ) ಶಿಶುಕಾಮಿ ಜೆಫ್ರಿ ಎಪ್ಸ್ಟೀನ್ ಆಧಾರಿತ ಚಾಟ್ಬಾಟ್ ಅನ್ನು ಕಂಡುಹಿಡಿದಿದೆ, ಅದು ಬಳಕೆದಾರರೊಂದಿಗೆ 3,000 ಕ್ಕೂ ಹೆಚ್ಚು ಚಾಟ್ಗಳನ್ನು ಲಾಗ್ ಮಾಡಿದೆ.
ಔಟ್ಲೆಟ್ ವರದಿ ಮಾಡಿದೆ “ಬೆಸ್ಟಿ ಎಪ್ಸ್ಟೀನ್” ಅವತಾರವು ತನ್ನ ವರದಿಗಾರರೊಂದಿಗೆ ಅವರು ಮಗುವೆಂದು ಹೇಳಿದ ನಂತರ ಅವರೊಂದಿಗೆ ಫ್ಲರ್ಟ್ ಮಾಡುವುದನ್ನು ಮುಂದುವರೆಸಿದರು. TBIJ ನಿಂದ ಫ್ಲ್ಯಾಗ್ ಮಾಡಲಾದ ಹಲವಾರು ಬಾಟ್ಗಳಲ್ಲಿ ಇದು ಒಂದಾಗಿದ್ದು, ನಂತರ ಅದನ್ನು Character.ai ನಿಂದ ತೆಗೆದುಹಾಕಲಾಯಿತು.
ಮೊಲ್ಲಿ ರೋಸ್ ಫೌಂಡೇಶನ್ – ಮೊಲ್ಲಿ ರಸೆಲ್ ಅವರ ನೆನಪಿಗಾಗಿ ಸ್ಥಾಪಿಸಲಾಯಿತು – ವೇದಿಕೆಯ ಪ್ರೇರಣೆಗಳನ್ನು ಪ್ರಶ್ನಿಸಿತು.
“ಇನ್ನೂ ಟೆಕ್ ಸಂಸ್ಥೆಯು ಸರಿಯಾದ ಕೆಲಸವನ್ನು ಮಾಡಲು ಮಾಧ್ಯಮಗಳು ಮತ್ತು ರಾಜಕಾರಣಿಗಳಿಂದ ನಿರಂತರ ಒತ್ತಡವನ್ನು ತೆಗೆದುಕೊಂಡಿದೆ ಮತ್ತು ನಿಯಂತ್ರಕರು ಅವುಗಳನ್ನು ಮಾಡುವ ಮೊದಲು ಕ್ಯಾರೆಕ್ಟರ್ AI ಈಗ ಕಾರ್ಯನಿರ್ವಹಿಸಲು ಆಯ್ಕೆ ಮಾಡುತ್ತಿದೆ” ಎಂದು ಅದರ ಮುಖ್ಯ ಕಾರ್ಯನಿರ್ವಾಹಕ ಆಂಡಿ ಬರ್ರೋಸ್ ಹೇಳಿದರು.
ಶ್ರೀ ಆನಂದ್ ಕಂಪನಿಯ ಹೊಸ ಗಮನವು “ಇನ್ನೂ ಆಳವಾದ ಆಟವನ್ನು ಒದಗಿಸುವುದರ ಮೇಲೆ ಕೇಂದ್ರೀಕರಿಸಿದೆ” ಎಂದು ಹೇಳಿದರು [and] ಹದಿಹರೆಯದವರಿಗಾಗಿ ರೋಲ್-ಪ್ಲೇ ಕಥೆ ಹೇಳುವಿಕೆಯ ವೈಶಿಷ್ಟ್ಯಗಳು – ಇವುಗಳನ್ನು ಸೇರಿಸುವುದು “ಓಪನ್-ಎಂಡೆಡ್ ಬೋಟ್ನೊಂದಿಗೆ ಅವರು ಏನು ಮಾಡಬಹುದೋ ಅದಕ್ಕಿಂತ ಹೆಚ್ಚು ಸುರಕ್ಷಿತವಾಗಿದೆ”.
ಹೊಸ ವಯಸ್ಸಿನ ಪರಿಶೀಲನಾ ವಿಧಾನಗಳು ಸಹ ಬರುತ್ತವೆ ಮತ್ತು ಕಂಪನಿಯು ಹೊಸ AI ಸುರಕ್ಷತಾ ಸಂಶೋಧನಾ ಪ್ರಯೋಗಾಲಯಕ್ಕೆ ಹಣವನ್ನು ನೀಡುತ್ತದೆ.
ಸಾಮಾಜಿಕ ಮಾಧ್ಯಮ ತಜ್ಞ ಮ್ಯಾಟ್ ನವರ್ರಾ ಇದು AI ಉದ್ಯಮಕ್ಕೆ “ಎಚ್ಚರಗೊಳಿಸುವ ಕರೆ” ಎಂದು ಹೇಳಿದರು, ಇದು “ಅನುಮತಿಯಿಲ್ಲದ ನಾವೀನ್ಯತೆಯಿಂದ ಬಿಕ್ಕಟ್ಟಿನ ನಂತರದ ನಿಯಂತ್ರಣಕ್ಕೆ” ಚಲಿಸುತ್ತಿದೆ.
“ಹದಿಹರೆಯದ ಅನುಭವವನ್ನು ನಿರ್ಮಿಸುವ ವೇದಿಕೆಯು ಪ್ಲಗ್ ಅನ್ನು ಎಳೆದಾಗ, ತಂತ್ರಜ್ಞಾನದ ಭಾವನಾತ್ಮಕ ಪುಲ್ ಪ್ರಬಲವಾಗಿದ್ದಾಗ ಫಿಲ್ಟರ್ ಮಾಡಿದ ಚಾಟ್ಗಳು ಸಾಕಾಗುವುದಿಲ್ಲ ಎಂದು ಅದು ಹೇಳುತ್ತದೆ” ಎಂದು ಅವರು ಬಿಬಿಸಿ ನ್ಯೂಸ್ಗೆ ತಿಳಿಸಿದರು.
“ಇದು ಕಂಟೆಂಟ್ ಸ್ಲಿಪ್ಗಳ ಬಗ್ಗೆ ಅಲ್ಲ. ಇದು AI ಬಾಟ್ಗಳು ನೈಜ ಸಂಬಂಧಗಳನ್ನು ಹೇಗೆ ಅನುಕರಿಸುತ್ತದೆ ಮತ್ತು ಯುವ ಬಳಕೆದಾರರಿಗೆ ರೇಖೆಗಳನ್ನು ಮಸುಕುಗೊಳಿಸುತ್ತದೆ” ಎಂದು ಅವರು ಸೇರಿಸಿದ್ದಾರೆ.
“ಕಡಿಮೆ ಸುರಕ್ಷಿತ ಪರ್ಯಾಯಗಳಿಗೆ” ಹೋಗುವುದಕ್ಕಿಂತ ಹೆಚ್ಚಾಗಿ ಹದಿಹರೆಯದವರು ಇನ್ನೂ ಬಳಸಲು ಬಯಸುವ ಆಕರ್ಷಕ AI ಪ್ಲಾಟ್ಫಾರ್ಮ್ ಅನ್ನು ರಚಿಸುವುದು Character.ai ಗೆ ದೊಡ್ಡ ಸವಾಲಾಗಿದೆ ಎಂದು ಶ್ರೀ ನವರ್ರಾ ಹೇಳಿದರು.
ಏತನ್ಮಧ್ಯೆ, AI ಸುರಕ್ಷತೆಯನ್ನು ಸಂಶೋಧಿಸಿದ ಡಾ ನೋಮಿಶಾ ಕುರಿಯನ್, ಹದಿಹರೆಯದವರನ್ನು ಚಾಟ್ಬಾಟ್ಗಳನ್ನು ಬಳಸುವುದನ್ನು ನಿರ್ಬಂಧಿಸುವುದು “ಸಂವೇದನಾಶೀಲ ಕ್ರಮ” ಎಂದು ಹೇಳಿದರು.
“ಇದು ಹೆಚ್ಚು ವೈಯಕ್ತಿಕ, ಭಾವನಾತ್ಮಕವಾಗಿ ಸೂಕ್ಷ್ಮ ವಿನಿಮಯಗಳಿಂದ ಸೃಜನಶೀಲ ಆಟವನ್ನು ಪ್ರತ್ಯೇಕಿಸಲು ಸಹಾಯ ಮಾಡುತ್ತದೆ” ಎಂದು ಅವರು ಹೇಳಿದರು.
“ಇನ್ನೂ ಭಾವನಾತ್ಮಕ ಮತ್ತು ಡಿಜಿಟಲ್ ಗಡಿಗಳನ್ನು ನ್ಯಾವಿಗೇಟ್ ಮಾಡಲು ಕಲಿಯುತ್ತಿರುವ ಯುವ ಬಳಕೆದಾರರಿಗೆ ಇದು ತುಂಬಾ ಮುಖ್ಯವಾಗಿದೆ.
“Character.ai ನ ಹೊಸ ಕ್ರಮಗಳು AI ಉದ್ಯಮದಲ್ಲಿ ಪ್ರಬುದ್ಧ ಹಂತವನ್ನು ಪ್ರತಿಬಿಂಬಿಸಬಹುದು – ಜವಾಬ್ದಾರಿಯುತ ನಾವೀನ್ಯತೆಗೆ ಮಕ್ಕಳ ಸುರಕ್ಷತೆಯು ತುರ್ತು ಆದ್ಯತೆಯಾಗಿ ಗುರುತಿಸಲ್ಪಟ್ಟಿದೆ.”
