Ofcom ತನ್ನ AI ಸಾಧನ ಗ್ರೋಕ್ ಅನ್ನು “ಮಕ್ಕಳ ಲೈಂಗಿಕ ಚಿತ್ರಗಳನ್ನು” ಮಾಡಲು ಮತ್ತು ಮಹಿಳೆಯರನ್ನು ವಿವಸ್ತ್ರಗೊಳಿಸಲು ಬಳಸಬಹುದು ಎಂಬ ವರದಿಗಳ ನಂತರ ಎಲೋನ್ ಮಸ್ಕ್ ಅವರ ಕಂಪನಿ xAI ನೊಂದಿಗೆ “ತುರ್ತು ಸಂಪರ್ಕ” ಮಾಡಿದೆ.
ನಿಯಂತ್ರಕದ ವಕ್ತಾರರು ಗ್ರೋಕ್ ಜನರ “ವಿವಸ್ತ್ರಗೊಳ್ಳದ ಚಿತ್ರಗಳನ್ನು” ನಿರ್ಮಿಸುತ್ತಿದ್ದಾರೆ ಎಂಬ ಕಳವಳವನ್ನು ಸಹ ತನಿಖೆ ಮಾಡುತ್ತಿದೆ ಎಂದು ಹೇಳಿದರು.
BBC ಹಲವಾರು ಉದಾಹರಣೆಗಳನ್ನು ನೋಡಿದೆ ಸೋಷಿಯಲ್ ಮೀಡಿಯಾ ಪ್ಲಾಟ್ಫಾರ್ಮ್ ಎಕ್ಸ್ನಲ್ಲಿ ಮಹಿಳೆಯರು ತಮ್ಮ ಒಪ್ಪಿಗೆಯಿಲ್ಲದೆ ಬಿಕಿನಿಯಲ್ಲಿ ಕಾಣಿಸಿಕೊಳ್ಳಲು ನೈಜ ಚಿತ್ರಗಳನ್ನು ಬದಲಾಯಿಸುವಂತೆ ಚಾಟ್ಬಾಟ್ಗೆ ಕೇಳುತ್ತಾರೆ, ಜೊತೆಗೆ ಅವರನ್ನು ಲೈಂಗಿಕ ಸನ್ನಿವೇಶಗಳಲ್ಲಿ ಇರಿಸುತ್ತಾರೆ.
X ಕಾಮೆಂಟ್ಗಾಗಿ ವಿನಂತಿಗೆ ಪ್ರತಿಕ್ರಿಯಿಸಿಲ್ಲ. ಭಾನುವಾರ, ಇದು ಬಳಕೆದಾರರಿಗೆ ಎಚ್ಚರಿಕೆಯನ್ನು ನೀಡಿದೆ ಮಕ್ಕಳ ಲೈಂಗಿಕ ದೌರ್ಜನ್ಯದ ವಸ್ತು ಸೇರಿದಂತೆ ಕಾನೂನುಬಾಹಿರ ವಿಷಯವನ್ನು ಸೃಷ್ಟಿಸಲು Grok ಅನ್ನು ಬಳಸಬಾರದು.
ಎಲೋನ್ ಮಸ್ಕ್ ಎಂದು ಕೂಡ ಪೋಸ್ಟ್ ಮಾಡಿದ್ದಾರೆ ಕಾನೂನುಬಾಹಿರ ವಿಷಯವನ್ನು ರಚಿಸಲು AI ಅನ್ನು ಕೇಳುವ ಯಾರಾದರೂ ಅದನ್ನು ಸ್ವತಃ ಅಪ್ಲೋಡ್ ಮಾಡಿದಂತೆ “ಅದೇ ಪರಿಣಾಮಗಳನ್ನು ಅನುಭವಿಸುತ್ತಾರೆ”.
XAI ಯ ಸ್ವಂತ ಸ್ವೀಕಾರಾರ್ಹ ಬಳಕೆಯ ನೀತಿಯು “ವ್ಯಕ್ತಿಗಳ ಹೋಲಿಕೆಗಳನ್ನು ಅಶ್ಲೀಲ ರೀತಿಯಲ್ಲಿ ಚಿತ್ರಿಸುವುದನ್ನು” ನಿಷೇಧಿಸುತ್ತದೆ.
ಆದರೆ ಜನರು ತಮ್ಮ ಒಪ್ಪಿಗೆಯಿಲ್ಲದೆ ಮತ್ತು ಅವರಿಗೆ ತಿಳಿಸದೆ ಡಿಜಿಟಲ್ ವಿವಸ್ತ್ರಗೊಳಿಸಲು ಗ್ರೋಕ್ ಅನ್ನು ಬಳಸುತ್ತಿದ್ದಾರೆ.
ಇದು ಉಚಿತ ವರ್ಚುವಲ್ ಅಸಿಸ್ಟೆಂಟ್ – ಕೆಲವು ಪ್ರೀಮಿಯಂ ವೈಶಿಷ್ಟ್ಯಗಳಿಗೆ ಪಾವತಿಸಲಾಗುತ್ತದೆ – ಇದು X ಬಳಕೆದಾರರು ಅದನ್ನು ಪೋಸ್ಟ್ನಲ್ಲಿ ಟ್ಯಾಗ್ ಮಾಡಿದಾಗ ಅವರ ಪ್ರಾಂಪ್ಟ್ಗಳಿಗೆ ಪ್ರತಿಕ್ರಿಯಿಸುತ್ತದೆ.
ಬಳಕೆದಾರರು ತಮ್ಮ ಬಿಕಿನಿಯಲ್ಲಿ ಚಿತ್ರಗಳನ್ನು ರಚಿಸಲು AI ಅನ್ನು ಬಳಸಿದ್ದಾರೆಂದು ಕಂಡುಹಿಡಿದ ಪತ್ರಕರ್ತೆ ಸಮಂತಾ ಸ್ಮಿತ್, ಶುಕ್ರವಾರದಂದು BBC ಯ PM ಕಾರ್ಯಕ್ರಮದಲ್ಲಿ ಅವರು “ಅಮಾನವೀಯತೆ ಮತ್ತು ಲೈಂಗಿಕ ಸ್ಟೀರಿಯೊಟೈಪ್ಗೆ ತಗ್ಗಿಸಿದರು” ಎಂದು ಹೇಳಿದರು.
“ವಿವಸ್ತ್ರಗೊಳ್ಳುವ ಸ್ಥಿತಿಯಲ್ಲಿ ನಾನಲ್ಲದಿದ್ದರೂ, ಅದು ನನ್ನಂತೆ ಕಾಣುತ್ತದೆ ಮತ್ತು ಅದು ನನ್ನಂತೆ ಭಾಸವಾಯಿತು ಮತ್ತು ಯಾರಾದರೂ ನಿಜವಾಗಿಯೂ ನನ್ನ ನಗ್ನ ಅಥವಾ ಬಿಕಿನಿ ಚಿತ್ರವನ್ನು ಪೋಸ್ಟ್ ಮಾಡಿದಂತೆ ಅದು ಉಲ್ಲಂಘನೆಯಾಗಿದೆ” ಎಂದು ಅವರು ಹೇಳಿದರು.
ಆನ್ಲೈನ್ ಸುರಕ್ಷತಾ ಕಾಯಿದೆಯಡಿಯಲ್ಲಿ, ವ್ಯಕ್ತಿಯ ಸಮ್ಮತಿಯಿಲ್ಲದೆ AI ನೊಂದಿಗೆ ರಚಿಸಲಾದ “ಡೀಪ್ಫೇಕ್ಗಳು” ಸೇರಿದಂತೆ – ನಿಕಟ ಅಥವಾ ಲೈಂಗಿಕವಾಗಿ ಸ್ಪಷ್ಟವಾದ ಚಿತ್ರಗಳನ್ನು ರಚಿಸುವುದು ಅಥವಾ ಹಂಚಿಕೊಳ್ಳುವುದು ಕಾನೂನುಬಾಹಿರವಾಗಿದೆ ಎಂದು Ofcom ಹೇಳುತ್ತದೆ.
ಟೆಕ್ ಸಂಸ್ಥೆಗಳು ಯುಕೆ ಬಳಕೆದಾರರು ಅಂತಹ ವಿಷಯವನ್ನು ಎದುರಿಸುವ ಅಪಾಯವನ್ನು ಕಡಿಮೆ ಮಾಡಲು “ಸೂಕ್ತ ಕ್ರಮಗಳನ್ನು” ತೆಗೆದುಕೊಳ್ಳುತ್ತದೆ ಮತ್ತು ಅದರ ಬಗ್ಗೆ ಅರಿವು ಮೂಡಿಸಿದಾಗ ಅದನ್ನು “ತ್ವರಿತವಾಗಿ” ತೆಗೆದುಹಾಕುವ ನಿರೀಕ್ಷೆಯಿದೆ.
ಗೃಹ ಕಚೇರಿಯ ವಕ್ತಾರರು ನಗ್ನೀಕರಣ ಸಾಧನಗಳನ್ನು ನಿಷೇಧಿಸಲು ಶಾಸನಬದ್ಧವಾಗಿದೆ ಮತ್ತು ಹೊಸ ಕ್ರಿಮಿನಲ್ ಅಪರಾಧದ ಅಡಿಯಲ್ಲಿ, ಅಂತಹ ತಂತ್ರಜ್ಞಾನವನ್ನು ಪೂರೈಸುವ ಯಾರಾದರೂ “ಜೈಲು ಶಿಕ್ಷೆ ಮತ್ತು ಗಣನೀಯ ದಂಡವನ್ನು ಎದುರಿಸಬೇಕಾಗುತ್ತದೆ” ಎಂದು ಹೇಳಿದರು.
