ಕಂಪನಿಯು ದಂಡಗಳು, ನಿಯಂತ್ರಕ ಕ್ರಮಗಳು ಮತ್ತು ಸಂಭವನೀಯ ಬೆದರಿಕೆಗಳನ್ನು ಎದುರಿಸುತ್ತಿರುವ ಕಾರಣ ಈ ನಿರ್ಧಾರವು ಬರುತ್ತದೆ ಸಾಮಾಜಿಕ ಮಾಧ್ಯಮ ಪ್ಲಾಟ್ಫಾರ್ಮ್ ಎಕ್ಸ್ನ ನಿಷೇಧ UK ನಲ್ಲಿ.
“ಇಮೇಜ್ ಉತ್ಪಾದನೆ ಮತ್ತು ಸಂಪಾದನೆ ಪ್ರಸ್ತುತ ಚಂದಾದಾರರಿಗೆ ಪಾವತಿಸುವುದಕ್ಕೆ ಸೀಮಿತವಾಗಿದೆ” ಎಂದು ಗ್ರೋಕ್ ಸ್ವಯಂಚಾಲಿತ ಪೋಸ್ಟ್ನಲ್ಲಿ ಹೇಳಿದರು.
ಪ್ಲಾಟ್ಫಾರ್ಮ್ನ ಬಿಲ್ಟ್-ಇನ್ AI ಚಾಟ್ಬಾಟ್ ಗ್ರೋಕ್ ಅನ್ನು ಬಳಕೆದಾರರು ತಮ್ಮ ಫೋಟೋಗಳಲ್ಲಿ ಅಥವಾ ಮಾರ್ಫ್ನಲ್ಲಿ ವಿವಸ್ತ್ರಗೊಳಿಸಲು ಮತ್ತು ಲೈಂಗಿಕವಾಗಿ ಅಶ್ಲೀಲ ಚಿತ್ರಗಳಲ್ಲಿ ಕುಶಲತೆಯಿಂದ ಅವರನ್ನು ವಿವಸ್ತ್ರಗೊಳಿಸಲು ಪ್ರೇರೇಪಿಸಿದ ನಂತರ ಈ ಕ್ರಮವು ಬಂದಿದೆ. ನಂತರ ಒಪ್ಪಿಗೆಯಿಲ್ಲದೆ ಇವುಗಳನ್ನು ಆನ್ಲೈನ್ನಲ್ಲಿ ಪ್ರಸಾರ ಮಾಡಲಾಯಿತು. ಗುಂಡು ಹಾರಿಸಿ ಕೊಲ್ಲಲ್ಪಟ್ಟ ಮಹಿಳೆಯರ ಗೊಂದಲದ ಚಿತ್ರಗಳನ್ನು ರಚಿಸಲು ಗ್ರೋಕ್ ಅನ್ನು ಬಳಸಲಾಗಿದೆ ಎಂದು ವರದಿಯಾಗಿದೆ.
ಪ್ರವೇಶವನ್ನು ಹೊಂದಿರುವ ಪಾವತಿಸಿದ ಬಳಕೆದಾರರು ಪೂರ್ಣ ವೈಯಕ್ತಿಕ ಮತ್ತು ಕ್ರೆಡಿಟ್ ಕಾರ್ಡ್ ವಿವರಗಳನ್ನು ಒದಗಿಸುವ ಅಗತ್ಯವಿದೆ ಮತ್ತು ವೈಶಿಷ್ಟ್ಯವನ್ನು ದುರುಪಯೋಗಪಡಿಸಿಕೊಂಡರೆ ಸುಲಭವಾಗಿ ಗುರುತಿಸಬಹುದು.
ಗ್ರೋಕ್ನ ಇಮೇಜ್-ಎಡಿಟಿಂಗ್ ಅಪ್ಡೇಟ್ ಡಿಸೆಂಬರ್ನಲ್ಲಿ ಬಿಡುಗಡೆಯಾಯಿತು.
ವೈಶಿಷ್ಟ್ಯವನ್ನು ನಿರ್ಬಂಧಿಸಲು ಅಥವಾ ತೆಗೆದುಹಾಕಲು ಪದೇ ಪದೇ ಸಾರ್ವಜನಿಕ ಕರೆಗಳ ಹೊರತಾಗಿಯೂ, ಇಲ್ಲಿಯವರೆಗೆ ಯಾವುದೇ ಕ್ರಮವನ್ನು ತೆಗೆದುಕೊಳ್ಳಲಾಗಿಲ್ಲ.
ಕಳೆದ ವಾರ ಭಾರತ ಸರ್ಕಾರವು “ಕಾನೂನುಬಾಹಿರ” ವಿಷಯದ ಮೇಲೆ ಸಾಮಾಜಿಕ ಮಾಧ್ಯಮ ಕಂಪನಿಯನ್ನು ಹೊಣೆಗಾರರನ್ನಾಗಿ ಮಾಡಿದ ನಂತರ, X ವ್ಯವಸ್ಥಿತ ದೋಷವನ್ನು ತಿರಸ್ಕರಿಸಿತು ಮತ್ತು ಬಳಕೆದಾರರ ನಡವಳಿಕೆಯ ಮೇಲೆ ಅದನ್ನು ದೂಷಿಸಿತು.
ಸಾಮಾಜಿಕ ಮಾಧ್ಯಮ ಮತ್ತು ಡೀಪ್ಫೇಕ್ ಸಂಶೋಧಕ ಜಿನೆವೀವ್ ಓಹ್ ಪ್ರಕಾರ, ಎಕ್ಸ್ನಲ್ಲಿನ ವಿಷಯದ ವಿಶ್ಲೇಷಣೆಯಲ್ಲಿ ಗ್ರೋಕ್ ಗಂಟೆಗೆ ಸುಮಾರು 7,750 ಲೈಂಗಿಕವಾಗಿ ಸೂಚಿಸುವ ಅಥವಾ ನಗ್ನಗೊಳಿಸುವ ಚಿತ್ರಗಳನ್ನು ರಚಿಸಿದ್ದಾರೆ ಎಂದು ವಾಲ್ ಸ್ಟ್ರೀಟ್ ಜರ್ನಲ್ ವರದಿ ಮಾಡಿದೆ.
ಹಾನಿಕಾರಕ AI- ರಚಿತವಾದ ವಿಷಯದ ಹರಡುವಿಕೆಯನ್ನು ನಿಯಂತ್ರಿಸಲು X ವಿಫಲವಾದಲ್ಲಿ ಅದರ ವಿರುದ್ಧ ಕಠಿಣ ಕ್ರಮಗಳನ್ನು ತೆಗೆದುಕೊಳ್ಳಬಹುದೆಂದು UK ಪ್ರಧಾನ ಮಂತ್ರಿ ಕೀರ್ ಸ್ಟಾರ್ಮರ್ ಎಚ್ಚರಿಸಿದ್ದಾರೆ. ಆಂಶಿಕವಾಗಿ ಬಟ್ಟೆ ಧರಿಸಿದ ಮಹಿಳೆಯರು ಮತ್ತು ಮಕ್ಕಳ AI-ಸೃಷ್ಟಿಸಿದ ಚಿತ್ರಗಳ ಉಲ್ಬಣ ಎಂದು ಅವರು ವಿವರಿಸಿದ ವಿಷಯದ ಮೇಲೆ X “ಹಿಡಿತವನ್ನು ಪಡೆದುಕೊಳ್ಳಲು” ಅವರು ಒತ್ತಾಯಿಸಿದರು, ವಸ್ತುವನ್ನು “ಅವಮಾನಕರ” ಮತ್ತು “ಅಸಹ್ಯಕರ” ಎಂದು ಕರೆದರು.
ದಿ ಟೆಲಿಗ್ರಾಫ್ ಪ್ರಕಾರ ಆನ್ಲೈನ್ ಸುರಕ್ಷತಾ ಕಾಯ್ದೆಯ ಸಂಪೂರ್ಣ ಬಲವನ್ನು ನಿಯೋಜಿಸಲು ಸರ್ಕಾರ ಸಿದ್ಧವಾಗಿದೆ. ಕಾನೂನಿನ ಅಡಿಯಲ್ಲಿ, ನಿಯಂತ್ರಕರು ಕಾನೂನುಬಾಹಿರ ಮತ್ತು ಹಾನಿಕಾರಕ ವಸ್ತುಗಳ ಹರಡುವಿಕೆಯನ್ನು ಸಮರ್ಪಕವಾಗಿ ತಡೆಗಟ್ಟದ ತಂತ್ರಜ್ಞಾನ ಕಂಪನಿಗಳ ವಿರುದ್ಧ ಶತಕೋಟಿ ಪೌಂಡ್ಗಳಷ್ಟು ಸಂಭಾವ್ಯವಾಗಿ ಬೃಹತ್ ದಂಡವನ್ನು ವಿಧಿಸುವ ಅಧಿಕಾರವನ್ನು ಹೊಂದಿದ್ದಾರೆ.
ಇಂಟರ್ನೆಟ್ ವಾಚ್ ಫೌಂಡೇಶನ್ (ಐಡಬ್ಲ್ಯುಎಫ್) ಎಂಬ ಚಾರಿಟಿಯು ಅಂತರ್ಜಾಲದಿಂದ ಮಕ್ಕಳ ಲೈಂಗಿಕ ಕಿರುಕುಳದ ವಸ್ತುಗಳನ್ನು ತೆಗೆದುಹಾಕಲು ಕೆಲಸ ಮಾಡುವ ಚಾರಿಟಿ, ಗ್ರೋಕ್ ಬಳಸಿ “ಸೃಷ್ಟಿಸಲ್ಪಟ್ಟಂತೆ ತೋರುವ” 11 ಮತ್ತು 13 ರ ನಡುವಿನ “ಕ್ರಿಮಿನಲ್ ಚಿತ್ರಣ” ವನ್ನು ಕಂಡುಹಿಡಿದ ನಂತರ ಕಳವಳಗಳು ಗಾಢವಾಗಿವೆ ಎಂದು ಬಿಬಿಸಿ ವರದಿ ಮಾಡಿದೆ.
ಡಾರ್ಕ್ ವೆಬ್ ಫೋರಮ್ನಲ್ಲಿ “ಹುಡುಗಿಯರ ಲೈಂಗಿಕತೆ ಮತ್ತು ಮೇಲುಡುಪು ಚಿತ್ರಣ” ವನ್ನು ಕಂಡುಹಿಡಿದಿದೆ ಎಂದು IWF ಹೇಳಿದೆ, ಅಲ್ಲಿ ಬಳಕೆದಾರರು ಚಿತ್ರಗಳನ್ನು ರಚಿಸಲು ಗ್ರೋಕ್ ಅನ್ನು ಬಳಸಿದ್ದಾರೆಂದು ಹೇಳಿದ್ದಾರೆ.
