ಐಡಬ್ಲ್ಯುಎಫ್ ಮಕ್ಕಳ ಲೈಂಗಿಕ ಚಿತ್ರಣವನ್ನು ಕಂಡುಹಿಡಿದಿದೆ, ಅದು ಗ್ರೋಕ್‌ನಿಂದ ಮಾಡಲ್ಪಟ್ಟಿದೆ ಎಂದು ತೋರುತ್ತದೆ

ಇಂಟರ್ನೆಟ್ ವಾಚ್ ಫೌಂಡೇಶನ್ (IWF) ಅದರ ವಿಶ್ಲೇಷಕರು 11 ಮತ್ತು 13 ರ ನಡುವಿನ ವಯಸ್ಸಿನ ಹುಡುಗಿಯರ “ಕ್ರಿಮಿನಲ್ ಚಿತ್ರಣ” ವನ್ನು ಕಂಡುಹಿಡಿದಿದ್ದಾರೆ ಎಂದು ಹೇಳುತ್ತದೆ, ಇದನ್ನು ಗ್ರೋಕ್ ಬಳಸಿ “ಸೃಷ್ಟಿಸಲಾಗಿದೆ” ಎಂದು ತೋರುತ್ತದೆ.

AI ಉಪಕರಣವು ಎಲೋನ್ ಮಸ್ಕ್‌ನ xAI ಸಂಸ್ಥೆಯ ಒಡೆತನದಲ್ಲಿದೆ. ಇದನ್ನು ಅದರ ವೆಬ್‌ಸೈಟ್ ಮತ್ತು ಅಪ್ಲಿಕೇಶನ್ ಮೂಲಕ ಅಥವಾ ಸಾಮಾಜಿಕ ಮಾಧ್ಯಮ ಪ್ಲಾಟ್‌ಫಾರ್ಮ್ ಎಕ್ಸ್ ಮೂಲಕ ಪ್ರವೇಶಿಸಬಹುದು.

“ಡಾರ್ಕ್ ವೆಬ್ ಫೋರಮ್” ನಲ್ಲಿ “ಹುಡುಗಿಯರ ಲೈಂಗಿಕತೆ ಮತ್ತು ಮೇಲುಡುಪು ಚಿತ್ರಣ” ಕಂಡುಬಂದಿದೆ ಎಂದು IWF ಹೇಳಿದೆ, ಇದರಲ್ಲಿ ಬಳಕೆದಾರರು ಚಿತ್ರಣವನ್ನು ರಚಿಸಲು ಗ್ರೋಕ್ ಅನ್ನು ಬಳಸಿದ್ದಾರೆಂದು ಹೇಳಿದ್ದಾರೆ.

BBC ಕಾಮೆಂಟ್‌ಗಾಗಿ X ಮತ್ತು xAI ಅನ್ನು ಸಂಪರ್ಕಿಸಿದೆ.

IWF ನ Ngaire ಅಲೆಕ್ಸಾಂಡರ್ ಗ್ರೋಕ್ ನಂತಹ BBC ಉಪಕರಣಗಳು ಈಗ “ಮಕ್ಕಳ ಲೈಂಗಿಕ AI ಚಿತ್ರಣವನ್ನು ಮುಖ್ಯವಾಹಿನಿಗೆ ತರುವ” ಅಪಾಯದಲ್ಲಿದೆ ಎಂದು ಹೇಳಿದರು.

ಕ್ರಿಮಿನಲ್ ವಸ್ತುವಿನ ಅತ್ಯಂತ ಕಡಿಮೆ ತೀವ್ರತೆ – ಯುಕೆ ಕಾನೂನಿನ ಅಡಿಯಲ್ಲಿ ವಸ್ತುವನ್ನು ವರ್ಗ ಸಿ ಎಂದು ವರ್ಗೀಕರಿಸಲಾಗುವುದು ಎಂದು ಅವರು ಹೇಳಿದರು.

ಆದರೆ ಅದನ್ನು ಅಪ್‌ಲೋಡ್ ಮಾಡಿದ ಬಳಕೆದಾರರು ನಂತರ xAI ನಿಂದ ಮಾಡದ ವಿಭಿನ್ನ AI ಸಾಧನವನ್ನು ಬಳಸಿದ್ದಾರೆ, ಇದು ಒಂದು ವರ್ಗ A ಚಿತ್ರವನ್ನು ರಚಿಸಲು – ಅತ್ಯಂತ ಗಂಭೀರ ವರ್ಗವಾಗಿದೆ.

“ಜನರು ಫೋಟೋ-ರಿಯಲಿಸ್ಟಿಕ್ ಮಕ್ಕಳ ಲೈಂಗಿಕ ನಿಂದನೆ ವಸ್ತು (CSAM) ಅನ್ನು ಸ್ಪಷ್ಟವಾಗಿ ರಚಿಸುವ ಸುಲಭ ಮತ್ತು ವೇಗದ ಬಗ್ಗೆ ನಾವು ಹೆಚ್ಚು ಕಾಳಜಿ ವಹಿಸುತ್ತೇವೆ” ಎಂದು ಅವರು ಹೇಳಿದರು.

ದತ್ತಿ, ಇದು ಮಕ್ಕಳ ಲೈಂಗಿಕ ದೌರ್ಜನ್ಯದ ವಸ್ತುಗಳನ್ನು ತೆಗೆದುಹಾಕುವ ಗುರಿಯನ್ನು ಹೊಂದಿದೆ ಅಂತರ್ಜಾಲದಿಂದ, ಶಂಕಿತ CSAM ಅನ್ನು ವರದಿ ಮಾಡಬಹುದಾದ ಹಾಟ್‌ಲೈನ್ ಅನ್ನು ನಿರ್ವಹಿಸುತ್ತದೆ ಮತ್ತು ಆ ವಸ್ತುವಿನ ಕಾನೂನುಬದ್ಧತೆ ಮತ್ತು ತೀವ್ರತೆಯನ್ನು ನಿರ್ಣಯಿಸುವ ವಿಶ್ಲೇಷಕರನ್ನು ನೇಮಿಸುತ್ತದೆ.

ಅದರ ವಿಶ್ಲೇಷಕರು ಡಾರ್ಕ್ ವೆಬ್‌ನಲ್ಲಿ ವಿಷಯವನ್ನು ಕಂಡುಕೊಂಡಿದ್ದಾರೆ – ಸಾಮಾಜಿಕ ಮಾಧ್ಯಮ ಪ್ಲಾಟ್‌ಫಾರ್ಮ್ ಎಕ್ಸ್‌ನಲ್ಲಿ ಚಿತ್ರಗಳು ಕಂಡುಬಂದಿಲ್ಲ.

X ಮತ್ತು xAI ಅನ್ನು ಈ ಹಿಂದೆ Ofcom ನಿಂದ ಸಂಪರ್ಕಿಸಲಾಗಿತ್ತು, ಕೆಳಗಿನ ವರದಿಗಳ ಪ್ರಕಾರ Grok ಅನ್ನು “ಮಕ್ಕಳ ಲೈಂಗಿಕ ಚಿತ್ರಗಳನ್ನು” ಮಾಡಲು ಮತ್ತು ಮಹಿಳೆಯರನ್ನು ವಿವಸ್ತ್ರಗೊಳಿಸಲು ಬಳಸಬಹುದು.

ಮಹಿಳೆಯರು ತಮ್ಮ ಒಪ್ಪಿಗೆಯಿಲ್ಲದೆ ಬಿಕಿನಿಯಲ್ಲಿ ಕಾಣಿಸಿಕೊಳ್ಳುವಂತೆ ಮಾಡಲು ಚಾಟ್‌ಬಾಟ್‌ಗೆ ನೈಜ ಚಿತ್ರಗಳನ್ನು ಬದಲಾಯಿಸುವಂತೆ ಕೇಳುವ ಹಲವಾರು ಉದಾಹರಣೆಗಳನ್ನು ಸಾಮಾಜಿಕ ಮಾಧ್ಯಮ ಪ್ಲಾಟ್‌ಫಾರ್ಮ್ ಎಕ್ಸ್‌ನಲ್ಲಿ ಬಿಬಿಸಿ ನೋಡಿದೆ, ಜೊತೆಗೆ ಅವರನ್ನು ಲೈಂಗಿಕ ಸನ್ನಿವೇಶಗಳಲ್ಲಿ ಇರಿಸಿದೆ.

X ನಲ್ಲಿ ಅಂತಹ ಚಿತ್ರಗಳ ವರದಿಗಳನ್ನು ಸ್ವೀಕರಿಸಿದೆ ಎಂದು IWF ಹೇಳಿದೆ, ಆದಾಗ್ಯೂ ಇವುಗಳು CSAM ನ ಕಾನೂನು ವ್ಯಾಖ್ಯಾನವನ್ನು ಪೂರೈಸಿದೆ ಎಂದು ಇದುವರೆಗೆ ನಿರ್ಣಯಿಸಲಾಗಿಲ್ಲ.

ಹಿಂದಿನ ಹೇಳಿಕೆಯಲ್ಲಿ, X ಹೀಗೆ ಹೇಳಿದೆ: “CSAM ಸೇರಿದಂತೆ X ನಲ್ಲಿನ ಕಾನೂನುಬಾಹಿರ ವಿಷಯದ ವಿರುದ್ಧ ನಾವು ಅದನ್ನು ತೆಗೆದುಹಾಕುವ ಮೂಲಕ, ಖಾತೆಗಳನ್ನು ಶಾಶ್ವತವಾಗಿ ಅಮಾನತುಗೊಳಿಸುವ ಮೂಲಕ ಮತ್ತು ಸ್ಥಳೀಯ ಸರ್ಕಾರಗಳು ಮತ್ತು ಕಾನೂನು ಜಾರಿ ಅಗತ್ಯವಿದ್ದಲ್ಲಿ ಕೆಲಸ ಮಾಡುವ ಮೂಲಕ ಕ್ರಮ ತೆಗೆದುಕೊಳ್ಳುತ್ತೇವೆ.

“ಅಕ್ರಮ ವಿಷಯವನ್ನು ಮಾಡಲು ಗ್ರೋಕ್ ಅನ್ನು ಬಳಸುವ ಅಥವಾ ಪ್ರೇರೇಪಿಸುವ ಯಾರಾದರೂ ಅವರು ಕಾನೂನುಬಾಹಿರ ವಿಷಯವನ್ನು ಅಪ್‌ಲೋಡ್ ಮಾಡಿದರೆ ಅದೇ ಪರಿಣಾಮಗಳನ್ನು ಅನುಭವಿಸುತ್ತಾರೆ.”