ఎలోన్ మస్క్ యొక్క గ్రోక్ AI ‘మినిమల్ దుస్తులలో మైనర్ల’ చిత్రాలను రూపొందించింది | AI (కృత్రిమ మేధస్సు)
ఎలోన్ మస్క్యొక్క చాట్బాట్ గ్రోక్ శుక్రవారం పోస్ట్ చేసిన ప్రకారం, భద్రతా చర్యలలో లోపాలు సోషల్ మీడియా ప్లాట్ఫారమ్ X లో “మైనర్లను కనీస దుస్తులలో చిత్రీకరించే చిత్రాలను” రూపొందించడానికి దారితీశాయి. చాట్బాట్మస్క్ కంపెనీ xAI యొక్క ఉత్పత్తి, వినియోగదారు ప్రాంప్ట్లకు ప్రతిస్పందనగా వారం పొడవునా లైంగిక చిత్రాల వేవ్ను రూపొందిస్తోంది.
వినియోగదారులు షేర్ చేసిన స్క్రీన్షాట్లు X అటువంటి చిత్రాలతో నిండిన గ్రోక్ పబ్లిక్ మీడియా ట్యాబ్ను చూపించింది. భవిష్యత్తులో ఎలాంటి సంఘటనలు జరగకుండా ఉండేందుకు తమ వ్యవస్థలను మెరుగుపరిచేందుకు కృషి చేస్తున్నట్లు xAI తెలిపింది.
“మైనర్లను కనిష్ట దుస్తులలో వర్ణించే AI చిత్రాలను వినియోగదారులు ప్రాంప్ట్ చేసి స్వీకరించిన వివిక్త సందర్భాలు ఉన్నాయి” అని గ్రోక్ చెప్పారు. పోస్ట్ వినియోగదారుకు ప్రతిస్పందనగా Xపై. “xAIకి రక్షణలు ఉన్నాయి, అయితే అటువంటి అభ్యర్థనలను పూర్తిగా నిరోధించడానికి మెరుగుదలలు కొనసాగుతున్నాయి.”
“గమనించినట్లుగా, మేము రక్షణలో లోపాలను గుర్తించాము మరియు వాటిని అత్యవసరంగా పరిష్కరిస్తున్నాము-CSAM చట్టవిరుద్ధం మరియు నిషేధించబడింది,” xAI పోస్ట్ చేయబడింది పిల్లల లైంగిక వేధింపుల మెటీరియల్ని సూచిస్తూ, Xలోని @Grok ఖాతాకు.
Xలోని చాలా మంది వినియోగదారులు ఇటీవలి రోజుల్లో లైంగికీకరించిన, ఏకాభిప్రాయం లేని AI-మార్పు చేసిన చిత్రాలను రూపొందించడానికి Grokని ప్రేరేపించారు, కొన్ని సందర్భాల్లో వారి సమ్మతి లేకుండా వారి దుస్తులను తొలగించారు. మస్క్ గురువారం నాడు బికినీలో ఉన్న AI ఫోటోను, ట్రెండ్కి అనుగుణంగా, ఏడుపు-నవ్వే ఎమోజీలతో కూడిన శీర్షికతో రీపోస్ట్ చేశాడు.
గ్రోక్ యొక్క లైంగిక చిత్రాల తరంలో సేఫ్టీ గార్డ్రైల్లు లేనట్లు కనిపించింది, చాట్బాట్ నుండి వచ్చిన పోస్ట్ల ప్రకారం, మైనర్లు తక్కువ దుస్తులు ధరించే వ్యక్తుల పోస్ట్లలో ఫీచర్ చేయడానికి వీలు కల్పిస్తుంది. గురువారం Xలో వినియోగదారుకు ఇచ్చిన ప్రత్యుత్తరంలో, “ఏ సిస్టమ్ 100% ఫూల్ప్రూఫ్ కాదు” అని చెప్పినప్పటికీ చాలా కేసులను అధునాతన ఫిల్టర్లు మరియు పర్యవేక్షణ ద్వారా నిరోధించవచ్చని గ్రోక్ చెప్పారు, xAI మెరుగుదలలకు ప్రాధాన్యత ఇస్తోందని మరియు వినియోగదారులు భాగస్వామ్యం చేసిన వివరాలను సమీక్షిస్తోందని తెలిపారు.
ఇమెయిల్ ద్వారా వ్యాఖ్య కోసం సంప్రదించినప్పుడు, xAI సందేశంతో ప్రత్యుత్తరం ఇచ్చింది: “లెగసీ మీడియా లైస్”.
పిల్లల లైంగిక వేధింపుల మెటీరియల్ని రూపొందించడానికి AI ఉపయోగించడం అనేది చాలా కాలంగా ఉన్న సమస్య కృత్రిమ మేధస్సు పరిశ్రమ. 2023 స్టాన్ఫోర్డ్ అధ్యయనం దొరికింది అనేక ప్రసిద్ధ AI ఇమేజ్-జనరేషన్ సాధనాలకు శిక్షణ ఇవ్వడానికి ఉపయోగించే డేటాసెట్ 1000 కంటే ఎక్కువ CSAM చిత్రాలను కలిగి ఉంది. పిల్లల దుర్వినియోగానికి సంబంధించిన చిత్రాలపై AI శిక్షణ ఇవ్వడం వలన పిల్లలు దోపిడీకి గురవుతున్నట్లు కొత్త చిత్రాలను రూపొందించడానికి మోడల్లను అనుమతిస్తుంది, నిపుణులు అంటున్నారు.
గ్రోక్ తన భద్రతా గార్డులను నిర్వహించడంలో విఫలమైన మరియు తప్పుడు సమాచారాన్ని పోస్ట్ చేసిన చరిత్రను కూడా కలిగి ఉంది. గత సంవత్సరం మేలో, గ్రోక్ దీని గురించి పోస్ట్ చేయడం ప్రారంభించాడు “శ్వేతజాతీయుల మారణహోమం” యొక్క తీవ్రవాద కుట్ర దక్షిణాఫ్రికాలో కాన్సెప్ట్తో సంబంధం లేని పోస్ట్లపై. గ్రోక్ రేప్ ఫాంటసీలను పోస్ట్ చేయడం ప్రారంభించిన తర్వాత xAI కూడా జూలైలో క్షమాపణ చెప్పింది యాంటిసెమిటిక్ పదార్థంసహా తనను తాను “మెకాహిట్లర్” అని పిలుచుకోవడం మరియు నాజీ భావజాలాన్ని ప్రశంసించడం. అయినప్పటికీ కంపెనీ సురక్షితం సంఘటనలు జరిగిన వారం తర్వాత US డిపార్ట్మెంట్ ఆఫ్ డిఫెన్స్తో దాదాపు $200m ఒప్పందం.
