‘చాలా ప్రమాదకరమైనది’: Google యొక్క AI స్థూలదృష్టిపై మానసిక ఆరోగ్య నిపుణుడు | మానసిక ఆరోగ్యం
ఎ AI మరియు మానసిక ఆరోగ్యాన్ని పరిశీలించడానికి మైండ్ ద్వారా సంవత్సరం పొడవునా కమిషన్ ప్రారంభించబడింది ఒక గార్డియన్ విచారణ ప్రతి నెలా 2 బిలియన్ల మందికి చూపబడే Google AI ఓవర్వ్యూలు ప్రజలకు “చాలా ప్రమాదకరమైన” మానసిక ఆరోగ్య సలహాలను ఎలా ఇచ్చాయో బహిర్గతం చేసింది.
ఇక్కడ, రోసీ వెదర్లీ, అతిపెద్ద మానసిక ఆరోగ్య స్వచ్ఛంద సంస్థలో సమాచార కంటెంట్ మేనేజర్ ఇంగ్లండ్ మరియు వేల్స్, ప్రపంచంలో అత్యధికంగా సందర్శించే వెబ్సైట్లో శోధన ఫలితాల పైన కనిపించే AI- రూపొందించిన సారాంశాల ద్వారా ప్రజలకు ఎదురయ్యే ప్రమాదాలను వివరిస్తుంది.
“మూడు దశాబ్దాలుగా, Google ఒక శోధన ఇంజిన్ను రూపొందించింది మరియు పంపిణీ చేసింది, ఇక్కడ విశ్వసనీయమైన మరియు ప్రాప్యత చేయగల ఆరోగ్య కంటెంట్ ఫలితాల్లో అగ్రస్థానానికి చేరుకుంటుంది.
“సమాచారం కోసం ఆన్లైన్లో శోధించడం సరైనది కాదు, కానీ ఇది సాధారణంగా బాగా పని చేస్తుంది. వినియోగదారులు తమ ప్రశ్నకు సమాధానమిచ్చే విశ్వసనీయ ఆరోగ్య వెబ్సైట్ను క్లిక్ చేయడానికి మంచి అవకాశం ఉంది.
“AI ఓవర్వ్యూలు ఆ రిచ్నెస్ని క్లినికల్-సౌండింగ్ సారాంశంతో భర్తీ చేశాయి, అది ఖచ్చితమైన భ్రమను ఇస్తుంది.
“ఇది చాలా సెడక్టివ్ స్వాప్, కానీ బాధ్యతాయుతమైనది కాదు. మరియు ఇది తరచుగా సమాచారాన్ని కోరుకునే ప్రయాణాన్ని ముందుగానే ముగిస్తుంది. వినియోగదారుకు ఉత్తమంగా సగం సమాధానం ఉంటుంది.
“నేను మరియు నా మానసిక ఆరోగ్య సమాచార నిపుణుల బృందాన్ని మైండ్ ఎ టాస్క్లో సెట్ చేసాను: 20 నిమిషాల క్వెరీలను ఉపయోగించి శోధించడం మానసిక ఆరోగ్య సమస్యలతో బాధపడుతున్న వ్యక్తులు ఉపయోగించాలని మనకు తెలుసు. మనలో ఎవరికీ 20 అవసరం లేదు.
“రెండు నిమిషాల వ్యవధిలో, Google ఆకలితో నాకు ఆరోగ్యంగా ఉందని హామీ ఇచ్చిందని AI ఓవర్వ్యూలను అందించింది. ఇది మెదడులోని రసాయన అసమతుల్యత వల్ల మానసిక ఆరోగ్య సమస్యలు వస్తాయని ఒక సహోద్యోగికి చెప్పింది. మరొకరికి ఆమె ఊహించిన స్టాకర్ నిజమని మరియు మానసిక ఆరోగ్య పరిస్థితులకు సంబంధించిన 60% ప్రయోజనాల క్లెయిమ్లలో నాల్గవది తప్పు అని చెప్పబడింది. ఇది ఏదీ నిజం కాదని చెప్పాలి.
“ఈ ప్రతి ఉదాహరణలో, AI ఓవర్వ్యూలు అత్యంత సున్నితమైన మరియు సూక్ష్మమైన ప్రాంతాలకు సంబంధించిన సమాచారాన్ని చక్కని సమాధానాలుగా ఎలా చదును చేస్తున్నాయో మనం చూస్తున్నాము. మరియు మీరు ముఖ్యమైన సందర్భం మరియు సూక్ష్మభేదం మరియు AI ఓవర్వ్యూలు చేసే విధంగా దానిని ప్రదర్శించినప్పుడు, దాదాపు ఏదైనా ఆమోదయోగ్యమైనదిగా అనిపించవచ్చు.
“ఈ ప్రక్రియ ముఖ్యంగా కొంత స్థాయి బాధలో ఉండే వ్యక్తులకు హానికరం.
“AI ఓవర్వ్యూల నుండి లాభాలను ఆర్జించే Google వంటి బహుళ-బిలియన్-డాలర్ కంపెనీ ఖచ్చితమైన సమాచారాన్ని అందించడానికి అంకితమైన మరిన్ని వనరులను కలిగి ఉండాలి. వ్యక్తులు, సంస్థలు లేదా జర్నలిస్టులు కొత్త అంతర్దృష్టులను ఫ్లాగ్ చేసినప్పుడు AI ఓవర్వ్యూలను రియాక్టివ్గా మళ్లీ శిక్షణ ఇవ్వడం లేదా తీసివేయడం మాత్రమే వారి ఆందోళన పరిమితం. వాటిని.
“ఆత్మహత్య పద్ధతుల వంటి అత్యంత హానికరమైన శోధన ఫలితాలను వెంటనే అందుబాటులోకి తీసుకురావడానికి శోధన ఇంజిన్లు అభివృద్ధి చెందాయి. కానీ మీరు అనారోగ్యంతో ఉన్న వ్యక్తి శోధించినట్లు శోధిస్తే, ప్రపంచంలోని అతిపెద్ద శోధన ఇంజిన్ ఆమోద ముద్రతో వివాదాస్పదమైన తటస్థ వాస్తవాలుగా ప్రశాంతంగా మరియు నమ్మకంగా ఉన్న కాపీలో మీకు హానికరమైన తప్పులు మరియు అర్ధ-సత్యాలు అందించబడే ప్రమాదం మిగిలి ఉంది.
“సంక్షోభ సమాచారం కోసం అన్వేషణలో, AI అవలోకనం పొడవాటి జాబితాలలో వివిధ విరుద్ధమైన సైన్పోస్ట్లను అస్తవ్యస్తంగా కోలాజ్ చేసింది.
“బహుశా AIకి జీవితాలను మెరుగుపరిచే అపారమైన సామర్థ్యం ఉంది, కానీ ప్రస్తుతం, ప్రమాదాలు నిజంగా ఆందోళన కలిగిస్తాయి. మీరు తీవ్ర బాధలో ఉన్నారని భావించినప్పుడు మాత్రమే Google AI ఓవర్వ్యూల యొక్క సంభావ్య లోపాల నుండి మిమ్మల్ని రక్షిస్తుంది. వ్యక్తులు నిర్మాణాత్మక, సానుభూతి, జాగ్రత్తగా మరియు సూక్ష్మమైన సమాచారాన్ని ఎల్లప్పుడూ యాక్సెస్ చేయాలి మరియు అర్హులు.”
