Google AI ఓవర్వ్యూలు తప్పుదారి పట్టించే ఆరోగ్య సలహాతో ప్రజలకు హాని కలిగించే ప్రమాదం ఉంది | Google
Google యొక్క కృత్రిమ మేధస్సు సారాంశాలలో తప్పుడు మరియు తప్పుదారి పట్టించే ఆరోగ్య సమాచారం ద్వారా ప్రజలు హాని కలిగించే ప్రమాదం ఉందని గార్డియన్ పరిశోధన కనుగొంది.
ఒక అంశం లేదా ప్రశ్నకు సంబంధించి అవసరమైన సమాచారం యొక్క స్నాప్షాట్లను అందించడానికి ఉత్పాదక AIని ఉపయోగించే AI ఓవర్వ్యూలు “సహాయకారిగా“మరియు”నమ్మదగిన”.
కానీ శోధన ఫలితాల ఎగువన కనిపించే కొన్ని సారాంశాలు, సరికాని ఆరోగ్య సమాచారాన్ని అందించాయి మరియు ప్రజలకు హాని కలిగించే ప్రమాదం ఉంది.
నిపుణులు “నిజంగా ప్రమాదకరమైనది” అని వర్ణించిన ఒక సందర్భంలో, ప్యాంక్రియాటిక్ క్యాన్సర్తో బాధపడుతున్న వ్యక్తులు అధిక కొవ్వు పదార్ధాలను తీసుకోవద్దని Google తప్పుగా సూచించింది. నిపుణులు సిఫారసు చేయవలసిన దానికి ఇది ఖచ్చితమైన వ్యతిరేకమని మరియు వ్యాధితో రోగులు మరణించే ప్రమాదాన్ని పెంచవచ్చని నిపుణులు తెలిపారు.
మరొక “ఆందోళన కలిగించే” ఉదాహరణలో, కంపెనీ కీలకమైన కాలేయ పనితీరు పరీక్షల గురించి బోగస్ సమాచారాన్ని అందించింది, ఇది తీవ్రమైన కాలేయ వ్యాధితో బాధపడుతున్న వ్యక్తులు ఆరోగ్యంగా ఉన్నారని తప్పుగా భావించవచ్చు.
మహిళల క్యాన్సర్ పరీక్షల గురించి సమాధానాల కోసం Google శోధనలు కూడా “పూర్తిగా తప్పు” సమాచారాన్ని అందించాయి, దీని ఫలితంగా వ్యక్తులు నిజమైన లక్షణాలను కొట్టివేయవచ్చని నిపుణులు తెలిపారు.
Google ప్రతినిధి మాట్లాడుతూ, వారితో పంచుకున్న అనేక ఆరోగ్య ఉదాహరణలు “అసంపూర్ణ స్క్రీన్షాట్లు” అని, అయితే వారు అంచనా వేయగలిగే వాటి నుండి వారు “ప్రసిద్ధ, ప్రసిద్ధ మూలాధారాలకు లింక్ చేసి, నిపుణుల సలహాను కోరాలని సిఫార్సు చేస్తున్నారు”.
AI డేటా నమ్మదగినదని భావించే వినియోగదారులను గందరగోళానికి గురి చేస్తుందనే ఆందోళన పెరుగుతున్న నేపథ్యంలో గార్డియన్ పరిశోధన వచ్చింది. గత ఏడాది నవంబర్లో, ఒక అధ్యయనం వివిధ ప్లాట్ఫారమ్లలో AI చాట్బాట్లను కనుగొంది సరికాని ఆర్థిక సలహా ఇచ్చారుఇలాంటి ఆందోళనలు గురించి లేవనెత్తారు వార్తా కథనాల సారాంశం.
రోగులకు, ప్రజలకు మరియు ఆరోగ్య సంరక్షణ నిపుణులకు సాక్ష్యం-ఆధారిత ఆరోగ్య సమాచారాన్ని ప్రచారం చేసే పేషెంట్ ఇన్ఫర్మేషన్ ఫోరమ్ డైరెక్టర్ సోఫీ రాండాల్ మాట్లాడుతూ, “Google యొక్క AI ఓవర్వ్యూలు ఆన్లైన్ శోధనలలో సరికాని ఆరోగ్య సమాచారాన్ని ఉంచగలవు, ప్రజల ఆరోగ్యానికి ప్రమాదకరం” అని ఉదాహరణలు చూపించాయి.
జీవితాంతం స్వచ్ఛంద సంస్థ అయిన మేరీ క్యూరీ వద్ద డిజిటల్ డైరెక్టర్ స్టెఫానీ పార్కర్ ఇలా అన్నారు: “ప్రజలు ఆందోళన మరియు సంక్షోభ సమయంలో ఇంటర్నెట్ను ఆశ్రయిస్తారు. వారు అందుకున్న సమాచారం సరికానిది లేదా సందర్భోచితంగా ఉంటే, అది వారి ఆరోగ్యానికి తీవ్రంగా హాని కలిగిస్తుంది.”
అనేక ఆరోగ్య సమూహాలు, స్వచ్ఛంద సంస్థలు మరియు నిపుణులు ఆందోళనలు లేవనెత్తిన తర్వాత Google యొక్క AI ఓవర్వ్యూలలో సరికాని ఆరోగ్య సమాచారం యొక్క అనేక కేసులను గార్డియన్ బయటపెట్టింది.
ప్యాంక్రియాటిక్ క్యాన్సర్ UKలో సపోర్ట్, రీసెర్చ్ మరియు ఇన్ఫ్లుయెన్సింగ్ డైరెక్టర్ అన్నా జ్యువెల్ మాట్లాడుతూ, అధిక కొవ్వు పదార్ధాలను నివారించమని రోగులకు సలహా ఇవ్వడం “పూర్తిగా తప్పు” అని అన్నారు. అలా చేయడం “నిజంగా ప్రమాదకరమైనది మరియు చికిత్స పొందేందుకు ఒక వ్యక్తి యొక్క అవకాశాలను దెబ్బతీస్తుంది”, ఆమె జోడించారు.
జ్యువెల్ ఇలా అన్నాడు: “ప్యాంక్రియాటిక్ క్యాన్సర్తో బాధపడుతున్న వ్యక్తులు అధిక కొవ్వు పదార్ధాలకు దూరంగా ఉండాలని Google AI ప్రతిస్పందన సూచిస్తుంది మరియు ఉదాహరణల జాబితాను అందిస్తుంది. అయితే, ఎవరైనా శోధన ఫలితం చెప్పినదానిని అనుసరిస్తే, వారు తగినంత కేలరీలు తీసుకోకపోవచ్చు, బరువు పెరగడానికి కష్టపడవచ్చు మరియు కీమోథెరపీ లేదా ప్రాణాలను రక్షించే శస్త్రచికిత్సలను తట్టుకోలేరు.”
“కాలేయం రక్త పరీక్షల యొక్క సాధారణ పరిధి ఏమిటి” అని టైప్ చేయడం కూడా తప్పుదారి పట్టించే సమాచారాన్ని అందించింది, సంఖ్యల సంఖ్య, తక్కువ సందర్భం మరియు జాతీయత, లింగం, జాతి లేదా రోగుల వయస్సుకి ఎటువంటి లెక్కలు లేవు.
AI సారాంశాలు ఆందోళనకరంగా ఉన్నాయని బ్రిటిష్ లివర్ ట్రస్ట్ చీఫ్ ఎగ్జిక్యూటివ్ పమేలా హీలీ అన్నారు. “కాలేయ వ్యాధితో బాధపడుతున్న చాలా మంది వ్యక్తులు చివరి దశల వరకు ఎటువంటి లక్షణాలను చూపించరు, అందుకే వారు పరీక్షించబడటం చాలా ముఖ్యం. కానీ Google AI ఓవర్వ్యూలు ‘సాధారణం’ అని చెప్పేది వాస్తవానికి సాధారణమైనదిగా పరిగణించబడే దాని నుండి చాలా తేడా ఉంటుంది.
“ఇది ప్రమాదకరమైనది ఎందుకంటే తీవ్రమైన కాలేయ వ్యాధి ఉన్న కొందరు వ్యక్తులు సాధారణ ఫలితాన్ని కలిగి ఉంటారని భావించవచ్చు, ఆపై తదుపరి ఆరోగ్య సంరక్షణ సమావేశానికి హాజరు కావడానికి ఇబ్బంది లేదు.”
“యోని క్యాన్సర్ లక్షణాలు మరియు పరీక్షలు” కోసం శోధన పాప్ పరీక్షను యోని క్యాన్సర్ కోసం ఒక పరీక్షగా జాబితా చేసింది, ఇది తప్పు.
ఈవ్ అప్పీల్ క్యాన్సర్ ఛారిటీ యొక్క చీఫ్ ఎగ్జిక్యూటివ్ ఎథీనా లామ్నిసోస్ ఇలా అన్నారు: “ఇది క్యాన్సర్ను గుర్తించే పరీక్ష కాదు, మరియు ఖచ్చితంగా యోని క్యాన్సర్ను గుర్తించే పరీక్ష కాదు – ఇది పూర్తిగా తప్పుడు సమాచారం. ఇలా తప్పుడు సమాచారం పొందడం వల్ల ఎవరైనా యోని క్యాన్సర్ లక్షణాలను తనిఖీ చేయలేరు, ఎందుకంటే వారు ఇటీవలి గర్భాశయ స్క్రీనింగ్లో స్పష్టమైన ఫలితం పొందారు.
“మేము సరిగ్గా అదే శోధన చేసినప్పుడు AI సారాంశం మారిందని, వివిధ మూలాల నుండి తీసిన ప్రతిసారీ విభిన్న ప్రతిస్పందనతో వస్తున్నందున మేము ఆందోళన చెందాము. అంటే వ్యక్తులు వారు శోధించినప్పుడు ఆధారపడి విభిన్న సమాధానాన్ని పొందుతున్నారని మరియు అది సరిపోదు.”
ఆమె చాలా ఆందోళన చెందుతోందని లామ్నిసోస్ చెప్పారు. “మేము చూసిన కొన్ని ఫలితాలు నిజంగా ఆందోళన కలిగిస్తాయి మరియు మహిళలను ప్రమాదంలో పడేస్తాయి” అని ఆమె చెప్పింది.
మానసిక ఆరోగ్య పరిస్థితుల గురించి శోధనల కోసం Google AI ఓవర్వ్యూలు తప్పుదారి పట్టించే ఫలితాలను అందించాయని గార్డియన్ కనుగొంది. “ఇది స్వచ్ఛంద సంస్థగా మాకు చాలా ఆందోళన కలిగిస్తుంది” అని మైండ్ వద్ద సమాచార అధిపతి స్టీఫెన్ బక్లీ అన్నారు.
సైకోసిస్ మరియు ఈటింగ్ డిజార్డర్స్ వంటి పరిస్థితులకు సంబంధించిన కొన్ని AI సారాంశాలు “చాలా ప్రమాదకరమైన సలహా” అందించాయి మరియు “తప్పు, హానికరమైనవి లేదా సహాయం కోరకుండా ఉండేందుకు ప్రజలను దారి తీయవచ్చు” అని బక్లీ చెప్పారు.
కొందరు ముఖ్యమైన సందర్భం లేదా స్వల్పభేదాన్ని కూడా కోల్పోయారు, అన్నారాయన. “అనుచితమైన సైట్ల నుండి సమాచారాన్ని యాక్సెస్ చేయమని వారు సూచించవచ్చు … మరియు AI సమాచారాన్ని సంగ్రహించినప్పుడు, అది తరచుగా ఇప్పటికే ఉన్న పక్షపాతాలు, మూసలు లేదా కళంకం కలిగించే కథనాలను ప్రతిబింబిస్తుందని మాకు తెలుసు.”
గూగుల్ తన AI స్థూలదృష్టిలో ఎక్కువ భాగం వాస్తవమైనది మరియు సహాయకరంగా ఉందని మరియు ఇది నిరంతరం నాణ్యతను మెరుగుపరుస్తుందని పేర్కొంది. AI ఓవర్వ్యూల యొక్క ఖచ్చితత్వ రేటు దాని ఇతర శోధన ఫీచర్ల వంటి ఫీచర్ చేసిన స్నిప్పెట్లతో సమానంగా ఉంది, ఇది ఒక దశాబ్దానికి పైగా ఉనికిలో ఉంది.
AI ఓవర్వ్యూలు వెబ్ కంటెంట్ను తప్పుగా అర్థం చేసుకున్నప్పుడు లేదా సందర్భాన్ని కోల్పోయినప్పుడు, దాని విధానాల ప్రకారం తగిన చర్య తీసుకుంటామని కంపెనీ తెలిపింది.
Google ప్రతినిధి ఇలా అన్నారు: “మేము AI ఓవర్వ్యూల నాణ్యతలో, ముఖ్యంగా ఆరోగ్యం వంటి అంశాల కోసం గణనీయంగా పెట్టుబడి పెట్టాము మరియు చాలా వరకు ఖచ్చితమైన సమాచారాన్ని అందిస్తాము.”
