రష్యా, ఇరాన్ ప్రభావ ప్రచారాలకు చాట్జీపీటీ వినియోగాన్ని అడ్డుకున్న ఓపెన్ఏఐ
రహస్య ఆన్లైన్ ప్రచారాల కోసం ఏఐ టూల్స్ వాడిన అకౌంట్లను తొలగించినట్లు కంపెనీ తెలిపింది
రష్యా, ఇరాన్తో సంబంధం ఉన్న గ్రూపులు చాట్జీపీటీని ఉపయోగించి ఆన్లైన్ ప్రభావ ప్రచారాలకు కంటెంట్ సిద్ధం చేసినట్లు గుర్తించి చర్యలు తీసుకున్నామని ఓపెన్ఏఐ అక్టోబర్ 8న వెల్లడించింది. ఈ ప్రచారాలు పెద్ద స్థాయి ప్రేక్షకులను చేరకముందే సంబంధిత అకౌంట్లను తొలగించినట్లు కంపెనీ తెలిపింది.
ఓపెన్ఏఐ ప్రకారం, ఈ గ్రూపులు సోషల్ మీడియా పోస్టులు, కామెంట్లు, ఆర్టికల్స్ ముసాయిదాలు, అనువాదాలు, స్థానిక భాషలకనుగుణంగా సందేశాల రూపకల్పన వంటి పనులకు చాట్జీపీటీని ఉపయోగించాయి. రాజకీయ, భౌగోళిక, సామాజిక విభజనలకు సంబంధించిన అంశాలపై ప్రజాభిప్రాయాన్ని ప్రభావితం చేయడమే ఈ కార్యకలాపాల లక్ష్యంగా ఉందని కంపెనీ పేర్కొంది. అయితే ఈ ఆపరేషన్లు పెద్దగా స్పందన పొందలేదని, విస్తృత వ్యాప్తి సాధించలేదని ఓపెన్ఏఐ తన అంచనాలో తెలిపింది.
“మా ప్లాట్ఫామ్ను రహస్య ప్రభావ ఆపరేషన్లకు ఉపయోగించేందుకు ప్రయత్నించిన నెట్వర్క్లను గుర్తించి అంతరాయం కల్పించాం,” అని ఓపెన్ఏఐ అక్టోబర్ 8న విడుదల చేసిన భద్రతా అప్డేట్లో తెలిపింది. “ఈ కార్యకలాపాలు ప్రధానంగా ఇప్పటికే ఉన్న ప్రచార పద్ధతులను వేగంగా, తక్కువ ఖర్చుతో అమలు చేయడానికి ఏఐని ఉపయోగించినట్లు కనిపించాయి,” అని కంపెనీ పేర్కొంది.
ఈ కార్యకలాపాల్లో పాల్గొన్నవారు తమ అసలు గుర్తింపును దాచిపెట్టి, స్వతంత్ర వ్యక్తులు లేదా స్థానిక యూజర్లుగా కనిపించేలా కంటెంట్ రూపొందించేందుకు ప్రయత్నించినట్లు ఓపెన్ఏఐ తెలిపింది. చాట్జీపీటీని కంటెంట్ తయారీ లేదా మెరుగుదల కోసం ఉపయోగించినప్పటికీ, ఆ కంటెంట్ పంపిణీ సోషల్ మీడియా ప్లాట్ఫామ్స్, వెబ్సైట్లు, బ్లాగులు, కామెంట్ సెక్షన్ల ద్వారా జరిగిందని కంపెనీ వివరించింది. కొన్ని సందర్భాల్లో వాక్య నిర్మాణం సవరించడం, విదేశీ భాషల్లో సహజంగా వినిపించేలా సందేశాలను మార్చడం, ప్రచార పాత్రల కోసం ఆలోచనలు పొందడం వంటి పనులు జరిగినట్లు తెలిపింది.
“ఉత్పాదక ఏఐ దుష్ప్రచార కంటెంట్ తయారీ ఖర్చును తగ్గించగలదు; కానీ అది స్వయంగా ప్రేక్షకుల విశ్వాసాన్ని లేదా విస్తృత ప్రభావాన్ని హామీ ఇవ్వదు,” అని ఓపెన్ఏఐ తన పరిశీలనలో పేర్కొంది. భద్రతా పరిశోధకుల అంచనాలు కూడా ఇదే దిశగా ఉన్నాయి. రష్యా, ఇరాన్కు చెందిన ఆన్లైన్ ప్రభావ నెట్వర్క్లు గతంలోనూ భిన్న దేశాల్లో రాజకీయ చర్చలను ప్రభావితం చేసేందుకు ప్రయత్నించాయని వారు చెబుతున్నారు. కొత్త ఏఐ టూల్స్ వల్ల వీరికి భాషా నాణ్యత, ఉత్పత్తి వేగం పెరిగినా, ఆన్లైన్లో నమ్మకం సంపాదించడం, నిజమైన ఎంగేజ్మెంట్ పొందడం ఇంకా కష్టమేనని నిపుణులు అభిప్రాయపడ్డారు.
HIGHLIGHTS
- అక్టోబర్ 8న ఓపెన్ఏఐ భద్రతా వివరాలు వెల్లడించింది
- రష్యా, ఇరాన్తో సంబంధం ఉన్న గ్రూపులపై చర్య
- చాట్జీపీటీతో పోస్టులు, కామెంట్లు, అనువాదాలు తయారీ
- ప్రచారాలు పెద్ద స్థాయి ప్రేక్షకులను చేరలేదని కంపెనీ అంచనా
- సంబంధిత అకౌంట్లను తొలగించినట్లు ఓపెన్ఏఐ తెలిపింది
ఓపెన్ఏఐ వెల్లడించిన వివరాల ప్రకారం, ఈ ఆపరేషన్లు ఒకే విధమైనవిగా కాకుండా భిన్న అంశాల చుట్టూ నడిచాయి. కొన్ని ప్రచారాలు అంతర్జాతీయ రాజకీయాలు, యుద్ధాలు, దౌత్య సంబంధాలు వంటి అంశాలపై దృష్టి పెట్టగా, మరికొన్ని దేశీయ రాజకీయ విభేదాలు, సామాజిక చర్చలు, ఎన్నికల వాతావరణం వంటి సున్నిత అంశాలను ఉపయోగించేందుకు ప్రయత్నించాయి. కంపెనీ ప్రకారం, చాట్జీపీటీని ఉపయోగించినవారు పూర్తి ప్రచారాన్ని ఆటోమేటిక్గా నడిపించలేదు; బదులుగా ముసాయిదాలు తయారు చేయడం, భాషను మెరుగుపరచడం, ఒకే సందేశాన్ని పలురకాల ప్రేక్షకులకు మార్చడం వంటి సహాయక పనులకు వాడారు.
“ఈ నెట్వర్క్లు తమ వెనుక ఉన్న అసలు పాత్రధారులను దాచిపెట్టి ప్రజా చర్చలో పాల్గొనాలని చూశాయి,” అని ఓపెన్ఏఐ తెలిపింది. “అలాంటి రహస్య ప్రభావ కార్యకలాపాలు మా విధానాలకు విరుద్ధం,” అని కంపెనీ పేర్కొంది. గుర్తించిన అకౌంట్లను తొలగించడంతో పాటు, భవిష్యత్తులో ఇలాంటి వినియోగాన్ని గుర్తించేందుకు పరిశీలన వ్యవస్థలను బలోపేతం చేస్తున్నామని కూడా తెలిపింది.
ఈ పరిణామం, ఏఐ సాంకేతికత ఎన్నికలు, విదేశాంగం, ఆన్లైన్ సమాచార విశ్వసనీయతపై చూపే ప్రభావంపై కొనసాగుతున్న ప్రపంచ చర్చకు మరింత ప్రాధాన్యం తెచ్చింది. ప్రభుత్వాలు, టెక్నాలజీ కంపెనీలు, పరిశోధకులు ఏఐ ద్వారా తయారయ్యే దుష్ప్రచారాన్ని ఎలా గుర్తించాలి, ఎలా అడ్డుకోవాలి, ప్లాట్ఫామ్ల బాధ్యతను ఎలా నిర్వచించాలి అన్న దానిపై కొత్త విధానాలను పరిశీలిస్తున్నాయి. ఓపెన్ఏఐ తన తరహా పారదర్శకతా అప్డేట్లు, టేక్డౌన్ చర్యలు ఈ విస్తృత భద్రతా ప్రయత్నంలో భాగమని తెలిపింది.
అయితే కంపెనీ అంచనా ప్రకారం, ఇప్పటివరకు గుర్తించిన కార్యకలాపాల ప్రభావం పరిమితంగానే ఉంది. ఏఐ సహాయంతో మరింత వేగంగా, ఎక్కువ పరిమాణంలో కంటెంట్ తయారు చేయడం సాధ్యమైనప్పటికీ, అది ప్రజలకు చేరడం, నమ్మదగిన వర్గాల ద్వారా పంచబడడం, నిజమైన చర్చను మార్చడం వేర్వేరు సవాళ్లుగా మిగిలే ఉంటాయని ఓపెన్ఏఐ పేర్కొంది. భవిష్యత్తులో ఇలాంటి ఆపరేషన్లు మరింత సహజమైన భాష, స్థానిక సందర్భాలు, నకిలీ గుర్తింపులతో ముందుకు రావచ్చని భద్రతా వర్గాలు హెచ్చరిస్తున్నాయి.
ఓపెన్ఏఐ తదుపరి దశలో అనుమానాస్పద నెట్వర్క్ల పర్యవేక్షణ కొనసాగించనుంది. కంపెనీ ప్రకారం, తన ప్లాట్ఫామ్ను ప్రభావ ప్రచారాలు, మోసపూరిత రాజకీయ కార్యకలాపాలు, సమన్విత రహస్య ఆపరేషన్లకు ఉపయోగించకుండా నిరోధించేందుకు అదనపు అమలు చర్యలు, పరిశోధన భాగస్వామ్యాలు కొనసాగుతాయి. 2026లో అనేక దేశాల్లో రాజకీయ చర్చలు వేడెక్కుతున్న నేపథ్యంలో, ఏఐ టూల్స్ దుర్వినియోగంపై టెక్నాలజీ సంస్థలు విడుదల చేసే తదుపరి పారదర్శకతా నివేదికలపై దృష్టి నిలవనుంది.
