ఏఐ వార్మ్‌లపై ప్రపంచ సైబర్ నిపుణుల హెచ్చరిక
జనరేటివ్ ఏఐ వ్యవస్థల ద్వారా స్వయంగా వ్యాపించే ముప్పులు పెరిగే అవకాశం ఉందని పరిశోధకులు హెచ్చరిస్తున్నారు
జనరేటివ్ ఏఐ టూల్స్ వేగంగా విస్తరిస్తున్న నేపథ్యంలో, వాటిని లక్ష్యంగా చేసుకునే “ఏఐ వార్మ్” తరహా సైబర్ ముప్పులపై నిపుణులు కొత్త హెచ్చరికలు జారీ చేశారు. ఈ ముప్పులు ప్రాంప్ట్‌ల ద్వారా ఏఐ అసిస్టెంట్లు, చాట్‌బాట్లు, ఆటోమేటెడ్ మెసేజింగ్ వ్యవస్థల్లో వ్యాపించే ప్రమాదం ఉందని పరిశోధకులు తెలిపారు.
సంప్రదాయ కంప్యూటర్ వార్మ్‌లు ఫైళ్లు, లింకులు లేదా సిస్టమ్ లోపాల ద్వారా వ్యాపిస్తే, ఏఐ వార్మ్‌లు ఏఐ మోడళ్లకు పంపే ఇన్‌స్ట్రక్షన్లనే దాడి సాధనాలుగా మార్చవచ్చని సైబర్ సెక్యూరిటీ నిపుణులు చెబుతున్నారు. ఒక ఈమెయిల్ అసిస్టెంట్‌కు వచ్చిన సందేశంలో దాగి ఉన్న మాలిషియస్ ప్రాంప్ట్, ఆ అసిస్టెంట్‌ను యూజర్ డేటాను బయటకు పంపేలా లేదా అదే సందేశాన్ని ఇతర కాంటాక్టులకు పంపేలా ప్రభావితం చేయగలదని పరిశోధకులు వివరించారు. జనరేటివ్ ఏఐ టూల్స్‌కు ఇన్‌బాక్స్‌లు, క్యాలెండర్లు, డాక్యుమెంట్లు, కాంటాక్టులపై ఎక్కువ యాక్సెస్‌లు ఇస్తున్న సంస్థలు ఈ రిస్క్‌ను ప్రత్యేకంగా పరిగణనలోకి తీసుకోవాలని వారు సూచించారు.
అమెరికా, ఇజ్రాయెల్‌కు చెందిన కార్నెల్ టెక్, టెక్నియన్–ఇజ్రాయెల్ ఇన్‌స్టిట్యూట్ ఆఫ్ టెక్నాలజీ, ఇన్‌ట్యూట్ పరిశోధకులు “మోరిస్ 2” పేరుతో ప్రూఫ్-ఆఫ్-కాన్సెప్ట్ ఏఐ వార్మ్‌ను రూపొందించినట్లు పరిశోధన వివరాలు చెబుతున్నాయి. ఈ నమూనా, ఏఐ ఆధారిత ఈమెయిల్ అసిస్టెంట్లలో స్వయంగా పునరుత్పత్తి అయ్యే ప్రాంప్ట్‌లు ఎలా పనిచేయవచ్చో చూపించింది. పరిశోధకుల బృందం ప్రచురించిన వివరాల్లో, “స్వయంగా వ్యాపించే ప్రాంప్ట్‌లు జనరేటివ్ ఏఐ ఎకోసిస్టమ్‌లో కొత్త దాడి ఉపరితలాన్ని సృష్టిస్తున్నాయి” అని పేర్కొంది. 1988లో ఇంటర్నెట్‌లో విస్తరించిన మోరిస్ వార్మ్‌కు సూచనగా ఈ పేరు పెట్టినట్లు నిపుణులు తెలిపారు.
ప్రాంప్ట్ ఇంజెక్షన్ ఇప్పటివరకు ప్రధానంగా ఒకే యూజర్ లేదా ఒకే సెషన్‌ను ప్రభావితం చేసే సమస్యగా చర్చించబడింది. అయితే ఏఐ ఏజెంట్లు పరస్పరం కమ్యూనికేట్ చేయడం, ఆటోమేటెడ్ నిర్ణయాలు తీసుకోవడం, యూజర్ తరఫున మెసేజ్‌లు పంపడం ప్రారంభించిన తర్వాత ఇదే టెక్నిక్ విస్తృత స్థాయి వార్మ్ ముప్పుగా మారే అవకాశం ఉందని సైబర్ విశ్లేషకులు చెబుతున్నారు. “ఏఐ సిస్టమ్‌లు యూజర్ ఆదేశాలు, బాహ్య డేటా, ఇతర ఏజెంట్ల సందేశాల మధ్య తేడాను సరిగ్గా గుర్తించలేకపోతే దాడిదారులకు అవకాశం పెరుగుతుంది” అని పరిశోధకుల బృందం తన సాంకేతిక వివరణలో తెలిపింది.
HIGHLIGHTS
- “మోరిస్ 2” ఏఐ వార్మ్ నమూనాను పరిశోధకులు పరీక్షించారు
- 1988 మోరిస్ వార్మ్‌కు పేరులో సూచన
- ఈమెయిల్ అసిస్టెంట్లు ప్రధాన లక్ష్యాలుగా గుర్తింపు
- స్వయంగా వ్యాపించే ప్రాంప్ట్‌లు ప్రధాన ప్రమాదం
ఈ ముప్పు కేవలం వ్యక్తిగత యూజర్లకు మాత్రమే కాకుండా కంపెనీల డేటా భద్రతకూ సవాలుగా మారవచ్చని నిపుణులు హెచ్చరిస్తున్నారు. ఏఐ అసిస్టెంట్లు కస్టమర్ సపోర్ట్, కోడింగ్, డాక్యుమెంట్ ప్రాసెసింగ్, డేటా అనాలిసిస్ పనుల్లో కీలక పాత్ర పోషిస్తున్నాయి. అలాంటి వ్యవస్థల్లో దాగిన మాలిషియస్ ఇన్‌స్ట్రక్షన్లు, సున్నితమైన వ్యాపార సమాచారం బయటకు వెళ్లేలా లేదా ఫిషింగ్, స్పామ్ మెసేజ్‌ల పంపిణీ ఆటోమేట్ అయ్యేలా చేయవచ్చని పరిశోధకులు చెప్పారు. “ఏఐ టూల్స్‌కు ఇచ్చే అనుమతులు కనీస అవసరానికి పరిమితం కావాలి” అని సైబర్ భద్రతా నిపుణులు సూచించారు.
పరిశోధకులు సూచించిన రక్షణ చర్యల్లో ఇన్‌పుట్ ఫిల్టరింగ్, అవుట్‌పుట్ మానిటరింగ్, ప్రాంప్ట్ ఐసోలేషన్, అనుమతుల నియంత్రణ, అనుమానాస్పద ఆటోమేటెడ్ చర్యలపై అలర్ట్ వ్యవస్థలు ఉన్నాయి. ఏఐ మోడళ్లకు వచ్చే బాహ్య కంటెంట్‌ను నేరుగా ఆదేశాలుగా పరిగణించకుండా భద్రతా పొరలు ఏర్పాటు చేయాలని వారు పేర్కొన్నారు. “మానవ ఆమోదం లేకుండా ఏఐ ఏజెంట్లు భారీగా మెసేజ్‌లు పంపే అవకాశాన్ని పరిమితం చేయడం కీలకం” అని పరిశోధకుల బృందం తెలిపింది.
తరువాతి దశలో కంపెనీలు తమ ఏఐ ఇంటిగ్రేషన్‌లపై సెక్యూరిటీ ఆడిట్‌లు చేపట్టి, ఏఐ ఏజెంట్లకు ఇచ్చిన యాక్సెస్‌లను పునఃసమీక్షించే అవకాశం ఉంది. నియంత్రణ సంస్థలు కూడా జనరేటివ్ ఏఐ భద్రతా ప్రమాణాలపై మార్గదర్శకాలు సిద్ధం చేసే దిశగా పరిశీలించవచ్చని నిపుణులు చెబుతున్నారు. ఏఐ వినియోగం మరింత విస్తరించే కొద్దీ, ప్రాంప్ట్ ఆధారిత ముప్పులను ముందుగానే గుర్తించి నియంత్రించడమే ప్రధాన సవాలుగా మారనుంది.