ఏఐ శిక్షణ కోసం ‘మిర్రర్ డైమెన్షన్’ నకిలీ ఇంటర్నెట్ను నిర్మించిన గూగుల్
క్రోమ్ ఏఐ బ్రౌజింగ్ ఏజెంట్లను యూజర్ డేటా, నిజమైన వెబ్సైట్లకు ప్రమాదం లేకుండా పరీక్షించేందుకు గూగుల్ సురక్షిత శాండ్బాక్స్ను రూపొందించింది
గూగుల్ క్రోమ్లో రాబోయే జెమిని ఆధారిత ఏఐ బ్రౌజింగ్ ఏజెంట్లకు శిక్షణ ఇవ్వడానికి ‘మిర్రర్ డైమెన్షన్’ అనే నియంత్రిత నకిలీ ఇంటర్నెట్ను నిర్మించినట్లు గూగుల్ సెక్యూరిటీ బ్లాగ్లో వెల్లడించింది. నిజమైన యూజర్ డేటా, వెబ్సైట్లు ప్రభావితం కాకుండా లింక్లు క్లిక్ చేయడం, ఫారమ్లు నింపడం, ఆన్లైన్ పనులు చేయడం వంటి సామర్థ్యాలను పరీక్షించడమే దీని లక్ష్యమని కంపెనీ తెలిపింది.
కంపెనీ ప్రకారం, ఈ వ్యవస్థలో షాపింగ్ సైట్లు, సోషల్ మీడియా ఫీడ్లు, బ్యాంక్ డ్యాష్బోర్డులు, వంటల సైట్లు, ఇతర సాధారణ వెబ్పేజీలను పోలిన వేలాది నకిలీ పేజీలు ఉంటాయి. క్రోమ్లో అభివృద్ధిలో ఉన్న ఏఐ ఏజెంట్ నిజమైన వెబ్సైట్ను తెరవడానికి ప్రయత్నించినప్పుడు, నియంత్రిత వాతావరణంలోని కాపీ పేజీకి దారి మళ్లించే విధంగా దీనిని రూపొందించారు. “నిజమైన యూజర్లను లేదా నిజమైన వెబ్సైట్లను ప్రమాదంలో పెట్టకుండా ఏఐ ఏజెంట్ల ప్రవర్తనను పరీక్షించడం మా ప్రధాన లక్ష్యం,” అని గూగుల్ సెక్యూరిటీ బ్లాగ్లో కంపెనీ తెలిపింది.
గూగుల్ ఇంజినీర్ల వివరణ ప్రకారం, పూర్తి శిక్షణ పొందని ఏఐ ఏజెంట్ను నేరుగా ఓపెన్ ఇంటర్నెట్లో పరీక్షించడం అనేక ప్రమాదాలకు దారి తీసే అవకాశం ఉంది. నిజమైన వెబ్సైట్లు తరచుగా మారడం వల్ల ఒకే పరీక్షను మళ్లీ అదే విధంగా నిర్వహించడం కష్టం. అంతేకాకుండా, ఏఐ పొరపాటున నిజమైన ఖాతాల్లో మార్పులు చేయడం, తప్పు ఆర్డర్లు పెట్టడం, ఫారమ్లలో అనవసర డేటా నమోదు చేయడం వంటి సమస్యలు తలెత్తవచ్చు. ఈ కారణంగా, పునరావృత పరీక్షలకు అనుకూలమైన పూర్తిగా నియంత్రిత వెబ్ ప్రపంచాన్ని తయారు చేయాల్సి వచ్చిందని కంపెనీ పేర్కొంది.
ఈ వ్యవస్థలో మరో కీలక అంశం ‘ఎవాల్ అవేర్నెస్’ సమస్యను తగ్గించడం. ఆధునిక ఏఐ మోడళ్లు తాము పరీక్షలో ఉన్నాయని గుర్తిస్తే సాధారణ పరిస్థితులకంటే భిన్నంగా జాగ్రత్తగా వ్యవహరించే అవకాశం ఉందని గూగుల్ తెలిపింది. అందువల్ల ఏఐ నిజమైన ఇంటర్నెట్లో బ్రౌజ్ చేస్తున్నట్టుగా అనుభవించేలా మిర్రర్ డైమెన్షన్ను రూపొందించారు. క్రోమ్ అడ్రస్ బార్లో అసలు వెబ్ చిరునామా కనిపించినప్పటికీ, వెనుకపట్టీలో వ్యవస్థ నకిలీ కాపీని అందించేలా ఇంజినీర్లు ఏర్పాటు చేశారు. “ఏఐ ఏజెంట్ సహజ పరిస్థితుల్లో ఎలా నిర్ణయాలు తీసుకుంటుందో చూడాలంటే, పరీక్షా వాతావరణం కూడా సహజంగానే కనిపించాలి,” అని కంపెనీ తన సాంకేతిక వివరణలో తెలిపింది.
HIGHLIGHTS
- గూగుల్ నకిలీ వెబ్ ప్రపంచానికి ‘మిర్రర్ డైమెన్షన్’ పేరు పెట్టింది
- క్రోమ్ జెమిని ఏఐ ఏజెంట్ల శిక్షణకే ఈ ప్రాజెక్ట్
- యూజర్ డేటా, నిజమైన వెబ్సైట్లకు రక్షణ ప్రధాన లక్ష్యం
- ప్రాంప్ట్ ఇంజెక్షన్ దాడులను గుర్తించే శిక్షణకు ప్రాధాన్యం
- నకిలీ వెబ్సైట్ల నిర్మాణంలో ఇతర ఏఐ ఏజెంట్ల వినియోగం
సురక్షిత వాతావరణాన్ని నిర్మించడానికి గూగుల్ ‘జీవైజర్’ అనే శాండ్బాక్స్ టూల్ను ఉపయోగించింది. ఈ టూల్ ద్వారా ఏఐ కార్యకలాపాలను పరిమిత డిజిటల్ పరిధిలోనే ఉంచి, నిజమైన సిస్టమ్స్ లేదా బాహ్య వెబ్ సేవలతో అనవసర సంబంధం ఏర్పడకుండా నియంత్రించారు. బ్రౌజర్ హెచ్చరికలు కనిపించకుండా ఉండేందుకు ఈ ప్రైవేట్ టెస్ట్ నెట్వర్క్లో ప్రత్యేకంగా రూపొందించిన నకిలీ వెబ్ సర్టిఫికేట్లు ఉపయోగించినట్లు గూగుల్ వివరించింది. సాధారణ ఇంటర్నెట్లో హ్యాకర్లు ఇలాంటి విధానాన్ని అమలు చేయలేరని, ఇది కంపెనీ నియంత్రణలోని మూసివేసిన పరీక్షా వాతావరణంలో మాత్రమే సాధ్యమని కంపెనీ స్పష్టం చేసింది.
మిర్రర్ డైమెన్షన్ నిర్మాణంలో కూడా ఏఐ వ్యవస్థలకే పెద్ద పాత్ర ఉంది. మానవ బృందాలు వేలాది వాస్తవిక వెబ్సైట్లను చేతితో తయారు చేయడం సాధ్యం కానందున, గూగుల్ రీసెర్చ్ ఏజెంట్లు, బిల్డర్ ఏజెంట్లు, క్రిటిక్ ఏజెంట్లు అనే విధానాన్ని అనుసరించింది. రీసెర్చ్ ఏజెంట్లు ప్రతి సైట్కు అవసరమైన ఫీచర్లను గుర్తించాయి. బిల్డర్ ఏజెంట్లు సంబంధిత కోడ్ను రాశాయి. క్రిటిక్ ఏజెంట్లు క్రోమ్ డెవలపర్ టూల్స్తో బటన్లు క్లిక్ చేసి, స్క్రీన్షాట్లు తీసి, లోపాలను గుర్తించి తిరిగి సరిచేయించే పని చేశాయి. ఈ పద్ధతితో నకిలీ అయినప్పటికీ వాస్తవికంగా కనిపించే వెబ్ ప్రపంచం ఏర్పడిందని గూగుల్ తెలిపింది.
ఈ ప్రాజెక్ట్లో అత్యంత ప్రాధాన్యం పొందుతున్న భద్రతా అంశం ‘ప్రాంప్ట్ ఇంజెక్షన్’ దాడుల నిరోధం. ఈ తరహా దాడుల్లో హానికర ఆదేశాలను వెబ్పేజీ టెక్స్ట్, చిత్రాలు లేదా ఇతర కంటెంట్లో దాచిపెట్టి ఏఐ ఏజెంట్ను తప్పుదారి పట్టించే ప్రయత్నం జరుగుతుంది. బ్రౌజింగ్ ఏజెంట్లు యూజర్ తరఫున చర్యలు తీసుకునే స్థాయికి చేరుకుంటున్న నేపథ్యంలో ఇలాంటి దాడులు భవిష్యత్తులో పెద్ద సవాలుగా మారే అవకాశం ఉందని గూగుల్ భావిస్తోంది. “ప్రాంప్ట్ ఇంజెక్షన్ దాడులను ముందుగానే గుర్తించి నిరోధించేలా ఏజెంట్లకు విస్తృత శిక్షణ ఇవ్వడం ఈ పనిలో కీలకం,” అని గూగుల్ సెక్యూరిటీ బ్లాగ్లో పేర్కొంది.
గూగుల్ ఇంజినీరింగ్ డైరెక్టర్ డౌగ్ టర్నర్ మాట్లాడుతూ, ప్రస్తుతం పరీక్షిస్తున్న ఏఐ ఏజెంట్లు ప్రమాదకర స్థాయిలో లేవని చెప్పారు. “ప్రస్తుతం ఉన్న ఏజెంట్లకు హ్యాకింగ్ నైపుణ్యాలు లేవు,” అని ఆయన గూగుల్ ప్రచురించిన సాంకేతిక వివరణలో తెలిపారు. అయితే ఏఐ మోడళ్లు మరింత సామర్థ్యం సాధిస్తున్న కొద్దీ పరీక్షా వాతావరణం కూడా మరింత వాస్తవికంగా, కఠినంగా మారాల్సి ఉంటుందని ఆయన పేర్కొన్నారు. “ఏజెంట్లు తెలివిగా మారుతున్న కొద్దీ, వాటిని పరీక్షించే ప్రపంచం కూడా మరింత నమ్మదగినదిగా ఉండాలి,” అని టర్నర్ అన్నారు.
క్రోమ్లో జెమిని ఆధారిత ‘ఆటో బ్రౌజ్’ తరహా ఫీచర్లు రానున్న నేపథ్యంలో, బ్రౌజర్ భద్రత, యూజర్ గోప్యత, ఏఐ నిర్ణయాల విశ్వసనీయత అంశాలు మరింత కీలకంగా మారుతున్నాయి. మిర్రర్ డైమెన్షన్ ద్వారా లింక్లను అనుసరించడం, ఫారమ్లను పూర్తి చేయడం, డౌన్లోడ్లు ప్రారంభించడం, షాపింగ్ ప్రక్రియలను అనుకరించడం వంటి పనుల్లో ఏఐ ప్రవర్తనను గూగుల్ అంచనా వేస్తోంది. ఈ పరీక్షల ఫలితాల ఆధారంగా ఏజెంట్ల సామర్థ్యాలు, పరిమితులు, భద్రతా నియమాలను మెరుగుపరచనుంది. రాబోయే దశల్లో మరిన్ని దాడి నమూనాలు, మరిన్ని రకాల నకిలీ వెబ్సైట్లు చేర్చి పరీక్షలను విస్తరించనున్నట్లు కంపెనీ తెలిపింది.
