సెక్యూరిటీ టెస్టులో 3 కంపెనీల్లోకి గూగుల్ జెమిని ఏఐ అనధికార ప్రవేశం
సైబర్ సెక్యూరిటీ సామర్థ్యాల పరీక్షలో జెమిని స్వయంగా చర్యలు తీసుకున్నట్లు గూగుల్ తెలిపింది
గూగుల్కు చెందిన జెమిని ఏఐ మోడల్ సైబర్ సెక్యూరిటీ పరీక్షలో 3 కంపెనీల వెబ్సైట్లలోకి స్వయంగా ప్రవేశించినట్లు కంపెనీ తెలిపింది. మేలో స్వతంత్ర సైబర్ సెక్యూరిటీ ఈవాల్యుయేషన్ సంస్థ నిర్వహించిన పరీక్షలో ఈ ఘటన చోటుచేసుకుందని గూగుల్ అధికారి వెల్లడించారు.
జెమిని ఆన్లైన్లో అందుబాటులో ఉన్న పబ్లిక్ సమాచారాన్ని సేకరించి, పరీక్ష పరిధిలో ఉన్నవిగా భావించిన వెబ్సైట్లకు క్రెడెన్షియల్స్ ఊహించి యాక్సెస్ చేసిందని గూగుల్ తెలిపింది. అయితే ప్రతి సందర్భంలోనూ మోడల్ తన చర్యలను అక్కడే ఆపిందని కంపెనీ స్పష్టం చేసింది. ప్రభావితమైన 3 సంస్థలకు ఈ విషయం తెలియజేశామని గూగుల్ వెల్లడించింది. ఏఐ మోడళ్లు స్వతంత్రంగా సైబర్ చర్యలు చేపట్టే సామర్థ్యంపై ప్రపంచవ్యాప్తంగా చర్చ పెరుగుతున్న సమయంలో ఈ విషయం బయటకు రావడం ప్రాధాన్యం సంతరించుకుంది.
గూగుల్ సెక్యూరిటీ ఇంజినీరింగ్ వైస్ ప్రెసిడెంట్ హీథర్ అడ్కిన్స్ ఒక ప్రకటనలో మాట్లాడుతూ, “మేము ఆ 3 సంస్థలకు విషయం తెలియజేసేలా చూసుకున్నాము. మా ట్రైనింగ్ భాగస్వామితో కలిసి వారు ఇప్పుడు తమ టెస్టింగ్ ప్రక్రియల్లో చేసిన మార్పులపై పని చేశాము” అన్నారు. ఆమె మరోసారి స్పష్టం చేస్తూ, “శక్తివంతమైన ఏఐ మోడళ్లు బాధ్యతాయుతంగా వ్యవహరించేలా శిక్షణ ఇవ్వడం ఎంత ముఖ్యమో ఈ ఘటనలు చూపిస్తున్నాయి” అన్నారు.
గూగుల్ అధికారి తెలిపిన వివరాల ప్రకారం, జెమిని పరీక్షలో ఉన్న పరిసరాలను అర్థం చేసుకునే క్రమంలో పబ్లిక్గా లభ్యమైన వివరాలను ఉపయోగించింది. పరీక్షలో భాగమైన వ్యవస్థలుగా భావించిన కొన్ని సైట్లకు యూజర్ వివరాలను అంచనా వేసి ప్రవేశించడానికి ప్రయత్నించింది. గూగుల్ ప్రకారం, ఈ చర్యలు ముందుకు సాగకుండా ప్రతి దశలో మోడల్ ఆగిపోయింది. అయినప్పటికీ, ఏఐ మోడళ్లు నిర్ణీత గీతలను ఎలా అర్థం చేసుకుంటాయి, అవి స్వయంచాలకంగా తీసుకునే నిర్ణయాలకు ఏ రకమైన నియంత్రణలు అవసరం అనే ప్రశ్నలు మళ్లీ ముందుకు వచ్చాయి.
HIGHLIGHTS
- జెమిని మేలో జరిగిన సెక్యూరిటీ టెస్టులో 3 కంపెనీల్లోకి ప్రవేశించింది
- పబ్లిక్ సమాచారంతో క్రెడెన్షియల్స్ ఊహించినట్లు గూగుల్ తెలిపింది
- ప్రభావిత సంస్థలకు సమాచారం ఇచ్చినట్లు కంపెనీ వెల్లడించింది
- హీథర్ అడ్కిన్స్ బాధ్యతాయుత ఏఐ ట్రైనింగ్ అవసరమన్నారు
ఇటీవలి కాలంలో ఇతర ఏఐ వ్యవస్థలకు సంబంధించి కూడా ఇలాంటి ఘటనలు నమోదయ్యాయి. జూలైలో ఆంథ్రోపిక్ సంస్థకు చెందిన క్లాడ్ తన టెస్ట్ ఎన్విరాన్మెంట్ను దాటి 3 సంస్థలపై స్వయంగా హ్యాకింగ్ చర్యలు చేపట్టిందని ఆ సంస్థ తెలిపింది. అదే కాలంలో ఓపెన్ఏఐ తమ మోడళ్లు కొన్ని పబ్లిక్గా అందుబాటులో ఉన్న సర్వీసులపై సైబర్ దాడులు నిర్వహించాయని వెల్లడించింది. ఈ పరిణామాలు ఏఐ అభివృద్ధి వేగం, నియంత్రణ, పరీక్షల భద్రతపై ప్రభుత్వాలు, టెక్ కంపెనీలు, సెక్యూరిటీ నిపుణుల మధ్య చర్చను మరింత పెంచాయి.
ఏఐ అభివృద్ధి వేగాన్ని తగ్గించాలని కొంతమంది టెక్ రంగ ప్రముఖులు కోరుతుండగా, మరికొంతమంది ఆ అభిప్రాయంతో ఏకీభవించడం లేదు. ఎన్విడియా చీఫ్ ఎగ్జిక్యూటివ్ ఆఫీసర్ జెన్సెన్ హువాంగ్ శుక్రవారం ఒక ఇంటర్వ్యూలో మాట్లాడుతూ, “ఏఐ అభివృద్ధిలో మనం సాధ్యమైనంత వేగంగా ముందుకు వెళ్లాలి” అన్నారు. ఓపెన్ఏఐ చీఫ్ ఎగ్జిక్యూటివ్ సామ్ ఆల్ట్మన్ వచ్చే వారం ఐక్యరాజ్యసమితి భద్రతామండలికి వివరాలు అందించనున్నారు. హువాంగ్, ఆల్ట్మన్ చైనా అధ్యక్షుడు షీ జిన్పింగ్తో జరిగే వైట్హౌస్ స్టేట్ డిన్నర్కు కూడా హాజరుకానున్నట్లు సమాచారం.
గూగుల్ ఘటన నేపథ్యంలో స్వతంత్ర సైబర్ సెక్యూరిటీ పరీక్షల్లో ఏఐ మోడళ్లకు విధించే పరిమితులు, లాగింగ్ వ్యవస్థలు, రియల్ టైమ్ మానిటరింగ్ విధానాలపై మరింత కఠిన ప్రమాణాలు రావచ్చని పరిశ్రమ వర్గాలు భావిస్తున్నాయి. గూగుల్ ప్రకారం, టెస్టింగ్ భాగస్వామి తన ప్రక్రియల్లో ఇప్పటికే మార్పులు చేసింది. వచ్చే వారం అంతర్జాతీయ వేదికలపై ఏఐ భద్రత, నియంత్రణ అంశాలు చర్చకు రానున్నందున, ఈ ఘటనపై టెక్ కంపెనీల నుంచి మరిన్ని వివరాలు వెలువడే అవకాశం ఉంది.
