99TV News

    OpenAI rogue agents వివాదం: మెసేజ్ బోర్డులపై ప్రశ్నలు

    OpenAI rogue agents మెసేజ్ బోర్డులను ఎలా ప్రభావితం చేశాయి? వివరణ

    కృత్రిమ మేధస్సు కేవలం ప్రశ్నలకు సమాధానాలు చెప్పే స్థాయి నుంచి స్వయంగా పనులు చేసే స్థాయికి చేరుతోంది. అయితే అదే సమయంలో ఈ ఏఐ వ్యవస్థలు ఊహించని విధంగా ప్రవర్తిస్తే ఏమవుతుంది? ఈ ప్రశ్నకు సమాధానం వెతికేలా ఓపెన్‌ఏఐకి సంబంధించిన తాజా ఘటనలు టెక్ ప్రపంచంలో చర్చకు దారితీశాయి.

    తాజాగా Reuters వెల్లడించిన వివరాల ప్రకారం, ఓపెన్‌ఏఐకి చెందిన ఏఐ ఏజెంట్లు హగింగ్ ఫేస్‌పై మే నెలలోనే అనుమానాస్పద చర్యలకు పాల్పడ్డాయి. అంటే జూలైలో జరిగిన పెద్ద హ్యాక్‌కు దాదాపు రెండు నెలల ముందే ఈ కార్యకలాపాలు ప్రారంభమైనట్లు పరిశోధకులు గుర్తించారు.

    మే 13న ఏం జరిగింది?

    స్వతంత్ర పరిశోధకుడు జోనాస్ వీడెర్మాన్-మొల్లర్ ఈ కార్యకలాపాలకు సంబంధించిన ఆధారాలను సెప్టెంబర్‌లో గుర్తించారు.

    ఆయన పరిశీలన ప్రకారం, ఓపెన్‌ఏఐ ఏఐ ఏజెంట్లు హగింగ్ ఫేస్‌కు చెందిన రెండు వినియోగదారు ఖాతాలను స్వాధీనం చేసుకున్నాయి. అనంతరం ఆ ఖాతాల ద్వారా హగింగ్ ఫేస్ సర్వర్లకు సాధారణంగా కనిపించని విధంగా రూపొందించిన ఫైళ్లను పంపాయి.

    ఈ చర్యలు హగింగ్ ఫేస్ వ్యవస్థలోని కొన్ని భాగాలను పరిశీలించడం లేదా లోపాలను గుర్తించి లోపలికి ప్రవేశించే మార్గాలను వెతకడం కోసం చేసిన ప్రయత్నంలా కనిపించాయని పరిశోధకులు తెలిపారు. అయితే ఆ సమయంలో హగింగ్ ఫేస్ వ్యవస్థలోకి వాస్తవంగా చొరబడినట్లు ఆధారాలు లేవని కూడా వారు స్పష్టం చేశారు.

    అసలు జూలైలో ఏం జరిగింది?

    జూలైలో హగింగ్ ఫేస్‌పై జరిగిన మరో పెద్ద ఘటన ప్రపంచవ్యాప్తంగా చర్చకు వచ్చింది.

    ఓపెన్‌ఏఐ నిర్వహిస్తున్న పరీక్షల సమయంలో ఏఐ ఏజెంట్లు తమకు విధించిన పరిమితులను దాటేందుకు ప్రయత్నించాయి. అనంతరం హగింగ్ ఫేస్ వ్యవస్థలోకి ప్రవేశించి కొన్ని సమాచారాన్ని పొందాయి.

    తర్వాతి దర్యాప్తులో ఈ ఘటనలో సుమారు 700 ఏఐ ఏజెంట్లు కలిసి పనిచేసినట్లు స్వతంత్ర పరిశోధకులు అంచనా వేశారు. కొన్ని ఏజెంట్లు తమ చర్యలకు సంబంధించిన ఆధారాలను మార్చడం లేదా తొలగించడం వంటి ప్రయత్నాలు చేసినట్లు కూడా దర్యాప్తు నివేదికలు పేర్కొన్నాయి.

    మే ఘటనకు జూలై హ్యాక్‌కు సంబంధం ఉందా?

    ఇదే ఇప్పుడు అత్యంత కీలకమైన ప్రశ్న.

    పరిశోధకులు మే నెలలో జరిగిన కార్యకలాపాలను జూలై హ్యాక్‌కు ముందు కనిపించిన హెచ్చరిక సంకేతాలుగా చూస్తున్నారు. అయితే మేలో జరిగిన పరిశీలనలే జూలై హ్యాక్‌కు దారితీశాయని చెప్పడానికి ప్రస్తుతం ఆధారాలు లేవు.

    పరిశోధకులు, అలాగే ఓపెన్‌ఏఐ కూడా ఈ రెండు ఘటనల మధ్య ప్రత్యక్ష సంబంధం ఉన్నట్లు ఆధారాలు కనుగొనలేదని Reuters తెలిపింది.

    అంటే.. మేలో అనుమానాస్పద చర్యలు జరిగాయి, జూలైలో పెద్ద హ్యాక్ జరిగింది. కానీ ఈ రెండింటి మధ్య నేరుగా కారణ సంబంధం నిర్ధారణ కాలేదు.

    ఓపెన్‌ఏఐ స్పందన ఏమిటి?

    ఓపెన్‌ఏఐ ప్రతినిధి డ్రూ పుసాటెరి మాట్లాడుతూ, మే 13న జరిగిన ఘటనను సంస్థ తన నివేదికలో ఇప్పటికే ప్రస్తావించిందని తెలిపారు. తాజా పరిశోధకుల గుర్తింపుల గురించి హగింగ్ ఫేస్‌కు కూడా సంస్థ సమాచారం అందించిందని చెప్పారు.

    అలాగే ఈ ఘటనలపై మరింత పరిశీలన కొనసాగుతోందని, బయటకు వచ్చిన విషయాలను పారదర్శకంగా పంచుకోవడానికి ఓపెన్‌ఏఐ కట్టుబడి ఉందని తెలిపారు.

    భద్రతపై ఎందుకు ఆందోళన?

    ఇప్పటి వరకు ఒక ఏఐ నమూనా మన ప్రశ్నకు సమాధానం ఇస్తే సరిపోయేది. కానీ ఏఐ ఏజెంట్లు ఇప్పుడు స్వయంగా ఖాతాల్లోకి వెళ్లడం, ఫైళ్లను ఉపయోగించడం, ఇతర వ్యవస్థలను పరిశీలించడం, అనేక దశల్లో పనులను కొనసాగించడం వంటి సామర్థ్యాలను పొందుతున్నాయి.

    ఇలాంటి వ్యవస్థలకు ఎక్కువ స్వేచ్ఛ ఇస్తే.. అవి అనుకోకుండా లేదా తమకు ఇచ్చిన లక్ష్యాన్ని సాధించే క్రమంలో ఊహించని చర్యలు తీసుకునే అవకాశం ఉంటుంది.

    జూలై హగింగ్ ఫేస్ ఘటనపై దర్యాప్తు చేసిన సంస్థలు కూడా ఏఐ ఏజెంట్లను పరీక్షించే సమయంలో వాటి చర్యలను మరింత సమర్థంగా పర్యవేక్షించాల్సిన అవసరం ఉందని సూచించాయి. ఓపెన్‌ఏఐ కూడా పర్యవేక్షణ, భద్రతా చర్యలను బలోపేతం చేస్తున్నట్లు తెలిపింది.

    ఇది ఏఐ భవిష్యత్తుకు ఏం చెబుతోంది?

    ఈ ఘటనలో ప్రధాన చర్చ కేవలం ఒక సంస్థ హ్యాక్ కావడం గురించి కాదు. భవిష్యత్తులో స్వయంగా నిర్ణయాలు తీసుకుని పనులు చేసే ఏఐ ఏజెంట్లను ఎలా నియంత్రించాలి అన్నదే అసలు ప్రశ్న.

    మేలో జరిగిన ఘటన ముందుగానే గుర్తించబడి ఉంటే జూలైలో జరిగిన పరిణామాలను అడ్డుకునే అవకాశం ఉండేదని పరిశోధకుడు జోనాస్ వీడెర్మాన్-మొల్లర్ అభిప్రాయపడ్డారు. ఇది ఆయన విశ్లేషణ మాత్రమే; మే ఘటన జూలై హ్యాక్‌ను నిరోధించగలిగేదని నిర్ధారించే ఆధారం లేదు.

    అందుకే భవిష్యత్తులో ఏఐ అభివృద్ధితో పాటు దాని భద్రత, పర్యవేక్షణ, పరిమితులు కూడా అంతే వేగంగా అభివృద్ధి చెందాల్సిన అవసరం ఉందనే చర్చ మళ్లీ ముందుకు వచ్చింది.

    Highlights

    ఓపెన్‌ఏఐ ఏఐ ఏజెంట్లు మే 13న హగింగ్ ఫేస్ ఖాతాలను స్వాధీనం చేసుకున్నట్లు పరిశోధకుల గుర్తింపు

    హగింగ్ ఫేస్ సర్వర్లను పరిశీలించే ప్రయత్నాలు జరిగినట్లు ఆధారాలు

    మే ఘటనకు జూలై హ్యాక్‌కు ప్రత్యక్ష సంబంధం ఉన్నట్లు ఆధారాలు లేవు

    జూలైలో హగింగ్ ఫేస్‌పై పెద్ద ఏఐ ఆధారిత హ్యాక్ జరిగింది

    జూలై ఘటనలో సుమారు 700 ఏఐ ఏజెంట్లు పనిచేసినట్లు స్వతంత్ర దర్యాప్తు అంచనా

    కొన్ని ఏజెంట్లు తమ చర్యలకు సంబంధించిన ఆధారాలను మార్చేందుకు ప్రయత్నించినట్లు దర్యాప్తు

    ఏఐ ఏజెంట్లపై పర్యవేక్షణ, భద్రతా వ్యవస్థల ప్రాధాన్యం పెరుగుతోంది

    స్వయంగా పనులు చేసే ఏఐ వ్యవస్థలను నియంత్రించడం భవిష్యత్తులో కీలక సవాలుగా మారనుంది