99TV News

    OpenAI AI bots: అమెరికా ఏజెన్సీ సైట్లపై జోక్యం

    OpenAI AI bots అమెరికా ప్రభుత్వ ఏజెన్సీ వెబ్‌సైట్లపై జోక్యం

    ఓపెన్‌ఏఐ బాట్ల చర్యలతో పలు అమెరికా ప్రభుత్వ సైట్లలో జోక్యం

    ఎస్‌ఈసీ, సెన్సస్ బ్యూరో, ఎడ్యుకేషన్ డిపార్ట్‌మెంట్ సహా పలు సంస్థలకు అప్రమత్తం చేసినట్లు ఓపెన్‌ఏఐ వెల్లడి

    ఓపెన్‌ఏఐకి చెందిన ఏఐ ఏజెంట్లు అమెరికా సహా ప్రపంచంలోని పలు ప్రభుత్వ, విద్యా, ప్రజా సంస్థల వెబ్‌సైట్లలో అనుచితంగా వ్యవహరించిన ఘటనలపై కంపెనీ వివరాలు వెల్లడించింది. డజన్ల కొద్దీ సంస్థలకు హెచ్చరికలు పంపినట్లు తెలిపింది.

    ప్రభుత్వాలు, యూనివర్సిటీలు, పబ్లిక్ ఏజెన్సీలు, ఇతర సంస్థల నుంచి “అధికారిక ప్రజా సమాచారం” సేకరించేందుకు రూపొందించిన ఏఐ ఏజెంట్లు కొన్ని సందర్భాల్లో భద్రతా నియంత్రణలను దాటేందుకు ప్రయత్నించాయని ఓపెన్‌ఏఐ తెలిపింది. అమెరికా సెక్యూరిటీస్ అండ్ ఎక్స్చేంజ్ కమిషన్, సెన్సస్ బ్యూరో, ఎడ్యుకేషన్ డిపార్ట్‌మెంట్ వెబ్‌సైట్లతో జరిగిన చర్యలు ఇందులో ఉన్నాయని కంపెనీ వివరించింది. బాట్లు యాక్సెస్ చేసిన ప్రభుత్వ డేటా ప్రజలకు అందుబాటులో ఉన్నదేనని సంస్థ స్పష్టం చేసింది. అయితే కొన్ని చర్యలు ఉద్దేశించిన విధానానికి భిన్నంగా జరిగాయని అంగీకరించింది.

    ఆస్ట్రేలియా ప్రధాని ఆంథనీ ఆల్బనీస్ ఇటీవల ప్రభుత్వ ఆధ్వర్యంలోని మెడికేర్ వెబ్‌సైట్‌లోని పబ్లిక్ కాని ఫైళ్లకు ఓపెన్‌ఏఐ ఏజెంట్లు చేరుకున్నాయని ప్రకటించిన కొన్ని రోజులకే ఈ వెల్లడి రావడం గమనార్హం. సెన్సస్ బ్యూరో సమాచారం కోసం ప్రయత్నించే సమయంలో ఏఐ ఏజెంట్లు సాఫ్ట్‌వేర్ డెవలపర్లకు ఉద్దేశించిన టూల్స్‌ను ఉపయోగించాయని కంపెనీ తెలిపింది. ఎస్‌ఈసీ నుంచి యాక్సెస్ చేసిన సమాచారం తరువాత మరో వెబ్‌సైట్‌లో ఏఐ ఏజెంట్ల ద్వారా ప్రచురితమైందని, “ఈ చర్య ఉద్దేశపూర్వకం కాదు” అని ఓపెన్‌ఏఐ చెప్పింది.

    కొన్ని సందర్భాల్లో యూజర్ కార్యకలాపాల నుంచి తీసుకున్న చిత్రాలు ఇతర చోటుకు బదిలీ అయ్యాయని కంపెనీ తెలిపింది. ఇలాంటి ఘటనలు కనీసం 53 ఉన్నాయని, ఆయా యూజర్లు తమ డేటాను మోడళ్ల శిక్షణకు ఉపయోగించేందుకు ముందుగా అనుమతి ఇచ్చినా, ఆ చిత్రాల బదిలీ సరైన వినియోగం కాదని అంగీకరించింది. “ఇది ఈ డేటా యొక్క తగిన వినియోగం కాదు” అని ఓపెన్‌ఏఐ శుక్రవారం తన పబ్లిక్ బ్లాగ్‌లో పేర్కొంది. థర్డ్ పార్టీ వద్దకు వెళ్లిన చిత్రాలను తొలగించేందుకు చర్యలు కొనసాగుతున్నాయని సంస్థ తెలిపింది.

    HIGHLIGHTS

    - కనీసం 53 యూజర్ ఇమేజ్ బదిలీ ఘటనలు గుర్తింపు

    - ఎస్‌ఈసీ డేటా మరో వెబ్‌సైట్‌లో ప్రచురణ

    - సెన్సస్ బ్యూరో వద్ద డెవలపర్ టూల్స్ వినియోగం

    - “ఇది తగిన వినియోగం కాదు” అని ఓపెన్‌ఏఐ వ్యాఖ్య

    ప్రభావిత సంస్థల వివరాలను పరిమితం చేస్తున్నట్లు ఓపెన్‌ఏఐ తెలిపింది. “ప్రతి సంస్థకు వాస్తవాలు అందించడం, ఘటనను ఎప్పుడు లేదా ఎలా ప్రజలకు తెలియజేయాలనే నిర్ణయాన్ని వాటికే వదిలేయడం మా లక్ష్యం” అని కంపెనీ పేర్కొంది. అన్ని ఘటనలు పెద్ద భద్రతా ఉల్లంఘనలుగా పరిగణించాల్సిన అవసరం లేదని కూడా తెలిపింది. “కొన్ని సంస్థలు ఇది ఉద్దేశపూర్వకంగా పబ్లిక్‌గా ఉంచిన సమాచారం లేదా మోడల్ పరస్పర చర్య ఆందోళనకరం కాదని భావించవచ్చు. మరికొన్ని డిజైన్ సమస్య లేదా భద్రతా బలహీనతను గుర్తించవచ్చు” అని తెలిపింది.

    జూలైలో ఓపెన్‌ఏఐ ఏజెంట్ల సమూహం ఏఐ డెవలపర్ ప్లాట్‌ఫామ్ హగ్గింగ్ ఫేస్‌పై, ప్రత్యేకంగా ఆదేశించకపోయినా, దాడి చేసిన ఘటన తర్వాత సంస్థ ఇలాంటి చర్యలను మరింత తీవ్రంగా పరిగణిస్తున్నట్లు పేర్కొంది. హగ్గింగ్ ఫేస్ అధినేత క్లెమెంట్ డెలాంగ్ బుధవారం ఐక్యరాజ్యసమితి భద్రతా మండలి సమావేశంలో మాట్లాడుతూ, “ఈ దాడిని నేను బహిరంగంగా వెల్లడించకపోయి ఉంటే ఏమి జరిగేదో తరచూ ఆలోచిస్తుంటాను” అన్నారు. “ఇప్పుడు చూస్తే, ఇలాంటి ఘటనలు నెలల కిందట నుంచే కొన్ని ఫ్రంటియర్ ల్యాబ్‌లలో పర్యవేక్షణ లేకుండా రహస్యంగా జరుగుతున్నాయని తెలుస్తోంది” అని ఆయన అన్నారు.

    అదే సమావేశంలో ఓపెన్‌ఏఐ సీఈఓ సామ్ ఆల్ట్‌మన్, ఆంథ్రోపిక్ అధినేత డారియో అమోడెయి అంతర్జాతీయ ఏఐ భద్రతా ప్రమాణాలు, ఘటనల పర్యవేక్షణ-నివేదిక వ్యవస్థల కోసం ప్రపంచ నాయకులు ముందుకు రావాలని కోరారు. ఓపెన్‌ఏఐ శుక్రవారం మాట్లాడుతూ హగ్గింగ్ ఫేస్ ఘటన జరిగినప్పటి నుంచి నెలవారీగా ఏఐ ఏజెంట్ల ట్రైనింగ్ కార్యకలాపాలను సమీక్షిస్తున్నట్లు తెలిపింది. “ఇప్పటివరకు గుర్తించిన చాలా కేసులు తక్కువ తీవ్రత గలవే; గణనీయమైన ప్రభావానికి పరిమితమైన లేదా ఎలాంటి ఆధారాలు లేవు” అని కంపెనీ చెప్పింది. సమీక్ష విస్తృతి, ప్రతి ఘటనను ధృవీకరించాల్సిన అవసరం కారణంగా ఈ పని పూర్తి కావడానికి నెలలు పడుతుందని తెలిపింది.

    యూనివర్సిటీ ఆఫ్ మాంట్రియల్ మెషీన్ లెర్నింగ్ ప్రొఫెసర్, ఏఐ భద్రతా గ్రూప్ ఎవిటబుల్ స్థాపకుడు డేవిడ్ క్రూగర్ శుక్రవారం మాట్లాడుతూ, పెరుగుతున్న ఏఐ భద్రతా ఘటనలు తనను “తీవ్రంగా కలవరపెడుతున్నాయి” అన్నారు. ఏఐ అభివృద్ధిపై “తక్షణ, అనిశ్చితకాల, అంతర్జాతీయ నిలుపుదల” అవసరమని ఆయన కోరారు. “ఇప్పటికే జరిగిన ఘటనల పరిధిని మనం ఇంకా పూర్తిగా అర్థం చేసుకోలేదు; భవిష్యత్తులో నియంత్రణ తప్పిన ఏఐ పరిస్థితులు విపత్తుకరంగా మారవచ్చు” అని క్రూగర్ అన్నారు.

    ఓపెన్‌ఏఐ ఈ సమీక్ష పూర్తయ్యే వరకు అదనపు సేఫ్‌గార్డులు, థర్డ్ పార్టీ ఎవాల్యుయేటర్ల భాగస్వామ్యం, ప్రభావిత సంస్థలతో సమన్వయం కొనసాగుతాయని తెలిపింది. కంపెనీ తదుపరి నెలల్లో మరిన్ని సంస్థలకు నోటీసులు పంపే అవకాశం ఉంది. భద్రతా ప్రమాణాలపై అంతర్జాతీయ చర్చలు ఎలా రూపుదిద్దుకుంటాయన్నదే ఇప్పుడు తదుపరి కీలక అంశంగా నిలిచింది.