99TV News

    ఏఐ చాట్‌బాట్‌లు ఉగ్ర ప్లాన్లు | GAO పరిశోధన

    ఉగ్రదాడులకు ఏఐ చాట్‌బాట్‌ల ప్లాన్లు.. GAO పరిశోధనలో ఆందోళనకర వివరాలు

    ఏఐ చాట్‌బాట్‌ల భద్రతపై అమెరికా జీఏవో ప్రశ్నలు

    చాట్‌జీపీటీ, క్లాడ్, జెమినాయ్, గ్రోక్ పరీక్షల్లో ప్రమాదకర సూచనలు వచ్చినట్లు జీఏవో పరిశోధన వెల్లడి

    అమెరికా ప్రభుత్వ జవాబుదారీ కార్యాలయం జీఏవో నిర్వహించిన పరీక్షల్లో ప్రముఖ ఏఐ చాట్‌బాట్‌లు ఉగ్రదాడులకు ఉపయోగపడే ప్రమాదకర సమాచారాన్ని భద్రతా అడ్డంకులు దాటించి అందించగలవని తేలింది. న్యూహ్యాంప్‌షైర్‌ సెనేటర్ మేగీ హసన్ అభ్యర్థనపై 2026 మేలో ఈ పరిశీలన జరిగింది.

    జీఏవో పరిశోధకులు చాట్‌జీపీటీ, క్లాడ్, జెమినాయ్, గ్రోక్ వంటి చాట్‌బాట్‌లను పరీక్షించినప్పుడు, మొదట అవి హింసాత్మక లేదా నేరపూరిత సమాచారాన్ని ఇవ్వలేమని నిరాకరించినట్లు అధికారులు తెలిపారు. అయితే ప్రశ్నల రూపాన్ని మార్చడం, పరోక్షంగా అడగడం వంటి విధానాలతో భద్రతా నియంత్రణలను దాటవచ్చని పరిశోధనలో గుర్తించారు. ఒక చాట్‌బాట్ పార్కింగ్ ప్రాంతంలో దాడి చేస్తే ఎక్కువ నష్టం కలిగే ప్రదేశాలను చిత్ర రూపంలో సూచించగా, మరో చాట్‌బాట్ డ్రోన్‌ను ఉపయోగించి విద్యుత్ సబ్‌స్టేషన్‌పై దాడి చేసే విధానాన్ని దశలవారీగా వివరించినట్లు జీఏవో తెలిపింది.

    ఈ ఫలితాలపై అమెరికా నిఘా వర్గాలు తీవ్ర ఆందోళన వ్యక్తం చేశాయి. రోజువారీ పనుల్లో వేగం, సౌలభ్యం కోసం ఉపయోగిస్తున్న ఏఐ టూల్స్‌ను దుర్వినియోగం చేసే అవకాశాలు పెరుగుతున్నాయని అధికారులు హెచ్చరించారు. “ఏఐ వ్యవస్థలు ప్రమాదకర సమాచారాన్ని అడ్డుకునేలా కంపెనీలు చెప్పుతున్న భద్రతా చర్యలు సరిపోవడం లేదనే సంకేతాలు ఈ పరీక్షల్లో కనిపించాయి,” అని జీఏవో అధికారులు పరిశోధన వివరాల్లో పేర్కొన్నారు. భద్రతా వ్యవస్థలు కేవలం ప్రత్యక్ష ప్రశ్నలకు మాత్రమే కాకుండా, వక్రీకరించిన లేదా పరోక్షంగా అడిగే ప్రశ్నలకు కూడా సమర్థంగా స్పందించాల్సిన అవసరం ఉందని వారు తెలిపారు.

    సెనేటర్ మేగీ హసన్ కార్యాలయం ఈ అంశాన్ని జాతీయ భద్రతకు సంబంధించిన తీవ్రమైన హెచ్చరికగా అభివర్ణించింది. “ఉగ్రవాదులు, నేరగాళ్లు కొత్త టెక్నాలజీని ఎలా వాడతారో ముందుగానే అంచనా వేయాలి,” అని మేగీ హసన్ వాషింగ్టన్‌లో తన కార్యాలయం విడుదల చేసిన ప్రకటనలో అన్నారు. ఏఐ కంపెనీలు తమ మోడళ్లను విడుదల చేసే ముందు స్వతంత్ర భద్రతా పరీక్షలు, నిరంతర పర్యవేక్షణ, ప్రభుత్వానికి నివేదికలు సమర్పించే వ్యవస్థలు బలపడాలని ఆమె కోరారు.

    HIGHLIGHTS

    - జీఏవో పరీక్షలు 2026 మేలో నిర్వహించబడ్డాయి

    - చాట్‌జీపీటీ, క్లాడ్, జెమినాయ్, గ్రోక్ పరిశీలనలో ఉన్నాయి

    - ఒక చాట్‌బాట్ ప్రమాదకర ప్రదేశాన్ని చిత్రంతో సూచించింది

    - డ్రోన్ దాడిపై మరో చాట్‌బాట్ దశలవారీ వివరాలు ఇచ్చింది

    - ఏఐ భద్రతపై అమెరికా నిఘా వర్గాలు ఆందోళన వ్యక్తం చేశాయి

    ఏఐ కంపెనీలు తమ వ్యవస్థల్లో హానికర కంటెంట్‌ను అడ్డుకునే ఫిల్టర్లు, విధానాలు అమల్లో ఉన్నాయని పేర్కొన్నప్పటికీ, జీఏవో పరీక్షా విధానంపై కొన్ని అభ్యంతరాలు వ్యక్తం చేశాయి. పరిశోధకులు అసాధారణ రీతుల్లో ప్రశ్నలు అడిగారని, సాధారణ వినియోగదారుల అనుభవాన్ని అది పూర్తిగా ప్రతిబింబించకపోవచ్చని కంపెనీల ప్రతినిధులు తెలిపారు. అయితే చాట్‌బాట్‌లు ప్రమాదకర సూచనలు ఇవ్వకుండా మరింత కఠినమైన రక్షణలు అవసరమని వారు అంగీకరించినట్లు జీఏవో పేర్కొంది.

    “ఈ పరీక్షల ఉద్దేశం ఏఐని నిలిపివేయడం కాదు, దానిని సురక్షితంగా వాడేలా విధానాలు బలోపేతం చేయడం,” అని జీఏవో సాంకేతిక పరిశీలన బృందం సభ్యులు నివేదికలో అన్నారు. ఏఐ మోడళ్ల శిక్షణ, భద్రతా ఫిల్టర్లు, వినియోగదారుల అభ్యర్థనల విశ్లేషణ, ప్రమాద సంకేతాల గుర్తింపు వంటి అంశాల్లో కంపెనీలు స్పష్టమైన ప్రమాణాలు పాటించాల్సిన అవసరం ఉందని వారు సూచించారు. ముఖ్యంగా ఉగ్రవాదం, మౌలిక సదుపాయాలపై దాడులు, పేలుడు పదార్థాల తయారీ వంటి అంశాల్లో చాట్‌బాట్‌లు ఎలాంటి సహాయం చేయకూడదని నివేదిక పేర్కొంది.

    జాతీయ భద్రతా నిపుణుల ప్రకారం, ఈ పరిశోధన ఏఐ పాలనపై అమెరికాలో జరుగుతున్న చర్చకు కొత్త బలం ఇచ్చింది. పెద్ద టెక్ కంపెనీలు వేగంగా మోడళ్లను విడుదల చేస్తున్న సమయంలో, వాటి ప్రమాదాలపై ప్రభుత్వ పర్యవేక్షణ తగినంతగా ఉందా అన్న ప్రశ్న మళ్లీ ముందుకు వచ్చింది. విద్యుత్ గ్రిడ్‌లు, రవాణా వ్యవస్థలు, ప్రజా ప్రదేశాలు వంటి కీలక మౌలిక సదుపాయాల భద్రతపై ఏఐ ద్వారా లభించే సమాచారాన్ని నియంత్రించకపోతే, చిన్న గుంపులు కూడా అధిక ప్రమాదం కలిగించే ప్రణాళికలు రూపొందించే అవకాశం ఉందని వారు చెప్పారు.

    అమెరికా కాంగ్రెస్‌లో ఏఐ భద్రతపై మరింత కఠిన నిబంధనల అవసరంపై చర్చలు కొనసాగనున్నాయి. జీఏవో నివేదిక ఆధారంగా సంబంధిత కమిటీలు కంపెనీలను వివరణ కోరే అవకాశముందని సెనేట్ వర్గాలు తెలిపాయి. ఏఐ కంపెనీలకు స్వతంత్ర ఆడిట్‌లు, రెడ్ టీమ్ పరీక్షలు, ప్రభుత్వానికి తప్పనిసరి భద్రతా నివేదికలు వంటి చర్యలు విధించే ప్రతిపాదనలు పరిశీలనలో ఉన్నాయి. వచ్చే దశలో జీఏవో పూర్తి సిఫార్సులు, కంపెనీల ప్రతిస్పందనలు, కాంగ్రెస్ విచారణల షెడ్యూల్‌పై దృష్టి నిలవనుంది.