99TV News

    ఏఐ ముప్పు: UNలో OpenAI, Anthropic హెచ్చరిక

    ఏఐ నుంచి ప్రపంచాన్ని కాపాడండి: UNలో OpenAI, Anthropic సీఈవోల విజ్ఞప్తి

    ఏఐ ముప్పులపై ఐరాసలో కంపెనీల చీఫ్‌ల హెచ్చరిక

    ఏఐ నియంత్రణకు ప్రపంచ స్థాయి ప్రమాణాలు అవసరమని ఆంథ్రోపిక్, ఓపెన్‌ఏఐ సీఈవోలు భద్రతా మండలిలో విజ్ఞప్తి చేశారు

    వేగంగా విస్తరిస్తున్న కృత్రిమ మేధ వల్ల తలెత్తే భద్రతా ముప్పులను ఎదుర్కొనేందుకు ప్రపంచ దేశాలు కలిసికట్టుగా చర్యలు తీసుకోవాలని ఏఐ సంస్థల అధిపతులు ఐక్యరాజ్య సమితి భద్రతా మండలిలో విజ్ఞప్తి చేశారు. ఏఐని సరైన రీతిలో హ్యాండిల్‌ చేయకపోతే మానవాళి మొత్తానికి ప్రమాదంగా మారవచ్చని వారు హెచ్చరించారు.

    ప్రపంచ దేశాధినేతలు పాల్గొంటున్న ఐరాస సమావేశాల నేపథ్యంలో జరిగిన భద్రతా మండలి చర్చలో ఆంథ్రోపిక్‌ చీఫ్‌ ఎగ్జిక్యూటివ్‌ ఆఫీసర్‌ దారియో అమోడేయీ, ఓపెన్‌ఏఐ చీఫ్‌ ఎగ్జిక్యూటివ్‌ ఆఫీసర్‌ శామ్‌ ఆల్ట్‌మన్‌ పాల్గొన్నారు. వేగంగా అభివృద్ధి చెందుతున్న ఏఐ మోడళ్లు ఆరోగ్యం, విద్య, ఆర్థిక వ్యవస్థ, శాస్త్ర పరిశోధనలకు పెద్ద అవకాశాలను కల్పిస్తున్నప్పటికీ, నియంత్రణలు లేకుండా ముందుకు సాగితే వాటి దుర్వినియోగం తీవ్ర పరిణామాలకు దారితీయవచ్చని వారు చెప్పారు. భవిష్యత్తులో కొన్ని అధునాతన ఏఐ వ్యవస్థలపై మానవ నియంత్రణ తగ్గిపోవచ్చన్న ఆందోళనను కూడా వారు వ్యక్తం చేశారు. ప్రభుత్వాలు, కంపెనీలు, అంతర్జాతీయ సంస్థలు కలిసి భద్రతా ప్రమాణాలను రూపొందించకపోతే ప్రమాదాలను ముందుగానే అంచనా వేసే అవకాశం కోల్పోతామని వారు పేర్కొన్నారు.

    “ఏఐ శక్తిని ఏ ఒక్క కంపెనీకో, దేశానికో పరిమితం చేయొద్దు. మానవాళికి ఈ టెక్నాలజీతో ఉన్న ప్రయోజనాలను ప్రపంచమంతా విస్తరించాలి. ప్రజలు వారి జీవితాలను మెరుగుపరుచుకునేందుకు ఉపయోగించుకోవాలి,” అని ఆంథ్రోపిక్‌ సీఈవో దారియో అమోడేయీ, ఓపెన్‌ఏఐ సీఈవో శామ్‌ ఆల్ట్‌మన్‌ ఐరాస భద్రతా మండలిలో చేసిన విజ్ఞప్తిలో అన్నారు. ఏఐ అభివృద్ధి కొద్దిమంది చేతుల్లో కేంద్రీకృతమైతే దేశాల మధ్య అసమానతలు పెరగవచ్చని, అదే సమయంలో బాధ్యతాయుత వినియోగం కోసం అంతర్జాతీయ పర్యవేక్షణ అవసరమని వారు సూచించారు. ఈ టెక్నాలజీ ప్రయోజనాలు సమానంగా అందాలంటే పారదర్శకత, భద్రత, ప్రజా ప్రయోజనం అనే 3 అంశాలు విధాన నిర్ణయాల్లో కేంద్రంగా ఉండాలని వారు చెప్పారు.

    అమోడేయీ తన వ్యాఖ్యల్లో ఏఐ వల్ల కలిగే అత్యంత సున్నితమైన భద్రతా సమస్యలపై ప్రత్యేకంగా దృష్టి పెట్టారు. జీవాయుధాల తయారీకి ఏఐ వ్యవస్థలు ఉపయోగపడకుండా ముందస్తు నియంత్రణలు అవసరమని ఆయన ప్రపంచ దేశాల నాయకులకు పిలుపునిచ్చారు. ఏయే మోడళ్లకు ప్రమాదకర జీవశాస్త్ర సమాచారాన్ని రూపొందించే సామర్థ్యం ఉందో గుర్తించేందుకు వ్యవస్థబద్ధమైన పరీక్షలు చేయాలని ఆయన అన్నారు. “జీవాయుధాలను తయారు చేయకుండా ఏఐని నియంత్రించాలి. అలాంటి సామర్థ్యం ఉన్న మోడళ్లను పరీక్షించాలి. నియంత్రణ కోల్పోవడం, దుర్వినియోగం వంటి అంశాలపై స్పష్టమైన ప్రమాణాలు రూపొందించాలి,” అని ఆంథ్రోపిక్‌ సీఈవో దారియో అమోడేయీ భద్రతా మండలి చర్చలో అన్నారు. సాంకేతికత వేగం ప్రభుత్వాల విధాన వేగాన్ని మించిపోకుండా చూడటం ఇప్పుడు కీలకమని ఆయన పేర్కొన్నారు.

    ఓపెన్‌ఏఐ సీఈవో శామ్‌ ఆల్ట్‌మన్‌ కూడా ఏఐ సామర్థ్యాలు వేగంగా పెరుగుతున్నాయన్న దృష్ట్యా అంతర్జాతీయ సమన్వయం అత్యవసరమని చెప్పారు. అధునాతన మోడళ్ల అభివృద్ధి, వాటి విడుదల, వాటి వినియోగం వంటి దశల్లో భద్రతా పరీక్షలు తప్పనిసరి కావాలని ఆయన అభిప్రాయపడ్డారు. కంపెనీల స్వీయ నియంత్రణ ఒక్కటే సరిపోదని, ప్రభుత్వాలు నిర్దిష్ట ప్రమాణాలు రూపొందించి అమలు చేయాలని ఆయన సూచించారు. “ప్రజలు వారి జీవితాలను మెరుగుపరుచుకునేందుకు ఏఐని ఉపయోగించుకోవాలి,” అని శామ్‌ ఆల్ట్‌మన్‌ ఐరాస భద్రతా మండలిలో అన్నారు. ఆయన వ్యాఖ్యల ప్రకారం, ఏఐపై భయం మాత్రమే కాదు, బాధ్యతాయుత వినియోగానికి నమ్మదగిన వ్యవస్థలను నిర్మించడం కూడా సమానంగా ముఖ్యం.

    ఈ చర్చలో ప్రముఖ స్వచ్ఛంద సంస్థ హ్యూమన్‌ ఇంటెలిజెన్స్‌ సహ వ్యవస్థాపకుడు, డేటా సైంటిస్టు రుమ్మన్‌ చౌధురి కూడా ఏఐ ఆయుధీకరణపై ఆందోళన వ్యక్తం చేశారు. సైనిక వ్యవస్థల్లో స్వయం నిర్ణయ సామర్థ్యమున్న టెక్నాలజీ వినియోగం పెరిగితే బాధ్యత ఎవరిపై ఉండాలన్న ప్రశ్న మరింత క్లిష్టమవుతుందని ఆమె పేర్కొన్నారు. “కిల్లర్‌ రోబోల ఆలోచన ఒక సైన్సు ఫిక్షన్‌ సినిమా విలన్‌ను తలపిస్తోంది,” అని రుమ్మన్‌ చౌధురి భద్రతా మండలి చర్చలో అన్నారు. ఆమె వ్యాఖ్యలు ఏఐ వ్యవస్థలు మానవ పర్యవేక్షణ లేకుండా ప్రాణాంతక నిర్ణయాలు తీసుకునే అవకాశంపై పెరుగుతున్న అంతర్జాతీయ ఆందోళనను ప్రతిబింబించాయి.

    HIGHLIGHTS

    - ఐరాస భద్రతా మండలిలో ఏఐ భద్రతపై చర్చ జరిగింది

    - ఆంథ్రోపిక్‌ సీఈవో దారియో అమోడేయీ కఠిన ప్రమాణాలు కోరారు

    - ఓపెన్‌ఏఐ సీఈవో శామ్‌ ఆల్ట్‌మన్‌ అంతర్జాతీయ సమన్వయాన్ని సూచించారు

    - జీవాయుధాల దుర్వినియోగం ప్రధాన ఆందోళనగా ప్రస్తావించారు

    - రుమ్మన్‌ చౌధురి కిల్లర్‌ రోబోలపై హెచ్చరించారు

    భద్రతా మండలిలో జరిగిన చర్చలో ఏఐ పాలనపై 2 ప్రధాన దృక్కోణాలు స్పష్టంగా కనిపించాయి. ఒకటి, ఈ టెక్నాలజీ ద్వారా సమాజానికి లభించే ప్రయోజనాలను అడ్డుకోకుండా అభివృద్ధిని కొనసాగించాలన్నది. రెండోది, భద్రతా ప్రమాణాలు లేకుండా ఏఐని విస్తరించడం వల్ల కలిగే ప్రమాదాలను ముందుగానే నియంత్రించాలన్నది. కంపెనీల చీఫ్‌లు ఈ రెండు అంశాల మధ్య సమతుల్యత అవసరమని చెప్పారు. వారి అభిప్రాయం ప్రకారం, ఏఐని పూర్తిగా నిరోధించడం సాధ్యం కాదు; కానీ అధిక ప్రమాదం ఉన్న మోడళ్లకు పరీక్షలు, ఆడిట్‌లు, వినియోగ పరిమితులు వంటి పద్ధతులను తప్పనిసరి చేయవచ్చు. ఈ విధానం లేకపోతే ప్రమాదాలు జరిగిన తర్వాత స్పందించాల్సిన పరిస్థితి ఏర్పడుతుందని వారు హెచ్చరించారు.

    ఏఐపై అంతర్జాతీయ చర్చలు గత కొన్నేళ్లుగా వేగం పుంజుకున్నాయి. చాట్‌బాట్‌లు, జనరేటివ్‌ ఏఐ టూల్స్‌, కోడ్‌ రాయగల వ్యవస్థలు, పరిశోధనలకు ఉపయోగపడే మోడళ్లు ప్రజా వినియోగంలోకి రావడంతో ప్రభుత్వాలు కొత్త రూల్స్‌పై ఆలోచిస్తున్నాయి. ఉద్యోగాల మార్పు, డేటా ప్రైవసీ, తప్పుడు సమాచార వ్యాప్తి, ఎన్నికలపై ప్రభావం, సైబర్‌ భద్రత, బయోలాజికల్‌ రిస్క్‌లు వంటి అంశాలు విధాన నిర్ణేతల ముందున్నాయి. అయితే భద్రతా మండలిలో ఈసారి ప్రధానంగా ప్రస్తావనకు వచ్చిన అంశం అధునాతన ఏఐ మోడళ్లు అంతర్జాతీయ శాంతి, భద్రతపై చూపే ప్రభావం. ఈ దృష్ట్యా ఏఐ నియంత్రణను కేవలం టెక్నాలజీ రంగపు అంతర్గత అంశంగా కాకుండా, ప్రపంచ భద్రతా వ్యవహారంగా చూడాల్సిన అవసరాన్ని పలువురు వక్తలు ప్రస్తావించారు.

    అమోడేయీ సూచించిన పరీక్షల వ్యవస్థలో మోడళ్ల సామర్థ్యాలను విడుదలకు ముందే అంచనా వేయడం, ప్రమాదకర సమాచారాన్ని రూపొందించే సామర్థ్యం ఉందో లేదో పరీక్షించడం, తప్పుడు వినియోగం జరిగే అవకాశం ఉన్న ప్రాంప్ట్‌లు లేదా ఫలితాలపై నియంత్రణలు పెట్టడం వంటి అంశాలు ఉండొచ్చని చర్చలో పాల్గొన్న నిపుణులు పేర్కొన్నారు. కంపెనీలు తమ మోడళ్లను వేగంగా అప్‌డేట్‌ చేస్తున్న నేపథ్యంలో, ఒక్కసారి రూపొందించిన రూల్స్‌ సరిపోవని, నిరంతర సమీక్ష అవసరమని వారు చెప్పారు. నియంత్రణ కోల్పోవడం అనే అంశం ఇప్పటికీ సాంకేతికంగా, విధాన పరంగా క్లిష్టమైనదే అయినప్పటికీ, అధిక స్వయం నిర్ణయ సామర్థ్యమున్న వ్యవస్థలపై ముందస్తు పరిమితులు పెట్టాలా అనే ప్రశ్న ప్రభుత్వాల ముందుకొచ్చిందని వారు తెలిపారు.

    ఆల్ట్‌మన్‌ వ్యాఖ్యల్లో ఏఐ ప్రయోజనాల విస్తరణకు సమాన ప్రాధాన్యం కనిపించింది. అభివృద్ధి చెందిన దేశాల కంపెనీలు మోడళ్లను నిర్మించి, అభివృద్ధి చెందుతున్న దేశాలు కేవలం వినియోగదారులుగా మిగిలిపోతే టెక్నాలజీ అసమానత పెరుగుతుందని ఆయన అభిప్రాయపడ్డారు. ఆరోగ్య సేవలు అందని ప్రాంతాల్లో వైద్య సూచనలు, విద్యలో భాషా అడ్డంకులను తగ్గించే టూల్స్‌, చిన్న వ్యాపారాలకు ఉత్పాదకత పెంచే అప్లికేషన్లు వంటి ప్రయోజనాలను ఏఐ అందించగలదని ఆయన చెప్పారు. అయితే ఆ ప్రయోజనాలు భద్రతా ప్రమాణాలతో కలిసి రావాలన్నదే ఆయన ప్రధాన సూచనగా ఉంది. ప్రజా విశ్వాసం లేకుండా ఏఐ విస్తరణ నిలకడగా సాగదని ఆయన అభిప్రాయాన్ని వ్యక్తం చేశారు.

    రుమ్మన్‌ చౌధురి చేసిన వ్యాఖ్యలు ఏఐ నైతికత, మానవ పర్యవేక్షణ, బాధ్యత అనే అంశాలపై చర్చను మరింత విస్తరించాయి. స్వయం నియంత్రిత వ్యవస్థలు తప్పు నిర్ణయాలు తీసుకుంటే బాధ్యత డెవలపర్‌పైనా, వినియోగదారుడిపైనా, ప్రభుత్వంపైనా, లేక కమాండ్‌ నిర్మాణంపైనా ఉండాలన్న ప్రశ్నకు స్పష్టమైన సమాధానం లేకపోవడం ప్రమాదకరమని ఆమె పేర్కొన్నారు. సైనిక వినియోగాల్లో ఏఐ పాత్ర పెరగడం, పోలీసింగ్‌, సరిహద్దు పర్యవేక్షణ, డేటా విశ్లేషణ వంటి రంగాల్లో అల్గోరిథమ్‌లపై ఆధారపడటం కొత్త చట్టపరమైన సమస్యలను తీసుకురావచ్చని నిపుణులు భావిస్తున్నారు. అందుకే మానవ నియంత్రణ తప్పనిసరి అన్న సూత్రం అంతర్జాతీయ చర్చల్లో ప్రధాన స్థానం పొందుతోంది.

    భద్రతా మండలి వేదికగా కంపెనీల చీఫ్‌లు చేసిన విజ్ఞప్తి, ఏఐ పాలనపై జరుగుతున్న విస్తృత గ్లోబల్‌ ప్రయత్నాల్లో మరో ముఖ్య దశగా నిలిచింది. కొన్ని దేశాలు ఇప్పటికే ఏఐ రూల్స్‌, రిస్క్‌ కేటగిరీలు, పారదర్శకత ప్రమాణాలు, డేటా రక్షణ నిబంధనలపై పని చేస్తున్నాయి. అయితే దేశాల వారీగా వేర్వేరు రూల్స్‌ ఉంటే అంతర్జాతీయ కంపెనీలకు అమలు క్లిష్టమవుతుందని, ప్రమాదకర వినియోగాలు నియంత్రణలు బలహీనంగా ఉన్న ప్రాంతాలకు మారే అవకాశం ఉందని పరిశీలకులు చెబుతున్నారు. అందుకే కనీస భద్రతా ప్రమాణాలు, అధిక ప్రమాద మోడళ్లకు అంతర్జాతీయ రిజిస్ట్రీ, స్వతంత్ర పరీక్షా వ్యవస్థలు వంటి అంశాలపై ప్రపంచ స్థాయి చర్చ అవసరమని వారు పేర్కొంటున్నారు.

    తదుపరి దశలో ఐరాస వేదికగా ఏఐ భద్రతపై సభ్యదేశాల మధ్య మరిన్ని చర్చలు జరిగే అవకాశం ఉంది. కంపెనీల ప్రతిపాదనలు విధాన పత్రాలుగా మారతాయా, దేశాలు వాటికి ఎంతవరకు మద్దతు ఇస్తాయా, భద్రతా పరీక్షలపై ఒకే రకమైన అంతర్జాతీయ ప్రమాణం ఏర్పడుతుందా అన్నది రాబోయే సమావేశాల్లో స్పష్టమవుతుంది. ఏఐ ప్రయోజనాలు ప్రజలకు అందేలా చూసే క్రమంలో, జీవాయుధాల దుర్వినియోగం, నియంత్రణ కోల్పోవడం, స్వయం నిర్ణయ ఆయుధ వ్యవస్థలపై దేశాలు ఏకాభిప్రాయం సాధించగలవా అనేది ఇప్పుడు ప్రధానంగా గమనించాల్సిన అంశంగా మారింది.