99TV News

    AI భద్రత: Jacob Coxon హెచ్చరికలపై కీలక విషయాలు

    AI సంస్థలు మోడళ్లను పూర్తిగా నియంత్రించలేవు: Jacob Coxon

    అగ్ర ఏఐ సంస్థలు మోడళ్లపై నియంత్రణ కోల్పోతున్నాయని విజిల్‌బ్లోవర్ జేకబ్ కాక్సన్ హెచ్చరిక

    ఓపెన్‌ఏఐ, ఆంత్రాపిక్, గూగుల్ డీప్‌మైండ్ అనుభవం ఉన్న పరిశోధకుడు ఫ్రంటియర్ ఏఐ భద్రతపై కఠిన ప్రశ్నలు లేవనెత్తారు

    మాజీ ఏఐ సేఫ్టీ పరిశోధకుడు జేకబ్ కాక్సన్ అగ్ర కృత్రిమ మేధ సంస్థలు తాము రూపొందిస్తున్న శక్తివంతమైన మోడళ్లను పూర్తిగా అర్థం చేసుకోలేకపోతున్నాయని, విశ్వసనీయంగా నియంత్రించలేకపోతున్నాయని ఈ వారం చేసిన వ్యాఖ్యలు ప్రపంచ ఏఐ నియంత్రణ చర్చను మరింత వేడెక్కించాయి.

    ఓపెన్‌ఏఐ, ఆంత్రాపిక్, గూగుల్ డీప్‌మైండ్ వంటి ప్రముఖ ఏఐ ల్యాబ్‌లలో పనిచేసిన అనుభవం ఉన్న కాక్సన్, ఫ్రంటియర్ ఏఐ అభివృద్ధి వేగం భద్రతా హామీలను మించిపోతోందని చెప్పారు. అతని అభిప్రాయం ప్రకారం, కంపెనీలు పెద్ద మోడళ్లను తయారు చేయగలుగుతున్నప్పటికీ, అవి అంతర్గతంగా ఎలా నిర్ణయాలకు వస్తున్నాయి, కొత్త సామర్థ్యాలు ఎలా ఉద్భవిస్తున్నాయి, ప్రమాదకర వినియోగాన్ని పూర్తిగా ఎలా అడ్డుకోవాలి అనే అంశాలపై స్పష్టమైన నియంత్రణ లేదు. “అగ్ర ఏఐ సంస్థలు నిర్లక్ష్యంగా వ్యవహరిస్తున్నాయి,” అని మాజీ ఏఐ సేఫ్టీ పరిశోధకుడు జేకబ్ కాక్సన్ ఈ వారం బహిరంగ వ్యాఖ్యల్లో అన్నారు.

    కాక్సన్ వ్యాఖ్యల ప్రాధాన్యం అతని గత అనుభవం వల్ల పెరిగింది. సాధారణ విమర్శకుడిగా కాకుండా, అత్యంత సామర్థ్యవంతమైన జనరల్ పర్పస్ ఏఐ మోడళ్లపై పని చేసే ప్రముఖ సంస్థల లోపలి ప్రక్రియలను చూసిన వ్యక్తిగా ఆయన మాట్లాడుతున్నారు. ఆయన హెచ్చరికలో ప్రధాన అంశం ఏఐ భవిష్యత్తులో ఎప్పుడో ప్రమాదకరమవుతుందనే సిద్ధాంతాత్మక ఆందోళన మాత్రమే కాదు. ప్రస్తుతం అభివృద్ధి, టెస్టింగ్, విడుదల ప్రక్రియలలోనే మోడళ్ల ప్రవర్తనపై కంపెనీల అవగాహన పరిమితంగా ఉందని ఆయన అన్నారు. “కంపెనీలు సిస్టమ్‌లను నిర్మిస్తున్నాయి, కానీ అవి ఎలా పనిచేస్తున్నాయో పూర్తిగా అర్థం చేసుకోవడం లేదు,” అని కాక్సన్ తెలిపారు.

    పెద్ద భాషా మోడళ్లలో కనిపించే “బ్లాక్ బాక్స్” స్వభావం ఈ చర్చకు కేంద్రంగా ఉంది. మోడల్‌కు శిక్షణ ఇచ్చిన డేటా, ఆర్కిటెక్చర్, ఆప్టిమైజేషన్ పద్ధతులు ఇంజినీర్లకు తెలిసినప్పటికీ, ఒక నిర్దిష్ట ప్రశ్నకు ఒక నిర్దిష్ట సమాధానం ఎందుకు వచ్చింది అనే విషయాన్ని ప్రతి సందర్భంలో వివరించడం కష్టం. శిక్షణ తర్వాత మోడల్‌లో ఊహించని సామర్థ్యాలు కనిపించవచ్చు. కంపెనీలు రెడ్ టీమింగ్, మోడల్ ఎవాల్యుయేషన్లు, కంటెంట్ ఫిల్టర్లు, అలైన్‌మెంట్ ట్రైనింగ్ వంటి భద్రతా చర్యలు చేపడుతున్నప్పటికీ, అవి ప్రమాదాన్ని తగ్గించగలవు కానీ సంపూర్ణ నియంత్రణకు హామీ ఇవ్వలేవని కాక్సన్ వాదించారు.

    కామర్షియల్ ఒత్తిడి కూడా ఆందోళనకు ప్రధాన కారణమని ఆయన పేర్కొన్నారు. యూజర్లను ఆకర్షించడం, మార్కెట్ వాటా పెంచడం, పెట్టుబడులు సమీకరించడం, తదుపరి తరం మోడళ్లను ముందుగా విడుదల చేయడం వంటి ఒత్తిడిలో సంస్థలు పనిచేస్తున్నాయి. ఈ పోటీ వాతావరణంలో జాగ్రత్త కంటే వేగానికి ప్రాధాన్యం దక్కే ప్రమాదం ఉందని కాక్సన్ అభిప్రాయపడ్డారు. “ఇది కేవలం భవిష్యత్తు ప్రమాదం కాదు; ఇది ప్రస్తుతం మోడళ్లను ఎలా అభివృద్ధి చేసి విడుదల చేస్తున్నారనే సమస్య,” అని జేకబ్ కాక్సన్ చెప్పారు.

    HIGHLIGHTS

    - జేకబ్ కాక్సన్ ఓపెన్‌ఏఐ మాజీ ఏఐ సేఫ్టీ పరిశోధకుడు

    - ఆయన ఆంత్రాపిక్, గూగుల్ డీప్‌మైండ్‌లోనూ పనిచేశారు

    - ఫ్రంటియర్ ఏఐ మోడళ్ల నియంత్రణపై ఆయన తీవ్రమైన ఆందోళన వ్యక్తం చేశారు

    - “కంపెనీలు నిర్లక్ష్యంగా వ్యవహరిస్తున్నాయి,” అని కాక్సన్ చెప్పారు

    కాక్సన్ వ్యాఖ్యలు అమెరికా, యూరోపియన్ యూనియన్, బ్రిటన్ తదితర ప్రాంతాల్లో ఏఐ నియంత్రణపై జరుగుతున్న చర్చల మధ్య వెలువడ్డాయి. ప్రభుత్వాలు ఫ్రంటియర్ ఏఐ మోడళ్లకు తప్పనిసరి భద్రతా పరీక్షలు, పారదర్శకత నిబంధనలు, విడుదలకు ముందు రిస్క్ అంచనాలు, అత్యంత సామర్థ్యవంతమైన మోడళ్లపై ప్రత్యేక పర్యవేక్షణ అవసరమా అనే అంశాలను పరిశీలిస్తున్నాయి. పరిశ్రమ స్వచ్ఛంద హామీలు సరిపోతాయా, లేక చట్టబద్ధ నియంత్రణ అవసరమా అన్న ప్రశ్నకు కాక్సన్ వ్యాఖ్యలు మరింత బలం ఇస్తున్నాయి.

    ఓపెన్‌ఏఐ, ఆంత్రాపిక్, గూగుల్ డీప్‌మైండ్ వంటి సంస్థలు సాధారణంగా తమ మోడళ్ల భద్రత కోసం విస్తృత పరీక్షలు, బయటి నిపుణుల సమీక్షలు, వినియోగ పరిమితులు, పాలసీ మార్గదర్శకాలు అమలు చేస్తున్నామని చెబుతున్నాయి. అయితే కాక్సన్ వాదన ప్రకారం, ఇవి వ్యవస్థాపక సమస్యను పూర్తిగా పరిష్కరించవు. మోడళ్ల లోతైన అంతర్గత ప్రక్రియలపై స్పష్టమైన అర్థం లేకుండా, వాటి ప్రవర్తనను అన్ని సందర్భాల్లో ముందుగానే అంచనా వేయడం సాధ్యం కాదని ఆయన అభిప్రాయపడ్డారు. “మోడళ్లపై నియంత్రణ ఉందని చెప్పడం, నిజంగా వాటిని నియంత్రించగలగడం ఒకే విషయం కాదు,” అని ఆయన అన్నారు.

    ఏఐ భద్రతా వర్గాలలో ఈ తరహా హెచ్చరికలు కొత్తవి కావు. అయినప్పటికీ, ప్రముఖ ల్యాబ్‌లలో పనిచేసిన పరిశోధకులు బహిరంగంగా మాట్లాడటం పరిశ్రమపై పర్యవేక్షణను పెంచుతోంది. అత్యంత శక్తివంతమైన మోడళ్లు కోడ్ రాయడం, విశ్లేషణ చేయడం, భాషలు అనువదించడం, డాక్యుమెంట్లు తయారు చేయడం, పరిశోధనలో సహాయపడడం వంటి ప్రయోజనాలను అందిస్తున్నాయి. అదే సమయంలో తప్పుదోవ పట్టించే సమాచారం, సైబర్ దుర్వినియోగం, ఆటోమేషన్ వల్ల ఉద్యోగాలపై ప్రభావం, నిర్ణయ వ్యవస్థల్లో పక్షపాతం వంటి ప్రమాదాలపై ప్రభుత్వాలు, పరిశోధకులు దృష్టి సారించారు.

    కాక్సన్ సందేశం ప్రధానంగా మోడళ్ల సామర్థ్యం పెరుగుతున్న కొద్దీ భద్రతా వ్యవస్థలు కూడా అదే స్థాయిలో బలపడాలనే అంశంపై నిలుస్తుంది. ఆయన వ్యాఖ్యలు పరిశ్రమలో వేగాన్ని పూర్తిగా ఆపాలనే పిలుపుగా కాకుండా, మరింత కఠిన పరీక్షలు, పారదర్శక రిపోర్టింగ్, స్వతంత్ర పరిశీలన, స్పష్టమైన బాధ్యతా వ్యవస్థలు అవసరమనే వాదనగా చూడబడుతున్నాయి. ఫ్రంటియర్ మోడళ్లను విడుదల చేసే ముందు వాటి ప్రమాద స్థాయిపై కంపెనీలు మరింత స్పష్టమైన ఆధారాలు చూపాలని నియంత్రణ నిపుణులు చాలా కాలంగా కోరుతున్నారు.

    ఇకపై ఏఐ నియంత్రణ చర్చల్లో కాక్సన్ వ్యాఖ్యలు తరచుగా ప్రస్తావనకు రావచ్చు. ప్రభుత్వాలు కొత్త నిబంధనలపై సంప్రదింపులు కొనసాగిస్తున్నాయి. సంస్థలు తమ తదుపరి తరం మోడళ్లపై పని చేస్తుండగా, భద్రతా హామీలు, స్వతంత్ర ఆడిట్‌లు, విడుదల నియమాలు ఎలా ఉండాలనే అంశాలపై విధాన నిర్ణేతల దృష్టి మరింత కేంద్రీకృతమయ్యే అవకాశం ఉంది.