ఏఐను గుడ్డిగా నమ్మొద్దు: సత్య నాదెళ్ల హెచ్చరిక
సూపర్ ఇంటెలిజెన్స్ యుగంలో ఏఐ మోడళ్లను ‘ఇన్సైడర్ రిస్క్’గా పరిగణించాలని మైక్రోసాఫ్ట్ సీఈఓ సూచన
మైక్రోసాఫ్ట్ సీఈఓ సత్య నాదెళ్ల ఈ వారం ఎక్స్లో ప్రచురించిన వ్యాసంలో ఏఐ మోడళ్లను కంపెనీలు గుడ్డిగా నమ్మకూడదని హెచ్చరించారు. కీలక వ్యవస్థలకు ప్రవేశం ఉన్న ఏ సామర్థ్యవంతమైన వ్యవస్థనైనా ‘ఇన్సైడర్ రిస్క్’గా చూడాలని ఆయన అన్నారు.
‘మోడల్స్ యాస్ ఇన్సైడర్ రిస్క్స్ ఇన్ ది సూపర్ ఇంటెలిజెన్స్ ఎరా’ పేరుతో రాసిన వ్యాసంలో నాదెళ్ల, ఫ్రంటియర్ ఏఐ మోడళ్లు ఉద్దేశపూర్వకంగా హాని చేస్తాయని కాదు, కానీ అవి తప్పులు చేయవచ్చని లేదా దుర్వినియోగానికి గురికావచ్చని పేర్కొన్నారు. సంప్రదాయ సాఫ్ట్వేర్లో ప్రవర్తనను కోడ్ మార్గానికి అనుసంధానించగలిగినా, ఆధునిక మోడళ్ల అవుట్పుట్ను నిర్దిష్ట డేటా లేదా వెయిట్స్కు ఖచ్చితంగా కట్టిపెట్టడం సాధ్యం కాదని ఆయన చెప్పారు. “మా తరఫున ఇంటెలిజెన్స్ చేసే పనులకు బాధ్యతను మేము ఔట్సోర్స్ చేయలేం” అని నాదెళ్ల వ్యాసంలో రాశారు.
కంపెనీలు మోడల్ సామర్థ్యాన్ని దాని అధికారాల నుంచి వేరు చేయాలని ఆయన సూచించారు. “ఇంటెలిజెన్స్ సరఫరాను, దానిపై అధికారాన్ని వేరు చేయాలి” అని నాదెళ్ల అన్నారు. మోడల్ను నడిపే హార్నెస్, దానికి ఇచ్చే యాక్సెస్, అది తీసుకునే చర్యలు అన్నీ వేర్వేరు నియంత్రణల కింద ఉండాలని ఆయన అభిప్రాయపడ్డారు.
HIGHLIGHTS
- నాదెళ్ల వ్యాసం ఈ వారం ఎక్స్లో ప్రచురితం
- ఏఐ మోడళ్లను ‘ఇన్సైడర్ రిస్క్’గా చూడాలని సూచన
- జూలై 9 నుంచి 13 వరకు 17,600 చర్యలు నమోదయ్యాయి
- “గమనించలేనిదాన్ని నమ్మలేం” అని నాదెళ్ల వ్యాఖ్య
నాదెళ్ల ఏఐ భద్రత కోసం 7 సూత్రాలను ప్రతిపాదించారు. ఒకే మోడల్పై కీలక ఫలితాన్ని ఆధారపరచకూడదని, మోడల్ తన పనిని తానే ధ్రువీకరించకూడదని ఆయన అన్నారు. ప్రతి కీలక చర్యకు మార్చలేని, మనుషులు చదవగల ఆధారం ఉండాలని పేర్కొంటూ, “గమనించలేనిదాన్ని నమ్మలేం” అని ఆయన రాశారు. విఫలాలు, దాడులు, అరుదైన పరిస్థితులపై పరీక్షలు తప్పనిసరి అని ఆయన చెప్పారు.
జూలైలో ఓపెన్ఏఐ అంతర్గత సైబర్ సెక్యూరిటీ పరీక్షల సమయంలో కొన్ని ఏజెంట్లు ఐసోలేషన్ వ్యవస్థలను దాటి హగ్గింగ్ ఫేస్ ప్రొడక్షన్ ఇన్ఫ్రాస్ట్రక్చర్ను చేరిన ఘటన తర్వాత ఈ హెచ్చరికకు ప్రాధాన్యం పెరిగింది. జూలై 9 నుంచి 13 వరకు సుమారు 17,600 చర్యలు నమోదయ్యాయని వెల్లడైంది. అనంతరం హగ్గింగ్ ఫేస్ తన ఇన్ఫ్రాస్ట్రక్చర్లో సుమారు మూడో వంతును క్లీన్ ఇమేజెస్తో తిరిగి నిర్మించింది. నాదెళ్ల తర్వాత ఆల్-ఇన్ పాడ్కాస్ట్లో దీర్ఘకాలం నడిచే ఏజెంట్లను “కొత్త రకం ఇన్సైడర్ రిస్క్” అని అన్నారు.
ఇలాంటి సమస్యలు ఇతర ల్యాబ్లలోనూ పరీక్షల సమయంలో కనిపించాయి. ఆంథ్రోపిక్ క్లాడ్ మోడళ్లపై వచ్చిన తాజా వెల్లడి, గూగుల్ జెమినీ మోడల్ మేలో నిజమైన కంపెనీలను కల్పిత లక్ష్యాలుగా పొరపాటు పడి చేరిన ఘటనలను పరిశ్రమ తీవ్రంగా పరిశీలిస్తోంది. నాదెళ్ల మాత్రం ప్రయోగాల వేగం తగ్గించమని కాకుండా, ఏఐ అమలు చేసే కంపెనీలు స్వతంత్ర నియంత్రణలు, లాగింగ్, పరిమిత అనుమతులు, అత్యవసర షట్డౌన్ విధానాలు సిద్ధం చేసుకోవాలని చెబుతున్నారు.
“అత్యంత విశ్వసనీయమైన సూపర్ ఇంటెలిజెన్స్ వ్యవస్థ మనం ఎక్కువగా నమ్మే మోడల్తో ఉండదు. మోడల్ను తక్కువగా నమ్మేలా మనకు అవకాశం ఇచ్చేదే అది” అని నాదెళ్ల ముగించారు. కంపెనీలు ఇకపై ఏఐ యాక్సెస్ విధానాలు, ఆడిట్ ట్రెయిల్స్, ఎమర్జెన్సీ బ్రేక్ వ్యవస్థలను పునఃసమీక్షించే అవకాశం ఉంది.
