99TV News

    OpenAI భద్రతా చర్యలపై fired researchers ఆరోపణలు

    OpenAIలో భద్రతా చర్చలు చల్లార్చుతున్నారని తొలగించిన researchers ఆరోపణ

    భద్రతా పనికి దెబ్బ తగిలిందని ఓపెన్‌ఏఐ మాజీ పరిశోధకుల ఆరోపణ

    తొలగింపులు సంస్థలో భద్రతపై విమర్శలను తగ్గించాయని, వాణిజ్య ఒత్తిడి పెరిగిందని మాజీ ఉద్యోగుల వాదన

    ఓపెన్‌ఏఐ నుంచి తొలగించబడిన పలువురు మాజీ పరిశోధకులు, సంస్థలో కృత్రిమ మేధ భద్రతపై స్వతంత్రంగా ఆందోళనలు వ్యక్తం చేసే వాతావరణం బలహీనపడిందని ఆరోపించారు. వేగవంతమైన ప్రోడక్ట్ విడుదలలు, వాణిజ్య పోటీ నేపథ్యంలో భద్రతా పరిశోధనకు తగిన ప్రాధాన్యం దక్కడం లేదని వారు పేర్కొన్నారు.

    చాట్‌జీపీటీ సహా జనరేటివ్ ఏఐ వ్యవస్థలను అభివృద్ధి చేసిన ఓపెన్‌ఏఐపై వచ్చిన ఈ ఆరోపణలు, అత్యంత శక్తివంతమైన ఏఐ మోడళ్లను రూపొందిస్తున్న కంపెనీలలో అంతర్గత గవర్నెన్స్ ఎలా ఉండాలన్న చర్చను మరింత తీవ్రం చేశాయి. తొలగించబడిన పరిశోధకుల వాదన ప్రకారం, భద్రతా ప్రమాదాలను ప్రస్తావించే ఉద్యోగులు వృత్తిపరమైన పరిణామాలను ఎదుర్కొనే అవకాశం ఉందన్న భయం సంస్థలో పెరిగింది. “ఈ తొలగింపులు భద్రతా ప్రయత్నాలపై చిల్లింగ్ ప్రభావం చూపాయి,” అని మాజీ ఓపెన్‌ఏఐ పరిశోధకుల బృందం తమ ప్రకటనలో తెలిపింది.

    మాజీ పరిశోధకుల ఆరోపణల సారాంశం ఏమిటంటే, ఓపెన్‌ఏఐ ప్రారంభ లక్ష్యమైన సమస్త మానవాళికి ప్రయోజనం చేకూరే విధంగా ఆర్టిఫిషియల్ జనరల్ ఇంటెలిజెన్స్‌ను అభివృద్ధి చేయాలన్న దిశ నుంచి సంస్థ క్రమంగా వాణిజ్య ఉత్పత్తుల వైపు మరింతగా మళ్లిందనేది. శక్తివంతమవుతున్న మోడళ్లను ప్రజల్లోకి విడుదల చేసే ముందు వాటి సామర్థ్యాలు, దుర్వినియోగ ప్రమాదాలు, తప్పుడు సమాచారం వ్యాప్తి, నియంత్రణలో లోపాలు వంటి అంశాలను లోతుగా పరీక్షించాల్సిన అవసరం ఉందని వారు చెప్పారు. “సేఫ్టీపై విభేదించే స్వరాలు వినిపించడానికి ఉద్యోగులు సంకోచించే పరిస్థితి ఏర్పడింది,” అని తొలగించబడిన పరిశోధకులలో ఒకరు తెలిపారు.

    ఓపెన్‌ఏఐ మాత్రం సంస్థ భద్రతా కట్టుబాట్లను విడిచిపెట్టలేదని చెబుతోంది. కంపెనీ నాయకత్వం, భద్రతా పరీక్షలు, మోడల్ ఎవాల్యుయేషన్, సెక్యూరిటీ, బాధ్యతాయుత విడుదల విధానాలు తన పని కేంద్రంలోనే ఉన్నాయని తెలిపింది. “ఏఐ భద్రత మా మిషన్‌లో ప్రధాన భాగంగానే కొనసాగుతోంది,” అని ఓపెన్‌ఏఐ ప్రతినిధి తెలిపారు. సిబ్బంది సంబంధిత నిర్ణయాలను భద్రతా పనిని తగ్గించడంగా చూడకూడదని, సంస్థలో పరిశోధన, పాలసీ, టెక్నికల్ రిస్క్ అంచనా వ్యవస్థలు కొనసాగుతున్నాయని కంపెనీ పేర్కొంది.

    ఈ వివాదం ఓపెన్‌ఏఐలో మాత్రమే పరిమితమయ్యే అంశం కాదని ఏఐ భద్రతా పరిశోధకులు చెబుతున్నారు. గూగుల్ డీప్‌మైండ్, ఆంత్రోపిక్, మెటా వంటి సంస్థలు కూడా శక్తివంతమైన మోడళ్ల అభివృద్ధిలో ముందుకు సాగుతున్న సమయంలో, మార్కెట్ పోటీ కంపెనీలను వేగంగా విడుదలల వైపు నెడుతుందనే ఆందోళన ఉంది. అంతర్గత విమర్శలను అడ్డుకునే సంస్కృతి ఏర్పడితే, సాంకేతిక లోపాలు లేదా సామాజిక ప్రమాదాలు బయటపడే అవకాశాలు తగ్గుతాయని పరిశోధకులు హెచ్చరిస్తున్నారు. ముఖ్యంగా ప్రజలకు అందుబాటులోకి వచ్చే చాట్‌బాట్‌లు, కోడ్ జనరేషన్ టూల్స్, మల్టీమోడల్ వ్యవస్థలు విస్తృత ప్రభావం చూపగలవని వారు అంటున్నారు.

    HIGHLIGHTS

    - ఓపెన్‌ఏఐ మాజీ పరిశోధకులు భద్రతా పనిపై ఆందోళన వ్యక్తం చేశారు

    - తొలగింపులు “చిల్లింగ్ ప్రభావం” చూపాయని వారి ఆరోపణ

    - కంపెనీ భద్రత తన మిషన్‌లో భాగమేనని తెలిపింది

    - చాట్‌జీపీటీ విజయానంతరం వాణిజ్య ఒత్తిడి పెరిగిందని విమర్శలు

    - ఏఐ గవర్నెన్స్‌పై పరిశ్రమవ్యాప్తంగా చర్చ మళ్లీ తీవ్రం

    మాజీ పరిశోధకుల వాదనలో ప్రధాన అంశం అంతర్గత విమర్శల పాత్ర. అధునాతన ఏఐ మోడళ్ల సామర్థ్యాన్ని బయటివారికి పూర్తిగా అంచనా వేయడం కష్టమవుతున్నందున, సంస్థలోని భద్రతా బృందాలే తొలి హెచ్చరిక వ్యవస్థలా పనిచేయాల్సి ఉంటుందని వారు పేర్కొన్నారు. అలాంటి బృందాల నుంచి వచ్చిన అభ్యంతరాలను నాయకత్వం ప్రతికూలంగా చూసే భావన ఏర్పడితే, ముఖ్యమైన సమస్యలు విడుదలకు ముందే కనిపించకుండా పోవచ్చని వారు చెప్పారు. “మోడళ్లు మరింత శక్తివంతమవుతున్న సమయంలో, భద్రతా సామర్థ్యాన్ని బలహీనపరచడం ప్రమాదకరం,” అని మాజీ పరిశోధకుల బృందం తెలిపింది.

    కంపెనీ దృష్టిలో, వేగవంతమైన ఉత్పత్తి అభివృద్ధి మరియు భద్రతా పరిశోధన పరస్పర విరుద్ధాలు కావు. ఓపెన్‌ఏఐ తన వ్యవస్థలపై నిరంతర పరీక్షలు నిర్వహిస్తున్నామని, వినియోగ విధానాలను నవీకరిస్తున్నామని, రిస్క్ తగ్గింపు కోసం ప్రత్యేక బృందాలు పనిచేస్తున్నాయని తెలిపింది. ఉద్యోగుల తొలగింపులు సాధారణ సంస్థాగత నిర్ణయాలు కావచ్చని, వాటిని మొత్తం భద్రతా వ్యూహంపై తీర్పుగా పరిగణించడం సరికాదని కంపెనీ వర్గాలు పేర్కొన్నాయి. అయితే ఈ వివరణతో మాజీ ఉద్యోగుల ఆందోళనలు పూర్తిగా తగ్గే సూచనలు కనిపించడం లేదు.

    ఓపెన్‌ఏఐ స్థాపన నుంచి దాని ప్రజా ప్రయోజన మిషన్ పెద్ద చర్చాంశంగానే ఉంది. జనరేటివ్ ఏఐ విస్తృతంగా వినియోగంలోకి వచ్చిన తర్వాత సంస్థ ఒక ప్రముఖ వాణిజ్య శక్తిగా ఎదిగింది. చాట్‌జీపీటీ ప్రజాదరణతో ఏఐ సేవల మార్కెట్ వేగంగా విస్తరించగా, పెట్టుబడులు, భాగస్వామ్యాలు, ప్రోడక్ట్ రోడ్‌మ్యాప్‌లపై ఒత్తిడి పెరిగింది. ఈ మార్పు నేపథ్యంలో, లాభదాయక ఉత్పత్తుల అభివృద్ధి మరియు దీర్ఘకాల భద్రతా పరిశోధన మధ్య సమతుల్యతను కంపెనీలు ఎలా కాపాడతాయన్న ప్రశ్న మరింత ప్రాధాన్యం సంతరించుకుంది.

    పాలసీ నిపుణుల అభిప్రాయం ప్రకారం, ఈ వివాదం ప్రభుత్వ నియంత్రణ సంస్థలు, శాసనసభలు, అంతర్జాతీయ ప్రమాణాల సంస్థలు గమనించాల్సిన అంశాలను ముందుకు తెస్తోంది. ఏఐ కంపెనీలు తమ మోడళ్లను ఎలా పరీక్షిస్తున్నాయి, విడుదలకు ముందు ప్రమాదాలను ఎలా అంచనా వేస్తున్నాయి, ఉద్యోగులకు అంతర్గతంగా అభ్యంతరాలు చెప్పడానికి ఏ రక్షణలు ఉన్నాయి అన్న ప్రశ్నలు ఇప్పుడు కీలకంగా మారాయి. భద్రతా పరిశోధకుల స్వతంత్రతకు హామీలు, విసిల్‌బ్లోయర్ తరహా రక్షణలు, మోడల్ ఎవాల్యుయేషన్ పారదర్శకత వంటి అంశాలపై తదుపరి చర్చ జరిగే అవకాశం ఉంది.

    తొలగించబడిన పరిశోధకుల ఆరోపణలపై మరిన్ని వివరాలు వెలువడితే, ఓపెన్‌ఏఐ తన అంతర్గత భద్రతా వ్యవస్థలు, సిబ్బంది విధానాలు, గవర్నెన్స్ నిర్మాణాల గురించి స్పష్టత ఇవ్వాల్సి రావచ్చు. పరిశ్రమలోని ఇతర ఏఐ కంపెనీలకు కూడా ఇది హెచ్చరికగా నిలిచే అవకాశం ఉంది. రాబోయే వారాల్లో కంపెనీ నుంచి మరిన్ని ప్రకటనలు, భద్రతా విధానాలపై వివరణలు, నియంత్రణ సంస్థల స్పందనలు వెలువడుతాయా అన్నది పరిశ్రమ వర్గాలు గమనిస్తున్నాయి.