99TV News

    AIలో Gender Bias: మహిళల భాగస్వామ్యం ఎందుకు కీలకం

    AIలో Gender Bias ప్రమాదం.. మహిళలు డిజైన్‌లో ఎందుకు ఉండాలి?

    ఏఐ రూపకల్పనలో మహిళల భాగస్వామ్యం పెరగాలి: సైప్రస్ కమిషనర్

    మానవ డేటా నుంచి నేర్చుకునే ఏఐ వ్యవస్థల్లో జెండర్ స్టీరియోటైప్స్ ప్రతిబింబించే ప్రమాదంపై హెచ్చరిక

    కృత్రిమ మేధ వ్యవస్థలు సమాజంలో ఇప్పటికే ఉన్న జెండర్ బైయాస్‌ను తిరిగి ప్రతిబింబించే ప్రమాదం ఉందని సైప్రస్ జెండర్ ఈక్వాలిటీ కమిషనర్ ఈ వారం నికోసియాలో హెచ్చరించారు. ఏఐ టెక్నాలజీ రూపకల్పన, పరీక్షలు, పాలసీ నిర్ణయాల్లో మహిళల భాగస్వామ్యం పెరగాల్సిన అవసరం ఉందని ఆమె అన్నారు.

    ఏఐ వ్యవస్థలు స్వతంత్రంగా ఆలోచించే యంత్రాల్లా కనిపించినా, అవి ప్రధానంగా మనుషులు సేకరించిన డేటా, గత నిర్ణయాలు, ప్రస్తుత సంస్థాగత విధానాల నుంచి నేర్చుకుంటాయని కమిషనర్ చెప్పారు. అందువల్ల ఆ డేటాలో ఉన్న అసమానతలు, ఉద్యోగ నియామకాల్లో కనిపించిన పాత నమూనాలు, ఆరోగ్య సేవల్లో మహిళల అవసరాలపై తక్కువ దృష్టి వంటి అంశాలు అల్గారిథమ్‌లలోకి వెళ్లే అవకాశం ఉంటుందని ఆమె పేర్కొన్నారు. “ఏఐ తటస్థంగా ఉండాలంటే దాన్ని రూపొందించే బృందాలు కూడా వైవిధ్యంగా ఉండాలి,” అని సైప్రస్ జెండర్ ఈక్వాలిటీ కమిషనర్ నికోసియాలో జరిగిన చర్చలో చెప్పారు.

    మహిళల ప్రాతినిధ్యం తక్కువగా ఉన్న టెక్నాలజీ బృందాల్లో కొన్ని సమస్యలు కనిపించకుండా పోవచ్చని ఆమె వివరించారు. ఉద్యోగాల షార్ట్‌లిస్టింగ్, రుణాల అంచనా, ఆరోగ్య సలహాలు, సేఫ్టీ టూల్స్, డిజిటల్ అసిస్టెంట్లు వంటి విభాగాల్లో ఏఐ వినియోగం పెరుగుతున్న సమయంలో ఈ ప్రశ్న మరింత కీలకమైందని ఆమె అన్నారు. “డేటాలో బైయాస్ ఉంటే ఫలితాల్లో కూడా బైయాస్ కనిపించవచ్చు,” అని కమిషనర్ చెప్పారు. “అందుకే మహిళలు వినియోగదారులుగానే కాకుండా డిజైనర్లు, డెవలపర్లు, ఆడిటర్లు, పాలసీ రూపకర్తలుగా ఉండాలి.”

    HIGHLIGHTS

    - ఏఐ మానవ డేటా, నిర్ణయాల నుంచి నేర్చుకుంటుంది

    - మహిళల ప్రాతినిధ్యం తక్కువైతే కొన్ని సమస్యలు కనిపించకపోవచ్చు

    - నియామకాలు, ఆరోగ్యం, రుణాల రంగాల్లో ప్రభావం ఉండొచ్చు

    - వైవిధ్యమైన బృందాలు అవసరమని సైప్రస్ కమిషనర్ అన్నారు

    టెక్ నిపుణుల అభిప్రాయం ప్రకారం, జెండర్ బైయాస్ అనేది ఏఐకి ప్రత్యేకంగా పుట్టే లక్షణం కాదు; అది శిక్షణ డేటా, డిజైన్ ఎంపికలు, టెస్టింగ్ పద్ధతుల ద్వారా వ్యవస్థలోకి ప్రవేశిస్తుంది. ఉదాహరణకు, గతంలో ఎక్కువగా పురుషుల నియామకాలను ఆధారంగా చేసుకుని ఉద్యోగ అల్గారిథమ్ రూపొందిస్తే, అదే నమూనాను మంచి ఎంపికగా గుర్తించే ప్రమాదం ఉంటుంది. ఆరోగ్య డేటాలో మహిళల లక్షణాలు తక్కువగా నమోదైతే, సంబంధిత సూచనలు కూడా అసంపూర్ణంగా ఉండొచ్చు. ఈ నేపథ్యంలో ఏఐ మోడళ్లను విడుదలకు ముందు స్వతంత్రంగా పరీక్షించడం అవసరమని నిపుణులు చెబుతున్నారు.

    “ఏఐకి జెండర్ బైయాస్ వస్తుందా అన్న ప్రశ్నకు సమాధానం స్పష్టంగా అవును; కానీ అది తప్పనిసరి కాదు,” అని డిజిటల్ పాలసీ నిపుణులు చర్చ సందర్భంగా చెప్పారు. “సరైన డేటా, పారదర్శక పరీక్షలు, బాధ్యతగల బృందాలు ఉంటే బైయాస్‌ను తగ్గించవచ్చు.” కమిషనర్ కూడా ఇదే అంశాన్ని ప్రస్తావిస్తూ, విద్యా సంస్థలు, ప్రభుత్వాలు, కంపెనీలు కలిసి మహిళలను సైన్స్, టెక్నాలజీ, ఇంజినీరింగ్, మ్యాథ్స్ కోర్సుల్లో ప్రోత్సహించాలన్నారు. “సమానత్వం అనేది సామాజిక లక్ష్యం మాత్రమే కాదు; సురక్షితమైన టెక్నాలజీకి అవసరమైన ప్రమాణం,” అని ఆమె అన్నారు.

    ఇక ముందు ఏఐ పాలసీ చర్చల్లో జెండర్ ఇంపాక్ట్ అసెస్‌మెంట్, డేటా ఆడిట్, కంపెనీల బాధ్యత, యూజర్ ఫిర్యాదు వ్యవస్థలు ప్రధాన అంశాలుగా ఉండే అవకాశముంది. సైప్రస్ అధికార వర్గాలు సంబంధిత శాఖలు, టెక్ సంస్థలు, విద్యా సంస్థలతో సంప్రదింపులు కొనసాగించనున్నాయని తెలిపాయి. మహిళల భాగస్వామ్యం పెంచే ప్రోగ్రామ్‌లు, ఏఐ వ్యవస్థల్లో బైయాస్ పరీక్షల మార్గదర్శకాలపై తదుపరి చర్యలు నిర్ణయించనున్నారు.