99TV News

    Anthropic Claude ఎన్నికల భద్రతపై కీలక చర్యలు

    US mid-term polls ముందు Claudeను election-ready చేస్తున్న Anthropic

    అమెరికా మధ్యంతర ఎన్నికల ముందు క్లాడ్‌ను ‘ఎలక్షన్-రెడీ’గా మార్చుతున్న ఆంత్రోపిక్

    ఓటర్లను తప్పుదోవ పట్టించే సమాచారం, మోసపూరిత రాజకీయ వినియోగాన్ని అడ్డుకోవడమే లక్ష్యమని కంపెనీ తెలిపింది

    అమెరికా మధ్యంతర ఎన్నికలు దగ్గరపడుతున్న నేపథ్యంలో తమ ఏఐ అసిస్టెంట్ క్లాడ్‌ను ఎన్నికల సమయంలో మరింత భద్రమైనదిగా, విశ్వసనీయమైనదిగా మార్చేందుకు చర్యలు చేపట్టినట్లు ఆంత్రోపిక్ ఈ వారం తెలిపింది. ఓటింగ్ విధానాలు, అర్హత, పోలింగ్ కేంద్రాలు, ఫలితాలపై తప్పుడు సమాచారం వ్యాప్తి చెందకుండా నిరోధించడం ప్రధాన లక్ష్యమని కంపెనీ పేర్కొంది.

    ఆంత్రోపిక్ ప్రకారం, క్లాడ్ రాజకీయంగా ప్రభావితం చేసే సాధనంగా కాకుండా, పౌరులకు నిష్పాక్షికమైన సమాచారం అందించే వ్యవస్థగా పనిచేయాలి. ఓటింగ్ తేదీలు, రిజిస్ట్రేషన్ గడువులు, ఎన్నికల ప్రక్రియలు వంటి ప్రశ్నలకు క్లాడ్ నిర్ధారిత అధికారిక వనరుల వైపు వినియోగదారులను దారి మళ్లించేలా మార్పులు చేస్తున్నట్లు కంపెనీ తెలిపింది. “మా లక్ష్యం ఎన్నికల సమయంలో క్లాడ్ దుర్వినియోగాన్ని నిరోధించడం,” అని ఆంత్రోపిక్ ఒక ప్రకటనలో తెలిపింది. “ఓటర్లకు తప్పుదోవ పట్టించే సూచనలు ఇవ్వకుండా, అధికారిక ఎన్నికల సమాచారాన్ని ప్రాధాన్యంగా చూపేలా వ్యవస్థను మెరుగుపరుస్తున్నాం,” అని కంపెనీ పేర్కొంది.

    కంపెనీ చేపడుతున్న మార్పులు ప్రధానంగా ఎన్నికల సమగ్రతకు సంబంధించిన ప్రమాదాలను తగ్గించడంపై కేంద్రీకృతమై ఉన్నాయి. తప్పుడు పోలింగ్ తేదీలు, తప్పు పోలింగ్ కేంద్రాలు, అర్హతపై గందరగోళ సమాచారం, బ్యాలెట్ విధానాలపై తప్పుదారి పట్టించే సమాధానాలు వంటి అంశాలను నివారించేందుకు క్లాడ్ స్పందనలను మరింత జాగ్రత్తగా రూపకల్పన చేస్తున్నట్లు ఆంత్రోపిక్ తెలిపింది. అభ్యర్థులు, ఎన్నికల అధికారులు లేదా రాజకీయ సంస్థల పేరుతో మోసపూరిత కంటెంట్ సృష్టించకుండా అడ్డుకునే సేఫ్‌గార్డ్స్‌ను కూడా బలపరుస్తున్నట్లు కంపెనీ వివరించింది.

    ఎన్నికల సమయంలో జనరేటివ్ ఏఐ వ్యవస్థలు సున్నితమైన పరీక్షను ఎదుర్కొంటున్నాయని టెక్నాలజీ రంగ నిపుణులు చెబుతున్నారు. టెక్స్ట్, ఇమేజ్, ఆడియో, వీడియోలను సులభంగా సృష్టించే ఏఐ టూల్స్ తప్పుడు ప్రచారం, లక్ష్యిత రాజకీయ సందేశాలు, ఆటోమేటెడ్ ప్రభావ కార్యకలాపాలకు ఉపయోగపడే ప్రమాదం ఉందనే ఆందోళనలు పెరిగాయి. ఆంత్రోపిక్ ఈ చర్యలు, ఎన్నికల సమయంలో ఏఐ కంపెనీలు తమ ప్లాట్‌ఫారమ్‌లపై మరింత బాధ్యత వహించాలని నియంత్రణ సంస్థలు, పౌర సమాజ గ్రూపులు కోరుతున్న సమయంలో వచ్చాయి.

    “క్లాడ్ ఎన్నికలకు సంబంధించిన ప్రశ్నల్లో అధికారిక, విశ్వసనీయ వనరులను సూచించేలా రూపొందించబడుతోంది,” అని ఆంత్రోపిక్ తెలిపింది. “ఓటింగ్ నియమాలు, అర్హత, పోలింగ్ లొకేషన్లు, గడువులు, అధికారిక ఫలితాల వంటి అంశాల్లో ఖచ్చితత్వం అత్యంత ముఖ్యం,” అని కంపెనీ పేర్కొంది. ఈ విధానం ద్వారా క్లాడ్ ఊహాజనిత సమాధానాలు ఇవ్వకుండా, సందేహాస్పద సందర్భాల్లో అధికారిక ఎన్నికల వెబ్‌సైట్లు లేదా స్థానిక ఎన్నికల కార్యాలయాల సమాచారాన్ని సూచించే అవకాశముంది.

    HIGHLIGHTS

    - క్లాడ్‌ను ఎన్నికల సమయంలో ‘ఎలక్షన్-రెడీ’గా మార్చుతున్న ఆంత్రోపిక్

    - ఓటర్ మిస్‌ఇన్ఫర్మేషన్‌ను నిరోధించడమే ప్రధాన లక్ష్యం

    - అధికారిక ఎన్నికల వనరుల వైపు వినియోగదారులను దారి మళ్లించే ప్రణాళిక

    - రాజకీయ మోసం, ఇంపర్సనేషన్‌పై సేఫ్‌గార్డ్స్ బలోపేతం

    క్లాడ్‌ను రాజకీయ ప్రచార యంత్రంగా కాకుండా సమాచార సహాయకుడిగా ఉంచాలన్నదే తమ దృక్పథమని ఆంత్రోపిక్ పేర్కొంది. “క్లాడ్ మోసపూరిత రాజకీయ ప్రచారం లేదా ఓటర్ల అణచివేతకు ఉపయోగపడకూడదు,” అని కంపెనీ తెలిపింది. ఈ ప్రకటనలో కంపెనీ ఏ నిర్దిష్ట పార్టీ, అభ్యర్థి లేదా ప్రచార గ్రూపును ప్రస్తావించలేదు. అయితే ఎన్నికల దగ్గర పడుతున్న కొద్దీ ఏఐ ఆధారిత ప్రభావ ప్రయత్నాలు పెరిగే అవకాశం ఉందని, అందువల్ల ముందస్తు నియంత్రణలు అవసరమని తెలిపింది.

    ఎన్నికల అధికారులకు సంబంధించిన నకిలీ ప్రకటనలు, అభ్యర్థుల పేరుతో తప్పుడు సందేశాలు, ఓటింగ్ పద్ధతులపై తప్పుదారి పట్టించే సూచనలు వంటి ప్రమాదాలు ఏఐ చర్చల్లో ప్రధానంగా ప్రస్తావనకు వస్తున్నాయి. ఒక చాట్‌బాట్ వినియోగదారుడి ప్రాంతం, అర్హత, గడువు వంటి అంశాలపై పొరపాటు సమాధానం ఇస్తే, అది ఓటు హక్కు వినియోగంపై ప్రభావం చూపే అవకాశం ఉందని పౌరహక్కుల సంస్థలు గతంలో హెచ్చరించాయి. ఆ నేపథ్యంలో క్లాడ్ సమాధానాల్లో జాగ్రత్త, పరిమితి, అధికారిక వనరుల ప్రాధాన్యం కీలకమని ఆంత్రోపిక్ వైఖరి సూచిస్తోంది.

    “ఎన్నికలు ప్రజాస్వామ్యానికి సున్నితమైన ప్రక్రియలు; అందులో ఏఐ వ్యవస్థలు తప్పు సమాచారాన్ని పెంచకూడదు,” అని ఆంత్రోపిక్ తెలిపింది. కంపెనీ ప్రకారం, క్లాడ్ రాజకీయ అభిప్రాయాలను ప్రభావితం చేసే రీతిలో కాకుండా, సరైన పౌర సమాచారాన్ని అందించే దిశగా పనిచేయాలి. రాజకీయ అభ్యర్థుల గురించి ప్రశ్నలు వచ్చినప్పుడు కూడా, వ్యవస్థ నిష్పాక్షికంగా ఉండేలా, ధృవీకరించని ఆరోపణలను విస్తరించకుండా ఉండేలా మార్పులు చేస్తున్నట్లు కంపెనీ సూచించింది.

    జనరేటివ్ ఏఐ కంపెనీలకు ఎన్నికలు పెద్ద బాధ్యతగా మారాయి. ప్రపంచవ్యాప్తంగా జరుగుతున్న ఎన్నికల్లో ఏఐ రూపొందించిన కంటెంట్‌ను ఉపయోగించి తప్పుదారి పట్టించే ప్రచారాలు జరగొచ్చన్న భయం పెరుగుతోంది. అందువల్ల కంపెనీలు కంటెంట్ పాలసీలు, యూజర్ గైడెన్స్, మోడల్ రెస్పాన్స్‌లపై కొత్త నియంత్రణలు అమలు చేస్తున్నాయి. ఆంత్రోపిక్ తాజా చర్యలు కూడా అదే విస్తృత పరిశ్రమ ధోరణిలో భాగంగా కనిపిస్తున్నాయి. వినియోగదారుల ప్రశ్నలకు సమాధానాలు ఇస్తూనే, సున్నితమైన ప్రజాస్వామ్య ప్రక్రియల్లో హానికర వినియోగాన్ని తగ్గించడం కంపెనీకి ప్రధాన సవాలుగా ఉంటుంది.

    ముందుగా అమెరికా మధ్యంతర ఎన్నికల ప్రచారం వేగం పెరిగే కొద్దీ ఈ సేఫ్‌గార్డ్స్ ఎలా పనిచేస్తాయన్నది పరిశీలనకు వస్తుంది. ఆంత్రోపిక్ తన మార్పుల అమలు, ఫలితాలపై అదనపు వివరాలు వెల్లడించే అవకాశం ఉంది. ఎన్నికల అధికారులు, నియంత్రణ సంస్థలు, పౌర సమాజ సంస్థలు కూడా ఏఐ టూల్స్ ఎన్నికల సమాచారాన్ని ఎలా నిర్వహిస్తున్నాయన్నదానిపై నిఘా పెంచే సూచనలు ఉన్నాయి.