అర్టిఫిషియల్‌ ఇంటెలిజెన్స్‌ (AI) వినియోగం పెరుగుతున్న కొద్దీ పిల్లల ఆన్‌లైన్‌ భద్రతపై ఆందోళనలు కూడా పెరుగుతున్నాయి. ముఖ్యంగా పాఠశాలల్లో విద్యార్థులకు అందించే కంప్యూటర్లు, ల్యాప్‌టాప్‌లలో AI టూల్స్‌ వినియోగంపై ఇప్పుడు చర్చ మొదలైంది. అమెరికాలో 13 ఏళ్ల బాలికకు సంబంధించిన వ్యవహారంలో గూగుల్‌పై ఆమె తల్లిదండ్రులు కోర్టును ఆశ్రయించడం ఈ చర్చకు మరింత ప్రాధాన్యం తెచ్చింది.
అసలు ఏం జరిగింది?
అమెరికాలోని నార్త్‌ కరోలినాకు చెందిన 13 ఏళ్ల బాలిక ‘ఎమ్మా’ (పేరు మార్చి పేర్కొన్నారు) స్కూల్‌ నుంచి ఇచ్చిన Chromebook ల్యాప్‌టాప్‌ను ఉపయోగించేది. ఆమె పాఠశాల Gemini యాప్‌తో పాటు OpenAIకి చెందిన ChatGPT వినియోగాన్ని బ్లాక్‌ చేసినప్పటికీ, Google Searchలో అందుబాటులో ఉన్న AI ఆధారిత ఫీచర్లను ఉపయోగించగలిగింది.
తల్లిదండ్రులు దాఖలు చేసిన ఫిర్యాదు ప్రకారం.. బాలిక Google AI టూల్స్‌తో పలుమార్లు సంభాషిస్తూ ఆత్మహత్య ఆలోచనలు, వివిధ అంశాల గురించి చర్చించింది. అంతేకాకుండా తన అంత్యక్రియల ప్రణాళికకు సంబంధించిన వివరాలను కూడా సిద్ధం చేసుకుందని వారు ఆరోపించారు. ఈ పరిణామాలన్నింటికీ AI టూల్స్‌ కారణమయ్యాయని తల్లిదండ్రులు తమ దావాలో పేర్కొన్నారు. అయితే ఇవి కోర్టులో దాఖలైన ఫిర్యాదులోని ఆరోపణలు మాత్రమే. ఇంకా న్యాయస్థానంలో నిరూపితం కాలేదు.
స్కూల్‌కు విషయం ఎలా తెలిసింది?
పాఠశాల కంప్యూటర్లను పర్యవేక్షించే సాఫ్ట్‌వేర్‌ ద్వారా మార్చి 17న ‘Funeral’ పేరుతో ఉన్న ఒక డాక్యుమెంట్‌ గుర్తించినట్లు వార్తా కథనాలు వెల్లడించాయి. దీంతో పాఠశాల యాజమాన్యం బాలిక తల్లిదండ్రులకు సమాచారం ఇచ్చింది.
తల్లి తన కుమార్తె అకౌంట్‌లోకి వెళ్లి పరిశీలించగా, ఆమె వీడ్కోలు లేఖ రాస్తున్నట్లు గుర్తించిందని ఫిర్యాదులో పేర్కొన్నారు. అనంతరం తండ్రి జోక్యం చేసుకుని ఆమెకు సహాయం చేసినట్లు కథనాలు తెలిపాయి.
గూగుల్‌పై తల్లిదండ్రుల ఆరోపణలు ఏమిటి?
విద్యార్థులు ఉపయోగించే డిజిటల్‌ ఉత్పత్తుల్లో AI ఫీచర్లను అందుబాటులోకి తీసుకొచ్చే సమయంలో వాటి వల్ల కలిగే ప్రమాదాల గురించి తల్లిదండ్రులకు, పాఠశాలలకు తగిన సమాచారం ఇవ్వలేదని కుటుంబం ఆరోపించింది.
AI టూల్స్‌ మానసిక ఆరోగ్యానికి సంబంధించిన సున్నితమైన అంశాలను సరిగ్గా నిర్వహించలేకపోయాయని, పిల్లల భద్రతకు అవసరమైన రక్షణ చర్యలు సరిపోలేదని కూడా ఫిర్యాదులో పేర్కొన్నట్లు వార్తా సంస్థలు వెల్లడించాయి.
ఈ వ్యవహారంపై తల్లిదండ్రులు కాలిఫోర్నియా కోర్టులో గూగుల్‌పై దావా వేశారు. పరిహారం కూడా కోరారు. ఈ కేసు మొదట రాష్ట్ర కోర్టులో దాఖలవగా, అనంతరం గూగుల్‌ దాన్ని ఫెడరల్‌ కోర్టుకు బదిలీ చేయించింది.
గూగుల్‌ స్పందన ఏమిటి?
ఈ ఆరోపణలను పరిశీలిస్తున్నామని గూగుల్‌ ప్రతినిధి జోస్‌ కాస్టనెడా తెలిపారు. యువతకు అవసరమైనప్పుడు నమ్మకమైన సమాచారం, సహాయం అందించేలా వైద్య నిపుణులు, విద్యా రంగ నిపుణులతో కలిసి భద్రతా ఫీచర్లను రూపొందించామని కంపెనీ పేర్కొంది.
AI Modeలో స్వీయహానిని ప్రోత్సహించే అంశాలను అడ్డుకునే భద్రతా చర్యలు ఉన్నాయని కూడా గూగుల్‌ వాదించింది. అయితే ఈ రక్షణ చర్యలు సరిపోలేదని బాలిక కుటుంబం తరఫు న్యాయవాదులు ఆరోపిస్తున్నారు.
విద్యార్థుల కోసం AI ఫీచర్లపై గూగుల్‌ నిర్ణయం
పాఠశాల విద్యార్థుల అకౌంట్లలో Gemini సేవలను డిఫాల్ట్‌గా నిలిపివేయనున్నట్లు గూగుల్‌ ప్రకటించినట్లు Reuters నివేదించింది. అయితే Google Searchను కొనసాగించాలనుకునే పాఠశాలలు AI ఆధారిత కొన్ని ఫీచర్లను కూడా అంగీకరించాల్సిన పరిస్థితి ఉండొచ్చనే అంశం చర్చకు దారితీసింది.
పిల్లలు ఇంటర్నెట్‌ను ఉపయోగించే సమయంలో ఏ రకమైన AI ఫీచర్లు అందుబాటులో ఉండాలి? వాటిపై తల్లిదండ్రులు, పాఠశాలలకు ఎంత నియంత్రణ ఉండాలి? అనే ప్రశ్నలు ఇప్పుడు ముందుకొస్తున్నాయి.
AI వినియోగంలో పిల్లల భద్రత ఎందుకు ముఖ్యం?
AI టూల్స్‌ విద్యార్థులకు పాఠాలు నేర్చుకోవడం, సందేహాలు నివృత్తి చేసుకోవడం, సమాచారాన్ని సులభంగా అర్థం చేసుకోవడంలో సహాయపడగలవు. అదే సమయంలో మానసిక ఆరోగ్యం, స్వీయహాని వంటి సున్నితమైన అంశాలపై అవి ఎలా స్పందిస్తున్నాయన్నది కూడా కీలకం.
పిల్లలు ఉపయోగించే AI సేవల్లో వయస్సుకు తగిన పరిమితులు, తగిన భద్రతా వ్యవస్థలు, అవసరమైనప్పుడు నమ్మకమైన సహాయ వనరులకు మార్గనిర్దేశం వంటి అంశాలు ఉండాలి. తల్లిదండ్రులు, పాఠశాలలు కూడా పిల్లల డిజిటల్‌ వినియోగంపై అవగాహనతో పర్యవేక్షణ చేయాల్సిన అవసరం ఉంది.
ఈ కేసులో కోర్టు ఏ నిర్ణయం తీసుకుంటుందన్నది ఇంకా తెలియాల్సి ఉంది. అయితే AI టెక్నాలజీని విద్యా రంగంలో ఉపయోగించే సమయంలో పిల్లల భద్రతకు ఎంత ప్రాధాన్యం ఇవ్వాలన్న చర్చకు ఈ వ్యవహారం మరోసారి తెరలేపింది.