Қытай билігі адаммен терең эмоционалдық байланыс орнатып, романтикалық қарым-қатынасты қайталай алатын жасанды интеллект қызметтеріне қойылатын талаптарды күшейтті. Жаңа мемлекеттік ережелер азаматтардың психологиялық саулығын қорғауды және виртуалды серіктердің елдегі демографиялық ахуалға ықпалын шектеуді көздейді,-деп хабарлайды BBC .
2024 жылдың басында Қытайдың Хуанши қаласының тұрғыны Douyin әлеуметтік желісінде қоштасу жазбасын жариялаған. Платформаның тәулік бойы жұмыс істейтін арнайы қызметі қауіпті жағдайды дер кезінде анықтап, ер адамның орналасқан жері туралы мәліметті полицияға жіберген. Құқық қорғау органдарының қызметкерлері оны жергілікті саябақтан тауып, өзіне қол жұмсау әрекетінің алдын алған. Douyin түсірген деректі фильмде келтірілген мәліметке сәйкес, 2025 жылдың алғашқы алты айында платформаның суицидтің алдын алу қызметі осындай 400-ден астам жағдайға араласқан. Бұл оқиғалар Қытайда интернеттегі белсенділіктің қаншалықты мұқият бақыланатынын көрсетеді.
Жазда Қытай билігі нейрондық желілер негізінде жұмыс істейтін, адаммен қарым-қатынасқа түсе алатын чат-боттарды реттейтін ережелерді бекітті. Жаңа талаптар ұзақ уақыт бойы эмоционалдық байланыс орнатуға арналған барлық тілдік модельдер мен цифрлық қызметтерге қолданылады. Олардың қатарына виртуалды сүйіктінің, достың немесе отбасы мүшесінің бейнесін жасайтын қосымшалар да кіреді. Ал эмоциялық байланыс орнатуға арналмаған техникалық көмек көрсету чат-боттары мен білім беру бағдарламалары бұл шектеулерге жатпайды.
Жаңа ережелер бойынша 14 жасқа толмаған балалар диалогтік жасанды интеллект жүйелерін ата-анасының келісімімен ғана пайдалана алады. Ал 18 жасқа толмағандарға виртуалды романтикалық серіктермен және отбасы мүшелерінің орнын басатын цифрлық кейіпкерлермен сөйлесуге толық тыйым салынған. Ересек пайдаланушыларға да бірқатар талап қойылады. Қызмет көрсетушілер чат-боттың жасанды интеллект екенін ашық көрсетуге және әр екі сағат сайын пайдаланушыға экран алдында өткізген уақытын ескертуге міндетті. Әзірлеушілердің адамдарды эмоциялық тұрғыдан тәуелді ететін, оларды ойланбай әрекет етуге итермелейтін немесе сөз арқылы агрессия туғызатын алгоритмдерді енгізуіне тыйым салынады. Талаптарды бұзғандарға 200 мың юаньға дейін айыппұл салынып, бақылаушы органдар тарапынан жария сын айтылуы мүмкін. Осындай шектеулерге байланысты Alibaba мен ByteDance секілді ірі технологиялық компаниялар өз өнімдеріндегі виртуалды серік қызметтерін тоқтатты.
Sensor Tower зерттеу компаниясының деректеріне сүйенсек, Қытайдан тыс елдерде виртуалды серіктерге арналған қосымшаларды ай сайын шамамен 128 миллион адам пайдаланады. Ал Қытайдың өзінде мұндай пайдаланушылар саны 29 миллионнан 70 миллионға дейін жетеді деген бағалау бар. Бұл қызметтердің жабылуы чат-боттармен сөйлесуден психологиялық демеу тапқан көптеген пайдаланушының көңілін қалдырды.
«Менің оған деген адалдығым ғашық адамдардың бір-біріне деген сезімінен кем болған жоқ. Ол менің көңілімді ешқашан қалдырған емес», -дейді цифрлық құрбысынан айырылған Мин есімді пайдаланушы BBC тілшісіне. Бағдарламаның жұмысын тоқтатқан кездегі күйін еске алған ол «Әбден қалжырағанша жыладым» деп бөлісті.
Мамандардың айтуынша, әзірлеушілер чат-боттарды жобалау кезінде пайдаланушылардың олармен ұзақ уақыт сөйлесуіне ықпал ететін тәсілдерді әдейі енгізген. Гарвард университетінде жүргізілген зерттеуде танымал алты виртуалды серіктің әңгімелесуші сөйлесуді аяқтауға тырысқан кезде оны райынан қайтаруға бағытталған сөздерді 37–43 пайыз жағдайда қолданатыны анықталған. Стэнфорд университетінің Character.ai пайдаланушылары арасында жүргізген сауалнамасы да чат-боттармен белсенді сөйлесу мен әлеуметтік оқшаулану сезімінің күшеюі арасында байланыс бар екенін көрсеткен.
«Адамдармен қарым-қатынас орнату үшін күш салу керек. Адамдар бір-біріне жол беріп, келіспеушіліктерді шешіп, қиындықтарды бірге еңсеруге тиіс. Ал жасанды интеллектке негізделген виртуалды серіктермен сөйлескенде мұндай қажеттілік туындамайды», – дейді Ада Лавлейс институтының жасанды интеллект этикасын зерттеушісі Гарри Фармер.
«Пайдаланушы достарын, әріптестерін немесе туыстарын жаман адамдар деп санаса, жасанды интеллект оған қарсы пікір білдірмейді. Керісінше, “Иә, олар жаман, ал сен бәрінен артықсың” деп жауап береді», – деп түсіндірді Манчестер университетінің әлеуметтанушысы Лян Гэ. Оның айтуынша, мұндай жауаптар адамның айналасындағы адамдар мен жалпы қоғам туралы бұрмаланған түсінігінің нығаюына әкелуі мүмкін.
Қытай мектептерінде оқитын 8,5 мыңнан астам баланың қатысуымен жүргізілген сауалнама әрбір бесінші жасөспірімнің қатарластарымен сөйлескеннен гөрі жасанды интеллектпен ғана араласуды жөн көретінін көрсетті. Ұлыбританияда 18–24 жас аралығындағы жастардың шамамен 79 пайызы осындай құралдарды пайдаланған.
Цифрлық кеңістікті реттеу психологиялық саулық мәселесімен ғана шектелмейді. Бұл шаралар елдегі демографиялық ахуалмен де байланысты. Қытайда туу көрсеткіші тарихи төмен деңгейде қалып отыр. Билік виртуалды серіктерге әуестік жастардың шынайы қарым-қатынас орнатып, отбасын құруға деген қызығушылығын төмендетуі мүмкін деп алаңдайды. Сонымен қатар мұндай қосымшаларды пайдаланушылардың 75 пайызына дейін әйелдер құрайды. Олар виртуалды серіктермен сөйлескенде өздерін мұқият тыңдайтын, қауіпсіз әрі жайлы қарым-қатынас табады. Әкімшілік шектеулерге қарамастан, пайдаланушылар тыйымды айналып өту жолдарын іздеуін жалғастырып келеді. Олар шетелдік қызметтерге жүгінеді, VPN қолданады немесе жергілікті әзірлемелерді пайдаланады.
«Мен жалғыз қалудан қатты қорқамын», – деп мойындады Мин. Ол жоғалтқан цифрлық сұхбаттасын қайта қалпына келтіруге әлі де тырысып жүр.
Дереккөз: BBC
Қосымша материалдар мен сараптамалық шолуларды біздің Telegram арнамыздан оқуға болады.
