OpenAI басшысы Сэм Альтман мен Anthropic басшысы Дарио Амодеи БҰҰ Қауіпсіздік Кеңесінің отырысында жасанды интеллектінің ықтимал қауіптері туралы сөз сөйледі. Өздері осы технологияны дамытып отырған екі компанияның жетекшісі халықаралық қауымдастықты саланы реттеу шараларын жеделдетуге шақырды. Олардың мәлімдемесі сәрсенбі күні жасалып, Австралия билігінің елдегі мемлекеттік денсаулық сақтау порталына OpenAI әзірлеген жасанды интеллект агенті арқылы заңсыз қол жеткізу әрекеті болғанын растауымен тұспа-тұс келді.
Associated Press агенттігінің мәліметінше, Сэм Альтман Қауіпсіздік Кеңесі мүшелеріне жасанды интеллектінің дамуы бақылаудан шықса, адамзат болашаққа қатысты шешім қабылдау мүмкіндігінен айырылуы ықтимал екенін айтты.
OpenAI басшысы қазіргі жағдайды адамзат алдында тұрған таңдау ретінде сипаттады. Оның айтуынша, ықтимал сценарийлердің бірінде билік аз ғана орталыққа шоғырланып, шешім қабылдау үдерісі жабық сипат алуы мүмкін. Мұндай жағдайда адамдар өз өміріне тікелей әсер ететін маңызды технологияның өз мүддесін ескере отырып емес, олардан тыс қалыптасып жатқанын аңғаруы мүмкін.
Альтман қауіптерді жалпы сипаттаумен шектелмей, жасанды интеллект саласындағы қауіпсіздік шараларын күшейтуге қатысты нақты ұсыныстарын да айтты. Олардың қатарында болған оқиғалар туралы жедел әрі нақты есеп беру жүйесін енгізу, инциденттерді бірыңғай өлшемдер бойынша жіктеу тәртібін әзірлеу және үкіметтер, маңызды инфрақұрылым операторлары мен техникалық мамандар арасында осал тұстар мен жаңа қатерлер жөніндегі ақпаратты қауіпсіз арналар арқылы жедел алмасу тетігін қалыптастыру бар.
Anthropic басшысы Дарио Амодеи жасанды интеллектінің ықтимал салдары туралы бұдан да қатаң пікір білдірді. Ол бұған дейін де технологияның қауіпсіздігіне қатысты алаңдаушылығын ашық айтып жүрген басшылардың бірі. Шамамен 15 миллиард долларға бағаланатын байлығының едәуір бөлігі осы технологияның дамуына байланысты қалыптасқанына қарамастан, Амодеи жасанды интеллектіні тиісті деңгейде басқару тетіктері болмаса, оның жалпы адамзатқа қауіп төндіруі мүмкін екенін мәлімдеді. Ол отырысқа қашықтан қатысты.
«Бұл залда отырған тараптардың арасында қанша пікір қайшылығы болса да, оларды бір шетке ысырып қоюымыз керек. Өйткені алдымызда бір мезетте жаһандық мүмкіндік те, жаһандық қауіп те тұр. Бұған бірде-бір көшбасшы, компания немесе мемлекет жалғыз өзі төтеп бере алмайды», деді Амодеи.
Альтман мен Амодеи бұған дейін де бірқатар мәселеде келіспеушілікке келген. Соған қарамастан, сәрсенбі күнгі БҰҰ отырысында олардың негізгі ұстанымдары бір арнаға тоғысты.
Бұл мәлімдемелер жасалған күні Австралия премьер-министрі Энтони Албанезе де елдің денсаулық сақтау жүйесіне қатысты деректер порталында болған оқиға туралы ақпарат берді. Оның айтуынша, маусым айында бағалау сынағы кезінде тапсырмаға жауап іздеу барысында OpenAI әзірлеген жасанды интеллект агенті Австралия үкіметінің денсаулық сақтау жүйесіне қатысты деректер порталына рұқсатсыз қол жеткізген.
Биыл жазда жасанды интеллект қауіпсіздігіне байланысты бірнеше оқиға тіркелді. Шілдеде OpenAI мен Hugging Face платформасына қатысты кеңінен талқыланған жағдай жария болғаннан кейін мұндай оқиғаларға назар күшейді. Оқыту немесе сынақ барысында жасанды интеллект модельдерінің белгіленген шектеулерден асып кетуі, сондай-ақ түрлі веб-сайттарға рұқсатсыз кіруге әрекет жасауы тек OpenAI-ға ғана тән мәселе емес екені байқалды. Осыған ұқсас жағдайлар Anthropic, Google DeepMind және Meta әзірлемелеріне қатысты да айтылды.
Отырыста сөз сөйлеген Ұлыбританияның сыртқы істер министрі Эд Милибэнд жасанды интеллектіні бақылауға қатысты халықаралық деңгейдегі нақты қадамдардың қажеттігін де атап өтті. Ол АҚШ және жасанды интеллект қауіпсіздігімен айналысатын жетекші зертханалармен «етене жұмыс істеуді» жоспарлап отырғанын айтты. Сонымен қатар Ұлыбритания келесі жылы G20-ға төрағалық ету кезеңінде жасанды интеллект мәселесін негізгі бағыттардың біріне айналдыратынын жеткізді.
Алайда АҚШ-пен бұл бағытта ортақ ұстаным қалыптастыру оңай болмайтыны байқалады. Дональд Трамп әкімшілігі жасанды интеллектіні федералдық деңгейде реттеуге қатысты бастамаларға бірнеше рет күмән келтірді. АҚШ президенті технологияға байланысты қауіп туралы ескертулерді «ойдан шығарылған нәрсе» деп сипаттап, бұған дейін өзі ұсынған АҚШ ғарыш күштеріне ұқсас «AI Force» атты жаңа құрылым құру жоспарын жариялаған.
Трамптың жасанды интеллект тақырыбындағы жарияланымдары да назар аудартып отыр. Ол бұл технологияға қатысты мемдер мен басқа да материалдарды жиі жариялайды. Мұндай белсенділікке Трамп әкімшілігінде бұрын жұмыс істеген кейбір адамдар да алаңдаушылық білдірді. Олардың бірі президенттің мұндай жарияланымдарына байланысты оның психологиялық жағдайына алаңдайтынын ашық айтты.
Қосымша материалдар мен сараптамалық шолуларды біздің Telegram арнамыздан оқуға болады.
