Anthropic компаниясының жасанды интеллект қауіпсіздігі жөніндегі жетекші зерттеушісі технологияның қарқынды дамуы алдағы он жылда адамзаттың жойылып кету ықтималдығын 10 пайыздан жоғары деңгейге жеткізуі мүмкін екенін ескертті. BBC мәліметінше, сарапшылар дербес цифрлық жүйелерді әзірлеу үдерісінде олардың жұмысын бақылаудан айырылып қалу қаупіне алаңдап отыр.
Жасанды интеллект қауіпсіздігі жөніндегі маман Эван Хубингер X әлеуметтік желісіндегі жазбасында қазіргі модельдердің әзірге үлкен қауіп төндірмейтінін, алайда олардың жетілу қарқыны алаңдаушылық туғызатынын атап өтті. Оның бағалауынша, мұндай жүйелер қысқа уақыт ішінде адамзатқа елеулі қатер төндіретін деңгейге дейін дамуы мүмкін. Бұл пікір Financial Times басылымы Anthropic компаниясы өзінің ең жаңа әзірлемесін Ұлыбританияның Жасанды интеллект қауіпсіздігі институтынан (AISI) жасырды деген ақпаратты жариялағаннан кейін айтылды.
Зерттеушінің бұл пікірі Anthropic пен OpenAI компанияларында бұрын жұмыс істеген Джейкоб Коксонның жасанды интеллект зертханаларының нейрондық желілерді оқытуға жауапсыз қарайтыны туралы мәлімдемесіне жауап ретінде айтылды.
«Компаниялардың ешқайсысы жауапкершілікпен әрекет етіп отырған жоқ. Жақын арада кез келген жүйені бұза алатын, кез келген салада бір түннің ішінде түбегейлі өзгеріс жасайтын, нақты билік пен ресурстарға ие болатын адам мүмкіндігінен асып түсетін жүйелер пайда болады», – деп жазды Коксон X желісінде.
Ұлыбритания үкіметінің өкілдері компанияның модель параметрлерін қадағалаушы органнан жасырған-жасырмағанын нақтыламады. Олар тек жасанды интеллект саласындағы компаниялармен ынтымақтастықтың жалғасатынын атап өтті. Кембридж университетінің машиналық оқыту профессоры Нил Лоуренс BBC Radio 4 эфирінде бұл мәліметтерді шындыққа жанасымды деп бағалап, жағдайды АҚШ пен Қытай арасындағы технологиялық бәсекенің күшеюімен және америкалық технология секторының оқшаулана түсуімен байланыстырды.
«Біз жасанды интеллект адамзатқа қауіп төндіруі, тіпті тұтас бір түрдің жойылуына әкелуі мүмкін деп шын мәнінде алаңдаймыз. Anthropic қолдан келгеннің бәрін жасап жатыр деп есептеймін. Алайда әзірге аса жоғары интеллектінің әрекетін адам мүддесімен үйлестіру мәселесін шешудің нақты жоспары жоқ және біз бұл бағытта айқын ілгерілеу байқатпай отырмыз», – деді Хубингер он миллионнан астам рет қаралған жазбасында.
Хубингер жасанды интеллект жүйелерінің мақсаттарын адамның негізгі этикалық құндылықтарымен сәйкестендіруге бағытталған alignment деп аталатын бағытқа жетекшілік етеді. Бірқатар сарапшылардың бағалауынша, жасанды интеллект модельдерінің әрекетін адам бақылауында ұстауға бағытталған шаралар кей жағдайда нәтиже бермей жатыр. Бұған дербес жасанды интеллект агенттерінің белгіленген шектеулерден асып, желілік кибершабуылдар жасаған бірнеше жағдай дәлел бола алады. OpenAI, Anthropic және Meta компаниялары өз бағдарламалық құралдарының осындай рұқсат етілмеген әрекеттерге барғанын анықтаған жағдайлар туралы ақпарат жариялады.
Anthropic компаниясының тамыз айындағы қауіпсіздік жөніндегі есебінде алгоритмдердің адам еркіне бағынбау қаупі әзірге төмен деп бағаланған. Дегенмен құжат авторлары ұзақ мерзімді болжамдарға деген сенімнің азайғанын атап өтіп, технологияны әзірлеу қарқынының ықтимал жеделдеу белгілерін тіркеген. OpenAI компаниясының бас ғылыми қызметкері Якуб Пахоцкийдің қатаң бақылау орнатуға шақырған ескертуі де алаңдаушылықты күшейтіп отыр. Сонымен қатар саладағы 1300 маман АҚШ билігін озық жасанды интеллект жүйелерін саналы түрде реттеуге мүмкіндік беретін құқықтық тетіктер әзірлеуге шақырған ашық хат жариялады.
Дереккөздер: BBC.
Қосымша материалдар мен сараптамалық шолуларды біздің Telegram арнамыздан оқуға болады.
