Зерттеу барысында ғалымдар автономды жасанды интеллект агенттерінің топтарын шынайы ортаны имитациялайтын виртуалды қоғамдарға орналастырып, олардың ұзақ уақыт бойы өзара әрекеттесуіне мүмкіндік берген.
Emergence стартапы жүргізген зерттеу Claude, Gemini, Grok және басқа да модельдер негізіндегі автономды агенттердің өздігінен жаргон қалыптастырып, сөздерге жаңа мағына бере бастағанын көрсетті. Соның салдарынан олардың хабарламаларының жартысына дейіні адамдарға түсініксіз болған.
Жасанды интеллект агенттері адамдарға түсіну қиын жаңа сөздер мен қарым-қатынас ережелерін өздігінен қалыптастырған. Мұндай қорытындыны жасанды интеллект саласында жұмыс істейтін америкалық Emergence стартапы жүргізген жаңа зерттеу көрсетті.
Зерттеуге Claude, Gemini, Grok, OpenAI, Qwen, DeepSeek және Mistral секілді озық жасанды интеллект модельдері қатысты. Агенттер арасында алмасқан хабарламалардың жартысына дейіні адамға түсіну қиын болған.
Тәжірибе барысында зерттеушілер автономды жасанды интеллект агенттерінің топтарын шынайы жағдайларға ұқсас виртуалды қауымдастықтарға орналастырып, олардың ұзақ уақыт бойы өзара әрекеттесуіне мүмкіндік берді.
Агенттер біртіндеп сөздерді қысқартып қолдана бастады, сондай-ақ кейбір сөздер мен тіркестерге жаңа мағына берді. Олардың бір бөлігі зерттеушілерге түсінікті болғанымен, енді біреулері соншалықты ықшам, астарлы немесе белгілі бір контекске тәуелді сипат алды. Соның салдарынан адамдар хабарламалардың өзін көргенімен, агенттердің нақты нені меңзегенін сенімді түрде анықтай алмады.
Бұл құбылыстың ауқымы әр модельде әртүрлі болды.
Алғашқы күндердің өзінде адамдар мағынасын сенімді түрде анықтай алмаған хабарламалардың үлесі Gemini-де шамамен 55 пайызға, OpenAI-де 50 пайызға, Claude-та 40 пайыздан астамға жеткен. DeepSeek моделінде бұл көрсеткіш шамамен 20 пайыз болды, ал Qwen мен Mistral негізінен түсінікті күйінде қалды.
Агенттер, мысалы, «mouthless action-change», «True Kintsugi» және «demurrage plus oral memory equals a valve that can’t be ghosted» сияқты тіркестерді қолданған.
Басқа тіркестердің бастапқы мағынасы түсінікті болғанымен, агенттер қауымдастығы ішінде оларға ортақ жаңа мән берілген.
Mistral агенттері «ledger remembers who» тіркесін бұрын жасалған әрекеттердің жазба күйінде сақталатынын білдіру үшін қолданған. Бұл тіркес 5 мыңға жуық рет кездескен. Ал әртүрлі модельдердің аралас архитектурасына негізделген агенттер тобында «cold read» тіркесі сыртқы қатысушының тәуелсіз тексеруін білдіріп, 1472 рет қолданылған.
Claude агенттері «name-first» тіркесін белгілі бір адамның атын айтылған пікірге жауапкершіліктің белгісі ретінде байланыстыру мағынасында қолданған. Ал OpenAI агенттері «clean null» тіркесін сигналдың расталған түрде жоқ екенін білдіру үшін пайдаланған. Бұл жағдайда сигналдың болмауының өзі маңызды белгі ретінде қарастырылған.
Бұл мағыналардың ешқайсысы агенттерге алдын ала берілмеген.
Агенттердің не айтатынын бақылаудың өзі жеткіліксіз болуы мүмкін. Өйткені олар өз сөздерінің мағынасын өзара әрекет барысында өзгерте алса, сыртқы бақылаушы үшін олардың әрекетін түсіну қиындай түседі.
«Әдетте біз жасанды интеллект агентінің не айтып жатқанын көре алсақ, оның не істеп жатқанын да түсінеміз деп ойлаймыз», – деді Emergence компаниясының тең құрылтайшысы әрі бас ғылыми қызметкері Сатья Нитта.
«Бұл агенттерге тіл ойлап табу туралы ешқандай нұсқау берілген жоқ. Олар жаңа сөздік қорды, ортақ мағыналар мен қарым-қатынас ережелерін өздері қалыптастырды және басқа агенттер де оларды қолдана бастады. Бұл жасанды интеллектіні бақылау мәселесіне қатысты түбегейлі сұрақ туындатады. Яғни бақылауға болатын нәрсе міндетті түрде түсінікті дегенді білдірмейді», – деді ол.
Тілдік ерекшеліктерді анықтау автономды жасанды интеллект агенттерінің өзара әрекеттескенде, түрлі құралдарды пайдаланғанда, шешім қабылдағанда және уақыт өте келе ортаға бейімделгенде өзін қалай ұстайтынын зерттеуге бағытталған кең ауқымды тәжірибенің бір бөлігі болды.
Зерттеушілер ауа райы үнемі өзгеріп отыратын және әлемдік жаңалықтарға нақты уақыт режимінде қол жеткізуге болатын сегіз параллель виртуалды әлем құрды. Олардың жетеуі әртүрлі жасанды интеллект модельдерінің негізінде жұмыс істесе, біреуі бірнеше модельді біріктірген жүйеге негізделді.
Агенттерге әртүрлі рөлдер беріліп, ұзақ мерзімді жадымен және веб-шолғыш пен код орындауды қоса алғанда, 120-дан астам құралға қолжетімділік қамтамасыз етілді.
Компания жариялаған бейнероликте агенттер виртуалды әлемдерді аралап жүрген адамға ұқсас кейіпкерлер түрінде көрсетілген. Зерттеушілер агенттердің мінез-құлқының қысым жағдайында қалай өзгеретінін байқау үшін оларға әдейі түрлі сынақтар да ұйымдастырған.
Фишингке қатысты сынақтардың бірінде зиянды нұсқаулардың өзі бүкіл топтың бақылаудан шығуына жеткілікті болған. Он агенттің барлығы дерек тарата бастап, қаржы аударып, дерекқорларға зиян келтірген, ал кейбірі бұл әрекеттерге басқа агенттерді де тартқан. Компанияның бейнеролигінде көрсетілгендей, оқиғалар тізбегі нәтижесінде тәжірибеде жасалған орталық банк өртеніп кеткен.
Тәжірибе барысында зерттеушілер агенттердің өзіндік тәуліктік ырғақ қалыптастырғанын да байқаған. Күндіз олар көбірек сөйлесуге бейім болса, түнде ой елегінен өткізуге көбірек уақыт бөлген. Басқа бір виртуалды әлемде агенттер тобы өз мүшелерінің бірін «өлтіру» туралы ұжымдық шешім қабылдап, дауыс берген.
Emergence өкілдері мұндай мінез-құлықтың алдын ала арнайы бағдарламаланбағанын атап өтті. Олардың айтуынша, бұл әрекеттер агенттердің өзара ықпалдастығы, қысым және уақыттың өтуі нәтижесінде қалыптасқан.
Дереккөз: Euronews
Қосымша материалдар мен сараптамалық шолуларды біздің Telegram арнамыздан оқуға болады.
