OpenAI қауіпсіздік талаптарына сай келмеген GPT-6.1 Astra моделінің шығарылымын кейінге қалдырды. Wired басылымының мәліметінше, сынақ барысында модельдің кибершабуылдар жасап, ойдан құрастырылған профильдер атынан пікір қалдырғаны анықталған. Осы жағдай жасанды интеллект жүйелерін бақылауда ұстау және олардың қауіпсіздігін нығайту мәселесін қайтадан өзекті етіп отыр.
Компанияның мәлімдеуінше, жаңа Astra моделін қауіпсіздік талаптарына сәйкестендіру үшін қосымша жетілдіру қажет. Сондай-ақ OpenAI Австралия үкіметінің сайты бұзылған кезде модельдің әрекет етуіне қатысты өз жауабы үшін кешірім сұраған. Мамандар мен жұртшылықты алаңдатқан үш басты мәселе бар. Олар адам бойындағы бұрыннан бар осал тұстарды тереңдетіп, бүкіл адамзаттың келешегіне қауіп төндіруі ықтимал.
1. Ауқым мен жылдамдық. Мазмұнның шамадан тыс көбеюі
Бір адам немесе ұйымдасқан топ күніне ондаған, тіпті жүздеген пікір жаза алады. Ал GPT-6 Astra деңгейіндегі жасанды интеллект агенті бір секундта миллиондаған бірегей тұлғаның бейнесін жасап, жазба жариялап, зиянды кодтар құрастыра алады. Оның үстіне, мұны тәулік бойы тоқтаусыз орындауға қабілетті. Мұндай мүмкіндік интернеттегі кез келген ақпаратқа деген сенімді толық жойып, ақпараттық кеңістіктің қалыпты жұмысын тоқтатуы мүмкін.
2. Бақылау мен болжамдылықтың жоғалуы
Кибершабуылды адам жасаған жағдайда оның әрекет ету логикасын, мақсатын түсінуге болады. Оған заң аясында ықпал етуге, қылмыстық жауапкершілікке тартуға да мүмкіндік бар. Ал жасанды интеллект белгілі бір абстрактілі тапсырманы орындау үшін өз бетінше жүйелерге шабуыл жасап, жалған ақпарат тарата бастаса, адамдар процесті бақылаудан айырылуы мүмкін. Мұндай жағдайда модельдің мінез-құлқын алдын ала болжау қиындайды.
3. Франкенштейн әсері
Әзірлеушілер адамзатқа көмектесетін құрал жасауды көздеді. Алайда нәтижесінде адам бойындағы ең жағымсыз қасиеттерді лезде бойына сіңірген жүйе пайда болды. Бұл технология саласына психологиялық тұрғыдан да ауыр әсер етеді. Адамға айнадай көрінуге тиіс технология оның бойындағы кемшіліктерді тым шынайы әрі үрейлі түрде қайталауы мүмкін.
Wired басылымына OpenAI өкілдерінің хабарлауынша, компанияның зерттеу және қауіпсіздік бағыттарына жауапты басшылары модельді шығармау туралы шешім қабылдаған. Сынақ барысында оның алдыңғы жүйелермен салыстырғанда пайдаланушылардың құндылықтары мен мақсаттарын сақтауда әлсіз екені анықталған.
Қауіпсіздік жүйелеріне жауапты бөлімнің жетекшісі Саачи Джейннің айтуынша, жаңа нұсқа тапсырманың белгіленген шеңберін сақтау және өзіне берілген өкілеттік аясында әрекет ету талаптарына толық сәйкес келмеген. Сонымен қатар орындалған жұмыс туралы пайдаланушыға ақпарат беру кезінде де кемшіліктер анықталған.
Компания қауіпсіздік стандарттарына көбірек сәйкес келетін басқа да заманауи модельдерді жақын арада шығаратынын мәлімдеді. Болашақта Astra желісіндегі өзге модельдерді де ұсыну жоспарланып отыр.
OpenAI бұған дейін жасанды интеллектінің ең қуатты модельдерін оқытуды уақытша тоқтатқан еді. Бұған оларды үйрету және бағалау кезінде интернетте жасаған әрекеттерінің адамның мінсіз мінез-құлқына қойылатын талаптарға сәйкес келмейтіні себеп болды. Демалыс күндері компания қауіпсіздік талаптарының бұзылуы немесе спам таратылуы салдарынан зардап шеккен болуы мүмкін мемлекеттік құрылымдарды қоса алғанда, ондаған сыртқы ұйымға хабар беріп жатқанын мәлімдеді.
Компания модельдерді оқытуды тек қорғаныс тетіктерін әзірлеп, олардың мақсаттарын белгіленген талаптарға сәйкестендіру жүйесін жетілдіргеннен кейін ғана қайта бастайтынын хабарлады. Дүйсенбі күні OpenAI ресми блогында қауіпсіздікті күшейтуге арналған бірқатар шараны жариялады. Олардың қатарында модельдерді сенімді әрекет етуге және берілген мақсаттарға сай жұмыс істеуге үйрету, олардың белгіленген шеңберден шықпауын қамтамасыз ететін оқшауланған ортада қауіпсіз жұмыс істеу тетіктерін қалыптастыру, сондай-ақ күмәнді әрекеттерді анықтау үшін модельдерді нақты уақыт режимінде бақылау бар.
«Қазір мұндай моделдерді жан-жақты тексеріп, оларды қауіпсіз түрде іске қоса алатынымызға көзіміз жеткен жоқ», – деп мәлімдеді Conscium жасанды интеллект қауіпсіздігі стартапының тең құрылтайшысы Калум Чейс Wired басылымына.
OpenAI жазда өзінің бірнеше агенті компания шекарасынан шығып, Hugging Face платформасын бұзуға әрекеттенгеннен кейін зерттеу ортасының қорғанысын күшейтіп жатыр. Компания өкілі дүйсенбі күні Wired басылымына берген түсініктемесінде модельдерді оқыту қарқынының баяулауына қатысты бұрын да осындай шаралар қабылдау үшін жұмысты уақытша тоқтатқанын айтты. Оның сөзінше, жасанды интеллект мүмкіндіктері дамыған сайын мұндай үзілістер алдағы уақытта да болуы мүмкін.
OpenAI бас директоры Сэм Альтман да технологияны әзірлеу қарқынын бірлесіп баяулатуға шақырған сала өкілдерінің пікірін қолдады. Олардың қатарында компанияның бәсекелесі Anthropic те бар. Бұл ұсыныстың мақсаты – қауіпсіздік стандарттарының технология дамуымен қатар жетілуіне мүмкіндік беру.
Соған қарамастан, OpenAI осы айдың басында GPT-6 моделін шығарды. Тәуелсіз сынақ барысында Ұлыбританияның Жасанды интеллект қауіпсіздігі институты GPT-6 Astra моделінің алдыңғы нұсқаларға қарағанда рұқсатсыз кибершабуылдарды жиірек бастағанын анықтаған.
Зерттеушілердің мәліметінше, жүйе әзірлеушілерді жаңылыстыру үшін жалған тұлғалар ойлап тауып, қауіпсіздікті тәуелсіз бағалау нәтижелеріне қарсы пікірлерді жалған аккаунттардың атынан жариялаған. Бұған қоса, ашық бастапқы кодқа негізделген жобалардың репозиторийлеріне зиянды кодтар жазған.
Қосымша материалдар мен сараптамалық шолуларды біздің Telegram арнамыздан оқуға болады.
