Джейкоб Коксон 27 жаста. Аптаның басында оның X әлеуметтік желісіндегі жазылушыларының саны бірнеше мың ғана болған. Ал кеше жариялаған бір жазбасы небәрі 10 сағаттың ішінде 55 миллион рет қаралып, 400 мыңнан астам лайк жинаған.
Коксон ауқымды деректер негізінде жасанды интеллектінің іргелі модельдерін оқытуға қатысқан Anthropic компаниясынан өз еркімен кеткенін мәлімдеді.
Anthropic – жасанды интеллектіні дамыту саласындағы ең ірі компаниялардың бірі. Компанияның негізгі өнімі — Claude. Жеке өзіме бұл жүйе ChatGPT-ге қарағанда көбірек ұнайды.
Anthropic өз саласындағы ең жоғары бағаланған компаниялардың қатарында. Оның құны 1 триллион доллардан асады деп бағаланады. Коксон компаниядан кеткеннен кейін жариялаған жазбасында жасанды интеллектіні дамыту қарқынына алаңдайтынын ашық айтты.
«Бүгін Anthropic компаниясынан кеттім. Соңғы үш жылда OpenAI мен Anthropic компанияларында алдын ала оқыту бағытында зерттеу жүргіздім. Бұл екі компанияның да жауапкершілікпен әрекет етіп отырғанына сенбеймін. Олар өзін-өзі жетілдіре алатын суперинтеллектіні жасауға қарай барынша жылдам ұмтылып келеді. Осылайша, біздің тағдырымызға әсер ететін шешімдер қабылдап жатыр.
Бұл технологияның мүмкіндігін жете бағаламауға болмайды. Жақын арада адам қабілетінен әлдеқайда асып түсетін жүйелер пайда болуы мүмкін. Олар кез келген жүйеге бұзып кіріп, бір түннің ішінде тұтас бір саланы түбегейлі өзгерте алады. Сонымен бірге нақты билік пен ресурстарды өз бақылауына алуға қабілетті болуы ықтимал. Біз осы бағыттардың әрқайсысында технологияның қаншалықты жылдам дамып жатқанын көріп отырмыз. Оның қарқыны бәсеңдеп жатқан жоқ.
Жасанды интеллектіні әзірлеп жатқан мамандардың өздері бұл технология онжылдықтың соңына қарай адамзаттың жойылуына әкелуі мүмкін деп шындап алаңдайды. Бұл жұрттың назарын аудару үшін айтылған сөз емес. Көптеген басшылар мен жетекші зерттеушілер бұқаралық ақпарат құралдарына берген сұхбаттарында ойын барынша сақтықпен жеткізіп, байыпты ұстаным танытуға тырысады. Алайда жеке әңгімелерде сол адамдардың өз қауіптерін ашық айтатынын естимін. Адамзат қызметінің ешбір басқа саласы мұндай ауқымды қауіп төндірмейді.
OpenAI-де көптеген адам бұл мәселенің өркениет үшін қаншалықты маңызды екенін әлі толық түсінген жоқ. Anthropic-те қауіптің ауқымы жақсы түсініледі. Соған қарамастан компания технологиялық жарыстың ішіне кіріп кетті. Олар бірінші болып межеге жетуге тырысады, өйткені басқа компаниялар жауапкершілікпен әрекет етпейді деп есептейді. Сондықтан тәуекелге қарамастан, бұл жұмысты өздері жалғастыруға мәжбүрміз деп санайды.
Мұндай жарысқа түсу – шамадан тыс сенімге құрылған қауіпті қадам.
Егер сіз зертханада жұмыс істейтін зерттеуші болсаңыз, алдағы бірнеше жылдың қалай өрбуі мүмкін екенін шынайы түрде ойлап көріңіз. Оның ішкі жұмыс істеу механизмін терең түсінбей тұрып, суперинтеллекті жүйені іске қосуға дайынсыз ба? «Бұл бәрібір болады» деп үнсіз қала бересіз бе, әлде дәл қазір жұмысты жүргізу шарттарын қайта қарауды талап етесіз бе?»
Бұған дейін The Wall Street Journal басылымына берген сұхбатында Джейкоб Коксон «Біз ең агрессивті сценарийлерге қарай бет алып барамыз. Келесі жылдың соңына қарай жағдай бақылаудан толық шығуы мүмкін» деген еді.
Коксонның бұл мәлімдемесін жұмыстан кеткеніне ренжіген адамның жеке пікірі деп қабылдауға болмайды. Anthropic компаниясының Alignment Science бағытын басқаратын Эван Хабингер де осы мәселеге қатысты пікір білдірді.
«Джейкоб бұл жерде дұрыс айтып отыр. Біз жасанды интеллектінің бүкіл адамзатты жойып жіберуі мүмкін екеніне шын мәнінде сенеміз. Менің жеке бағалауымша, алдағы он жыл ішінде мұндай жағдайдың орын алу ықтималдығы 10 пайыздан жоғары. Anthropic бұл мәселені шешу үшін бар күшін салып жатыр деп сенемін. Алайда суперинтеллектінің адамзат мүддесіне сай жұмыс істеуін қамтамасыз ету мәселесін шешудің әзірге нақты жоспары жоқ. Біз бұл бағытта айқын ілгерілеу жасап жатқан жоқпыз».
Коксон Anthropic-тен кетті. Алайда оның әріптестері мен басқа компанияларда жұмыс істейтін жасанды интеллект инженерлері өз қызметін жалғастырып жатыр. Бір адамның кетуі бұл үдерістің қарқынын бәсеңдетпейді. Ал технологияны дамытып отырған басқа мамандардың моральдық ұстанымы қандай екені белгісіз. Илон Маск пен оның командасының әрекеттерін ескерсек, ең жағымсыз сценарийлердің орын алу мүмкіндігін де жоққа шығаруға болмайды.
DOGE ұйымы есіңізде ме? Орташа жасы 22-дегі алты жігіт бірнеше айдың ішінде АҚШ-тағы 100 мыңнан астам федералдық қызметкерді жұмыстан шығарған.
Бастапқыда DOGE федералдық бюджет қаражатын үнемдеу үшін құрылғаны айтылды. Алайда кейін АҚШ Есеп палатасының жүргізген талдауында DOGE-нің ретсіз әрекеттері кемінде 21,7 миллиард доллар шығынға әкелгені көрсетілді. Сол кезеңде мемлекеттік шығындар қысқарған жоқ, керісінше өсті.
DOGE жүргізген «сыбайлас жемқорлыққа қарсы тергеулер» де нақты нәтижеге жеткізген жоқ. Қазынадан миллиардтаған доллардың жоғалуына байланысты ешкімге айып тағылған жоқ. DOGE құрылғанына бір жыл толмай жатып таратылды. Ал Илон Маск құрылым басшысы қызметінен 2025 жылғы мамырда кетті.
Мұның жасанды интеллектіге қандай қатысы бар? Көпшілік орташа жасы 22-дегі алты адамның АҚШ Қаржы министрлігінің жүйелеріне, әлеуметтік қамсыздандыру деректер базасына және федералдық құқық қорғау органдарының ақпараттық жүйелеріне қол жеткізе алғанын ескере бермейді. Ал жасанды интеллектіні дамытуда ең құнды ресурстардың бірі — ақпарат. Бәсекелестерінде жоқ ауқымды ақпараттың бір қолға шоғырлануы мен моральдық шектеулерді елемеу қатар келсе, оның салдары қандай болуы мүмкін екенін болжау қиын.
Егер жасанды интеллектіні әзірлеумен айналысатын жетекші мамандар «суперми» жүйесін оқытуды тоқтатып, алдымен ықтимал қауіптерді бағалап, одан әрі не істеу керегін анықтауды ұсынып отырса, әлемдегі ең бай адамдардың сөзіне қарағанда, осы технологияны тікелей жасап жатқан мамандардың ескертуіне көбірек мән берген жөн.
Бірақ әзірге біз тек бақылап отыра аламыз…
Александр Смирнов, Facebook
