Қазір желіде киберқауіпсіздіктегі «Қара қазан» (Zero-Day) деп аталатын жағдайға байланысты үрей өрістеп барады. Бағдарламалық жасақтамалардың осал тұсы анықталғаннан кейін-ақ санаулы сағатта соған сәйкес шабуыл тәсілі жасалып үлгіреді. Серверлерге адамның қатысуынсыз дербес әрекет ететін жасанды интеллект агенттерінің тұтас топтары шабуыл жасап жатыр. Сэм Альтманнан бастап Anthropic компаниясының сарапшыларына дейінгі мамандар бұрынғы қорғаныс тетіктерінің енді жарамсыз екенін айтып, бір байламға келіп отыр.
Алгоритмдер жаңа осал тұстарды біз оларды түзететін жаңартуларды әзірлеп үлгергенше тауып қояды. Осындай жағдайда әсершіл пікір білдірушілер интернеттің түгелдей дерлік өшірілетінін болжай бастады. Тіпті ақшаны қолма-қол сақтауға көшуге шақыратындар да бар.
Эмоцияға берілмей, жүйелік архитектура тұрғысынан қарасақ, біз интернеттің жойылуын емес, оған қатысты қалыптасқан түсініктің түбегейлі өзгеруін көріп отырмыз.
Ал осы технологиялық өзгерістерді қоғамдағы теңсіздіктің күшеюімен байланыстыра қарастырсақ, болашақтың қандай болатыны айқынырақ байқалады.
1. «Ақшаның орнын токен басады» деген жаңсақ пікір
Болашақта есептеу қуатының өлшемі саналатын токендер ақшаның орнын басады, ал «базалық есептеу табысы» адамдардың мүмкіндіктерін теңестіреді деген пікір жиі айтылады. Алайда мұндай болжамның жаңсақ тұстары бар.
Орталық банк фиат ақшаны қосымша эмиссия арқылы айналымға шығара алады. Ал токендерді дәл осылай өндіру мүмкін емес. Оларды алу үшін есептеу инфрақұрылымы, орасан зор энергия, кремний, литографияға қажетті өндірістік қуат, мыс және деректер орталықтарын орналастыратын жер қажет. Мұндай ресурстардың едәуір бөлігі санаулы ірі корпорациялардың қолында шоғырланған.
Оның үстіне, токендерді ақшаны жинағандай қор ретінде сақтай алмайсыз. Олар есептеу барысында жұмсалып, таусылатын ресурсқа ұқсайды. Мұны электр қуатын пайдалану үдерісімен салыстыруға болады.
Ең бастысы, токендердің бәрі бірдей құндылыққа ие емес. Сурет генерациялауға арналған қарапайым әрі арзан модельдің миллион токені мен қаржылық стратегияны әзірлейтін немесе шабуылдың келесі 50 қадамын бір секундта есептей алатын жабық корпоративтік жүйенің миллион токенінің мүмкіндігі екі түрлі.
Есептеу қуатын пайдалану мүмкіндігінің артуы капиталдың маңызын жоймайды. Керісінше, капитал иелерінің артықшылығын бұрынғыдан да күшейтіп, олардың басымдығын табиғи сипатқа ие құбылысқа айналдыруы мүмкін.
2.Біртұтас интернеттің ыдырауы және киберфеодализм
Интернетті тұтастай өшіріп тастау екіталай. Мұндай қадам билік пен ықпалға ие топтардың өзіне де экономикалық тұрғыдан орны толмас зиян келтірер еді. Оның орнына баршаға ортақ ашық интернет қолжетімділігі мен қауіпсіздік деңгейі әртүрлі, бір-бірінен оқшауланған жүйелерге бөлінуі мүмкін. Бұл жағдайда қорғаныс деңгейі адамның немесе ұйымның қаржылық мүмкіндігіне тәуелді болады.
Жоғарғы деңгейде корпорацияларға, банктер мен мемлекеттік мекемелерге арналған жабық әрі қорғалған желілер орналасады. Оларда физикалық тұрғыдан оқшауланған байланыс арналары, аппараттық шифрлау құралдары және кодты жұмыс барысында өзгертіп, қорғанысты үнемі жаңартып отыратын жасанды интеллект жүйелері болуы мүмкін.
Ортаңғы деңгейде ақылы, қолжетімділігі шектеулі цифрлық орта қалыптасады. Қымбат жазылымдарға төлеуге мүмкіндігі бар адамдар бұлттық жүйелер арқылы интернет-трафикті сүзгіден өткізіп, алгоритмдер көмегімен жасалатын алаяқтық әрекеттерден қорғана алады.
Төменгі деңгейде қарапайым халық пен шағын бизнес пайдаланатын ашық интернет қалады. Мұнда қауіпсіздік мәселелері ушығып, өздігінен әрекет ететін ботнеттер желідегі осал тұстарды іздейді. Алаяқтар адамның дауысын мінсіз дерлік қайталайтын дипфейктер арқылы жұртты алдауға тырысады. Ал банктер кибершабуылдан келген шығын үшін жауапкершілікті клиенттердің өзіне жүктеуі мүмкін.
3.Барлығын орталықтан басқаруға ұмтылу
Бақылауға көнбейтін миллиондаған жасанды интеллект агенті тудыратын бейберекеттікті тоқтату үшін жүйелерді орталықтан басқару мен қадағалау күшеюі мүмкін.
Біріншіден, анонимділік шектелуі ықтимал. Интернеттің қауіпсіз деп танылған бөліктеріне кіру үшін биометриялық деректер немесе криптографиялық құралдар арқылы адамның жеке басын растау талап етілуі мүмкін. Мұндағы мақсат – боттарды желілік хаттама деңгейінде-ақ бұғаттау. Бұл тәсіл Proof of Personhood, яғни пайдаланушының нақты адам екенін растау тетігі деп аталады.
Екіншіден, әмбебап компьютерлерді пайдалануға шектеу қойылуы мүмкін. Қарапайым пайдаланушылардың қауіпсіздігін қамтамасыз ету деген желеумен оларға жүйені толық басқаруға мүмкіндік бермейтін, қызметі шектеулі құрылғыларды ғана ұсынуға тырысуы ықтимал. Мұндай құрылғыларда әкімші құқықтары болмайды, ал пайдаланушы кез келген бағдарламаны өз қалауынша іске қоса алмайды. Тек әлемдік деңгейдегі үш-төрт монополиялық компания мақұлдаған бағдарламаларды пайдалануға рұқсат берілуі мүмкін.
Бұл айтылған ой антиутопияға ұқсай ма?
Иә, өзгерістерді бір бағытта ғана өрбиді деп қарастырып, күрделі жүйелердің дамуындағы маңызды заңдылықты ескермесек. Тарихта орталықтандыру мен орталықсыздандыру үдерістері кезектесіп отырады.
Монополиялар бақылауды күшейтуге тырысқан сайын, оған қарсы бағытталған инженерлік шешімдер де пайда болады.
Бұлттық жүйелерге балама – жергілікті құрылғылар
Алпауыт компаниялар қуаты гигаваттпен өлшенетін деректер орталықтарын салып жатқанда, ашық салмақтары бар (open-weight) модельдердің тиімділігі де жылдам артып келеді. Кеше ғана бұлттағы қуатты есептеу жүйесін қажет еткен міндетті бүгін оңтайландырылған модель арқылы үйдегі немесе кеңседегі қуатты компьютерде орындауға болады. Кейбір жағдайда интернетке қосылудың да қажеті жоқ. Мұндай компьютерлердің жедел жады мен графикалық жады ортақ пайдаланылатын (Unified Memory) архитектурасы болуы мүмкін.
1980 жылдары дербес компьютерлер IBM компаниясының мейнфреймдер нарығындағы үстемдігін әлсіретті. Сол сияқты жеке құрылғыларда жұмыс істейтін жасанды интеллект модельдері де бұлттық қызмет көрсететін алпауыт компаниялардың монополиялық ықпалын азайтуы мүмкін.
«Шыны жақ» парадоксы
Жасанды интеллект көмегімен жасалатын шабуылдар күшейген заманда ескі бағдарламалық кодтың миллиондаған жолына және ондаған мың қызметкеріне сүйенетін алып корпорациялар шағын топтарға қарағанда осал болуы мүмкін.
Ал білікті инженерлерден құралған шағын топ жергілікті жасанды интеллект модельдерін пайдаланып, инфрақұрылымын бір демалыс күнінің ішінде қайта құра алады. Олар бюрократиялық кедергілерге тәуелді болмай, жабық әрі оқшауланған ортада жұмыс істей алады.
Шынайы сенімнің қайта оралуы
Цифрлық орта дипфейктер мен жасанды ақпараттық шудың әсерінен сенімсіз бола бастағанда, қолдан жасау қиын құндылықтардың бағасы артады. Олардың қатарында адамның жеке беделі, кәсіби қауымдастықтар арасындағы сенім, тікелей байланыс және бетпе-бет отырып жасалған келісімдер бар.
Ал келешекте бізді не күтіп тұр?
Болашақ цифрлық жұмаққа да, ақырзаманға да айналмауы мүмкін. Дегенмен өз деректерін, жеке мәліметтерін, жазбалары мен қаржысын сыртқы бұлттық жүйелерге ойланбастан тапсырып, оның орнына қолайлылықты таңдайтын енжар пайдаланушылар үшін алдағы кезең күрделі болуы ықтимал.
Жаңа жағдайда басымдыққа ие болудың тиімді жолы – цифрлық дербестікті саналы түрде сақтау.
Бұл деректерді ашық әрі ұзақ уақыт бойы пайдалануға болатын пішімдерде сақтауды білдіреді. Мысалы, қарапайым мәтіндік файлдарды және арада 30 жыл өтсе де оқуға болатын жергілікті реляциялық дерекқорларды пайдалануға болады. Сонымен қатар өзіңіздің физикалық кеңістігіңізде жұмыс істейтін есептеу құрылғылары болғаны жөн. Жұмысқа арналған және қаржылық операциялар жүргізілетін құрылғыларды бір-бірінен қатаң ажыратып, аппараттық қауіпсіздік кілттерін қолдану да маңызды.
Қаржы қаражатын әртүрлі құралдарға бөліп орналастырған дұрыс. Мұнда тәуекелі төмен дәстүрлі құралдармен қатар, төлем жүйелері істен шыққан жағдайда пайдалануға болатын қолма-қол ақшаның да орны бар. Бұған қоса, отбасы мүшелерімен байланыс кезінде адамның кім екенін тексерудің қарапайым ережелерін алдын ала келісіп алған жөн. Бұл ережелерді дипфейктер арқылы алдап өту қиын болуы керек.
Технологияның өзі адамды еркін де, тәуелді де етпейді. Ол адамның бойындағы қасиеттер мен дағдылардың ықпалын күшейтеді. Абайсыздық толық тәуелділікке ұласуы мүмкін, ал жүйелі ойлау мен инженерлік тәртіп елеулі артықшылық береді.
Қазір басымдық орталықтандыру жағына ауып бара жатқандай. Дегенмен жеке дербестікті сақтауға мүмкіндік беретін құралдар бұрын-соңды болмаған деңгейде дамыды. Ендігі мәселе — сол құралдарды кімнің және қалай пайдаланатынында.
Facebook әлеуметтік желісінде жарияланған жазба негізінде жазылды.
Қосымша материалдар мен сараптамалық шолуларды біздің Telegram арнамыздан оқуға болады.
