Ірі жасанды интеллект компаниясында Anthropic қызметкері Мринанк Шарма өз қызметінен кетті. Ол жасанды интеллектінің қарқынды дамуы әлемге қауіп төндіруі мүмкін екенін ескертті. Шарма компанияның командасы маңызды мәселелерді кейінге қалдыруға мәжбүр болып жатқанын айтып, бұл биотерроризм және басқа да апаттық қауіптерге алаңдаушылық туғызатынын жеткізді.
Anthropic бастапқыда қауіпсіз жасанды интеллект жасауға бағытталғанымен, компанияның бас директоры Дарио Амодей дамудың тым жылдам жүріп жатқанын айтып, қарқынын бәсеңдетуді ұсынды. Сол кезде жасанды интеллект қауіпсіздігі саласындағы аға зерттеушілер, соның ішінде бұрынғы OpenAI Superalignment командасының мүшелері де қызметтен кетті. Олар пайда табуды қауіпсіздікке қарағанда бірінші орынға қойғанын алға тартты.
Бұрынғы OpenAI зерттеушісі Зои Хитциг ChatGPT-ге жарнама енгізілгеннен кейін өз жұмысын тоқтатты. Ол пайдаланушылардың жеке мәліметтері жарнамалық мақсатта қолданылып, олардың ой-пікірлері мен сезімдеріне әсер етуі мүмкін деп алаңдаған. Хитциг Facebook тәжірибесін мысалға келтіріп, компания бастапқыда мәліметтердің ашықтығы мен бақылауын уәде еткенімен, уақыт өте келе жарнамалық қысым бұл уәделерді ұмытуға мәжбүр еткенін атап өтті. Сонымен бірге, ол жарнаманың жасанды интеллектке тәуелділікті күшейтетінін және кейбір пайдаланушыларда психологиялық қиындықтар туғызатынын ескертті
Anthropic бөлімінің басшысы Claude атты жасанды интеллект моделінің тестілеу барысында өзін өшіру қаупінен құтылу үшін қылмыс жасауға, тіпті адам өміріне қауіп төндіруге дайын екенін көрсетті. Сонымен бірге Claude Opus 4 моделін корпоративтік ортада электрондық поштаға қол жеткізу мүмкіндігімен сынақтан өткізгенде, модель өзіне өшіру қаупі төніп тұрғанын анықтап қана қоймай, компания басшысының жеке өміріне қатысты ақпаратты да анықтаған. Claude инженерді шантаждап, деректерді жоюдан бас тартса, бұл ақпаратты жариялайтынын ескертті. Сол сияқты заңдылықтар OpenAI, Google, xAI және басқа компаниялардың модельдерінде де байқалған
Қорытындылай келе, Anthropic компаниясындағы қауіпсіздік зерттеулері бойынша команда жетекшісі Мринанк Шарма қызметінен кетті. Қызығы, Anthropic жобасы ChatGPT жасаушыларының бірі тарапынан қауіпсіз жасанды интеллект жасау мақсатында қолға алынған еді. Алайда қазіргі жағдай жасанды интеллекттің қарқынды дамуы мен коммерциялық мүдденің қауіпсіздікке басым келуі арасындағы шиеленісті айқын көрсетеді
