Джейкобу Коксону 27 лет. В начале недели в Твиттере у него была пара тысяч подписчиков. Вчера он написал пост, который прочитали 55 миллионов раз – 400 тысяч лайков за 10 часов.
Коксон сообщил о своем добровольном увольнении из компании Anthropic, в которой занимался обучением базовых моделей ИИ на огромных объёмах данных.
Anthropic – самая крупная компания, которая занимается разработкой искусственного интеллекта. Ее основной продукт – Claude, который лично мне нравится больше, чем ChatGPT.
Anthropic – самая дорогая компания в своей сфере, ее стоимость оценивается в более чем 1 триллион долларов.
Теперь о том, что написал Джейкоб Коксон после увольнения:
“Я уволился из Anthropic сегодня. Последние три года я занимался pretraining-исследованиями в OpenAI и Anthropic. Ни одна из компаний не действует ответственно. Они мчатся прямо к самоулучшающемуся суперинтеллекту и играют нашими жизнями.
Не недооценивайте силу этой технологии. Скоро это будут сверхчеловеческие системы, которые смогут взломать что угодно, за одну ночь революционизировать любую область и захватить реальную власть и ресурсы. Мы все видели прогресс в каждой из этих сфер, и он не замедляется.
Люди, которые строят ИИ, всерьёз считают, что он может уничтожить всех нас к концу десятилетия. Это не маркетинговый ход. Более того, многие руководители и старшие исследователи в прессе формулируют мысли осторожнее, чтобы звучать благоразумно, – но я слышу, как те же самые люди в частном порядке выражают страх. Никакая другая человеческая деятельность не несёт такой уровень опасности.
В OpenAI многие ещё глубоко не осознали цивилизационные ставки. В Anthropic ставки хорошо понятны, но они заперты в гонке – хотят прийти первыми, потому что считают, что больше никто не будет действовать ответственно, поэтому им приходится делать это самим, несмотря на риск.
Принять эту гонку – высокомерная авантюра.
Если вы исследователь в лаборатории, я призываю вас подумать, какими на самом деле будут ближайшие несколько лет. Хотите ли вы запускать сверхинтеллектуальную систему без глубокого понимания того, что у нее в “голове”? Будете ли вы опускать свою голову, потому что “это всё равно произойдёт”, – или воспользуетесь этим моментом, чтобы потребовать других условий?”
Ранее в интервью The Wall Street Journal Джейкоб Коксон говорил: “Мы движемся по пути самых агрессивных сценариев, где уже к концу следующего года всё может выйти из-под контроля”.
Высказывания Коксона – не слова обиженного при увольнении человека. Эван Хабингер – руководитель направления Alignment Science в Anthropic написал свой пост:
“Джейкоб здесь прав – мы действительно искренне верим, что ИИ может уничтожить всех людей! Я лично считаю, что вероятность этого составляет более 10% в течение следующего десятилетия. Я верю, что Anthropic старается изо всех сил, но у нас пока нет плана по решению проблемы согласования для суперинтеллекта, и мы явно не движемся к этому”.
Теперь от себя: Джейкоб Коксон ушёл, но остались его коллеги и ИИ-инженеры из других компаний. Уход одного человека процесса не замедляет. Моральные принципы других – загадка, но, глядя на Маска и его команду, стоит думать о худшем.
Помните DOGE? 6 парней, средний возраст которых – 22 года, уволили за пару месяцев более 100 тысяч федеральных служащих США.
Изначально было заявлено, что DOGE создан для экономии федеральных денег. В итоге расследование Счётной палаты США оценило, что хаотичные действия DOGE нанесли ущерб как минимум в 21,7 миллиарда долларов. Государственные расходы в тот период не снизились, а выросли.
“Антикоррупционные расследования” DOGE ни к чему не привели: никому не предъявлены обвинения в “пропаже миллиардов из казначейства”.
DOGE был распущен менее чем через год после создания, а Илон Маск покинул пост главы структуры в мае 2025-го.
Причем тут ИИ? Многие забыли, что у 22-летних пацанов был доступ к системам Министерства финансов, базам социального страхования, федеральным базам правоохранительных органов. А именно информация – самый ценный ресурс при разработке ИИ.
Информация, которой нет у конкурентов, плюс социопатия того же Маска – отсутствие моральных тормозов – и невозможно представить, что нас ждет.
Если ведущие разработчики ИИ предлагают остановить обучение “супермозга”, осознать риски и понять, что делать дальше, то стоит верить им, а не самым богатым людям на нашей планете.
Но мы можем только наблюдать…
Aleksandr Smirnov, Facebook
Больше интересных статей, новостей, обзоров здесь: https://t.me/mobilaser
