Этические проблемы при использовании нейросетей в военных действиях становятся все более актуальными. Тем более что у ни одной страны в мире до сих пор нет юридических обоснования для применения этого принципиально нового вида оружия (и это действительно страшное оружие!) в любом конфликте.
Все теоретические попытки решить эту проблему неизменно заходят в тупик: военные, давшие добро на применение системы, оправдываются тем, что не имели полной информации об алгоритмах ее работы, проще говоря, не понимали до конца, как думают искусственные мозги. Разработчики отвечают на это, что не обязаны передавать информацию, являющуюся коммерческой тайной, и всё, круг замкнулся. А между тем на поле боя может оказаться оружие, принципы действия (и возможности) которого не до конца понятны тем, кто его применяет.
Другой момент: считается, что машина не подвержена эксцессам исполнителя, то есть не способна совершать военные преступления. Однако эксперименты, проводившиеся на Западе, говорят о том, что полуавтономные и автономные боевые системы могут целенаправленно использоваться для совершения военных преступлений, например, для развязывания террора в конкретной местности. Вопрос, как читают военные эксперты, пока чисто теоретический, но он тоже рассматривается, ведь, если роботизация армий зайдет достаточно далеко, такие сценарии нельзя будет игнорировать. Равно как и их последствия.
Впрочем, мировой опыт показывает, что ограничивать и запрещать удается лишь те виды вооружений, которые в действительности не слишком эффективны с военной точки зрения. Как-либо ограничить использование оружия, могущего сыграть решающую роль в войне или битве, не получается. Это прослеживается со времен церковных соборов, пытавшихся запретить христианам применять арбалеты против единоверцев. Поскольку боевые системы с ИИ не просто эффективны, но способны изменить парадигму боевых действий, трудно поверить, что попытки задержать их внедрение увенчаются успехом.
Возьмем авиацию: до сих пор здесь господствуют крупные боевые самолеты стоимостью сотни миллионов долларов. Большими и дорогими они становятся из-за того, что ими управляет пилот, и одна из задач машины — обеспечить его выживание. Ведь на подготовку летчика тоже тратятся миллионы долларов, он товар штучный.
«Когда у вас появляются платформы, управляемые ИИ, вы просто считаете, сколько единиц техники можете потерять и сколько средств потратит противник на их поражение, и исходя из этого планируете требования к тому или иному образцу техники. Вы готовы терять их довольно легко»,
— объясняет российский эксперт Василий Кашин.
Тем паче что самым дорогим компонентом многих видов вооружения будет не «железо», а «мозги», т. е. разработанное для них ПО. А особенность ПО состоит в том, что его, в отличие от материальных объектов, можно копировать бесконечное число раз. Таким образом, можно произвести колоссальное количество относительно дешевых боевых систем и расходовать их не жалея в расчете, что противник потратит на уничтожение еще больше ресурсов и в итоге проиграет.
Трудно сказать, сбудется этот прогноз или нет, но если да, то есть надежда, что войны будущего окажутся гуманнее современных.
