Вопрос доверия. Аналитика. Дни минувшего будущего

Так называется фильм, спин-офф Людей Икс. Но под таким же кодовым словом кроется и ситуация, которую раскрыли в данном фильме.
Быть может не все из вас поклонники студии Marvel, но стоит отдать им должное. Они умеют представлять будущее, реалистичное будущее, хоть и работают с вселенной комиксов.

В фильме мы увидили как особый класс боевых машин серии Стражи Mark X, запрограммированных на поиск и ликвидацию людей с геномом Х, в конечном счете обернулись против создателя.
Что такое Геном Х? Это геном вида Мутаген. Способный создавать уникальные возможности и комбинации из нуклиидовых маркеров в цепочке ДНК своего носителя. Но если мы реально взглянем на ситуацию, то геном Х определяет людей с необычным цветом глаз, корней волос, кожи, а так же любые анатомические особенности. Если в фильме, а и той вселенной, это всегда сопровождалось сверх человеческими способностям, то в реальности все куда прозаичней. Просто отличия от стандарта.

Так вот. В реальности, подобные машины, обладающие сверх прочной структурой их эндоскелета, с внедренными технологиями повторяющими способности нескольких мутантов, были бы способны уничтожить большую часть человечества, из-за сходства с их программным кодом, заложенным для выявления нарушений ДНК.

Кто-то говорит, что будь это реальностью -  мы бы проиграли в войне против Машины, против ИИ, который может планировать сотни тысяч ситуаций одноврменно, перемещая крохи своих действий через подконтрольную технику и интернет. Идеальный стратег. Я бы согласился, будь в природе машины подобный богам.
DEUS EX Machina

Божественная машина. Машина созданная по дизайну бога. Или сверх существа обделенного слабостями. Мы же, люди, слабы. Мы имеем ошибки в своих вычислениях, так как сами имеем их в себе.
Если мы что-то создаем, то мы закладываем ошибку в дизайн. Если мы создаем оружие для уничтожения всего сущего, мы всегда заложим и протокол отмены.
Порой случайно. Любая технология человека имеет втроенный изьян. Если мы построим машину ИИ, и скажем ей создать что-то по ее примеру, чтобы исключить изьян, мы сделаем ошибку лишь больше.

Вы скажете, но мы же создали нейтронную бомбу. Она крайне опасна в любых боевых действиях. Вы правы. Мы создаем страшные вещи. Люди любят войны, как хищники любят мясо. Но вы никогда не задавались вопросом. А насколько просто аннигилировать такое оружие, дистабилизировать, и сделать бесполезным.
Человек скорее всего не сможет достичь таких мыслей, но нечеловек сможет.
То что мы создаем бесполезно, если мы применяем это в глобальном плане, но для нас самих. Дайте мне технологию, и я сделаю любое оружие бесполезным. Экран из сверх прочного излучения, который рессеит радиацию за пару часов, сверх точные системы микронаведения на цель, чтобы исключить использование баллистических ракет.
И люди станут беззащитными. Но я не ученый в этой области, я не пришелец. Мне это не нужно. Но я лишь привел пример того, насколько человек уязвим в своем стремлении достичь совершенства.

Выходит все наоборот. Чем больше мы будем стараться сделать ИИ опаснее нас, тем слабее и предсказумее станет его тактика. Тем проще будет ее разобрать на составляющие, и тем проще победить технологического врага. Которого мы быть может должны будем себе создать.

Человек непредсказуем, так как им управляет слишком многое, слишком многое вносит погрешность, которую компьютер не в состоянии предсказать на 100%.
Спонстанные изменения в планах, под действие эмоций, скрытых мотивов, любви.
Всему этому невозможно обучить ИИ. А значит, какой бы сценарий нам не предсказывали подобные фильмы : Terminator, Avengers: Age of Ultron ну и X-men: Days of future Past, мы все знаем правду. Технология, которую строит человек против самого человека никогда не выйграет. Так как в нее будет заложено больше минусов, чем плюсов.

Но если мы вдруг встретимся с инопланетный AI куда ближе к вселенскому божеству чем мы сами, вот тогда нас ждет крайне непростое столкновение.

Благодарю за ознакомление.