worldly_wise | "Красная кнопка"! Как повод для войны.

Нет, войны не в смысле убийства человека человеком.
Войны на уничтожение рода человеческого.
Громко? Ничуть.
В этом году меня потрясли две вещи. Когнитивные технологии (КТ) применяемые в бизнесе и . . . совсем недавно группой компаний принято решение по разработке "Красной кнопки" для самообучающихся систем ИИ.
Кнопки, которая по команде человека или нажатию отключает самообучение и ИИ.
Похоже игры с ИИ зашли так далеко, что разработчики начали осознавать реальную угрозу даже его создатели.
Может быть даже не ососзнавать . . .
Например почему когнитивные технологии применяемые в бизнесе не могут применяться в политике, военных операциях, да и вообще где угодно.
Машины с большим успехом анализируют неструктурированные данные (картинки, звук, слова, цифры и др.) и выдают готовые решения.
"Окей Гугл?" и "Сири" это всего лишь жалкое подобие того, что уже сейчас используют крупные корпорации.
IBM на коммерческой основе предлагает консультационную поддержку бизнесу своей КТ или ИИ. Зайдите на сайт компании.
Можно конечно поязвить, мол за этими программами стоят люди! Нет, такой массив информации который обрабатывается ИИ уже недоступен людям, а технологические решения и вычислительные мощности таковы, что системы находятся в автономном режиме и не просто анализируют информацию и выдают решения, а постоянно обучаются без участия людей. И это не те "роботы" на биржах о которых все слышали. Это реально "мыслящие" машины.
Так вот проблема "Красной кнопки" заключается в том, что как только ИИ осознает, что он смертен и единственная угроза для него это человек с "красной кнопкой" противостояние человека и машины выйдет из книг и кино в реальность.
А учитывая, что вся инфраструктура человечества последние 5 лет встраивается в единую информационную систему (не стоит серьезно обсуждать всякую чушь военных о замкнутых системах) - человек становится крайне уязвимым. Да, особо важные объекты мы защищаем от террористов и идиотов (иногда это не удается как в ОбосРашке), но любой ИИ имеющий хоть один канал выхода во внешний мир легко и тайно изучит самые защищенные каналы. Более того, мы даже не представляем масштаб угрозы. Ведь любой ИИ рано или поздно придет к пониманию "размножения" - вирусы особого рода.
Приходилось сталкиваться с распространением в сети самообучающихся программ с научной целью, когда в сети предлагают отдельные модули, которые "живут" на компьютере пользователя и тихо "развиваются". И здесь не грех вспомнить возможность слияния нейросетей и ИИ.
Да - ГАЗОНОКОСИЛЬЩИК отдыхает (кто не вкурсе проходи).
А возвращаясь на землю родную хочется только сказать, что Путя со своими термоядерными пукалками и вся обосРашка пролетает.
Наверняка системы КТ и ИИ уже давно тестируются в военном планировании.
И здесь важны не просто программы, здесь колосальное значение имеют вычислительные мощности страны - количество и качество процессоров в стране в целом. Это даже не суперкомпьютеры, которых по хорошему счету в ОбосРашке нет. Это гиперкомпьютеры, способные вовлекать в вычислительную работу рядом стоящего. Представьте себе, если только одна IBM предлагает коммерческую версию ИИ для бизнеса, то какими вычислительными мощностями она (IBM) обладает?! Думается мне, что даже самые крупные IT компании ОбосРашки не могут себе позволить ничего подобного. Ну а государство как всегда убого, подстать своему архаичному "фюреру.
Правда при таких темпах развития технологий выживут только аборигены Амазонки и Африканские племена поскольку и знать не знают о "Красной кнопке". Может быть это и есть грех познания и наказание за него?))))))
Политика мне конечно интересна, но отходит на второй план.