Ольга Ускова

Современное человечество – это первобытная орда

Ольга Ускова
президент группы компаний Cognitive Technologies
30 апреля 2020, 10:00

«Он говорит, что изнасилование случилось в аффекте, но я точно помню, что это было в сарае...» (Из судебной практики).

Сразу несколько человек попросили объяснить, как я понимаю нейронные механизмы случаев массового коллективного безобразия и бреда, которые так участились в последнее время.

Я, естественно, могу про это рассказать только со своего крылечка – с позиции человека, который имеет прямое отношение к созданию Искусственных Нейронных Систем глубокого обучения для беспилотного наземного транспорта. Мои знакомства с работами Выготского, Лурии, Троттера и т. д. носят скорее любительский, недостаточно профессиональный характер. Но, как говорится, сами напросились...

Как я уже писала, обучение Искусственных Нейронных Сетей и «воспитание» до необходимого функционального и уровня самостоятельного принятия решения Искусственного Мозга очень напоминает воспитание ребёнка. В каком-то приближении мы можем говорить о «сознании» и «самосознании» наших систем ИИ Cognitive Pilot.

– Первая стадия: Система ИИ управляется командами разработчика, который определяет ее действия, так же как взрослый человек действует словом на ребенка, побуждая его что-то сделать.

Фото: Терминал,Amblin Entertainment

– Вторая: Искусственный мозг учится общаться с разработчиком, отвечая ему и, в диалоге влияя, косвенно, на ход разработки. Так же как подросший ребенок перенимает от взрослого способ обращения и начинает воздействовать словом на взрослого.

– И третья: Искусственный мозг начинает саморазвиваться. Самостоятельно корректирует своё поведение. Так же как ребенок начинает воздействовать словом на самого себя, не обращаясь к взрослому за командами.

Проходя эти стадии работы с Искусственным Мозгом (в определенном приближении и в чисто профессиональном узком коридоре задач управления транспортом), мы обнаружили довольно интересную ошибку, сбой систем при определенном режиме коллективной работы, которую мы назвали «Искусственный Аффект» (ИА).

При регулярной подаче сразу на много узлов тревожных команд о высокой вероятности фатальной поломки (например, идет обучение агроботов на полях с «выросшими» камнями, а критерий «не поломать жатку о камень» поставлен как самый существенный) происходит сбой большинства других систем роботов из-за неоправданной перегруппировки всех вычислительных ресурсов на решение этой подзадачи. И комплексное поведение каждого отдельного агробота становится неадекватным. Причем эта история проявляется именно при параллельном обучении сразу большого количества машин. Если обучать каждую отдельно – «аффекта» не возникает. У нас это формулируется как «случайный или сознательный перекос обучающей выборки в пользу одного из классов, который приводит к концентрации сети на особо точном выделении объектов только этого класса и провалу в выделении других».

Похожий процесс мы наблюдаем и при коллективной реакции общества на глобальные негативные события, такие как войны, эпидемии и т. п. Я бы назвала это явление – коллективный аффект.

Коллективный аффект, или «бурно протекающая положительно или отрицательно окрашенная психогенная реакция», затрагивает, иногда парализует или, напротив, мобилизует волю группы людей, связанных между собой единой языковой средой. Именно в состоянии развитого аффекта организм общества перестаёт работать слаженно и «вырабатывать стандартную, логическую модель поведения и существования».

Так же, как каждое сильное аффективное состояние сопро­вождается глубокими нарушениями функций в организме челове­ка, так и коллективный аффект нарушает всю энергетику организма общественной группы людей в целом.

Очень интересно, что именно язык общения здесь играет очень важную роль при провоцировании ненормального состояния (так же как команды разработчика в системах ИИ). Ассоциативные пары, привязанные к негативным нейродинамическим реакциям типа «ковид – изоляция – кашель – мы все умрем», провоцируют ненормальные коллективные состояния, когда даже адекватных в обычной жизни людей можно организовать – поджечь больницу с зараженными, кашляющими людьми.

И таких ассоциативных цепочек, очень опасных для окружающих, специалист-нейронщик может намастырить предостаточно. А при условии наличия доверительного отношения населения к соцсетям, с предельной быстротой загрузить их прямо в мозги большому количеству граждан.

В конце приведу только пример из практики А. Лурии. Он считал: «способность регулировать собственное поведение связана с лобными долями, в особенности – левого полушария».

Поэтому очень много занимался с пациентами, получившими травмы лобных долей. Они могли говорить и выполнять простые повседневные действия, как, например, здороваться с окружающими или самостоятельно одеваться. Но в новых ситуациях они были неспособны регулировать свое поведение и полностью зависели от внешних стимулов.

Например, один из его пациентов должен был сесть на поезд, идущий в Москву, но, прибыв на станцию, сел в первый поданный на посадку поезд и уехал в противоположном направлении. Очевидно, голос диктора: «Просим пройти на посадку» и вид других пассажиров, садящихся в поезд, был слишком сильным стимулом, которому он был не в силах противостоять. Он не смог сказать себе: «Это не мой поезд» – и с помощью этих слов направить собственное поведение.

Но у нас-то с вами нет травм головы. Давайте будем фильтровать внешнее воздействие, хотя бы со стороны СМИ и ФБ.

P. S. «Первобытной ордой» назвал человечество старичок Фрейд в своей работе «Тотем и табу» (1913). Фрейд виноват, да.

Источник: Блог Ольги Усковой