Методы оптимизации принятия решений посредством порогового голосования в стохастической среде тема диссертации и автореферата по ВАК РФ 05.13.01, кандидат наук Малышев Виталий Алексеевич

• Малышев Виталий Алексеевич
• кандидат наук
• 2020

Оглавление диссертации кандидат наук Малышев Виталий Алексеевич

Введение

Глава 1 Оптимальный порог голосования как функция коэффициента вариации среды

1.1 Модель голосования в стохастической среде У^Е

1.2 Оптимальный порог голосования в различных средах

1.2.1 Общий результат

1.2.2 Среды с непрерывными равномерными распределениями предложений

1.2.3 Среды с нормальными распределениями предложений

1.2.4 Среда с предложениями, порожденными симметризованными распределениями Парето

1.2.5 Среда с предложениями, порожденными распределениями Лапласа

1.2.6 Итоговые таблицы

1.3 Ожидаемое приращение полезности

1.3.1 Аналитическое выражение для ожидаемого приращения полезности

1.3.2 Сравнение ожидаемых приращений полезности

Глава 2 О сравнительной выгодности коллективных и эгоистических принципов при голосовании в стохастической среде

2.1 Постановка задачи динамики показателей эффективности принятия решений для однородных коллективов

2.2 Динамика с нормально распределенными предложениями

2.3 Симметризованные распределения Парето

2.4 Динамика полезности и выживаемости в случае симметризованного распределения Парето

2.5 Динамика показателей в случае распределений со «сверхтяжелыми» хвостами

2.6 Динамика показателей в благоприятной среде

2.7 Выводы главы

Глава 3 Об оптимальном пороге притязаний группы при голосовании в стохастической среде

3.1 Приращения полезностей эгоистов и членов группы

3.2 Оптимальный порог притязаний группы

3.3 Зависимость СПК от порога голосования

3.4 Изменение порога притязаний как способ борьбы с «ямой ущерба»

3.5 Выводы главы

Заключение

Список литературы

Введение

Введение диссертации (часть автореферата) на тему «Методы оптимизации принятия решений посредством порогового голосования в стохастической среде»

Актуальность темы

В работе различных комиссий, советов, органов местного самоуправления, органов законодательной власти и других коллективных органов, а так же при агрегировании экспертной информации независимых агентов (роботов, нейронных сетей, узлов сети) в качестве способа принятия решений широко применяется голосование (формирование общего решения путем подсчета голосов членов коллективного органа). В публикациях [1-3] рассматривается работа парламентов европейских государств, США, Австралии (и выборы в них); Совета Европейского союза, Совета Безопасности ООН и т.д. В [61-62] описываются способы обнаружения сетевых атак с помощью независимых нейронных сетей и аггрегации информации, поступающей от них, с помощью голосования. Эти и другие исследования демонстрируют эффективность агрегации информации, поступающей от независимых узко заточенных искусственных интеллектов, с помощью голосования, для решения практических задач.

Принятые с помощью подходящих к ситуации процедур голосования коллективные решения очень хороши с нескольких позиций. Во-первых, они отражают, в той или иной степени, экспертные мнения всех участников голосования, т.е. агрегируют и обрабатывают больше информации, а в случае социальных систем, учет мнений повышает легитимность решения и мотивацию участников следовать полученному решению. Во-вторых, правильно построенная процедура всегда отвечает заранее выбранным важным условиям, страхуя от неприемлемых в конкретной ситуации решений. Такими условиями могут быть, например монотонность (улучшение позиции альтернативы в конкретном бюллетене не ухудшает её положения в итоговом решении) или условие единогласия. Классификация процедур и история их возникновения рассмотрены в [4-7].

Возникает вопрос: могут ли распространенные процедуры голосования, не удовлетворять такого рода требованиям? - Ответ: да, могут. Так как количество различных требований очень велико, и удовлетворить многим из них одновременно не всегда возможно (впервые такое утверждение доказано в середине XX века - теорема Эрроу [8,9]).

Недостатки процедур голосования заключаются в следующем:

- они не универсальны, и их приходится подбирать в зависимости от особенностей применения; это достаточно сложная задача;

- большинство из них подвержены манипуляции со стороны организатора и участников голосования;

- некоторые из них достаточно сложны с точки зрения организации, понимания их правил, обработки результатов;

- они требуют определённых компетенций и уровня ответственности от участников голосования и, в первую очередь, от организаторов голосования;

- информирование агентов, зачастую необходимое для эффективности процедуры голосования, как способа агрегировать информацию об индивидуальных предпочтениях, бывает затратным.

В наше время количество случаев, в которых используется голосование, только растет. Актуальность его не падает, а для устранения недостатков прикладываются значительные усилия. Готовность людей к участию в голосованиях растет; информационные технологии существенно упрощают организацию и обработку их результатов, облегчают осуществление контроля над процедурой для исключения или уменьшения манипуляций (хотя бы со стороны организаторов). Способствует этому и демократизация многих обществ. В общественном сознании демократия и голосование, выборы - очень близкие понятия, хотя в действительности этот взгляд является чрезмерно упрощенным. В целом эффективность демократических процедур принятия коллективных решений очень медленно, но растет, а издержки на получение их результатов падают [10,11]. Кроме того с ростом количества доступной информации при обработке её экспертами (профессионалами и, всё чаще, искусственными интеллектами) растет актуальность задачи её агрегирования, зачастую с помощью голосования, для принятия решений [61, 62].

В последние десятилетия поток научных работ, направленных на изучение процедур голосования, становится все более интенсивным; повышается и математический уровень этих работ.

Одной из самых распространенных процедур голосования при выборе из двух альтернатив («реформа» и статус-кво) является квалицированное большинство. При процедуре этого типа «реформа» выбирается, если за неё проголосовало, например, две трети или три четверти от общего числа избирателей или числа избирателей, участвовавших в голосовании. В работах [1,12-15] рассматриваются модели, использующие эту процедуру либо её частные случаи: простое большинство и единогласие.

Интуиция подсказывает, что более важные решения должны приниматься большей долей голосующих. Но всегда ли это так и какая логика за этим стоит?

Как на результаты влияют компетенция участников, их социальные установки [16,17], доступная им информация? Что зависит от параметров процедуры голосования и структуры рассматриваемых предложений? Существуют ли оптимальные по некоторым критериям реформы и как к ним прийти?

Для ответов на эти и другие подобные вопросы в науке исследуются различные математические модели голосования. В данной работе используется модель ViSE (Voting in a Stochastic Environment) обладающая пятью характерными элементам: 1) многократное голосование; 2) отсутствие у голосующих конечных идеальных точек; 3) индивидуальные полезности, допускающие суммирование; 4) стохастическая среда, генерирующая повестку дня и 5) принципы голосования участников (эгоистические, групповые, коллективные), требующие доступности участникам различной информации, и определяющие структуру его предпочтений.

Ранее в рамках модели были изучены различные эгоистические, кооперативные и коллективные принципы голосования [18-22]. Получены выражения отражающие динамику полезности различных агентов [23-26]. Изучены способы преодоления парадокса «ямы ущерба» [27,28].Рассматривалась оптимизация процедуры голосования путем изменения порога голосования для различных сред и коллективов [25, 29-34]. А также изучалась эффективность организации и роста групп для их участников при динамике, определяемой моделью ViSE [24,35,37,38].

Динамические модели голосования в многомерном пространстве предложений интенсивно изучались с 1960-х годов [39-42]. Однако генерация предложений обычно была прерогативой избираемых, либо самих избирателей (эндогенная повестка дня): с выбором случайного кандидата на каждом этапе [43-46] или не полностью случайным образом [47,48], или некоторых других лиц со своими интересами [39,49]. Предложения, сгенерированные экзогенно и имеющие случайный эффект, были рассмотрены в [50-52], но нетрансферабельный характер индивидуальных полезностей (т. е. измерение полезности в субъективных шкалах, а не в унифицированных единицах) ограничил изучение кооперативных (групповых и коллективных) принципов голосования в рамках соответствующих моделей.

Исследования кооперации при динамическом голосовании в игре с дележом пирога и трансферабельными (переносимыми) полезностями начались с [47]. В [53] было проведено экспериментальное исследование кооперативных решений. Динамика коалиций и эффективность принятия решений в модели с дисконтированием и взятками была рассмотрена в [43]. В [54] была изучена стохастическая модель, для которой при определенных условиях простое

большинство было оптимальным, аналогично [29] посвящена поиску оптимального порога квалифицированного большинства в модели ViSE. Проблема оптимального порога голосования также рассматривалась в [55], где предложения генерировались экзогенно, и рассматривалась выгодность первого принятого предложения; в этой модели процедура единогласия не является оптимальной из-за дисконтирования.

Важное различие между моделью ViSE и моделями законодательных переговоров (legislative bargaining; большинство упомянутых выше работ относится к этому направлению, см. также [56]), заключается в том, что вопрос равновесия является основным фокусом этих моделей. В то время как в модели ViSE структура пространства предложений, где координатами являются индивидуальные полезности, как правило, не допускает каких-либо равновесий. Последнее вызвано отсутствием оптимальных по Парето альтернатив в пространстве возможностей, поскольку базовая модель ViSE позволяет одновременно получать выигрыш всем агентам. В таких обстоятельствах целью может быть агрегация информации об индивидуальных предпочтениях агентов и эффективное принятие решений с её помощью, то есть максимизация полезности: индивидуальной, общей или средней, для определенных категорий участников или для всего коллектива. Используя эти критерии, удобно изучать эффективность эгоизма участников, лоббирования и различных коллективных принципов голосования.

Одним из существенных различий между моделью ViSE и моделями, которые изучались во многих других работах, служит смещение фокуса исследований с поиска равновесий в моделях законодательных торгов/переговоров (legislative bargaining) в сторону максимизации некоторой агрегированной полезности (или капитала) в модели ViSE. Т.е. на эффективность в условиях наличия нового участника, — «природы» (или среды), — который выступает в роли генератора стохастических предложений.

Анализ эффективности приближает этот подход к подходу, реализованному в [57], где нет динамики, поскольку за ряд, экзогенно сгенерированных, предложений голосуют «параллельно», но принятие любого предложения дает некоторые приращения индивидуальным полезностям, и характеристики результирующего вектора приращений позволяют оценить эффективность механизма принятия решений.

Таким образом, задачи оптимизации процедур голосования, как способа агрегирования экспертной информации и/или информации о предпочтениях агентов, с целью повышения эффективности принятия решений в стохастических средах актуальны для современной науки.

Цель работы

Целью работы является выявление оптимальной с точки зрения максимизации благосостояния участников процедуры голосования типа квалифицированного большинства, как способа агрегирования экспертной информации и/или информации о предпочтениях агентов, в рамках модели ViSE при различных условиях. И оценка влияния принципов голосования участников на результаты голосования. Для достижения этой цели требуется решить следующие задачи:

- вывести аналитические формулы для оптимального порога голосования в зависимости от параметров среды;

- проанализировать зависимость среднего приращения полезности (капитала) от параметров среды и принципов голосования участников для широкого диапазона ситуаций;

- рассмотреть принципы группового голосования с порогом притязаний и выявить влияние этого порога на динамику полезности различных агентов.

Методы исследования

Для получения результатов работы использовалось компьютерное моделирование и аналитический вывод формул методами теории вероятностей, теории голосований, теории полезности. Также были использованы элементы теории игр.

Научная новизна

В выполненной автором работе впервые были получены аналитические выражения для:

- оптимального порога голосования в зависимости от параметров распределения среды для произвольного распределения. Кроме того, получены выражения для следующих распределений: непрерывного равномерного, симметризованного распределения Парето, распределения Лапласа;

- среднего приращения полезности (капитала) участника в зависимости от параметров распределения случайных величин, генерирующих предложения, - в случае произвольного распределения;

- оптимального порога притязаний группы в случае нормального распределения генератора предложений;

- среднего приращения капитала эгоистических агентов и членов группы с порогом притязаний для двухкомпонентного коллектива.

Была сформулирована и решена в общем виде задача оптимизации ожидаемого приращения полезности участника в однородном коллективе, состоящем из эгоистических агентов, и получены частные выводы для широкого диапазона распределений предложений среды.

Была изучена сравнительная динамики однородных коллективов, состоящих из эгоистических агентов, и коллективов, состоящих из коллективистов относительно следующих показателей: среднее приращение капитала и выживаемость в модели с вымиранием.

Была рассмотрена динамика в двухкомпонентном коллективе, состоящем из эгоистических агентов и группы с порогом притязаний, сформулирована и решена задача оптимизации порога притязаний группы с целью максимизации среднего приращения капитала случайного участника.

Защищаемые положения

1. Доказана теорема об оптимальном пороге голосования в коллективе, состоящем из эгоистических агентов, и следствия для конкретных распределений предложений среды.

2. Выведена зависимость оптимального порога от благоприятности среды для непрерывного равномерного распределения, нормального распределения, симметризованного распределения Парето и распределения Лапласа.

3. Доказана теорема о голосующей выборке из произвольного распределения.

4. Получены аналитические выражения для ожидаемых приращений капитала эгоистических агентов и членов группы в двухкомпонентном коллективе, состоящем из эгоистических агентов и группы с порогом притязаний.

5. Доказана теорема об оптимальном пороге притязаний группы, и следствия для определенных долей эгоистов в коллективе.

Достоверность научных результатов

Теоритические выводы, включенные в диссертационную работу, обоснованы математическими доказательствами. Они подтверждены расчётами на ЭВМ в рамках имитационного моделирования.

Практическая ценность работы

Результаты диссертационной работы могут быть использованы для оптимизации процедур голосования типа квалифицированного большинства, как способа агрегирования экспертной информации и/или информации о предпочтениях агентов, в работе различных комиссий, советов, органов местного самоуправления, органов законодательной власти и других коллективных органов, а так же при агрегировании экспертной информации независимых агентов (роботов, нейронных сетей, узлов сети) при автоматизации принятия решений. Помимо этого часть результатов применима для прогнозирования динамики полезности голосующих, когда речь идет об экзогенных предложениях. Это потребует дополнительной эмпирической оценки благоприятности и стабильности среды.

Апробация работы

Результаты диссертационной работы докладывались на: семинарах ИПУ РАН, пять раз на Всероссийской научной конференции МФТИ (№58-62), на 18-й Апрельской международной научной конференции по проблемам развития экономики и общества (Москва, НИУ ВШЭ), на 9-й Московской международной конференции по исследованию операций (ORM-2018, Москва), на 2-й всероссийской междисциплинарной конференции «Социофизика и социоинженерия» (Москва, ИПУ РАН), на Международной конференции «Математика. Компьютер. Образование» (Пущино, 2017), на 10-й Международной конференции «Теория игр и менеджмент» (Санкт-Петербург, СПбГУ).

Публикации

По теме диссертации опубликованы 4 научных статьи и тезисы 10 докладов. Структура и объем работы

Диссертация состоит из введения, трёх глав, заключения и списка литературы. Работа содержит 92 страницы текста, включая 34 рисунка и 2 таблицы. Список используемой литературы включает 62 наименования.

Во введении рассмотрена актуальность проблемы, сформулированы цели и задачи диссертационного исследования, показана научная новизна основных результатов работы, выносимых на защиту.

В первой главе исследуется однородный коллектив (многоагентная система), состоящий из эгоистических агентов (эгоистов). В первом разделе описывается модель У18Б. Далее формулируется и решается в общем виде задача

оптимизации ожидаемого приращения полезности участника в однородном коллективе, состоящем из эгоистических агентов. В рамках подразделов выводятся частные формулы оптимального порога голосования для непрерывного равномерного распределения, нормального распределения, симметризованного распределения Парето и распределения Лапласа. В последнем разделе выводится общая формула определяющая динамику ожидаемого приращения полезности участника в однородном коллективе, состоящем из эгоистических агентов, и следствие для непрерывного равномерного распределения, а также рассматривается сравнительная динамика полезностей в коллективах с разными распределениями при оптимальном пороге и голосовании простым большинством.

Во второй главе рассматриваются (сравниваются) однородные коллективы, состоящие из коллективистов с различными окнами поддержки (агентов применяющих коллективные принципы голосования) и эгоистических агентов. В первом разделе формулируется задача оценки динамики показателей эффективности принятия решений в однородных коллективах, вводятся показатели: среднее приращение капитала и выживаемость в модели с вымиранием. Далее последовательно рассматривается динамика в средах со следующими распределениями предложения: нормальное распределение, симметризованное распределение Парето, распределение со «сверхтяжелыми» хвостами. Глава завершается рассмотрением динамики в благоприятных средах и выводами, основанными на сравнении всех полученных имитационным моделированием динамик.

В третьей главе рассмотрены двухкомпонентные коллективы, состоящие из эгоистических агентов и группы с порогом притязаний в средах с нормальным распределением предложения. В первом разделе выводятся формулы определяющие динамику среднего приращения капиталов обоих типов участников. Затем формулируется и решается задача оптимизации порога притязаний группы с целью максимизации среднего приращения капитала случайного участника системы. В следующем разделе изучается зависимость среднего приращения капитала участников от порога голосования. Далее рассматривается возможность использования порога притязаний группы, как способа избежать появления «ямы ущерба» (области с отрицательным средним приращением капитала в некоторых средах), и выводится ограничение на среды, в которых это можно сделать.

В заключении формулируются основные теоретические результаты и выводы диссертации.

Глава 1 Оптимальный порог голосования как функция коэффициента вариации среды

1.1 Модель голосования в стохастической среде ViSE

В работе используется модель голосования в стохастической среде ViSE (Voting in a Stochastic Environment) предложенная в [18]. Она описывает коллектив (многоагентную систему), состоящий из n агентов, или участников. Каждый агент характеризуется текущим значением индивидуальной полезности или благосостояния (капитала). Предложение среды - это вектор предлагаемых приращений полезности всех агентов. Оно генерируется стохастически независимыми одинаково распределенными случайными величинами.

Каждое распределение характеризуется своим математическим ожиданием и стандартным отклонением. Отношение - называется

коэффициентом вариации случайной величины. Обратный коэффициент вариации р = -, будем называть его приведенным (или нормализованным)

средним среды, показывает относительную благоприятность среды. Если р > 0 , то возможности, предоставляемые средой, в среднем благоприятны; если , то среда неблагоприятна.

Коллектив может принять либо отклонить каждое из предложений с помощью голосования (принять решение). Если доля коллектива поддерживающего предложение больше, чем строгий относительный порог голосования а е [0 , 1 ], то предложение принимается, и полезности агентов изменяются в соответствии с предложением. В противном случае все полезности остаются неизменными (Такая процедура голосования, называемая «а-большинство» также рассматривается в [13-15, 60]). Порог голосования (или квота) а так же можно назвать порогом большинства или порогом принятия решений, т.к. порог а < 0 , 5 (меньшинство) допустим а иногда и более эффективен с точки зрения увеличения благосостояния участников. После принятия/отклонения предложения, среда генерирует новое и выставляет его на голосование, и так повторяется многократно. Назовем последовательность: генерация предложения, голосование, принятие/отклонение - шагом модели.

Каждый агент выбирает кооперативный либо некооперативный принцип голосования. Участник, максимизирующий свою индивидуальную полезности при каждом выборе, будет называться эгоистом. Каждый эгоист голосует за те, и только те предложения, которые увеличивают его индивидуальную

полезность. Кооперативные принципы голосования, в которых каждый член группы голосует «за» тогда и только тогда, когда группа выигрывает от реализации этого предложения (так называемые групповые принципы голосования), рассматриваются в [18]. Основные теоремы, показывающие, как приращение полезности агента зависит от упомянутых принципов голосования и параметров среды, получены в [23]. Случай постепенного распространения группового принципа голосования среди всех эгоистов представлен в [35]. В [24] рассматривается модификация группового принципа голосования путем введения «порога притязаний», то есть минимальной доходности предложений, которые группа считает приемлемыми для нее. Принципы голосования, придерживаясь которых, агенты, поддерживают самые бедные слои коллектива или весь коллектив в целом, называются коллективными, или коллективизмом (они были рассмотрены в [19]).

Следует отметить, что 3 описанных выше класса статегий требуют от агента доступа к различной информации. Эгоистические принципы голосования использовуют информацию исключительно о собственной полезности агента либо о её предполагаемом изменении в случае принятия предложений. Групповые принципы голосования предполагают, что каждый участник группы агрегирует информацию о полезностях всех членов группы и их предполагаемых изменениях. Коллективные принципы голосования предполагают, что каждый участник, применяющий такие принципы голосования, обладает полной информацией о полезностях всех участников коллектива и их предполагаемых изменениях.

1.2 Оптимальный порог голосования в различных средах

В данном разделе будет введено понятие оптимального порога принятия решений и исследована зависимость этого порога от для нескольких типов распределений.

1.2.1 Общий результат

Чтобы объяснить существо проблемы, которую решает оптимальный порог большинства, рассмотрим зависимость ожидаемого прироста полезности агента от приведенного среднего среды.

Пусть £ = ( (1,..., (п) - случайное предложение среды, на некотором шаге. Его компонента ( - это предлагаемый прирост полезности агента /. Компоненты ( 1'. ■ -'(п - независимые одинаково распределенные случайные величины. ( будет обозначать аналогичную скалярную переменную без ссылки на конкретного агента. Аналогично, пусть ]] = (г 1, .. п) - случайный вектор фактических приращений полезности агентов за один шаг. Если принято, то ] = £; в противном случае ] = (0 ,..., 0). Следовательно,

(1) ] = £ I (£, ап) ,

где

(2) I (£, ап) = { *'

# { к '• (к > 0, к = 1,.. ,,п] > ап иначе.

Равенство (1) соответствует предположению, что каждый агент голосует за те и только за те предложения, которые увеличивают его индивидуальную полезность.

Пусть - случайная величина, эквивалентная любой , но без ссылки на конкретного агента. Эффективность процедуры принятия решений характеризуется увеличением полезности агента , где - математическое ожидание.

Рассмотрим пример. Для 21 участника и а = 0 ,5 зависимость Е (г) от

11 1

р = - представлена на рис. 1, где предложения генерируются нормальным

а

распределением.

Рис. 1 показывает, что для ожидаемый прирост

полезности является заметной отрицательной величиной, т.е. одобренные большинством предложения в среднем являются невыгодными и разорительными для коллектива. Эта часть кривой называется «ямой ущерба».

Для отрицательный прирост очень близок к нулю, так как

предложения крайне редко принимаются.

Феномен «ямы ущерба» имеет много общего с результатами А.В. Малишевского (описаны в [39, с. 92-95]), который первым продемонстрировал (в 1969 г.), что конечный результат серии голосов эгоистов может быть крайне невыгодным для них (для всех).

Это явление может быть объяснено тем фактом, что из-за отрицательности положительные приращения, предлагаемые средой, имеют в среднем меньшие абсолютные значения, чем отрицательные. В результате общая потеря проигравшего меньшинства систематически превышает общий доход выигравшего большинства. Следовательно, несмотря на желание всех агентов увеличить свою полезность и одобрение всех решений большинством, общая полезность уменьшается. Таким образом, в умеренно неблагоприятных условиях решения, принимаемые простым большинством эгоистов, уменьшают их общую полезность!

Для каждой конкретной среды существует оптимальный порог принятия решений а0, который обеспечивает максимально возможный ожидаемый прирост полезности агента.

Голосование с оптимальным порогом всегда дает положительные ожидаемые приросты полезности, и не имеет «ямы ущерба» (рис. 4б).

Следующая теорема дает общее выражение для оптимального порога голосования, которое справедливо для любого распределения, имеющего математическое ожидание.

Теорема 1. В коллективе, состоящем из эгоистических агентов, оптимальный порог голосования равен

Список литературы диссертационного исследования кандидат наук Малышев Виталий Алексеевич, 2020 год

// ¥ /

0,04 0,02 0

-0,02

/! S ! ; /

S /

0,004 0,002 0

-0,002 -0,004

/ / /'s

У

Л

\ \

0,6 0,7 0,8 0,9 1,0

8

г/а -0,95

0 0,2 0,4 0,6 0,8 1,0

8

t/a = О д

0,6 0,7 0,8 0,9 1,0

8

t/n = 0,95 е

2Î3

/ / // а •'1

! ! ¡! 1

0,02 0

-0,02

-0,5

t/a

0,5

,0 -0,5 0 0,5 1,0 t/a

Рисунок 29. Среднее приращение капиталов эгоиста (1), члена группы (2) и случайно выбранного участника (3) за 1 шаг: сечения поверхностей на рис. 27; п = 100, /г = —0,1,а = 1иа = 0,5.

3.2 Оптимальный порог притязаний группы

В этом разделе будет получено аналитическое выражение для оптимального порога, то есть для порога притязаний группы, который максимизирует прирост капитала в коллективе. Пусть // отношение количества эгоистов к числу членов группы:

I 8

Р =

п-1 1-8

Теорема 3. Ожидаемое приращение капитала коллектива за один шаг достигает своего максимума при пороге притязаний группы

(34) ¿о = р ^ (Д + (Д ,<М,ап) - Д ) ,

гуи гап

где используются обозначения из раздела 3.1 в предложениях 4 и 5.

Доказательство. Ожидаемый прирост капитала случайно выбранного участника равен

(35) Е(ту) = 5Е (ту£) + ( 1 - 5) Е(ту с).

Используя предложения 4 и 5 и обозначения (31), приравниваем производную выражения (35) по £ к нулю:

5 [д +(д,о-,/,ап) - д + (д,о",/,уп) ]/(0--( 1 - 5) (Я,п

(7

- V)/ (£) ^

(7 _

- И +

= 0,

откуда следует

(36) 5 [д +(д,(7,/,ап) - д + (д,(7,/,уп) ] - ( 1 - 5) (/уп - Рап) £ = 0 ,

следовательно, имеет место (34). Используя (36), вычислим вторую производную от (35) в точке £ о, обозначив через £о результат подстановки £ о в (31):

/' (£о) ^(5 [Д +(Д,(г,/,ап) - д + (ДстЛуп)]- (1 - 5)(руп - Рап)£о ) + + / ( £о) 1 - 5) (/уп - V) =/ ( £о) 1 - 5)(/уп -

Это выражение отрицательно. Следовательно, t 0 является точкой максимума. □

а

б

-4, -9 -14

'О 4,"

0,95 0,15

1.0 0,01

6 -4 -2 -0 I

-2 К -4 I -61

Рисунок 30. Зависимость оптимального порога t0 притязаний группы от: (а) доли эгоистов S и порога голосования а при /г = 0,1 ,п = 100 и а = 1; (6) доли эгоистов 8 и математического ожидания предложений среды /г при а = 0,5,п = 100 и а = 1.

Изучим, как оптимальный порог t0 зависит от параметров модели. Поскольку у < а по определению, то из определения следует, что FYn — Pan (и чем меньше доля группы 1 — 5, тем меньше эта разница); /? -неотрицательна. Следовательно, знак совпадает со знаком разности ¡л + (¡л, (7,1 ,ап) — ¡л +(1Л,(7,1 ,уп).

20 15 10

5 0 -5 -10 -15

~2° 0,4 0,6 0,8 1,0

6

Рисунок 31. Оптимальный порог притязаний группы в зависимости от доли эгоистов 6 при разных порогах голосования (а = 0,15(1),а = 0,46(2 ),а = 0,5(3),а = 0,6 (4) и а = 0,9(5)); п = 100,ц = 0,1,<т = 1.

На рис. 30а показана зависимость t0 от доли эгоистов 3 и порога голосования а при п — 1 0 0 и д / а — 0 , 1.

Отметим, что для большой группы абсолютное значение порога t0 мало,

_

поскольку факторы / и ( Рул — Р<хп) близки к нулю. Уменьшение t о с увеличением порога большинства становится быстрее с ростом числа эгоистов. Форма этой поверхности существенно не зависит от знака [1.

На рис. 30б показана зависимость t 0 от доли эгоистов 3 и среднего значения предложения среды д для п — 1 0 0 , а — 0 , 5 и а — 1.

Две поверхности на рис. 30 имеют одинаковую форму. Когда д увеличивается, t 0 уменьшается, и чем меньше группа, тем быстрее изменение.

На рис. 31 показаны различные сечения поверхности, представленной на рис. 30а плоскостями фиксированных порогов большинства. Для а — 0,46

//

1 1 1 /

/ / / У /

— ^

N. \ N

\ \ \ \

имеем £ 0 ~ 0 ; для меньших а оптимальный порог притязаний £ 0 положителен и увеличивается с ростом 5; для больших а он отрицательный и уменьшается.

Следствие 8. Если голосов группы достаточно для принятия предложения то

Р

¿о = 1 _ „ О*, о, I, ап) - ¡л),

Если голосов эгоистов недостаточно, чтобы принять предложение ( 5 < а), то

р

¿о = - — 1Л+(1Л,ст,1,уп),

Гун

Если оба вышеуказанных условия выполнены ( 5 < а < 1 — 5), то

¿о =

В последнем случае оптимальный порог притязаний группы t0 имеет чрезвычайно простую форму. Если количество голосов, необходимое для принятия предложения, превышает количество эгоистов и не превышает размер группы, то находится в том же соотношении к что и количество

эгоистов к числу членов группы, и чем больше группа, тем ближе к нулю £ 0.

Доказательство. Если первое условие выполнено, то у < 0, следовательно, Руп 1 и

1 + (¡1,(7,1 ,уп) = ц. Если выполнено второе условие, то Рап = д + (ц,а,1,ап) = 0 . Подставляя

эти выражения в (34) завершаем доказательство следствия. □

3.3 Зависимость СПК от порога голосования

Выражение оптимального порога большинства для коллектива, состоящего из эгоистов, для нормального распределения предложения было получено в разделе 1.2.3.1. Далее будет рассмотрена проблема оптимизации порога большинства а для коллектива, состоящего из эгоистов и группы. Напомним, что оптимальный порог - это тот порог, который максимизирует прирост совокупного капитала коллектива.

Используя предложения 4 и 5, рассмотрим аналитические зависимости ожидаемых приращений капитала эгоиста, члена группы и случайно выбранного участника от порога большинства и доли эгоистов в умеренно неблагоприятной среде (д/а — — 0 , 1 ) для нулевого порога притязаний группы

г.

Сечения соответствующих поверхностей плоскостями с постоянными долями эгоистов показаны на рис. 32. Если количество эгоистов не очень велико, то сечения (рис. 32а) имеют два максимума относительно а; кривые аргументов максимумов пересекаются в точке ( ), где -

оптимальный порог большинства в коллективе, состоящем из эгоистов. Рассмотрим причины появления этих «гребней».

Начнем с эгоистов (рис. 32а). При очень низкой доле эгоистов и низком пороге большинства эгоист имеет высокий ожидаемый прирост капитала, поскольку вероятность того, что все эгоисты будут удовлетворены предложением, заметно отличается от нуля, в то же время их голосов достаточно для принятия такого предложение. Следовательно, их ожидаемый прирост капитала за один шаг по абсолютной величине сопоставим с . Когда порог большинства выше, чем доля эгоистов, они не могут принять предложение только своими голосами, и их ожидаемый прирост капитала значительно ниже. Второй максимум реализуется при пороге большинства, близком к 1. Его появление обусловлено следующим фактом. Когда для принятия предложения требуются как голоса группы, так и эгоистов (то есть эгоисты имеют право вето), тогда влияние эгоистов на принятие решений весьма заметно, и их интересы в значительной степени учитываются. Однако поддержка предложения группой является обязательной для реализации этого сценария, в то время как при это происходит не очень часто, поэтому этот

максимум значительно ниже, чем первый.

Если число эгоистов увеличивается, то оба максимума все еще существуют, но они сдвигаются к (с линейной зависимостью их аргументов

от 3) и становятся меньше. Это можно просто объяснить. Здесь один эгоист, способный принять предложение, заменяется «кликой», которая реже обеспечивает необходимое количество голосов. Ожидаемый прирост капитала члена «клики» (когда клика удовлетворена предложением) ниже, чем у вышеуказанного эгоиста из-за «разделения выгоды» между несколькими участниками. Часть кривой за вторым максимумом лежит несколько ниже, поскольку чрезмерно большой порог не позволяет принимать предложения, полезные как для группы, так и для большинства эгоистов.

Зависимость для группы (рис. 32б) имеет два «склона» на -сечениях. Между ними есть «плато». Это показывает, что порог большинства, находящийся между максимумами ожидаемого приращения капитала эгоистов, весьма выгоден для группы. Более низкие пороги позволяют эгоистам игнорировать интерес группы, что снижает благосостояние группы. Чрезмерно высокие пороги не позволяют принимать даже высокодоходные предложения. Как и следовало ожидать, «плато» выше, когда доля эгоистов больше, потому что меньшая группа имеет большую выгоду на участника.

0.05

С

и

-0,05

-0,10

1 И 2 11 1 1 | 1 | I 1 1 4 ,4

I 1 / " / / / //

1 1 I Г 1 I Л'"*"" / 1 1 Т / -Л____' 1 1 1 1

1 | 1 1 / 1 1 I 1 б/ ' 1 ! 1 ! 1 ! ! 1 / / / 1 '7

0,2

0,05

-0,05

0,4 0,6

-0,10

] ! * _5

/

Л

( 1 / / \ч \

/ /

^ ! > 1 1 ; 1 1 1 1 1 ; ! 1 / » ! / /

,0

0

0,2

0,4

0,6

5

-0,10

\

|/ г- 1 г з\ 6 5 / ! 7 _ г 1 1 1 1 1 1 * ¡7 1 1

/ I 1 1 1 Г I 1 / 1 1 ! / 1 1 / / / 1 1

0,05

-0,05

( '*—\6

3 / 1 \

! 1 ' \ 4

1 ! 1 * / / г / / *-1- ' % г 7 \ и

Г 1 ~ V Г

'о

0,2

0,4

0,6

1,0

0,2

0,4 0,6

а

1,0

Рисунок 32. Средние приращения капитала эгоиста (а), члена группы (6 ), случайно выбранного участника (в), а также разность СПК члена группы и эгоиста (г) за 1 шаг как функции от порога голосования а при п = 100,= — 0,1,а = 1,4 = 0 и разных долях эгоистов в коллективе (8 = 0,02(1), 5 = 0,1(2), 8 = 0,15 ( 3),8 = 0,3(4),5 = 0,5(5),5 = 0,7 ( 6) и 8 = 0,95 (7)) .

На рис. 32в показан ожидаемый прирост капитала случайно выбранного участника. Как и в случае с эгоистами, соответствующая поверхность в координатах а, 3 имеет два «гребня». Когда доля эгоистов 3 высока, поверхность ожидаемого прироста капитала случайно выбранного участника близка к поверхности эгоиста. Высота максимумов уменьшается с увеличением числа эгоистов. При низком 3 поверхность случайно выбранного участника находится близко к поверхности группы и не имеет высоких пиков.

На рисунке 32г показано различие между ожидаемым приростом капитала члена группы и эгоиста. Это различие является положительным, за исключением области около первого «гребня» поверхности эгоистов, где они побеждают, потому что в этом случае эгоисты могут «диктовать свои условия».

3.4 Изменение порога притязаний как способ борьбы с «ямой ущерба»

Группа может уменьшить размер ямы ущерба, выбрав оптимальный порог притязаний. Если группа имеет достаточный размер, то она может полностью исключить появление ямы. Рис. 33 иллюстрирует эту возможность. Другими словами, достаточно большая группа может помочь коллективу преодолеть парадоксальное сокращение капитала, вызванное принятием демократических решений. Важно отметить, что более высокие пороги голосования позволяют это сделать меньшим группам. Например, если д / а > — 1 , то при а = 0 , 4 яма ущерба не появляется для коллективов с долей эгоистов до 44%; для а = 0 , 5 до 56% и для а = 0, 6 , до 83%.

На рис. 34 показана зависимость от а максимальной доли эгоистов, для которой выбор оптимального порога притязаний группы устраняет яму

ущерба. Это отношение в основном выражается функцией у = х (с поправкой на эквивалентность порогов большинства, которые определяют одинаковые выигрышные коалиции).

Таким образом, установлено, что выбор оптимального порога притязаний группы может рассматриваться как инструмент для нейтрализации парадокса ямы ущерба.

Рисунок 33. Влияние выбора группой оптимального порога притязаний на наличие "ямы ущерба" при п = 100. (а) а = 0,4; ( б ) а = 0,5; ( в ) а = 0,6. Темно-серым показана область наличия "ямы ущерба" при Ь = О, черным - при оптимальном пороге Ь =

/ ■■■■■■■

■ ■■■■■■

2

!■■■■■-

О 0,2

0,4 0,6 а

0,8

1,0

Рисунок 34. Зависимость максимальной доли эгоистов, при которой выбором оптимального порога притязаний группа устраняет "яму ущерба", от порога голосования а. Серым показаны точки, соответствующие п = 100 (1), черным -соответствующие п = 10(2).

3.5 Выводы главы

В этой главе была рассмотрена зависимость порога притязаний группы, который максимизирует прирост капитала коллектива от параметров модели ViSE для коллектива, состоящего из группы и эгоистов (эгоистических агентов). Абсолютное значение этого порога (называемого оптимальным) увеличивается с ростом доли эгоистов в коллективе. Если процент эгоистов фиксирован, то оптимальный порог притязаний группы уменьшается с ростом порога принятия решений и становится отрицательным. Кроме того, оптимальный порог притязаний группы уменьшается с ростом среднего значения д предложений. Последнее соотношение, по сути, является аналогом одного из выводов раздела 1.2.3.1, который рекомендует увеличить порог принятия решений в ухудшающихся средах и уменьшить его в улучшающихся средах с нормальным распределением предложения для однородных коллективов, состоящих из эгоистических агентов.

Было показано, что выбор оптимального порога требований группы помогает нейтрализовать парадокс ямы ущерба в коллективах, состоящих из группы и эгоистов. Для полного исчезновения ямы доля эгоистов не должна превышать определенного значения в зависимости от порога голосования. Таким образом, увеличение порога голосования расширяет зону нейтрализации (путем выбора оптимального порога притязаний группы) парадокса ямы ущерба.

Заключение

Задача агрегирования индивидуальных мнений (информации) в коллективное решение была и остается актуальной.

В наше время значение голосования и выборов в мире непрерывно растет благодаря распространению информационных технологий. Формирование современного гражданского общества требует расширения круга вопросов разрешаемых с помощью процедур голосования. Помимо этого развитие связи, искусственного интеллекта, робототехники и рост объемов доступной информации расширяет применение процедур голосования, как способа агрегировании экспертной информации независимых агентов (роботов, нейронных сетей, узлов сети). Современная наука всесторонне изучает процедуры голосования, чтобы обеспечить разумное и эффективное использование данного механизма в социальных и технических системах.

В диссертационной работе исследована динамика показателей эффекивности для различных коллективов в стохастических средах, определяемая голосованием, в предположениях модели ViSE (Voting in a Stochastic Environment).

Сформулирована и решена в общем виде задача оптимизации среднего приращения капитала участника в однородном коллективе, состоящем из эгоистических агентов, и получены частные выводы для ряда симметричных распределений предложений среды.

Изучена сравнительная динамика однородных коллективов: коллективов, состоящих из эгоистических агентов и из коллективистов относительно двух показателей: среднего приращения капитала и выживаемости в модели с вымиранием.

Рассмотрена динамика полезности в двухкомпонентном коллективе, состоящем из эгоистов и группы с порогом притязаний, сформулирована и решена задача оптимизации порога притязаний группы с целью максимизации среднего приращения капитала случайного участника.

Основные научные результаты, полученные в диссертационной работе, состоят в следующем:

1. Получена теорема об оптимальном пороге голосования в коллективе, состоящем из эгоистических агентов, и следствия для конкретных распределений предложений среды.

2. Изучена зависимость оптимального порога от благоприятности среды для непрерывного равномерного распределения, нормального распределения, симметризованного распределения Парето и распределения Лапласа.

3. Опровергнута гипотеза о выгодности повышения порога голосования, когда среда становится менее благоприятной в общем случае.

4. Получена теорема о голосующей выборке из произвольного распределения (об ожидаемом приращении полезности произвольного участника коллектива, состоящего из эгоистических агентов).

5. Проанализирована зависимость среднего приращения капитала и выживаемости от параметров среды и принципов голосования участников для широкого диапазона ситуаций

6. Получены аналитические выражения для ожидаемых приращения капитала эгоистических агентов (эгоистов) и членов группы в двухкомпонентном коллективе, состоящем из эгоистических агентов и группы с порогом притязаний.

7. Получена теорема об оптимальном пороге притязаний группы, и следствия для определенных долей эгоистов в коллективе.

8. Показана эффективность и границы применимости оптимального порога притязаний группы для устранения «ямы ущерба».

9. Проанализирована зависимость среднего приращения капитала различных участников от благоприятности среды, доли эгоистов в коллективе, порога голосования и порога притязаний группы для коллектива, состоящего из эгоистических агентов и группы с порогом притязаний.

Список литературы

1. Barbera S., Jackson M.O. (2006) On the weights of nations: Assigning voting weights in a heterogeneous union. J Polit Economy 114(2):317—339

2. Taagepera R., Shugart M.S. Seats and Votes: The Effects and Determinants of Electoral Systems. New Haven, 1989.

3. The Security Council: Working Methods Handbook, United Nations (2011)

4. Вольский В.И., Лезина З.М. Голосование в малых группах: процедуры и методы сравнительного анализа. М.: Наука, 1991

5. Ф.Т. Алескеров, П. Ортешук. Выборы. Голосования. Партии., Москва: «Академия», 1995

6. Мулен Э. Кооперативное принятие решений, М.: Мир, 1991.

7. Айзерман М.А., Алескеров Ф.Т. Выбор вариантов (основы теории). М.: Наука, 1990.

8. Kenneth J. Arrow, 1951, 2nd ed., 1963. Social Choice and Individual Values, Yale University Press. ISBN 0-300-01364-7

9. Айзерман М. А., Алескеров Ф. Т., Задача Эрроу в теории группового выбора (анализ проблемы), Автомат. и телемех., 1983, № 9, 127-151

10. Alvarez, R. Michael; Hall, Thad E.; Trechsel, Alexander H. (2009-07-01). "Internet Voting in Comparative Perspective: The Case of Estonia". PS: Political Science & Politics. 42 (3): 497-505.

11. Germann, Micha; Serdult, Uwe (2017-06-01). "Internet voting and turnout: Evidence from Switzerland". Electoral Studies. 47: 1-12.

12. Azrieli Y., Kim S. (2014) Pareto efficiency and weighted majority rules. Int Econom Rev 55(4):1067-1088

13. Felsenthal D., Machover M. (2001) The treaty of nice and qualified majority voting. Soc Choice Welfare 18(3):431-464

14. Nitzan S., Paroush J. (1982) Optimal decision rules in uncertain dichotomous choice situations. Int Econ Rev 23(2):289-297

15. Nitzan S., Paroush J. (1984) Are qualified majority rules special? Public Choice 42(3):257-272

16. Sen A. Collective Choice and Social Welfare. San Francisco: Holden Day; 1970.

17. Sen A. On Ethics and Economics. Oxford and New York: Basil Blackwell; 1987.

18. Борзенко В.И., Лезина З.М., Логинов А.К. и др. Стратегии при голосовании в стохастической среде: эгоизм и коллективизм // АиТ. 2006. № 2. C. 140-152. Borzenko V.I., Lezina Z.M., Loginov A.K., et al. Strategies of Voting in Stochastic Environment: Egoism and Collectivism // Autom. Remote Control. 2006. V. 67. No. 2. P. 311-328.

19. Чеботарев П. Ю., Малышев В. А., Цодикова Я. Ю., Логинов А. К., Лезина З. М., Афонькин В. А. О сравнительной полезности альтруизма и эгоизма при голосовании в стохастической среде // АиТ. 2018. № 11, 123-149 Chebotarev P.Yu., Tsodikova Y.Y., Loginov A.K., Lezina Z.M., Afonkin V.A., Malyshev V.A. 2018 Comparative efficiency of altruism and egoism as voting strategies in stochastic environment. Autom Remote Control 79(11):2052-2072

20. Борзенко В.И., Лезина З.М., Лезина И.В. и др. Модель социальной динамики, определяемой коллективными решениями и случайными изменениями среды // II Междунар. конф. по проблемам управления. Тез. докл. М.: ИПУ РАН, 2003. С. 120. Borzenko, V.I., Lezina, Z.M., Lezina I.V., Loginov, A.K., Tsodikova, Ya.Yu., Chebotarev, P.Yu., A Model of Social Dynamics Determined by Collective Decisions and Random Changes in the Environment, Second Int. Conference on Control Problems, Moscow,: Inst. Control Sci., 2003. p. 120.

21. Малышев В.А. Альтруистические стратегии при голосовании в стохастической среде // Труды 60-й Всероссийской научной конференции МФТИ (Москва, 2017). М.: МФТИ, 2017. С. 141-142

22. Малышев В.А. Альтруистическая стратегия с порогом принятия предложений при голосовании в стохастической среде // Материалы 2-й всероссийской междисциплинарной конференции «Социофизика и социоинженерия» (Москва, ИПУ РАН, 2018). М.: ИПУ РАН, 2018.

23. Чеботарев П.Ю. Аналитическое выражение ожидаемых значений капиталов при голосовании в стохастической среде // АиТ. 2006. № 3. C. 57-68. Chebotarev P.Yu. Analytical Expression of the Expected Values of Capital at Voting in the Stochastic Environment // Autom. Remote Control. 2006. V. 67. No. 3. P. 480-492.

24. Малышев В.А., Чеботарев П.Ю. Об оптимальном пороге притязаний группы при голосовании в стохастической среде // АиТ. 2017. № 6. С. 157-172. Malyshev V.A., Chebotarev P.Yu. On Optimal Group Claims at Voting in a Stochastic Environment // Autom. Remote Control. 2017. V. 78. No. 6. P. 1087- 1100.

25. Malyshev V., Optimal majority threshold in a stochastic environment, 2019 https://arxiv. org/abs/1901.09233

26. Малышев В.А. Об ожидаемом приращении капитала при голосовании в стохастической среде. // Труды 62-й Всероссийской научной конференции МФТИ "Радиотехника и компьютерные технологии" (Москва, 2019). М.: МФТИ, 2019 С. 123-124;

27. Чеботарев П.Ю., Цодикова Я.Ю., Малышев В.А., Афонькин В.А., Логинов А.К., Лезина З.М. Об исправлении парадокса «ямы ущерба» при голосовании в стохастической среде // Труды 18-й Апрельской

международной научной конференции по проблемам развития экономики и общества (Москва, 2017). М.: НИУ ВШЭ, 2017. С. 1-2

28. Малышев В.А., Чеботарев П.Ю. Оптимальный порог голосования группы как способ обойти парадокс «ямы ущерба» при голосовании в стохастической среде // Труды 59-й Всероссийской научной конференции МФТИ. Долгопрудный: МФТИ, 2016. С. 1-10;

29. Чеботарев П.Ю., Малышев В.А., Цодикова Я.Ю. и др. Оптимальный порог голосования как функция коэффициента вариации среды // Управление больши-ми системами. 2016. Т. 62. С. 169-187. Chebotarev PY, Malyshev V.A., Tsodikova Y.Y., Loginov A.K., Lezina Z.M., Afonkin V.A. 2018 The optimal majority threshold as a function of the variation coefficient of the environment. Autom Remote Control 79(4):725-736

30. Чеботарев П.Ю., Логинов А.К., Цодикова Я.Ю. и др. Об оптимальном пороге голосования // XIII Ап-рельская международная научная конференция по проблемам развития экономики и общества: в 4 кн. / Под ред. Е.Г. Ясина. — Т. 4. — Москва: Изд. дом ВШЭ, 2013. — 123-132.

31. Малышев В.А., Чеботарев П.Ю. Об оптимальном пороге голосования группы при голосовании в стохастической среде // Труды 58-й научной конференции МФТИ (Долгопрудный, 2015). Долгопрудный: МФТИ, 2015. С. 1-7

32. Малышев В.А. Optimal Majority Thresholds for Different Distributions in Voting in a Stochastic Environment // Труды 9-й Московской международной конференции по исследованию операций (ORM-2018, Москва). М.: МАКС-Пресс, 2018. Т. 1. С. 365-366.

33. Малышев В.А. Оптимальный порог голосования для различных распределений при голосовании в стохастической среде // Труды 61 -й Всероссийской научной конференции МФТИ "Радиотехника и компьютерные технологии" (Москва, 2018). М.: МФТИ, 2018. С. 106-107;

34. Чеботарев П.Ю., Малышев В.А., Цодикова Я.Ю., Логинов А.К., Лезина З.М., Афонькин В.А. On the Optimal Voting Quota in a Stochastic Environment // Proceedings of the 10th International Conference Game Theory and Management (GTM-2016, St. Petersburg).

35. Чеботарев П.Ю., Логинов А.К., Цодикова Я.Ю. и др. "Снежный ком" коопе-рации и "снежный ком"-мунизм // Четвертая междунар. конф. по проблемам управления. Сб. тр. М.: ИПУ РАН, 2009. C. 687-699.

36. Pareto V. Cours d'Economie Politique. V. 1. Geneva: Librairie Droz, 1964. P. 299-345.

37. Чеботарев П.Ю., Логинов А.К., Цодикова Я.Ю. и др. Голосование в стохастической среде: случай двух групп // Проблемы управления. 2010. № 1. С. 18-25. Chebotarev P.Yu., Loginov A.K., Tsodikova Ya.Yu., Lezina

Z.M., Borzenko V.I. Voting in a stochastic environment: The case of two groups // Autom. Remote Control. 2011. V. 72. No. 7. P. 1537-1547.

38. Малышев В.А., Чеботарев П.Ю. Influence of the optimal group voting threshold on social wealth in stochastic environment // Материалы Международной конференции «Математика. Компьютер. Образование» (Пущино, 2017). М.: R&C Dynamics, 2017. С. 275

39. Миркин Б.Г. Проблема группового выбора. М.: Наука, 1974.

40. McKelvey R.D., Game Theoretic Models of Voting in Multidimensional Issue Spaces, Game Theory Appl., Ichiishi, T., Neyman, A., Tauman, Y., Ed., San Diego: Academ. Press, 1990, pp. 317-335.

41. Ordeshook P.C., The Spatial Analysis of Elections and Committees: Four Decades of Research, Perspectiv. Public Choice: A Handbook, Mueller, D., Ed., Cambridge, U.K.: Cambridge Univer. Press, 1997, pp. 247-270.

42. Hinich M.J., Munger M.C., Spatial Theory, Readings in Public Choice and Constitutional Political Economy, Rowley, C.K., Schneider, F., Ed., Springer, 2008, pp. 295-304.

43. Gomes A., Jehiel P., Dynamic Processes of Social and Economic Interactions: On the Persistence of Inefficiencies, J. Polit. Econom., 2005, vol. 113, pp. 626667.

44. Baron D.P., Ferejohn J.A., Bargaining in Legislatures, Amer. Polit. Sci. Rev., 1989, vol. 83, no. 4, pp. 1181- 1206.

45. Merlo A., Wilson C., A Stochastic Model of Sequential Bargaining with Complete Information, Econometrica, 1995, vol. 63, no. 2, pp. 371-399.

46. Kalandrakis T., Majority Rule Dynamics with Endogenous Status Quo, Univer. Rochester, Wallis Institut. Polit. Econom., 2007. WP46. P. 1-38.

47. Epple D., Riordan M.H., Cooperation and Punishment under Repeated Majority Voting, Public Choice, 1987, vol. 55, no. 1-2, pp. 41-73.

48. Cotton C., Dynamic Legislative Bargaining with Endogenous Agenda Setting Authority / Working paper, Department of Economics, University of Miami, 2012. SSRN paper No. 1699211, DOI: 10.2139/ssrn.1699211.

49. Riboni A., Committees as Substitutes for Commitment, Int. Econom. Rev., 2010, vol. 51, no. 1, pp. 213-236.

50. Dziuda W., Loeper A., Dynamic Collective Choice with Endogenous Status Quo, J. Polit. Economy, 2016, vol. 124, no. 4, pp. 1148-1186. [32]

51. Penn E.M., A Model of Farsighted Voting, Amer. J. Polit. Sci., 2009, vol. 53, no. 1, pp. 36-54.

52. Dziuda W., Loeper A., Voting Rules in a Changing Environment, SSRN paper 2500777, 2015. DOI: 10.2139/ssrn.2500777.

53. Eavey C.L., Preference-Based Stability: Experiments on Cooperative Solutions to Majority Rule Games, Collectiv. Decision-Making: Social Choice Polit. Econom., Springer, 1996, pp. 149-181.

54. Krishna V., Morgan J., Majority Rule and Utilitarian Welfare, Amer. Econom. J.: Microeconom., 2015, vol. 7, no. 4, pp. 339-375.

55. Compte O., Jehiel P., On the Optimal Majority Rule, CEPR Discussion Paper No. DP12492, 2017.

56. Binmore K., Eguia J.X., Bargaining with Outside Options, State, Institutions and Democracy. Contributions of Political Economy, Schofield, N., Caballero, G., Ed., Springer, 2017, pp. 3-16.

57. Hortala-Vallve R., Qualitative Voting, J. Theoret. Polit., 2012, vol. 24, no. 4, pp. 526-554.

58. Taleb N.N. The Black Swan: The Impact of the Highly Improbable. N.Y.: Random House, 2007 (перевод: Талеб Н.Н. Черный лебедь. Под знаком непредсказуемости. М.: КоЛибри, 2011).

59. Taleb N.N. Antifragile: Things That Gain from Disorder. N.Y.: Random House, 2012 (перевод: Талеб Н.Н. Антихрупкость. Как извлечь выгоду из хаоса. М.: Азбука-Аттикус, 2014).

60. O'Boyle E.J. (2009) The origins of homo economicus: A note. Storia del Pensiero Economico 6:1-8

61. Ле Т.Ч.Л. Обнаружение атак в современной базе данных UNSW-NB15 с применением многослойной нейронной сети // Информатизация и связь. 2017. № 1. С. 61 - 66.

62. Gang Wang, Jinxing Hao, Jian Ma, Lihua Huang. A new approach to intrusion detection using Artificial Neural Networks and fuzzy clustering // Expert Systems with Applications 37. 2010. P. 6225 - 6232.