<?xml version="1.0" encoding="UTF-8"?>
<!DOCTYPE article PUBLIC "-//NLM//DTD JATS (Z39.96) Journal Publishing DTD v1.3 20210610//EN" "JATS-journalpublishing1-3.dtd">
<article article-type="research-article" dtd-version="1.3" xmlns:mml="http://www.w3.org/1998/Math/MathML" xmlns:xlink="http://www.w3.org/1999/xlink" xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance" xml:lang="ru"><front><journal-meta><journal-id journal-id-type="publisher-id">oo</journal-id><journal-title-group><journal-title xml:lang="ru">Открытое образование</journal-title><trans-title-group xml:lang="en"><trans-title>Open Education</trans-title></trans-title-group></journal-title-group><issn pub-type="ppub">1818-4243</issn><issn pub-type="epub">2079-5939</issn><publisher><publisher-name>Plekhanov Russian University of Economics</publisher-name></publisher></journal-meta><article-meta><article-id pub-id-type="doi">10.21686/1818-4243-2018-5-84-93</article-id><article-id custom-type="elpub" pub-id-type="custom">oo-580</article-id><article-categories><subj-group subj-group-type="heading"><subject>Research Article</subject></subj-group><subj-group subj-group-type="section-heading" xml:lang="ru"><subject>ПРОБЛЕМЫ ИНФОРМАТИЗАЦИИ ЭКОНОМИКИ И УПРАВЛЕНИЯ</subject></subj-group><subj-group subj-group-type="section-heading" xml:lang="en"><subject>PROBLEMS OF INFORMATIZATION OF ECONOMICS AND MANAGEMENT</subject></subj-group></article-categories><title-group><article-title>Архитектура системы управления интеллектуальным агентом на основе семиотической сети</article-title><trans-title-group xml:lang="en"><trans-title>Control system architecture of an intelligent agent based on a semiotic network</trans-title></trans-title-group></title-group><contrib-group><contrib contrib-type="author" corresp="yes"><name-alternatives><name name-style="eastern" xml:lang="ru"><surname>Ровбо</surname><given-names>М. А.</given-names></name><name name-style="western" xml:lang="en"><surname>Rovbo</surname><given-names>M. A.</given-names></name></name-alternatives><bio xml:lang="ru"><p>Максим Александрович Ровбо - инженер-исследователь.</p><p>Москва, Тел.: 8 (985) 305-29-67</p></bio><bio xml:lang="en"><p>Maksim A. Rovbo - Researcher-engineer.</p><p>Moscow Tel.: 8 (985) 305-29-67</p></bio><email xlink:type="simple">rovboma@gmail.com</email><xref ref-type="aff" rid="aff-1"/></contrib><contrib contrib-type="author" corresp="yes"><name-alternatives><name name-style="eastern" xml:lang="ru"><surname>Сорокоумов</surname><given-names>П. С.</given-names></name><name name-style="western" xml:lang="en"><surname>Sorokoumov</surname><given-names>P. S.</given-names></name></name-alternatives><bio xml:lang="ru"><p>Петр Сергеевич Сорокоумов - инженер-исследователь.</p><p>Москва</p></bio><bio xml:lang="en"><p>Petr S. Sorokoumov - Researcher-engineer</p></bio><email xlink:type="simple">petr.sorokoumov@gmail.com</email><xref ref-type="aff" rid="aff-1"/></contrib></contrib-group><aff-alternatives id="aff-1"><aff xml:lang="ru"><institution>Национальный исследовательский центр «Курчатовский институт»</institution><country>Россия</country></aff><aff xml:lang="en"><institution>National Research Center “Kurchatov Institute”</institution><country>Russian Federation</country></aff></aff-alternatives><pub-date pub-type="collection"><year>2018</year></pub-date><pub-date pub-type="epub"><day>10</day><month>11</month><year>2018</year></pub-date><volume>22</volume><issue>5</issue><fpage>84</fpage><lpage>93</lpage><permissions><copyright-statement>Copyright &amp;#x00A9; Ровбо М.А., Сорокоумов П.С., 2018</copyright-statement><copyright-year>2018</copyright-year><copyright-holder xml:lang="ru">Ровбо М.А., Сорокоумов П.С.</copyright-holder><copyright-holder xml:lang="en">Rovbo M.A., Sorokoumov P.S.</copyright-holder><license xml:lang="ru" license-type="creative-commons-attribution" xlink:href="https://creativecommons.org/licenses/by/4.0/" xlink:type="simple"><license-p>Данная работа распространяется под лицензией Creative Commons Attribution 4.0.</license-p></license><license xml:lang="en" license-type="creative-commons-attribution" xlink:href="https://creativecommons.org/licenses/by/4.0/" xlink:type="simple"><license-p>This work is licensed under a Creative Commons Attribution 4.0 License.</license-p></license></permissions><self-uri xlink:href="https://openedu.rea.ru/jour/article/view/580">https://openedu.rea.ru/jour/article/view/580</self-uri><abstract><p>Целью данной работы является создание метода целенаправленного влияния на интеллектуального агента, способного изменить поведение группы, составленной из таких агентов. Актуальность темы исследования определяется тем, что воздействие на коллектив — сложная задача, имеющая большое практическое значение. Известно, что правильное управление группой работников, школьников или студентов оказывает благотворное влияние на участников, повышает достигаемые ими практические результаты и сплачивает их, поэтому разработанные методы могут быть использованы для повышения эффективности менеджмента и образования. С технической точки зрения, актуальностью работы является развитие подхода к управлению группами роботов или программных агентов с элементами социальных структур. Способы целенаправленного управления коллективами, состоящими из людей, давно развиваются в рамках педагогики, социологии, психологии и других гуманитарных наук. Достигнутые при этом результаты весьма значительны, однако многие разработанные концепции имеют значительные недостатки. Часть созданных подходов плохо формализуется, и их применение является скорее искусством, чем наукой. В других случаях использование известных методов может быть неудачным из-за нестрогой постановки задачи и множества плохо поддающихся учёту побочных факторов и условий.</p><p>Чтобы улучшить ситуацию, разумно описать задачу влияния на коллектив более строго — например, с использованием методологий, активно развивающихся в рамках исследований по искусственному интеллекту. Способы влияния на коллектив, изученные на простейших модельных объектах, в дальнейшем можно применить к конкретным практическим задачам, например, в области образования или менеджмента, с сохранением строгости и высокой надёжности.</p><p>В данном исследовании предлагается формализовать влияние на поведение коллектива как задачу оптимизации управления сложной системой. Для этого поведение отдельного члена коллектива (агента) моделируется с использованием целевой функции, участвующей в выборе одного из возможных действий в соответствии с параметрами — относительными приоритетами допустимых действий, и методов оптимизации. Считается, что эти параметры поддаются внешнему контролю. Знания каждого агента об окружающем мире описываются в виде семиотической сети, пригодной для анализа текущего состояния агента и планирования его деятельности. Поведение управляемого разработанной системой одиночного агента исследуется на примере расширенной задачи фуражировки с проведением вычислительных экспериментов на компьютерной модели. Оптимизация приоритетов выполнения различных целей определяет успешность работы агента.</p><p>Помимо приоритетов, свобода действий агента ограничивается необходимостью выживания. В этих условиях агент должен адаптироваться к внешней среде и внешним требованиями, при этом он будет способен как поддерживать своё функционирование, так и добиваться целей в соответствии с приоритетами.</p><p>Моделирование работы двух типов агентов показало применимость подхода с сохранением адаптивных свойств агента. При этом целевое поведение меняется в широких пределах. Результаты, полученные для одиночного агента, в дальнейшем планируется дополнительно проверить для групп социально взаимодействующих агентов.</p></abstract><trans-abstract xml:lang="en"><p>The aim of this research is to develop a novel method of affecting actions of an intelligent agent that allows changing the group behavior of such agents. The topic is relevant because group control is a complex and important task with considerable practical value. Proper management of a group of workers, schoolchildren or students has a beneficial effect for the participants, increases practical results achieved by them and uniting them. Therefore, the developed method can improve the efficiency of education. From the technical point of view, the relevance of the work is in the contribution to the development of an approach to controlling groups of robots or software agents with elements of social structures. Many management methods for groups of people have been developed in pedagogy, management, psychology, and other humanities. The achieved results are significant; however, many developed methods have important drawbacks. Some of the created approaches are non-formalizable, and their use is more an art than a science. In other cases, known methods may be unsuccessful because of a non-strict formulation of the problem and the multitude of adverse factors and applicability conditions.</p><p>It is reasonable to develop a more robust method to influence team behavior. Some methods in artificial intelligence describe how to build a control system for distributed groups of agents: teams, packs or swarms. If these methods can be reformulated to be useful for specific practical tasks, as education or management, then rigor and reliable control of social groups will be possible.</p><p>It is possible to formalize control of a team’s behavior as an optimization task. The behavior of an individual team member (agent) is modeled using an objective function, which is considered in the selection of one of the possible actions. Relative priorities of allowed actions are factors of this choice as parameters of the optimization process. An external controller can set these parameters. The world model of the agent is described as a semiotic network that is used to analyze the current state of the agent and plan its activities. The behavior of a single agent with the proposed method is investigated in a foraging task setting using a computer simulation. Different goals’ priorities optimization determines the performance of the agent.</p><p>Agent’s freedom of action is limited by the priorities and the need for survival. The agent adapts to the conditions prevailing in the environment with these limiting factors. At the same time it is capable of both maintaining its functioning and achieving goals in accordance with its priorities. Simulation of two different types of agents showed the applicability of the approach and its preservation of the adaptive properties of the agent. The results acquired for a sole agent will be investigated for groups of socially interacting agents in future works.</p></trans-abstract><kwd-group xml:lang="ru"><kwd>семиотическая сеть</kwd><kwd>прикладная семиотика</kwd><kwd>управление</kwd><kwd>робот</kwd><kwd>фуражировка</kwd></kwd-group><kwd-group xml:lang="en"><kwd>semiotic network</kwd><kwd>applied semiotics</kwd><kwd>control</kwd><kwd>robot</kwd><kwd>foraging</kwd></kwd-group><funding-group><funding-statement xml:lang="ru">РФФИ, грант 17-29-07083 офи_м и при поддержке НИЦ «Курчатовский институт» (приказ от 05.07.2018 №1601)</funding-statement></funding-group></article-meta></front><back><ref-list><title>References</title><ref id="cit1"><label>1</label><citation-alternatives><mixed-citation xml:lang="ru">Cohen P.R., Levesque H.J. Teamwork // Noûs. 1991. Vol. 25. № 4. P. 487-512.</mixed-citation><mixed-citation xml:lang="en">Cohen P.R., Levesque H.J. Teamwork. Noûs. 1991; 25(4): 487-512.</mixed-citation></citation-alternatives></ref><ref id="cit2"><label>2</label><citation-alternatives><mixed-citation xml:lang="ru">Grosz B.J., Kraus S. Collaborative plans for complex group action // Artif. Intell. 1996. Vol. 86. № 2. P. 269–357.</mixed-citation><mixed-citation xml:lang="en">Grosz B.J., Kraus S. Collaborative plans for complex group action. Artif. Intell. 1996; 86(2): 269–357.</mixed-citation></citation-alternatives></ref><ref id="cit3"><label>3</label><citation-alternatives><mixed-citation xml:lang="ru">Каляев И.А., Гайдук А.Р., Капустян С.Г. Модели и алгоритмы коллективного управления в группах роботов. Москва: Физматлит, 2009. 280 с.</mixed-citation><mixed-citation xml:lang="en">Kalyayev I.A., Gayduk A.R., Kapustyan S.G. Modeli i algoritmy kollektivnogo upravleniya v gruppakh robotov = Collective control models and algorithms in groups of robots. Moscow: Fizmatlit; 2009. 280 p. (In Russ.)</mixed-citation></citation-alternatives></ref><ref id="cit4"><label>4</label><citation-alternatives><mixed-citation xml:lang="ru">Rao A.S., Georgeff M.P. BDI Agents: From Theory to Practice // Proc. First Int. Conf. Multiagent Syst. 1995. Vol. 95. P. 312–319.</mixed-citation><mixed-citation xml:lang="en">Rao A.S., Georgeff M.P. BDI Agents: From Theory to Practice. Proc. First Int. Conf. Multiagent Syst; 1995; 95: 312–319.</mixed-citation></citation-alternatives></ref><ref id="cit5"><label>5</label><citation-alternatives><mixed-citation xml:lang="ru">Кулинич А.А. Метод построения семиотической среды функционирования группой интеллектуальных агентов // IV Всероссийский научно-практический семинар «Беспилотные транспортные средства с элементами искусственного интеллекта» (БТС-ИИ-2017), Казань, 5-6 октября 2017. Казань: Центр инновационных технологий, 2017. С. 193–203.</mixed-citation><mixed-citation xml:lang="en">Kulinich A.A. The method of building a semiotic environment of operation by a group of intellectual agents. IV Vserossiyskiy nauchno-prakticheskiy seminar «Bespilotnyye transportnyye sredstva s elementami iskusstvennogo intellekta» = IV Russian Scientific and Practical Seminar “Unmanned Vehicles with Elements of Artificial Intelligence” (BTSII-2017), Kazan, October 5-6, 2017. Kazan: Center for Innovative Technologies; 2017. P. 193–203. (In Russ.)</mixed-citation></citation-alternatives></ref><ref id="cit6"><label>6</label><citation-alternatives><mixed-citation xml:lang="ru">Карпов В.Э., Карпова И.П., Кулинич А.А. Социальные сообщества роботов. Москва: ЛЕНАНД, 2019. 352 с.</mixed-citation><mixed-citation xml:lang="en">Karpov V.E., Karpova I.P., Kulinich A.A. Sotsial’nyye soobshchestva robotov = Social community of robots. Moscow: LENAND; 2019. 352 p. (In Russ.)</mixed-citation></citation-alternatives></ref><ref id="cit7"><label>7</label><citation-alternatives><mixed-citation xml:lang="ru">Kulinich A.A. Contingency, cognitive and semiotic approaches to decision-making in the organizations // Open Education. 2016. № 6. С. 9–17.</mixed-citation><mixed-citation xml:lang="en">Kulinich A.A. Contingency, cognitive and semiotic approaches to decision-making in the organizations. Open Education. 2016; 6: 9–17.</mixed-citation></citation-alternatives></ref><ref id="cit8"><label>8</label><citation-alternatives><mixed-citation xml:lang="ru">Miller T. Explanation in Artificial Intelligence: Insights from the Social Sciences [Электрон. ресурс]. 2017. Режим доступа: http://arxiv.org/abs/1706.07269. (Дата обращения: 06.10.2018.)</mixed-citation><mixed-citation xml:lang="en">Miller T. Explanation in Artificial Intelligence: Insights from the Social Sciences [Internet]. 2017. Available from: http://arxiv.org/abs/1706.07269. [cited: 06.10.2018].</mixed-citation></citation-alternatives></ref><ref id="cit9"><label>9</label><citation-alternatives><mixed-citation xml:lang="ru">Карпов В.Э. Об одной реализации знак - ориентированной системы управления мобильного робота // Искусственный интеллект и принятие решений. 2015. № 3. С. 53–61.</mixed-citation><mixed-citation xml:lang="en">Karpov V.E. On one implementation of the sign - oriented control system of a mobile robot. Iskusstvennyy intellekt i prinyatiye resheniy = Artificial Intelligence and Decision Making. 2015; 3: 53–61. (In Russ.)</mixed-citation></citation-alternatives></ref><ref id="cit10"><label>10</label><citation-alternatives><mixed-citation xml:lang="ru">Длусский Г.М. Муравьи рода Формика. Москва: Наука, 1967. 236 с.</mixed-citation><mixed-citation xml:lang="en">Dlusskiy G.M. Murav’i roda Formika = Ants of the genus Formica. Moscow: Science; 1967. 236 p. (In Russ.)</mixed-citation></citation-alternatives></ref><ref id="cit11"><label>11</label><citation-alternatives><mixed-citation xml:lang="ru">Dlussky G.M., Voltzit O.V., Sulkhanov A.V. Organization of group foraging in ants of genus Myrmica // Zool. Zhurnal. 1978. Т. 57. № 1. С. 65–77.</mixed-citation><mixed-citation xml:lang="en">Dlussky G.M., Voltzit O.V., Sulkhanov A.V. Organization of group foraging in ants of genus Myrmica. Zool. Zhurnal. 1978; 57(1): 65–77. (In Russ.)</mixed-citation></citation-alternatives></ref><ref id="cit12"><label>12</label><citation-alternatives><mixed-citation xml:lang="ru">Богатырёва О.А., Шиллеров А.Е. Синергетика социальности. Новосибирск: Изд-во Сиб. отд-ния Рос. акад. наук, 1998. 292 с.</mixed-citation><mixed-citation xml:lang="en">Bogatyreva O.A., Shillerov A.E. Sinergetika sotsial’nosti = Synergy of sociality. Novosibirsk: Publishing house Siberian Branch RAS; 1998. 292 p. (In Russ.)</mixed-citation></citation-alternatives></ref><ref id="cit13"><label>13</label><citation-alternatives><mixed-citation xml:lang="ru">Karpov V. The parasitic manipulation of an animat’s behavior // Biol. Inspired Cogn. Archit. 2017. Т. 21. С. 67–74.</mixed-citation><mixed-citation xml:lang="en">Karpov V. The parasitic manipulation of an animat’s behavior. Biol. Inspired Cogn. Archit. 2017; 21: 67–74. (In Russ.)</mixed-citation></citation-alternatives></ref><ref id="cit14"><label>14</label><citation-alternatives><mixed-citation xml:lang="ru">Анохин П.К. Избранные труды. Философские аспекты теории функциональной системы. Ред. Константинов Ф.В., Ломов Б.Ф., Швырков В.Б. М.: Наука, 1978. 400 с.</mixed-citation><mixed-citation xml:lang="en">Anokhin P.K. Izbrannyye trudy. Filosofskiye aspekty teorii funktsional’noy sistemy. = Selected Works. Philosophical aspects of the theory of a functional system. Eds. Konstantinov F.V., Lomov B.F., Shvyrkov V.B. Moscow: Science; 1978. 400 p. (In Russ.)</mixed-citation></citation-alternatives></ref><ref id="cit15"><label>15</label><citation-alternatives><mixed-citation xml:lang="ru">Осипов Г.С., Панов А.И., Чудова Н.В. Управление поведением как функция сознания. I. Картина мира и целеполагание // Известия Российской Академии Наук. Теория и системы управления. 2014. № 4. С. 49–62.</mixed-citation><mixed-citation xml:lang="en">Osipov G.S., Panov A.I., Chudova N.V. Control of behavior as a function of consciousness. I. Picture of the world and goal setting. Izvestiya Rossiyskoy Akademii Nauk. Teoriya i sistemy upravleniya = Journal of Computer and Systems Sciences International. 2014; 4: 49–62. (In Russ.)</mixed-citation></citation-alternatives></ref><ref id="cit16"><label>16</label><citation-alternatives><mixed-citation xml:lang="ru">Карпов В.Э. Сенсорная модель подражательного поведения роботов // Открытые семантические технологии проектирования интеллектуальных систем = Open Semantic Technologies for Intelligent Systems (OSTIS-2016): материалы VI междунар. науч.-техн. конф. Минск: БГУИР, 2016. С. 471–476.</mixed-citation><mixed-citation xml:lang="en">Karpov V.E. Sensornaya model’ podrazhatel’nogo povedeniya robotov. Otkrytyye semanticheskiye tekhnologii proyektirovaniya intellektual’nykh sistem = Open Semantic Technologies for Intelligent Systems (OSTIS-2016): materials of the VI Intern. scientific and technical conf. Minsk: BGUIR; 2016. P. 471–476. (In Russ.)</mixed-citation></citation-alternatives></ref><ref id="cit17"><label>17</label><citation-alternatives><mixed-citation xml:lang="ru">Sutton R.S., Barto A.G. Reinforcement learning: an introduction // UCL,Computer Science Department, Reinforcement Learning Lectures. 2017. 1054 с.</mixed-citation><mixed-citation xml:lang="en">Sutton R.S., Barto A.G. Reinforcement learning: an introduction. UCL, Computer Science Department, Reinforcement Learning Lectures. 2017. 1054 p.</mixed-citation></citation-alternatives></ref><ref id="cit18"><label>18</label><citation-alternatives><mixed-citation xml:lang="ru">Springer Handbook of Robotics. Ed. Siciliano B., Khatib O. Berlin, Heidelberg: Springer Berlin Heidelberg, 2008. 1611 с.</mixed-citation><mixed-citation xml:lang="en">Springer Handbook of Robotics. Eds. Siciliano B., Khatib O. Berlin, Heidelberg: Springer Berlin Heidelberg; 2008. 1611 p.</mixed-citation></citation-alternatives></ref><ref id="cit19"><label>19</label><citation-alternatives><mixed-citation xml:lang="ru">Skarzynski K. et al. SO-MRS: A multi-robot system architecture based on the SOA paradigm and ontology // Lecture Notes in Computer Science (including subseries Lecture Notes in Artificial Intelligence and Lecture Notes in Bioinformatics). 2018. Т. 10965 LNAI. С. 330–342.</mixed-citation><mixed-citation xml:lang="en">Skarzynski K. et al. SO-MRS: A multi-robot system architecture based on the SOA paradigm and ontology. Lecture Notes in Computer Science (including subseries Lecture Notes in Artificial Intelligence and Lecture Notes in Bioinformatics). 2018; 10965 LNAI: 330–342.</mixed-citation></citation-alternatives></ref><ref id="cit20"><label>20</label><citation-alternatives><mixed-citation xml:lang="ru">Saxena A. et al. RoboBrain: Large-Scale Knowledge Engine for Robots [Электрон. ресурс]. 2014. Режим доступа: http://arxiv.org/abs/1412.0691. Дата обращения: 06.10.2018.</mixed-citation><mixed-citation xml:lang="en">Saxena A. et al. RoboBrain: Large-Scale Knowledge Engine for Robots [Internet]. 2014. Available from: http://arxiv.org/abs/1412.0691. [cited: 06.10.2018].</mixed-citation></citation-alternatives></ref><ref id="cit21"><label>21</label><citation-alternatives><mixed-citation xml:lang="ru">Осипов Г.С. и др. Знаковая картина мира субъекта поведения. Москва: ФИЗМАТЛИТ, 2017. 261 с.</mixed-citation><mixed-citation xml:lang="en">Osipov G.S. et al. Znakovaya kartina mira sub”yekta povedeniya = Symbolic picture of the world of the subject of behavior. Moscow: FIZMATLIT; 2017. 261 p. (In Russ.)</mixed-citation></citation-alternatives></ref><ref id="cit22"><label>22</label><citation-alternatives><mixed-citation xml:lang="ru">Gao F., Han L. Implementing the NelderMead simplex algorithm with adaptive parameters // Comput. Optim. Appl. 2012. Т. 51. № 1. С. 259– 277.</mixed-citation><mixed-citation xml:lang="en">Gao F., Han L. Implementing the Nelder-Mead simplex algorithm with adaptive parameters. Comput. Optim. Appl. 2012; 51(1): 259–277.</mixed-citation></citation-alternatives></ref><ref id="cit23"><label>23</label><citation-alternatives><mixed-citation xml:lang="ru">Powell M.J.D. An efficient method for finding the minimum of a function of several variables without calculating derivatives // Comput. J. 1964. Т. 7. № 2. С. 155–162.</mixed-citation><mixed-citation xml:lang="en">Powell M.J.D. An efficient method for finding the minimum of a function of several variables without calculating derivatives. Comput. J. 1964; 7(2): 155–162.</mixed-citation></citation-alternatives></ref><ref id="cit24"><label>24</label><citation-alternatives><mixed-citation xml:lang="ru">Amaran S. et al. Simulation optimization: a review of algorithms and applications // Ann. Oper. Res. Springer US. 2016. Vol. 240. № 1. C. 351–380.</mixed-citation><mixed-citation xml:lang="en">Amaran S. et al. Simulation optimization: a review of algorithms and applications. Ann. Oper. Res. Springer US. 2016; 240(1): 351–380.</mixed-citation></citation-alternatives></ref></ref-list><fn-group><fn fn-type="conflict"><p>The authors declare that there are no conflicts of interest present.</p></fn></fn-group></back></article>
