Hlavním cílem této práce je ukázat, že je možné vylepšit výkonnost evolucních
výpocetních technik pro spojitou optimalizaci s jednou výstupní velicinou využitím
ruzných metod modifikace. Je ukázáno, že s využitím relativne jednoduchým
modifikací je možné zlepšit výkonnost algoritmu Rojení cástic (Particle Swarm
Optimization - PSO) jak pro umelé testovací funkce, tak pro reálné problémy.
Nejdríve je vysvetlena duležitost optimalizace a základní principy evolucní optimalizace.
Dále jsou predstaveny moderní trendy v návrhu modifikací evolucních
výpocetních technik spolu s oblastmi využití. Vysvetleno je též zamerení práce
na algoritmus Rojení cástic.
Dále jsou v práci popsány základy tzv. ?Swarm Intelligence? ci inteligence hejna
a významní zástupci této trídy evolucních technik. Algoritmus Rojení cástic
použitý v této práci je popsán detailne. Popsány jsou také využité testovací
funkce.
Jelikož se významná cást tohoto výzkumu zabývá užitím generátoru pseudonáhodných
císel založených na chaotických systémech, je teoretická cást uzavrena
detailním popisem užitých chaotických systému vcetne rovnic a grafu.
V experimentální cásti jsou prezentovány výsledky dlouhodobého výzkumu. Nejdríve
je detailne popsán algoritmus PSO využívající chaos. Zpusob implementace
chaotických sekvencí jako generátoru pseudo-náhodných císel je vysvetlen
a výkonnost a chování PSO algoritmu s temito generátory je detailne prozkoumána.
Dále je prezentován ladící experiment. První cást je uzavrena ukázkovou
aplikací chaosem obohaceného PSO algoritmu na modelový prípad návrhu PID
regulátoru.
V další sekci je prezentován tzv. multi-chaotický prístup pro PSO. Jedná se o
velmi slibnou metodu vyvinutou behem tohoto výzkumu. V tomto je prístupu
je v rámci jednoho behu algoritmu využito více chaotických generátoru pseudonáhodných
císel. Tímto zpusobem je možné vylepšit výkonnost algoritmu a upravit
chování roje požadovaným zpusobem. Je uvedeno i využití tohoto prístupu
pro jinou evolucní výpocetní techniku ? algoritmus Diferenciální evoluce.
Behem výzkumu chaotického PSO byla detailne studována vnitrní dynamika
algoritmu PSO. Jako reakce na získané poznatky bylo navrženo a otestováno
nekolik modifikací algoritmu PSO. Jako první je popsána tzv. ?Multiple-choice?
strategie pro PSO. V tomto návrhu je vytvoren heterogenní roj a jednotlivé role
jsou rozdeleny náhodne. Jako druhý príklad úspešné modifikace PSO algoritmu
je uveden nove navržený tzv. shromaždovací (Gathering) algoritmus. V tomto
algoritmu je využit tzv. lavinový efekt ci efekt snehové koule ke zduraznení
slibných regionu pomocí shromáždení množství cástic. Tímto prístupem je
možné vyhnout se problémum typickým pro algoritmus využívající pevný bod
pro atrakci cástic.
Výkonnost všech popsaných algoritmu byla testována na typicky využívaných
testovacích funkcích a výsledky jsou srovnány s obycejným PSO ci zástupci nejnovejších
algoritmu Výsledky výzkumu byly prubežne publikovány a presentovány
na mezinárodních konferencích a byly velmi dobre prijaty.
Výsledky získané behem tohoto výzkumu umožnuji tvrdit, že výkonnost evolucních
výpocetních metod muže být vylepšena využitím ruzných moderních metod, jako
jsou napríklad chaotické sekvence ci modifikace vnitrních principu algoritmu.
Annotation in English
The main aim of this work is to show that it is possible to improve the performance
of evolutionary computational techniques for single-objective continuous
optimization problems by various modification methods. It is shown that by
relatively simple modifications it is possible to improve the performance of Particle
swam optimization algorithm on both artificial benchmark functions and
real-world problems.
Firstly it is introduced the importance of optimization and the basic principles
of evolutionary optimization. Further the modern trends in modification of
evolutionary computational techniques are introduced alongside with the areas
of application for these methods. Also the thesis focus on Swarm intelligence
representative Particle swarm optimization algorithm is explained.
Further the basics of swarm intelligence are described alongside with notable
representatives of this category of evolutionary techniques. The Particle Swarm
optimization algorithm that has been used in this work is described in detail.
Used benchmarks are also described. As a significant part of the research dealt
with using of pseudo-random number generators based on chaotic systems, the
theoretical part concludes with detailed description of used chaotic systems including
equations and plots.
In the experimental part the results of long-term research are presented. Firstly
the Chaos PSO is described in detail. The implementation of chaotic sequences
as pseudo-random number generators is explained and the performance and behavior
of PSO algorithm driven by chaotic pseudo-random number generator is
investigated in detail. Further a tuning experiment is presented. The first part
concludes with an example application of the chaos driven PSO algorithm on a
model task of PID controller design.
In the next section it is presented the multi-chaotic approach for chaos driven
PSO - promising method developed during this work. In this approach multiple
chaotic pseudo-random number generators are used within one run of the
algorithm and enhance its performance by changing the behavior of the swarm
in a desirable way. It is also shown the utilization of this approach for another
evolutionary computational technique ? the Differential evolution algorithm.
During the research of chaos driven PSO the inner dynamics of the PSO algorithm
were studied in detail. As a reaction several modifications of PSO
algorithm were proposed and tested. As first the Multiple-choice strategy for
PSO is described. In this design a heterogeneous swarm is created and the roles
are randomly assigned. As a second example of successful PSO modification the
newly developed Gathering algorithm is presented. In the Gathering algorithm
the phenomenon known in literature as ?snowball effect? is used to highlight
the promising regions by gathering of multiple particles and avoid the problems
common for algorithm with static attraction points.
The performance of all above mentioned algorithms was tested using common
benchmark functions and the results are compared either with canonical PSO
algorithm or state-of-art representatives. The research results were continuously
published and presented in international conferences with great reception.
Based on results obtained during this research is possible to claim that the
performance of evolutionary computation techniques can be improved by various
modern methods such as chaotic sequence implementation or inner principles
modifications.
Hlavním cílem této práce je ukázat, že je možné vylepšit výkonnost evolucních
výpocetních technik pro spojitou optimalizaci s jednou výstupní velicinou využitím
ruzných metod modifikace. Je ukázáno, že s využitím relativne jednoduchým
modifikací je možné zlepšit výkonnost algoritmu Rojení cástic (Particle Swarm
Optimization - PSO) jak pro umelé testovací funkce, tak pro reálné problémy.
Nejdríve je vysvetlena duležitost optimalizace a základní principy evolucní optimalizace.
Dále jsou predstaveny moderní trendy v návrhu modifikací evolucních
výpocetních technik spolu s oblastmi využití. Vysvetleno je též zamerení práce
na algoritmus Rojení cástic.
Dále jsou v práci popsány základy tzv. ?Swarm Intelligence? ci inteligence hejna
a významní zástupci této trídy evolucních technik. Algoritmus Rojení cástic
použitý v této práci je popsán detailne. Popsány jsou také využité testovací
funkce.
Jelikož se významná cást tohoto výzkumu zabývá užitím generátoru pseudonáhodných
císel založených na chaotických systémech, je teoretická cást uzavrena
detailním popisem užitých chaotických systému vcetne rovnic a grafu.
V experimentální cásti jsou prezentovány výsledky dlouhodobého výzkumu. Nejdríve
je detailne popsán algoritmus PSO využívající chaos. Zpusob implementace
chaotických sekvencí jako generátoru pseudo-náhodných císel je vysvetlen
a výkonnost a chování PSO algoritmu s temito generátory je detailne prozkoumána.
Dále je prezentován ladící experiment. První cást je uzavrena ukázkovou
aplikací chaosem obohaceného PSO algoritmu na modelový prípad návrhu PID
regulátoru.
V další sekci je prezentován tzv. multi-chaotický prístup pro PSO. Jedná se o
velmi slibnou metodu vyvinutou behem tohoto výzkumu. V tomto je prístupu
je v rámci jednoho behu algoritmu využito více chaotických generátoru pseudonáhodných
císel. Tímto zpusobem je možné vylepšit výkonnost algoritmu a upravit
chování roje požadovaným zpusobem. Je uvedeno i využití tohoto prístupu
pro jinou evolucní výpocetní techniku ? algoritmus Diferenciální evoluce.
Behem výzkumu chaotického PSO byla detailne studována vnitrní dynamika
algoritmu PSO. Jako reakce na získané poznatky bylo navrženo a otestováno
nekolik modifikací algoritmu PSO. Jako první je popsána tzv. ?Multiple-choice?
strategie pro PSO. V tomto návrhu je vytvoren heterogenní roj a jednotlivé role
jsou rozdeleny náhodne. Jako druhý príklad úspešné modifikace PSO algoritmu
je uveden nove navržený tzv. shromaždovací (Gathering) algoritmus. V tomto
algoritmu je využit tzv. lavinový efekt ci efekt snehové koule ke zduraznení
slibných regionu pomocí shromáždení množství cástic. Tímto prístupem je
možné vyhnout se problémum typickým pro algoritmus využívající pevný bod
pro atrakci cástic.
Výkonnost všech popsaných algoritmu byla testována na typicky využívaných
testovacích funkcích a výsledky jsou srovnány s obycejným PSO ci zástupci nejnovejších
algoritmu Výsledky výzkumu byly prubežne publikovány a presentovány
na mezinárodních konferencích a byly velmi dobre prijaty.
Výsledky získané behem tohoto výzkumu umožnuji tvrdit, že výkonnost evolucních
výpocetních metod muže být vylepšena využitím ruzných moderních metod, jako
jsou napríklad chaotické sekvence ci modifikace vnitrních principu algoritmu.
Annotation in English
The main aim of this work is to show that it is possible to improve the performance
of evolutionary computational techniques for single-objective continuous
optimization problems by various modification methods. It is shown that by
relatively simple modifications it is possible to improve the performance of Particle
swam optimization algorithm on both artificial benchmark functions and
real-world problems.
Firstly it is introduced the importance of optimization and the basic principles
of evolutionary optimization. Further the modern trends in modification of
evolutionary computational techniques are introduced alongside with the areas
of application for these methods. Also the thesis focus on Swarm intelligence
representative Particle swarm optimization algorithm is explained.
Further the basics of swarm intelligence are described alongside with notable
representatives of this category of evolutionary techniques. The Particle Swarm
optimization algorithm that has been used in this work is described in detail.
Used benchmarks are also described. As a significant part of the research dealt
with using of pseudo-random number generators based on chaotic systems, the
theoretical part concludes with detailed description of used chaotic systems including
equations and plots.
In the experimental part the results of long-term research are presented. Firstly
the Chaos PSO is described in detail. The implementation of chaotic sequences
as pseudo-random number generators is explained and the performance and behavior
of PSO algorithm driven by chaotic pseudo-random number generator is
investigated in detail. Further a tuning experiment is presented. The first part
concludes with an example application of the chaos driven PSO algorithm on a
model task of PID controller design.
In the next section it is presented the multi-chaotic approach for chaos driven
PSO - promising method developed during this work. In this approach multiple
chaotic pseudo-random number generators are used within one run of the
algorithm and enhance its performance by changing the behavior of the swarm
in a desirable way. It is also shown the utilization of this approach for another
evolutionary computational technique ? the Differential evolution algorithm.
During the research of chaos driven PSO the inner dynamics of the PSO algorithm
were studied in detail. As a reaction several modifications of PSO
algorithm were proposed and tested. As first the Multiple-choice strategy for
PSO is described. In this design a heterogeneous swarm is created and the roles
are randomly assigned. As a second example of successful PSO modification the
newly developed Gathering algorithm is presented. In the Gathering algorithm
the phenomenon known in literature as ?snowball effect? is used to highlight
the promising regions by gathering of multiple particles and avoid the problems
common for algorithm with static attraction points.
The performance of all above mentioned algorithms was tested using common
benchmark functions and the results are compared either with canonical PSO
algorithm or state-of-art representatives. The research results were continuously
published and presented in international conferences with great reception.
Based on results obtained during this research is possible to claim that the
performance of evolutionary computation techniques can be improved by various
modern methods such as chaotic sequence implementation or inner principles
modifications.
