Enhancement of optimization algorithms' performances in engineering problems via different distribution functions

Abstract

Stokastik süreç içeren optimizasyon algoritmalarının performansının iyileştirilebilmesi için farklı dağılım fonksiyonlarının rassal süreçlerde kullanılması yaklaşımı optimizasyon algoritmalarının performansını artırabilir. Çünkü literatür ve uygulama açısından, yeni stokastik yöntemlerin önerilmesinin yanı sıra mevcut yöntemlerin farklı dağılım fonksiyonları gibi analitik katkılarla geliştirilmesi ve gerçek zamanlı mühendislik problemlerinde kullanılması önem kazanmıştır. Bundan dolayı bu tez çalışmasında öncelikle mevcut nümerik optimizasyon algoritmalarının analitik katkılarla nasıl geliştirilebileceği ile ilgili metotların önerilmesi amaçlanmıştır. Bilindiği gibi nümerik optimizasyon algoritmalarındaki en kritik yapılardan biri stokastik arayışın yönünü belirleyen adım belirleme safhasıdır. Genellikle bu yöntemlerde uniform dağılıma göre türetilen rassal değişkenler kullanılmaktadır. Fakat her durumda sabit olarak uniform dağılıma göre türetilen rassal değişkenlerin kullanılması mevcut algoritmanın dinamiğine uygun olmayabilir. Hatta tez süresince yapılan çalışmalarda algoritmanın her hareket durumunda uniform dağılımın kullanılmasının algoritmaların performansını etkilediği tespit edilmiştir. Bundan dolayı rassal adımların belirlenmesinde uniform dağılım yerine farklı dağılım fonksiyonlarının kullanılmasının algoritmanın performansına olumlu bir etki yaratacağı gözlemlenmiştir. Bundan dolayı bu tezde, istatistiğin temel konularından olan dağılım fonksiyonları ve istatistiksel momentler detaylı olarak analiz edilmiştir. Elde edilen çıktılar optimizasyon algoritmalarının dinamiğine uyarlanarak mühendislik problemlerinde uygulanmıştır. Bu tez çalışmasında öncelikle dağılım fonksiyonlarının etkisinin ortaya çıkarılması için rassal parametre vektör optimizasyon yöntemi (SMDO) farklı dağılım fonksiyonları ile modifiye edilmiştir. Elde edilen dağılım fonksiyonu tabanlı rassal parametre vektör optimizasyonu yöntemi benchmark fonksiyonları üzerinden literatürdeki sonuçlar ile karşılaştırmalı olarak sunulmuştur. Ve elde edilen sonuçlara göre farklı dağılım fonksiyonlarının kullanılması, ilgili metodun performansını artırmıştır. Bunların yanı sıra bu yapı için kullanıcı dostu bir araç kutusu tasarımı da yapılmıştır. Daha sonra literatürde yeni önerilmiş bir algoritma olan monarchy butterfly optimizasyon algoritması farklı dağılım fonksiyonları ile güncellenerek modifiye edilmiş monarch butterfly optimizasyon algoritması (M2BO) önerilmiştir. M2BO optimizasyon algoritması öncelikle benchmark fonksiyonları üstünden test edilmiş ve literatürdeki sonuçlarla karşılaştırmalı olarak sunulmuştur. Hatta dağılım fonksiyonlarının performansına etki eden parametrelerde her benchmark fonksiyonu için ayrı ayrı ayarlanmıştır. Daha sonra önerilen farklı dağılım fonksiyonu yaklaşımının mühendislik problemlerindeki performansını göstermek için 3 DOF Hover 4 motorlu helikopter prototipi üzerinde test edilmiştir. Sistemin kontrolünü sağlayan kazanç matrisinin parametreleri M2BO algoritmasıyla tasarlanmış ve sonuçlar simülasyon ve gerçek zamanlı sistem modeli üzerinden test edilmiştir. Böylece farklı dağılım fonksiyonlarının optimizasyon algoritmalarındaki stokastik süreçlerde uniform dağılım yerine kullanılması yaklaşımının algoritmaların performansını artırabileceği gerçek zamanlı sistem ve benchmark fonksiyonları üzerinde gösterilmiştir. Anahtar Kelimeler: Optimizasyon, dağılım fonksiyonları, istatistiksel moment, stokastik yöntemler

In order to improve the performance of optimization algorithms containing stochastic processes, using different distribution functions in random processes can increase the performance of optimization algorithms. Because, in terms of literature and practice, it has become important to develop existing methods with analytical contributions such as different distribution functions and to use them in real-time engineering problems , besides suggesting new stochastic methods. Therefore, in this thesis, it is primarily aimed to suggest methods for how existing numerical optimization algorithms can be developed with analytical contributions. As it is known, one of the most critical structures in numerical optimization algorithms is the step determination phase that determines the direction of the stochastic search. Generally, random variables derived from uniform distribution are used in these methods. However, in all cases, the use of random variables derived from a uniform distribution may not be suitable for the dynamics of the current algorithm. In fact, in the studies carried out during the thesis, it has been determined that the use of uniform distribution in every motion of the algorithm affects the performance of the algorithms. Therefore, it has been observed that using different distribution functions instead of uniform distribution in determining random steps will have a positive effect on the performance of the algorithm. Therefore, in this thesis, distribution functions and statistical moments, which are among the fundamental topics of statistics, have been analyzed in detail. The obtained outputs have been applied in engineering problems by adapting them to the dynamics of optimization algorithms. In this thesis, first of all, the random parameter vector optimization method (SMDO) has been modified with different distribution functions to reveal the effect of distribution functions. The obtained distribution function based random parameter vector optimization method is presented in comparison with the results in the literature over the benchmark functions. And using different distribution functions according to the results obtained increased the performance of the related method. In addition to these, a user-friendly toolbox has been designed for this structure. Later, the monarchy butterfly optimization algorithm, which is a newly proposed algorithm in the literature, was updated with different distribution functions and the modified monarch butterfly optimization algorithm (M2BO) was proposed. M2BO optimization algorithm is first tested on benchmark functions and presented in comparison with the results in the literature. In fact, the parameters that affect the performance of distribution functions are adjusted separately for each benchmark function. Then, it was tested on 3 DOF Hover 4 engine helicopter prototype to show the performance of the proposed different distribution function approach in engineering problems. The parameters of the gain matrix, which provides the control of the system, were designed with the M2BO algorithm and the results were tested through simulation and real-time system model. Thus, it has been shown on real-time system and benchmark functions that using different distribution functions in optimization algorithms instead of uniform distribution in stochastic processes can increase the performance of algorithms. Keywords: Optimization, distribution functions, statistical moment, stochastic methods