Uniform popülasyon ve türeve dayalı meta-sezgisel yeni yöntem geliştirme

Abstract

Bir problemin en iyi sonucunu aramak ve bulmak için optimizasyon algoritmaları kullanılmaktadır. Kesin ve yaklaşık yöntemler (sezgisel ve meta-sezgisel) olarak ikiye ayrılan optimizasyon algoritmaları, tüm alanlarda kullanıldığı gözlemlenmektedir. Optimizasyon algoritmaları temelde beş bölümden (başlangıç popülasyonu oluşturma, uygunluk hesaplama, seçim, yeni nesil oluşturma ve karar verme) oluşmaktadır. Araştırmacılar ilerleyen teknolojilerle bu beş bölümde değişiklikler ve geliştirmeler yapmışlardır. En az çalışma başlangıç popülasyonu oluşturma bölümünde yapılmıştır. Günümüzde halen en çok rasgele başlatma yöntemi kullanılmaktadır. Bir standart başlatma yöntemi olarak kabul edildiği için araştırmacılar bu konu üzerinde çok araştırma yapmamışlardır. Son yıllarda popülasyon çeşitliliğini ve düzgün dağılımı arttırmak için bir çok yeni popülasyon başlatma yöntemi önerilmektedir. Bu tez kapsamında, başlangıç popülasyonu oluşturma yöntemleri detaylı olarak incelenmektedir ve bu incelemenin sonucunda yeni bir kategorizasyon önerilmektedir. Ayrıca literatüre deterministik yeni bir başlangıç popülasyonu oluşturma yöntemi önerilmektedir. Bu yeni başlatma yöntemi ile başlatılan çok değişkenli bir lineer regresyon (MLR) modeli kullanarak iris veri setini temsil edecek lineer bir fonksiyon elde edilmektedir. Bu fonksiyondaki katsayıların optimum değerlerini bulmak için SGD, Momentum, Adagrad, RMSProp, Adadelta ve Adam optimizasyon algoritmaları kullanılmaktadır. Ayrıca amaç fonksiyonu olarak IAE, ITAE, MSE ve ISE hata fonksiyonlarından yararlanılmaktadır. Öncelikle alt ve üst sınırlar arasında deterministik ve stokastik başlatma yöntemleri ile uygulamaların başlangıç popülasyonları oluşturulmaktadır. Stokastik olarak başlatılan uygulama literatürdeki gibi birçok defa çalıştırılıp ortalama değerleri alınmaktadır. Buna karşılık deterministik olarak başlatılan uygulama ise bir kez çalıştırılmaktadır. Deterministik ve stokastik başlatılan uygulamalarda katsayılar ve adım sayıları birbirine yakın olduğu gözlemlenmektedir. Fakat deterministik olarak başlatılan uygulama ile zamansal kazanım elde edilmektedir. Elde edilen sonuçlar karşılaştırılarak analiz edilmektedir. Karşılaştırmalar sonucunda Adadelta optimizasyon algoritması ve MSE amaç fonksiyonuyla elde edilen lineer model en iyi performansı göstermektedir. Anahtar Kelimeler: Deterministik Başlangıç Popülasyonları, Stokastik Başlangıç Popülasyonları, Çok Değişkenli Lineer Regresyon, Optimizasyon Algoritmaları

Optimization algorithms are used to search and find the best solution for a problem. Optimization algorithms, which are divided into two as exact and approximate methods (heuristic and metaheuristic), are observed to be used in all areas. Optimization algorithms basically consist of five parts (initial population generation, fitness computation, selection, creating a new generation and decision making). Researchers have made changes and improvements in these five sections with advancing technologies. The least work has been done in the initial population generation section. The random initiation method is still used the most today. Researchers have not done much research on this topic as it is considered a standard initiation method. In recent years, many new population initiation methods have been proposed to increase population diversity and uniform distribution. Within the scope of the thesis, initial population generation methods are examined in detail and a new categorization is proposed as a result of this review. In addition, method of creating a deterministic new initial population is suggested to literatüre. a linear function to represent the iris data set was obtained by making use of the multivariate linear regression (MLR) model initiated with this new initialization method. SGD, Momentum, Adagrad, RMSProp, Adadelta and Adam optimization algorithms were used to find the optimum values of coefficients of this function. In addtion, IAE, ITAE, MSE and ISE error functions were adopted as the objective function. First, initial populations of the methods were developed by using deterministic and stochastic initialization methods between upper and lower bounds. The method that was initialized stochasticaly was run several times as seen in literature and the mean values were calculated. On the other hand, the application that was initialized deterministic was only run once. According to deterministic and stochastic initialization Outputs, theta and iteration number were found to be close. However, temporal gain was achieved from the application that was initialized deterministic. Genarated outputs were compared and analyzed. According to comparisons, the linear model obtained using the Adadelta optimization algorithm and the MSE objective function performed best. Keywords: Deterministic Initial Population, Stochastic Initial Population, Multivariate Linear Regression, Optimization Algorithms