Эволюционный метод минимизации суммы квадратов нелинейных функций (Opportunistic Evolutionary Method to Minimize a Sum of Squares of Nonlinear Functions)

8 Jul 2016, 13:00
15m
406A

406A

Sectional reports 4. Scientific, industry and business applications in distributed computing systems Mathematical Methods and Algorithms for Parallel and Distributed Computing

Speaker

Dr Mikhail Zhabitsky (Joint Institute for Nuclear Research)

Description

Нахождение глобального минимума суммы квадратов нелинейных функций — стандартная задача, возникающая при подгонке параметров математической модели по экспериментальным измерениям. В случае суммы линейных функций решение обычно находят при помощи обобщенного метода наименьших квадратов. В случае суммы нелинейных функций минимизационные алгоритмы, как правило, не используют тот факт, что целевая функция представлена в виде суммы квадратов. В работе предложен эволюционный метод, во время минимизации идентифицирующий группы коррелированных слагаемых. В случае частично-разделяемых задач метод позволяет ускорить сходимость к минимуму. Для параллельных вычислений метод использует схему ведущий/ведомые с асинхронным обменом заданиями (аргументами функций) и результатами вычислений между вычислительными узлами. Для типичных проблем ускорение по сравнению с вычислениями на одном процессоре почти равно числу вычислительных узлов (для систем из нескольких десятков узлов). Finding the global minimum of a sum of squares of nonlinear functions is ubiquitous in curve fitting, when one tries to determine physical parameters from experimental observations. While generalized least squares is a technique commonly used to minimize a sum of squares of linear functions, there are a few approaches to solve minimization problems with a sum of nonlinear functions as an objective function. We present an evolutionary method, which identifies groups of correlated summands during the minimization process. If a problem is partially separable, the method makes use of this opportunity to speed-up convergence. The proposed method implements a master-worker model for parallel calculations with asynchronous exchange of tasks (function arguments) and results between processing nodes and the master process. For practical problems the speed-up with respect to a single processor mode is nearly equal to a number of computing nodes (up to several tenths of processors).

Summary

Ключевые слова: глобальная оптимизация без использования производных, параллельные вычисления
Keywords: derivative-free global minimization, parallel computing

Primary author

Dr Mikhail Zhabitsky (Joint Institute for Nuclear Research)

Presentation materials