ВЕСТНИК ВОРОНЕЖСКОГО ГОСУДАРСТВЕННОГО УНИВЕРСИТЕТА. СЕРИЯ: СИСТЕМНЫЙ АНАЛИЗ И ИНФОРМАЦИОННЫЕ ТЕХНОЛОГИИ

Статья посвящена решению проблемы выбора наиболее информативных регрессоров в неэлементарных линейных регрессиях, включающих в себя в общем случае не только объясняющие переменные, но и все возможные комбинации их пар, преобразованные с помощью бинарных операций min и max. Известно, что оптимальное решение такой задачи может быть достигнуто методом полного перебора всех возможных моделей. Но даже для линейной регрессии он до сих пор остается самым трудоёмким из всех существующих методов отбора, а для неэлементарных линейных регрессий, в которых число регрессоров на порядок больше, его трудоёмкость значительно возрастает. Известно, что быстро получить хоть и не оптимальное зачастую, но хорошее решение позволяет метод включения регрессоров. Учитывая, что в состав неэлементарных линейных регрессий входят не только объясняющие переменные, но и регрессоры, содержащие внутри себя неизвестные параметры, то такие модели требуют разработки новых алгоритмов метода включения. В данной статье состав регрессоров в неэлементарных линейных регрессиях расширен ещё больше за счёт использования бинарных операций со свободным членом. Предложено два алгоритма метода включения. Первый из них реализуется без корректировки входящих в бинарные операции коэффициентов, а второй - с корректировкой. В этой связи вычислительная сложность второго алгоритма выше, чем у первого, но при этом второй позволяет получать более качественные решения. Тестирование алгоритмов проведено на примере моделирования численности безработных и уровня безработицы в Иркутской области. Наилучшие результаты показал второй алгоритм. Полученные высокоточные модели с пятью регрессорами и с коэффициентами детерминации 0,982 и 0,971 превзошли по качеству даже переобученные полиномиальные регрессии с четырнадцатью регрессорами.

Оптимизация является одним из важнейших инструментов управления системами различной природы. Наряду со ставшими классическими задачами оптимизации при принятии решений и управлении техническими системами, поиск экстремума функции представляет собой важный инструмент в машинном обучении. Особенно существенна роль эффективных алгоритмов оптимизации при решении динамических задач, когда решение должно быть найдено в режиме реального времени. При этом, проблема быстрой численной оптимизации пока что не получила универсального решения и требует дополнительной разработки и усовершенствованных подходов. В работе предложен новый метод оптимизации, основанный на модификации алгоритма гравитационного поиска. Он использует аналогию с гравитационным притяжением масс, зависящих от значения целевой функции. Недостатком обычного гравитационного поиска является проявление при его работе эффектов инерции, которые усложняют процесс оптимизации. Для улучшения работы алгоритма нами предложено использовать модель вязкого движения эффективных частиц. Обсуждаются основные уравнения, описывающие работу представленной модификации гравитационного поиска. Описан алгоритм вязкого гравитационного поиска и приведена его реализация в псевдокоде. Особенности работы алгоритма проанализированы на примерах эталонных целевых функций Растригина и Швефеля со многими локальными минимумами в сравнении с генетическим алгоритмом и стандартным алгоритмом гравитационного поиска с помощью программ, реализованных на языке Python. Нами исследована скорость работы и точность определения минимума функций с различным числом переменных вязким гравитационным алгоритмом. Полученные результаты позволяют сделать вывод о высокой эффективности вязкого гравитационного поиска и целесообразности его применения к решению задач многомерной оптимизации.