\section{Модели, основанные на анализе временных рядов}\label{sec_time_series}
В разделе будут рассмотрены регрессионные и сетевые модели, методы фильтрации и их взаимосвязи~\cite{Kondratiev_2013}, на основе анализа наиболее достоверных статистических данных -- количество ежедневных ПЦР-тестов $\mathcal{T}(t)$ и индекс самоизоляции $a(t)$. Время $t$ во всех моделях измеряется в днях.

\subsection{Введение}
Особенностью функций $\mathcal{T}(t)$ и $a(t)$ является повторяемость подъемов и спадов по времени с изменяющейся амплитудой. Например, $\mathcal{T}(t)$ возрастает по вторникам и ослабевает к понедельнику, а $a(t)$ ослабевает в период выходных, праздников и отпусков.

Методы математической статистики и машинного обучения помогают обрабатывать, анализировать эпидемиологические данные и проводить краткосрочное прогнозирование поведения $\mathcal{T}(t)$ и $a(t)$ при отсутствии резких изменений ситуации (введение ограничительных мер, мутации вируса)~\cite{Zaharov_2021}. В разделе будут приведены регрессионные, сетевые модели, а также методы фильтрации и их взаимосвязи, диаграмма которых приведена на рис.~\ref{fig:diag_time-series}.
\begin{figure}
    \centering
    \includegraphics[width=\textwidth]{images/Models_time-series.pdf}
    \caption{Диаграмма моделей прогнозирования временных рядов.}
    \label{fig:diag_time-series}
\end{figure}

Отметим, что в данном разделе мы рассматриваем модели, которые используют только значения наблюдаемых показателей $\mathcal{T}(t)$ и $a(t)$.

\subsection{Регрессионные модели}\label{sec_regression}
Регрессионные модели подразделяются на неадаптивные модели, для оценки параметров которых используются все имеющиеся данные, и адаптивные, значения параметров которых рассчитываются на основе скользящего окна наблюдений~\cite{Burkom_2007}.

Вид регрессионной зависимости для неадаптивной модели выбирается исходя из свойств анализируемого временного ряда. В отдельных случаях можно применять полиномиальные или степенные функции, но чаще модель должна учитывать сезонный характер заболеваемости (например, модель Серфлинга~\cite{Serfling_1963}).
Неадаптивные регрессионные модели учитывают всю предысторию заболеваемости, но игнорируют локальные колебания эпидемических показателей, поэтому появление нового штамма вируса и введение ограничительных мер в регионе снижают значимость данных предыдущего периода (устаревшие данные).

Адаптивные регрессионные модели используют ограниченный отрезок временного ряда и поэтому более чувствительны к изменению ситуации. Важную роль при использовании адаптивных моделей играет ширина скользящего окна (в пределах нескольких месяцев) --
число последних наблюдений, на основе которых оценивают параметры модели.

В регрессионных моделях предполагается, что невязка модели (ошибка предсказания) -- независимая случайная величина, имеющая нормальный закон распределения с нулевым математическим ожиданием и постоянной дисперсией~\cite{Kondratiev_2013}. Одной из проблем прогнозирования является наличие существенной автокорреляции невязок. Регрессионная модель может быть дополнена, а прогноз -- уточнен, например, с помощью авторегрессионных моделей.

\subsubsection{Авторегрессионная модель прогнозирования временного ряда}
Для построения прогнозов сезонных рядов, например, количества проведенных ПЦР-тестов в регионе, использовалась авторегрессионная модель \textsc{SARIMA} являющейся модификацией модели \textsc{ARIMA} (AutoRegressive Integrated Moving Average)~\cite{Boks_1974}, которая описывает одномерные временные ряды с сезонной компонентой~\cite{SARIMA_2017}. \textsc{ARIMA} является расширением моделей тип \textsc{ARMA} для нестационарных временных рядов, которые можно сделать стационарными взятием разностей некоторого порядка от исходного временного ряда (так называемые интегрированные или разностно-стационарные временные ряды).

Модель \textsc{ARIMA}$(p,d,q)$ для нестационарного временного ряда $\mathcal{T}(n)$ имеет вид:
\begin{equation*}
    \triangle^d \mathcal{T}(n) = c + \sum_{i=1}^p a_i \triangle^d \mathcal{T}(n-i) + \sum_{j=1}^q b_j \epsilon(n-j) + \varepsilon(n).
\end{equation*}
Здесь $\varepsilon(n)$ -- стационарный временной ряд белого шума, $c, a_i, b_j$ -- параметры модели, $\triangle^d$ -- оператор разности временного ряда порядка $d$, гарантирующий стационарность ряда (последовательное взятие $d$ раз разностей первого порядка — сначала от временного ряда, затем от полученных разностей первого порядка, затем от второго порядка и т.д.). Обычно, при построении модели \textsc{ARIMA} порядок разностей ограничивается числом $d=2$.

В нашем же случае при использовании сезонности ряда строится модель \textsc{SARIMA}$(p,d,q)(P,D,Q)_s$ для нестационарного временного ряда $\mathcal{T}(n)$~\cite{SARIMA_2017}:
\begin{equation*}
    \Phi (L^s)\varphi(L)\triangle^d \triangle^D_s \mathcal{T}(n) = \Theta (L^s)\theta(L)\varepsilon(n).
\end{equation*}
Здесь параметры $p,d,q$ отвечают за несезонную часть временного ряда, а $P,D,Q$ соответствуют сезонным компонентам ряда, $s=7$~-- длина сезона, $\triangle^D_s$~-- оператор разности временного ряда порядка $D$ для сезонной компоненты, $\varphi$ и $\Phi$~-- параметры авторегрессии для несезонных и сезонных компонент ряда, $\theta$ и $\Theta$~-- параметры несезонного и сезонного скользящего среднего соответственно, $L$~-- оператор сдвига, $n$~-- временной параметр (день). В общем случае выражения имеют вид:
\begin{align*}
    & \varphi(L) = 1 - \varphi_1 L - \varphi_2 L^2 - \ldots - \varphi_p L^p,\\
    & \Phi(L^s) = 1 - \Phi_1 L^s - \Phi_2 L^{2s} - \ldots - \Phi_P L^{Ps},\\
    & \theta(L) = 1 + \theta_1 L + \theta_2 L^2 + \ldots + \theta_q L^q,\\
    & \Theta (L^s) = 1 + \Theta_1 L^s + \Theta_2 L^{2s} + \ldots + \Theta_Q L^{Qs},\\
    & \triangle^d = (1-L)^d, \qquad \triangle^D_s = (1-L^s)^D,\\
    & L^k \mathcal{T}(n) = \mathcal{T}_{n-k}.
\end{align*}

Алгоритм прогнозирования временного ряда следующий:
\begin{enumerate} 
  \item Применяем преобразование Бокса-Кокса \cite{Box_1964} для уменьшения дисперсии.
  \item Вычисляем сезонную разность (сдвиг на 7 дней) первого порядка.
  \item Вычисляем вторую разность (сдвиг на 1 день) ряда, полученного в пункте 2.
  \item Проверяем стационарность ряда из п. 3 критерием Дики-Фуллера.
  \item Передаем соответствующие проделанным действиям параметры в модель \textsc{ARIMA}$(p,d,q)$ и подбираем остальные на основе минимизации информационного критерия Акаике. В качестве данных передается ряд из п. 1.
  \item Полученная модель с настроенными гиперпараметрами используется для дальнейшего прогнозирования. Полученный результат подвергается обратному преобразованию Бокса-Кокса.
\end{enumerate}

Был построен прогноз временного ряда количества ежедневных ПЦР-тестов в Новосибирской области с 18.01.2021 по 17.02.2021 на основе исторических наблюдений с 05.05.2020 по 17.01.2021 с помощью моделей \textsc{SARIMA}, Хольта-Винтерса \cite{HoltWinters_1987} (подробнее см.~Раздел~\ref{sec_filtr_models}) и машинного обучения линейной регрессии (см.~Рис.~\ref{fig:forecasting}). \textsc{SARIMA} показала на предсказаниях разных промежутков в среднем не лучшие, но наиболее устойчивые результаты (усредненная абсолютная ошибка для модели \textsc{SARIMA} равна 1454.73, для модели Хольта-Винтерса -- 1646.49, для модели линейной регрессии -- 1586.34).
\begin{figure}[h!]
    \centering
    \includegraphics[width=\textwidth]{images/11.png}
    \caption{Результаты предсказания временного ряда ежедневно проводимых ПЦР-тестов $\mathcal{T}(t)$ в Новосибирской области (сплошная синяя линия) на месяц вперед с 18.01.2021 (вертикальная оранжевая линия) моделями Хольта-Винтерса (черная пунктирная линия), линейной регрессии (синяя пунктирная линия) и \textsc{SARIMA} (зеленая пунктирная линия).}
    \label{fig:forecasting}
\end{figure}

\subsection{Модели на основе машинного обучения}\label{sec_ML_models}
Машинное обучение является мощным инструментом для поиска взаимосвязи между входными и выходными данными в случаях, когда аналитическое исследование затруднительно. Применение эвристических подходов для раннего обнаружения эпидемиологических рисков в некоторых случаях позволяет улучшить качество прогнозирования.

Одним из представителей моделей машинного обучения являются динамические байесовские сети -- ориентированный граф, вершины которого соответствуют переменным модели, а ребра -- вероятностным зависимостям между ними, которые заданы определенными законами распределения~\cite{Sebastiani_2006}. После обучения как на большом, так и на малом количестве исходных данных байесовские сети позволяют оценить вероятность наступления некоторого события при наблюдаемой последовательности явлений. Для прогнозирования заболеваемости используется простая форма скрытых марковских моделей, основной идеей которых является сопоставление каждой случайной величины $Y_t$ (например, количество выявленных, госпитализированных случаев с COVID-19) с ненаблюдаемой случайной величиной $S_t$ (например, общее количество инфицированных индивидуумов), определяющей условное распределение $Y_t$~\cite{Strat_1999}. Таким образом, величина $Y_t$ зависит только от значения скрытой переменной $S_t$ в момент времени $t$, а последовательность $S_t$ обладает марковским свойством, то есть величина $S_t$ зависит только от $S_{t-1}$ (рис.~\ref{fig:ANN_Markov-chain_scheme}а).
\begin{figure}[!ht]
    \begin{minipage}[h]{0.45\linewidth}
    \center{\vspace{11mm}\includegraphics[width=\textwidth]{images/Markov_chain.png}\\[26pt] а)} 
    \end{minipage}
    \hfill
    \begin{minipage}[h]{0.45\linewidth}
    \center{\includegraphics[width=\textwidth]{images/ANN.png}\\ б)} 
    \end{minipage}
    \caption{Схема зависимостей в скрытой марковской модели (а) и ИНС с одним скрытым слоем (б).}
    \label{fig:ANN_Markov-chain_scheme}
\end{figure}

Искусственные нейронные сети (ИНС) представляют собой направленный взвешенный граф, вершины которого моделируют функционирование биологических нейронов (рис.~\ref{fig:ANN_Markov-chain_scheme}б). Обучение ИНС заключается
в вычислении коэффициентов связей между вершинами, определяющих силу входящих сигналов, и выполняется на основе эмпирических данных: статистики заболеваемости и при наличии, значений факторов, ее предопределяющих. Для корректного обучения ИНС необходим большой объем исторических данных. В
исследовании~\cite{Wieczorek_2020} рассматриваются возможности применения нейронных сетей для прогнозирования распространения COVID-19. Результаты работы сети разработанной архитектуры для некоторых регионов достигали 87\%.

\subsection{Модели на основе фильтрации}\label{sec_filtr_models}
Любые временные ряды заболеваемости можно рассматривать как случайный процесс, состоящий из сигнала, отражающего реальную эпидемическую обстановку, и высокочастотного шума. Фильтрация шума позволяет уточнить прогноз и может выполняться как в ходе предварительной обработки исходных данных, так и в составе самого алгоритма прогнозирования.

Одним из подходов является вейвлет-декомпозиция, в которой временной ряд представляется с помощью вейвлет-функций~\cite{Shmueli_2006}. Однако, такой подход используется совместно с другими моделями.

Одной из таких моделей является экспоненциальное сглаживание, представляющее собой частный случай взвешенного скользящего среднего, а именно значение заболеваемости $y_t$ в момент времени $t$ описывается взвешенной суммой последних наблюдений: $l_t = b y_t + (1 - b)y_{t-1}$. Здесь $b\in (0,1)$ -- коэффициент сглаживания, который обеспечивает уменьшение веса по мере старения данных, которое может рассматриваться как отражение естественного процесса обучения. Такой метод построения модели не подходит для рядов, в поведении которых присутствуют отчетливый тренд или сезонность. Для этих целей используются обобщенные модели~\cite{Gardner_1985}, например, сезонная модель Хольта-Винтерса~\cite{HoltWinters_1987}. Результаты прогнозирования ряда ежедневных ПЦР-тестов в Новосибирской области в рамках данной модели представлены на рис.~\ref{fig:forecasting}.

Любые эпидемические процессы можно описать следующей системой разностных уравнений:
\begin{eqnarray*}
\begin{array}{ll}
    {\bf x}_t = {\bf A}{\bf x}_{t-1} + {\bf w}_t,\\
    {\bf y}_t = {\bf H}{\bf x}_t + {\bf D}{\bf f}_t + {\bf v}_t,
\end{array}
\end{eqnarray*}
где ${\bf x}_t$~-- вектор переменных состояний системы в момент времени $t$, ${\bf y}_t$~-- вектор наблюдений, ${\bf f}_t$~-- вектор значений внешних факторов, ${\bf w}_t$ и ${\bf v}_t$~-- белый шум. Матрицы параметров ${\bf A}$, ${\bf H}$, ${\bf D}$ определяют модель эпидемического процесса и выбираются исходя из решаемой задачи -- краткосрочного или долгосрочного прогнозирования.

Такая форма записи позволяет предложить обобщенные модели распространения заболевания, в частности, модели на основе калмановской фильтрации~\cite{Hamilton_1994}.

\subsection{Выводы}
Результаты, полученные на основе временных рядов, использованы нами в дифференциальных и агентных моделях. Прогнозирование ежедневных ПЦР-тестов и индекса самоизоляции позволяют строить сценарии развития COVID-19 в регионе в зависимости от введения ограничительных мер, а именно количество ожидаемых выявленных, умерших, госпитализированных, критических случаев и индекса репродукции вируса (численные расчеты приведены в~Разделе~\ref{sec_num_results}).