
\documentclass[10pt]{amsart}
\usepackage[cp1251]{inputenc}
\usepackage[english,russian]{babel}
\usepackage{amsmath}
\usepackage{amssymb}
\usepackage{amsfonts}
\usepackage{graphicx}

\def\udcs{???.?} %Here the author places classificators of the paper according to Russian classification system
\def\mscs{??X??} %Here the author places  classificators according to the AMS classification list.
\setcounter{page}{144}

\newtheorem{lemma}{Lemma}
\newtheorem{theorem}{Theorem}
\newtheorem{definition}{Definition}
\newtheorem{corollary}{Corollary}
\newtheorem{proposition}{Proposition}

\def\logo{{\bf\huge S\raisebox{0.2ex}{\hspace{0.55ex}\raisebox{0.05ex}e\hspace{-1.65ex}$\bigcirc$}MR}}

\def\semrtop
     {
  \vbox{
     \noindent\logo
     \hspace{80mm}\raisebox{1ex}{ISSN 1813-3304 }

     \vspace{5mm}

     \begin{center}
     {\huge СИБИРСКИЕ \ ЭЛЕКТРОННЫЕ} \\[2mm]  %Headings in Russian
     {\huge МАТЕМАТИЧЕСКИЕ ИЗВЕСТИЯ} \\[2mm]
     {\large Siberian Electronic Mathematical Reports} \\[1mm]
     {\LARGE\tt{http://semr.math.nsc.ru}}\\[0.5mm]
%     {\small Институт математики им. С.Л.Соболева СО РАН}\\[-1mm]
%     {\small Sobolev Institute of Mathematics SB RAS}
     \end{center}
     \vspace{-3mm}
     \noindent
     \begin{tabular}{c}
     \hphantom{aaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaa} \\
     \hline\hline
     \end{tabular}

     \vspace{1mm}
     {\flushleft\it Том 18, стр. 1--11 (2021) \hspace{65mm}{\rm\small УДК 517.55}} %Volume, pages in Russian,
                                                                                    %filled by Editorial board
     \newline
         {\rm\small DOI~10.33048/semi.2021.18.xxx}\hphantom{aaaaaaaaaaaa}{\rm\small MSC 32A25, 32A50, 97I50, 97I60, 97I80}
  }%\vbox
}

\begin{document}
\renewcommand{\refname}{Литература}
\renewcommand{\proofname}{Proof.}
\renewcommand{\figurename}{Fig.}


\thispagestyle{empty}

\title[Формула Карлемана в матричных областях Зигеля]{Формула Карлемана в матричных областях Зигеля}
\author{{Матякубов З.К., Рахмонов У.С.}}%

\address{Зокир Кадамович Матякубов
\newline\hphantom{iii} Хорезмская академия Маъмуна,
\newline\hphantom{iii} pr. Хива, 4,
\newline\hphantom{iii} 630090, Хорезм, Узбекистан}%
\email{zokirbek.1986@mail.ru}%

\address{Рахмонов Уктам Содикович
\newline\hphantom{iii} Ташкентский государственный технический университет,
\newline\hphantom{iii} ул. Университетская, 2,
\newline\hphantom{iii} 110090, Ташкент, Узбекистан}%
\email{uktam\_rakhmonov@mail.ru}%

\thanks{\sc Матякубов З.К., Рахмонов У.С.,
Формула Карлемана в матричных областях Зигеля}
\thanks{\copyright \ 2021 Матякубов З.К.}
\thanks{\rm Работа выполнена при финансовой поддержке министерства инновационного развития Республики Узбекистана, по гранту ОТ-Ф4-(37+29)- Функциональные свойства A- аналитических функций
и их применения и некоторые задачи комплексного анализа в матричных областях}
\thanks{\it Received  October, 31, 2020, published  Aprel,\_ ,  2021.}%


\semrtop \vspace{1cm}
\maketitle {\small
\begin{quote}
\noindent{\sc Abstract. } In this article, the Carleman formula for the Siegel region was found. \medskip

\noindent{\bf Key words:} Carleman's formula, Shilov boundary, Cauchy kernel, matrix unit disc, Siegel domain.
 \end{quote}
}



\section{Введение}

Интегральные представления голоморфных функций играют важную роль в классической теории функций одного комплексного переменного и в многомерном комплексном анализе. Они решают классическую задачу восстановления в точках области $D$ голоморфной функции, достаточно хорошо себя ведущей при подходе к границе $\partial D$, по ее значениям на $\partial D$ или на $S-$граница Шилова. Наряду с этой классической задачей можно и естественно рассматривать следующую: восстановить голоморфную функцию в $D$ по ее значениям на некотором множестве $M\subset \partial D$, не содержащем $S$. Конечно, $M$ должно быть множеством единственности для рассматриваемого класса голоморфных функций.
	
Первый результат в направление решение такой задачи получил Т. Карлеман в 1926 г. для области $D\subset \mathbb{C}$ одного специального вида. Его идею введения «гасящей» функции в интегральную формулу Коши развили Г. М. Голузин и В. И. Крылов в 1933 г. применительно к односвязным плоским областям. Их метод предусматривал построение некоторой вспомогательной голоморфной функции, зависящей от множества $M,$ что было возможно для односвязных областей $D\subset \mathbb{C},$ но, вообще говоря, уже невозможно для многосвязных областей в $\mathbb{C}$ или для областей в ${{\mathbb{C}}^{n}},\ n>1$.

В 1935 году Э. Картан доказал, что существуют только шесть возможных типов неприводимых, однородных, ограниченных, симметрических областей. Из них $\Re_{I}, \Re_{II}, \Re_{III}$ и $\Re_{IV}$ называются классическими областями (см. \cite{Hua}):
\[\Re_{I} =\left\{Z\in {\mathbb C}\left[m\times k\right]:I^{(m)} -Z\overline{Z}' >0\right\},\]
\[\Re_{II} =\left\{Z\in {\mathbb C}\left[m\times m\right]:I^{(m)} -Z\overline{Z}>0,\, \, \, \, \forall Z'=Z\right\},\]
\[\Re_{III} =\left\{Z\in {\mathbb C}\left[m\times m\right]:I^{(m)} +Z\overline{Z}>0,\, \, \, \, \, \, \forall Z'=-Z\right\},\]
\[\Re_{IV} =\left\{z\in {\mathbb C}^{n} :\left|zz'\right|^{2} +1-2\overline{z}z'>0,\, \, \, \, \, \left|zz'\right|<1\right\}.\]
Размерность этих областей равны $mk, m(m+1)/2, m(m-1)/2, n$, соответственно.

Все эти области биголоморфно неэквивалентны, поэтому комплексный анализ для них строятся поразному.

Для симметрических областей формулы Карлемана получены в работе \cite{KN89}. Доказательства из \cite{KN89} не переносятся на
области Зигеля, поскольку в области Зигеля нет точки, через которую можно провести достаточно мощное семейство комплексных прямых, пересекающих остов $D$ по кривой (в симметрических областях такой точкой является точка 0). Поэтому в работе \cite{KN90} восстановлено значение голоморфной функции не в области, а на остове $D$.

В настоящее время изучение интегральных представлений голоморфных функций и их приложений в матричных шарах, ассоциированных с указанными выше классическими областями, стало одним из актуальных вопросов. В работе \cite{Kos99} описаны голоморфные автоморфизмы для матричного шара первого типа. Интегральные формулы для матричного шара второго типа были получены Г. Худайбергановым и З. Матякубовым \cite{KhUZM}, \cite{KhU}, а третьего типа были изучены Г. Худайбергановым, У. Рахмоновым и были найдены интегральные формулы \cite{KhOtR}, \cite{KhRSC}.

В работе \cite{UjVo} вычисляются объемы матричного шара третьего типа и обобщенного шара Ли. Полные объемы этих областей необходимы для нахождения ядер интегральных формул для этих областей (ядра Бергмана, Коши-Сеге, Пуассона и др.(см. нап. \cite{KhU}, \cite{KJ20})). В работе \cite{KhXJL} были определены голоморфные и плюригармонические функции для классических областей первого типа Картана, а также изучены операторы Лапласа и Хуа Ло-Кена. Более того, между этими операторами была установлена взаимосвязь.

В данной работе найдена формула Карлемана для области Зигеля.

\section{Предварительные сведения}

Рассмотрим пространство $m^{2}$ комплексных переменных, обозначаемое через ${\mathbb C}^{m^{2}}$. В некоторых вопросах точки  $Z$ этого пространства удобно представлять в виде квадратных $[m\times m]$  - матриц, т.е. в виде $Z=(z_{ij})_{i,j=1}^{m}$.  При таком представлении точек пространство ${\mathbb C}^{m^{2}}$ будем обозначать ${\mathbb C}[m\times m]$.

Верхняя полуплоскость не является ограниченной областью, но формулы Карлемана для нее играют важную роль в дальнейшем изложении. В данной статье мы рассматриваем формулы Карлемана в матричных областях Зигеля.

Пусть ${{\Re }_{II}}-$классическая область второго типа по классификации Э.Картана, определяется как множество
$${{\Re }_{II}}=\left\{ Z\in \mathbb{C}[m\times m]:\ I-Z\overline{Z}>0 \right\},$$
где $Z-$симметрические матрицы порядка $m,$ ($I-$единичная $[m\times m]-$матрица). Граница ${{\Re }_{II}}$ состоит из множества
$$\partial {{\Re }_{II}}=\left\{ Z\in \mathbb{C}[m\times m]:\ \det (I-Z\overline{Z})=0,\quad I-Z\overline{Z}\ge 0 \right\},$$
т.е. из множества матриц $Z,$ для которых матрица $I-Z\overline{Z}$ является неотрицательно определенной, но не положительно определенной эрмитовой матрицей (ее собственные значения неотрицательны и хотя бы одно из них равно нулю). На границе лежит множество
$${{S}_{II}}=\left\{ Z\in \mathbb{C}[m\times m]:\ Z\overline{Z}=I \right\},$$
которое называется остовом   ${{\Re }_{II}}$ (заметим, что ${{S}_{II}}$ является границей Шилова для ${{\Re }_{II}}$ (см. \cite[стр. 95]{Afc})). Ясно, что ${{S}_{II}}$ есть множество всех унитарных $[m\times m]-$матриц (множество унитарных матриц порядка $m$ обозначается как обычно $U(m)$). Следует отметить, что множество матриц
$$\left\{ Z:\det (I-Z\overline{Z})=0 \right\}$$
содержит ограниченную компоненту, выделяемую условием $I-Z\overline{Z}\ge 0$, и неограниченную, для которой $I-Z\overline{Z}\le 0$. Эти компоненты пересекаются по остову   ${{S}_{II}}$.

Пусть множество $M\subset {{S}_{II}}$ и $\mu (M)>0$, где $\mu -$нормированная мера Лебега на ${{S}_{II}}.$

Параметризуем ${{S}_{II}}$ следующим образом: $U={{e}^{i\phi }}u$, $0\le \phi \le 2\pi $, $u\in SU(m)$, где $SU(m)$— группа специальных унитарных матриц, т. е. $\det u=1$. Поскольку $\det U={{e}^{im\phi }}\det u={{e}^{im\phi }},$ то множество $\left\{ U:U=\lambda u,\,\,\left| \lambda  \right|=1 \right\}\,,\,\,u\in SU(m)$  пересекает множество элементов группы $SU(m)$ ровно в  $m$ точках,  соответствующих корням из единицы ${{e}^{im\phi }}=1$.


\textbf{Лемма 1 (см. \cite{Afc}).} \emph{Мера Хаара $d\mu$  многообразия ${{S}_{II}}$ может быть записана в виде
$d\mu =h(u)d\varphi d{{\mu }_{0}}(u)$,
где $d{{\mu }_{0}}$— нормированная мера Лебега на $SU(m)$, a $h$ — гладкая положительная функция на $SU(m)$.}

Введём обозначение
$${{M}_{0,u}}=\left\{ U:U\in M,\,U=\lambda u,\,\,\lambda ={{e}^{i\varphi }}\,,\,\,0\le \varphi \le 2\pi  \right\}\,,\,u\in SU(m),$$
$$M_{0}^{'}=\left\{ u:\,\,u\in SU(m)\,,\,{{m}_{1}}{{M}_{0,u}}>0 \right\}.$$
где ${{m}_{1}}-$мера Лебега.
По теореме Фубини ${{\mu }_{0}}(M_{0}^{'})>0$. Обозначим
$${{\psi }_{0}}(U)=\frac{1}{2\pi i}\int\limits_{{{M}_{0,u}}}{\frac{\eta +\lambda }{\eta -\lambda }\frac{d\eta }{\eta }}\,\,\,,\,\,\,\,\,{{\varphi }_{0}}=\exp {{\psi }_{0}}\,\,.$$

Класс Харди ${H}^{1}({{\Re }_{II}})$ состоит из всех функций $f$, голоморфных в области ${\Re }_{II}$ для которых
$${{\left\| f \right\|}_{{{H}^{1}}}}=\underset{0<r<1}{\mathop{\sup }}\,\int\limits_{{{S}_{II}}}{\left| f\left( rZ \right) \right|d\mu <}\infty,$$
здесь $rZ=(r{{z}_{11}},\,r{{z}_{12}},...,\,r{{z}_{nn}}).$

\textbf{Лемма 2 (см. \cite{Afc}).} Пусть $f\in {{H}^{1}}({{\Re }_{II}})$. Тогда справедлива следующая формула
\[f(0)=\frac{m}{\int\limits_{M_{0}^{'}}{d{{\mu }_{1}}}}\underset {j\to \infty }{\mathop{\lim }}\int\limits_{M}{f(U){{\left[ \frac{{{\varphi }_{0}}(U)}{{{\varphi }_{0}}(0)} \right]}^{j}}d{{\mu }_{U}}}.\]

Пусть далее ${{\varphi }_{A}}(Z)$—автоморфизм области ${{\Re }_{II}}$, переводящий точку $A$ в $0$ (см. \cite{Hua}). Обозначим
$${{\mu }_{A}}(K)={{\mu }_{1}}({{\varphi }_{A}}^{-1})(K)),$$
$${{M}_{A,\omega }}=\{U:U\in M,\,U={{\varphi }_{A}}^{-1}\left( \lambda {{\varphi }_{A}}^{-1}(\omega ) \right)\},\,\,\left| \lambda  \right|=1,\,\,\,\omega \in {{S}_{A}}={{\varphi }_{A}}(SU(m)), $$
 $$M_{A}^{'}=\{\omega :\,\omega \in {{S}_{A}}\,,\,{{m}_{1}}{{M}_{A,\omega }}>0\}, $$$$
 {{\psi }_{A}}(U)=\frac{1}{2\pi i}\int\limits_{{{M}_{A,\omega }}}{\frac{\eta +\lambda }{\eta -\lambda }}\frac{d\eta }{\eta }\,\,,\,\,\,\,\,{{\varphi }_{A}}=\exp {{\psi }_{A}},$$
 (${{\psi }_{A}}$ зависит от $U$, поскольку $\lambda $ и $\omega $ - функции $U$).

 \textbf{Теорема 1 (см. \cite{KN89}).} \emph{Пусть $f\in {{H}^{1}}({{\Re }_{II}})$. Тогда для любой точки $A\in {{\Re }_{II}}$ справедлива формула Карлемана}
$$f(A)=\frac{m}{\int\limits_{M_{A}^{'}}{d{{\mu }_{A}}}}\underset{j\to \infty }{\mathop{\lim }}\,{{\int\limits_{M}{f(U)\left[ \frac{{{\varphi }_{A}}(U)}{{{\varphi }_{A}}(A)} \right]}}^{j}}H(A,\overline{U})d{{\mu }_{U}},$$
\emph{где $H(A,\overline{U})-$ядро Коши для классической области второго типа.}


\section{Основные результаты}

Матричной верхней полуплоскостью называется область (область Зигеля)
$${{D}_{II}}=\left\{ W\in \mathbb{C}[m\times m]:\ \operatorname{Im}W>0 \right\}$$
где $W=\left\| {{w}_{jk}} \right\|$, ($j,k=1,...,m$)-симметрическая матрица порядка $m$, элементами которой служат комплексные числа из $\mathbb{C}$, где $\operatorname{Im}W$ определено как
$$\operatorname{Im}W=\frac{1}{2i}(W-\overline{W}).$$

Очевидно, что матрица $\operatorname{Im}W$ эрмитова: ее элементы ${{h}_{jk}}=\frac{1}{2i}({{w}_{jk}}-{{\overline{w}}_{jk}})$ удовлетворяют условиям ${{\overline{h}}_{jk}}={{h}_{kj}}$, и в частности, ${{h}_{jj}}=\operatorname{Im}{{w}_{jj}}$ вещественны. Неравенство $H>0$ для эрмитовой матрицы $H$ означает, что она положительно определена, т.е. все ее собственные значения положительны.

На $\partial {{D}_{II}}$ имеет множество
$${{\Gamma}_{II}}=\left\{ W\in \mathbb{C}[m\times m]:\ \operatorname{Im}W=0 \right\},$$
которое называется остовом области ${{D}_{II}}$. Оно состоит из всех эрмитовых матриц порядка $m$.

Аналогично лемме 10.1 и теоремы 10.3 из \cite{KhKSh} доказывается следующая

\textbf{Лемма 3.} \emph{Преобразование  $W=\Phi (Z)$ (преобразование Кэли ), где}
$$W=\Phi (Z)=i(I+Z){{(I-Z)}^{-1}},\eqno(1)$$
\emph{является биголоморфным отображением области  ${{\Re }_{II}}$ на ${{D}_{II}}$, при этом ${{S}_{II}}$ переходит в} ${{\Gamma }_{II}}$.

\textbf{Доказательство.}   Сначала докажем, что для $Z\in {{\Re }_{II}}$ матрица $I-Z$ невырождена. Прежде всего заметим, что из условия $I-Z\overline{Z}>0$ вытекает   $Z\ne 0.$

Пусть $w-m$ мерный вектор-столбец и
\[(I-Z)w=0.\]
Тогда $w=Zw$, откуда ${{w}^{*}}={{w}^{*}}\overline{Z}$.  Далее,
                            $${{w}^{*}}w={{w}^{*}}\overline{Z}Zw \,\ \text{и} \,\ {{w}^{*}}(I-\overline{Z}Z)w=0.$$
Так как условия
$$I-Z\overline{Z}>0\,\ \text{и} \,\ I-\overline{Z}Z>0$$
эквивалентны (см. \cite{Hua}), то левая часть последнего равенства при $w\ne 0$ положительно определена. Следовательно, $w=0$. Это означает невырожденность матрицы $I-Z$, т.е. существование ${{(I-Z)}^{-1}}$ и голоморфность отображения $\Phi $ в области ${{\Re }_{II}}$.

Далее, из (1) найдем:
\[\operatorname{Im}W=\frac{1}{2i}(W-{{W}^{*}})=\frac{1}{2i}\left[ i(I+Z){{(I-Z)}^{-1}}+i{{(I-\overline{Z})}^{-1}}(I+\overline{Z}) \right]=\]
\[=\frac{1}{2}{{(I-\overline{Z})}^{-1}}\left[ (I-\overline{Z})(I+Z)+(I+\overline{Z})(I-Z) \right]{{(I-Z)}^{-1}}=\]
\[=\frac{1}{2}{{(I-\overline{Z})}^{-1}}\left[ I+Z-\overline{Z}-\overline{Z}Z+I-Z+\overline{Z}-\overline{Z}Z \right]{{(I-Z)}^{-1}}=\]
\[={{(I-\overline{Z})}^{-1}}\left[ I-\overline{Z}Z \right]{{(I-Z)}^{-1}}.\]

Отсюда видно, что при невырожденности  $I-Z$, эрмитовы матрицы
$$\operatorname{Im}W  \,\ \text{и} \,\  I-\overline{Z}Z$$
одновременно положительно определены. Мы доказали, что Ф отображает ${{\Re }_{II}}$ в ${{D}_{II}}$.

Из (1) можно найти обратное отображение $Z={{\Phi }^{-1}}(W)$:
$$Z={{(W+iI)}^{-1}}(W-iI).\eqno(2)$$

При $W\in {{D}_{II}}$ матрица $W+iI$ невырождена (это доказывается, как и выше). Поэтому отображение ${{\Phi }^{-1}}$ голоморфно в ${{D}_{II}}$. Из (1) также видно, что при $W\in {{D}_{II}}$ невырождена и матрица $I-Z$, следовательно,  $I-Z\overline{Z}>0$, т.е. ${{\Phi }^{-1}}$ отображает ${{D}_{II}}$ в ${{\Re }_{II}}$.

Итак, отображение $\Phi $ биголоморфно отображает ${{\Re }_{II}}$  на ${{D}_{II}}$, причем, из (2) ясно, что оно преобразует ${{S}_{II}}$ в ${{\Gamma}_{II}}$.

\emph{Лемма доказана.}

С помощью преобразования классической области второго типа $\Phi $ и автоморфизма ${{\Phi }_{A}}$ переводящее точку $A\in {{\Re }_{II}}$ в 0 ($0-$нулевая матрица порядка $m$) (см. \cite{Hua}), определим следующее преобразование
$${{\Psi }_{B}}=\Phi \circ {{\Phi }_{A}}\circ {{\Phi }^{-1}},\,\,B=\Phi (A),$$
которое является автоморфизмом области ${{D}_{II}}$, переводящий точку $B$ из ${{D}_{II}}$ в точку $iI$.

Пусть $\dot{U}$— элемент объема в ${{S}_{II}}$, a $\dot{V}$— элемент объема в ${{\Gamma }_{II}}$. В \cite{Hua} доказано следующее соотношение между $\dot{U}$ и $\dot{V}$ при отображении $\Phi $:
$$\dot{U}={{2}^{\frac{m(m+1)}{2}}}{{(\det ({{V}^{2}}+I))}^{-\frac{m+1}{2}}}\dot{V},\eqno(3)$$
где $V\in {{\Gamma }_{II}}$. Так как ${{V}^{*}}=V$ и
$$\det ({{V}^{2}}+I)=\det (V-iI)\det (V+iI)=$$
$$=\overline{\det (V+iI)}\det (V+iI)={{\left| \det (V+iI) \right|}^{2}},$$
то (3) можно записать в виде
   $$\dot{U}={{2}^{\frac{m(m+1)}{2}}}{{\left| \det (V+iI) \right|}^{-(m+1)}}\dot{V}.\eqno(4)$$

Для рассмотрения многомерных аналогов формул Карлемана желательно расширить класс функций, для которых верны эти формулы в матричной верхней полуплоскости ${{D}_{II}}$ (область Зигеля).

Класс функций, голоморфных в области ${{D}_{II}}$ обозначаем $A({{D}_{II}})$. Пусть $f\in A({{D}_{II}})$
 и \[\frac{f\left( W \right)}{{{\det }^{2}}\left( W+iI \right)}\in {{H}^{1}}\left( {{\Gamma }_{II}} \right),\eqno(5)\] т. е. по определению, найдется такое ${{C}_{1}}>0,$ что, выполняется соотношение
$$\underset{r\to 1-0}{\mathop{\lim }}\,\int\limits_{{{\Gamma }_{II}}}{\left| \frac{f\left( rW \right)}{{{\det }^{2}}\left( rW+iI \right)} \right|d\mu_{V}}=$$
$$=\int\limits_{{{\Gamma }_{II}}}{\left| \frac{f\left( V \right)}{{{\det }^{2}}\left( V+iI \right)} \right|d\mu_{V}}<{{C}_{1}}<+\infty. \eqno(6)$$

Теперь, используя отображение (1) и соотношения (3) и (4), мы получим следующие равенства:
$$\int\limits_{{{S}_{II}}}{\left| f\left( i\left( I+U \right){{\left( I-U \right)}^{-1}} \right) \right|d\mu_{U}}=$$
$$={{2}^{\frac{m(m+1)}{2}}}\int\limits_{{{\Gamma }_{II}}}{\left| f\left( V \right){{\left| \det (V+iI) \right|}^{-(m+1)}} \right|d\mu_{V} }=$$
$$={{2}^{\frac{m(m+1)}{2}}}\int\limits_{{{\Gamma }_{II}}}{\left| \frac{f\left( V \right)}{{{\det }^{2}}\left( V+iI \right)}\cdot {{\left| \det (V+iI) \right|}^{-m+1}} \right|d\mu_{V}}. \eqno(7)$$

Интеграл (7) ограничен, потому что по соотношению (6), интеграл дроби первого множителя ограничен,
а также интеграл (7) сходится, так как под интегралом существует $V+iI$-невырожденная  матрица\footnote{На самом деле этот интеграл ведет себя как несобственный интеграл $\int\limits_{a}^{+\infty }{\frac{1}{{{x}^{\alpha }}}dx},\,\left( a>0 \right)$, как известно, этот интеграл сходится в $\alpha >2$.}.

Из этого следует, что найдется ${{C}_{2}}>0,$
\[\int\limits_{{{S}_{II}}}{\left| f\left( i\left( I+U \right){{\left( I-U \right)}^{-1}} \right) \right|d\mu_{U}}<{{C}_{2}},\]
т.е. \[f\left( i\left( I+Z \right){{\left( I-Z \right)}^{-1}} \right)\in {{H}^{1}}\left( {{S}_{II}} \right).\eqno(8)\]

Следовательно, для справедливость (8) тогда и только тогда, когда справедливо (5). Заметим, что скалярный вариант вышеприведенного соотношения представлен в работе \cite[стр. 147]{Kus84}.

\textbf{Теорема 2. }\emph{Если функция $f\in A({{D}_{II}})$ удовлетворяет условию (5) и множество $\tilde{M}\in \partial {{D}_{II}}$ имеет положительную меру Лебега, то верна следующая формула Карлемана}
$$f(W)=\frac{{{\det }^{\frac{m+1}{2}}}(W+iI)}{{{i}^{{{\left( \frac{m+1}{2} \right)}^{2}}}}}\times$$$$\times\underset{j\to \infty }{\mathop{\lim }}\,{{\int\limits_{{\tilde{M}}}{f(V)\left[ \frac{\tilde{\varphi }(V)}{\tilde{\varphi }(W)} \right]}}^{j}}\frac{d{{\mu }_{V}}}{{{\det }^{\frac{m+1}{2}}}(\overline{V}-W){{\det }^{\frac{m+1}{2}}}(V+iI)},\eqno(9)$$
\emph{предел в которой достигается равномерно на компактах из }$\partial {{D}_{II}}$, где $V\in \tilde{M}.$

\textbf{Доказательство. } Пусть $F(Z)=f(i(I+Z){{(I-Z)}^{-1}})$, тогда $F(Z)\in {{H}^{1}}({{\Re }_{II}})$ и справедлива формула Карлемана
$$F(Z)=\underset{j\to \infty }{\mathop{\lim }}\,{{\int\limits_{M}{F(U)\left[ \frac{\varphi (U)}{\varphi (Z)} \right]}}^{j}}\frac{d{{\mu }_{U}}}{{{\det }^{\frac{m+1}{2}}}(I-Z{{U}^{*}})},$$
где $M-$образ $\tilde{M}$ при отображении $Z={{(W+iI)}^{-1}}(W-iI)$ области Зигеля  на классическую область второго типа.

Далее рассмотрим обратное отображение к (1)
$$Z={{(W+iI)}^{-1}}(W-iI),\ \ U={{(V+iI)}^{-1}}(V-iI),$$
и сделаем следующие вычисления:
$$I-Z{{U}^{*}}=I-{{(W+iI)}^{-1}}(W-iI)(\overline{V}+iI){{(\overline{V}-iI)}^{-1}}=$$
$$={{(W+iI)}^{-1}}\left[ (W+iI)(\overline{V}-iI)-(W-iI)(\overline{V}+iI) \right]{{(\overline{V}-iI)}^{-1}}=$$
$$={{(W+iI)}^{-1}}\left[ W\overline{V}-iW+i\overline{V}+I-W\overline{V}-iW-i\overline{V}-I \right]{{(\overline{V}-iI)}^{-1}}=$$
$$=2i{{(W+iI)}^{-1}}\left[ \overline{V}-W \right]{{(\overline{V}-iI)}^{-1}},$$
и условие (3) будет выполняться
$$d{{\mu }_{U}}={{2}^{\frac{m(m+1)}{2}}}{{\left| \det (V+iI) \right|}^{-(m+1)}}d{{\mu }_{V}}.$$
Вычисления показывают, что
$$\frac{d{{\mu }_{U}}}{{{\det }^{\frac{m+1}{2}}}(I-Z{{U}^{*}})}=\frac{{{\det }^{\frac{m+1}{2}}}(W+iI){{\det }^{\frac{m+1}{2}}}(\overline{V}-iI)}{{{(2i)}^{\frac{m(m+1)}{2}}}{{\det }^{\frac{m+1}{2}}}(\overline{V}-W)}\cdot \frac{{{2}^{\frac{m(m+1)}{2}}}d{{\mu }_{V}}}{{{\left| {{\det }^{\frac{m+1}{2}}}(V+iI) \right|}^{2}}}=$$
$$=\frac{{{\det }^{\frac{m+1}{2}}}(W+iI)}{{{i}^{\frac{m(m+1)}{2}}}{{\det }^{\frac{m+1}{2}}}(\overline{V}-W){{\det }^{\frac{m+1}{2}}}(V+iI)}d{{\mu }_{V}}.$$

Далее, $\varphi $ играет роль $\tilde{\varphi }$ для множества $M.$ По теореме М.А.Лаврентьева (см. \cite{PriG}) $M-$ множество тоже положительной меры Лебега, такое что гармоническая мера $M$ переходит в гармоническую меру $\tilde{M}$, следовательно, $\varphi $ перейдет в $\tilde{\varphi }$, и мы приходим к формуле (9).

\emph{Теорема доказана.}

\bigskip
\begin{thebibliography}{1}


\bibitem{Hua} Хуа Ло-кен,
{\it Гармонический анализ функций многих комплексных переменных в классических областях}, М.: ИЛ, 1959. – 163 с.

\bibitem{KN89}  А. М. Кытманов, Т. Н. Никитина, {\it Аналоги формулы Карлемана в классических областях} Матем. заметки.— 1989.— Т. 45.—№ 3.—С. 87—93.

\bibitem{KN90}  А. М. Кытманов, Т. Н. Никитина, {\it Многомерные формулы Карлемана в областях Зигеля}, Изв. вузов. Матем., 1990, № 3, 44–49; Soviet Math. (Iz. VUZ), 34:3 (1990), 50–56

\bibitem{Kos99} С. Косбергенов,  {\it О формуле Карлемана для матричного шара}, Изв. вузов. Матем. № 1, 76–79 (1999);
Russian Math. (Iz. VUZ), 43:1, 72–75(1999).

\bibitem{KhUZM}  G.Khudayberganov, U.S.Rakhmonov, Z.Q.Matyakubov, {\it Integral formulas for some matrix domains},
Contemporary Mathematics, AMS, Volume 662, pp. 89-95.(2016).

\bibitem{KhU}  G.Khudayberganov, U.S.Rakhmonov, {\it The Bergman and Cauchy-Szego kernels for matrix ball of the second
type}, Journal of Siberian Federal University. Mathematics and Physics 7:3, pp. 305-310.(2014).

\bibitem{KhOtR}  G.Khudayberganov, B.P.Otemuratov, U.S.Rakhmonov, {\it Boundary Morera theorem for the matrix ball of the
third type}, Journal of Siberian Federal University. Mathematics and Physics, 11:1, 40-45.(2018).

\bibitem{KhRSC}  G.Khudayberganov, U.S.Rakhmonov, {\it Carleman Formula for Matrix Ball of the Third Type}, Algebra,
Complex Analysis, and Pluripotential Theory. USUZCAMP 2017. Springer Proceedings in Mathematics and
Statistics vol. 264, pp. 101-108, Springer, Cham.(2017).

\bibitem{UjVo} U. S. Rakhmonov, J. Sh. Abdullayev, {\it On volumes of matrix ball of third type and generalized Lie balls}, Вестн. Удмуртск. ун-та. Матем. Мех. Компьют. науки, 29:4 (2019), 548–557

\bibitem{KJ20} G. Khudayberganov, J. Abdullayev, \textit{Relationship between the Kernels Bergman and Cauchy-Szeg\H{o} in the domains $\tau ^{+} \left(n-1\right)$ and $\Re _{IV}^{n} $}, Journal of Siberian Federal University. Mathematics \& Physics, {\bf 13:5}, 559-567(2020).


\bibitem{KhXJL} Г. Худайберганов, А. М. Халкназаров, Ж. Абдуллаев, {\it Об операторах Лапласа и Хуа Ло-Кена}, Изв. вузов. Матем., 2020, № 3, 74–79

\bibitem{Afc} Л. А. Айзенберг, {\it Формулы Карлемана в комплексном анализе}, Новосибирск: Наука. 1990. - 248 с.

\bibitem{Kus84} П. Кусис, {\it Введение в теорию пространств $H^{p}$}  . М.: Мир. 1984. 368 с.

\bibitem{KhKSh} Худайберганов, А. М. Кытманов, Б. А. Шаимкулов, {\it Анализ в матричных  областях}, Монография. Красноярск: Сибирский федеральный ун-т, 2017. – 292 с.

\bibitem{PriG} И. И. Привалов, {\it Граничные свойства аналитических функций}, М.: Гостехиздат, 1950. – 338 с.













\end{thebibliography}
\end{document}
