Skip to content

Commit

Permalink
fix
Browse files Browse the repository at this point in the history
  • Loading branch information
MakarenkoAI committed Jul 26, 2024
1 parent 0d3bd67 commit 36e5726
Showing 1 changed file with 0 additions and 107 deletions.
107 changes: 0 additions & 107 deletions Contents/part_ps/src/sd_ann.tex
Original file line number Diff line number Diff line change
Expand Up @@ -340,39 +340,6 @@
\end{itemize}}
\end{scnindent}

\scnheader{формальный нейрон}
\scnidtf{искусственный нейрон}
\scnidtf{нейрон}
\scnidtf{ф.н.}
\scnidtf{нейронный элемент}
\scnidtf{множество нейронов искусственных нейронных сетей}
\scnidtf{математическая модель реального биологического нейрона}
\scntext{примечание}{Отдельный формальный нейрон является искусственной нейронной сети с одним нейроном в единственном слое.}
\scnsubset{искусственная нейронная сеть}
\scntext{пояснение}{\textbf{\textit{формальный нейрон}} --- это основной элемент \textit{искусственной нейронной сети}, применяющий свою \textit{функцию активации} (\scncite{Golovko2017}) к сумме произведений входных сигналов на весовые коэффициенты:
$y \eq F(\sum\underscore{\scnleftcurlbrace i \eq 1\scnrightcurlbrace}\upperscore{\scnleftcurlbrace n\scnrightcurlbrace} w\underscore{i} x\underscore{i} - T) \eq F(WX - T)$
где $X \eq (x\underscore{1},x\underscore{2},...,x\underscore{n})\upperscore{\scnleftcurlbrace T\scnrightcurlbrace}$ --- вектор входного сигнала; $W - (w\underscore{1},w\underscore{2},...,w\underscore{n})$ --- вектор весовых коэффициентов; \textit{T} --- пороговое значение;
\textit{F} --- функция активации.}
\scnrelfrom{изображение}{\scnfileimage[20em]{Contents/part_ps/src/images/sd_ps/sd_ann/neuron.png}}
\scntext{примечание}{Формальные нейроны могут иметь полный набор связей с нейронами предшествующего слоя или неполный (разряженный) набор связей.}
\begin{scnsubdividing}
\scnitem{полносвязный формальный нейрон}
\begin{scnindent}
\scnidtf{нейрон, у которого есть полный набор связей с нейронами предшествующего слоя}
\scntext{пояснение}{отдельный обрабатывающий элемент и.н.с., выполняющий функциональное преобразование взвешенной суммы элементов вектора входных значений с помощью функции активации}
\end{scnindent}
\scnitem{сверточный формальный нейрон}
\begin{scnindent}
\scntext{пояснение}{Отдельный обрабатывающий элемент и.н.с., выполняющий функциональное преобразование результата операции свертки матрицы входных значений с помощью функции активации.}
\scntext{примечание}{Сверточный формальный нейрон может быть представлен полносвязным формальным нейроном.}
\scntext{примечание}{Сверточный формальный нейрон с соответствующим ему ядром свертки может быть представлен нейроном с неполным набором связей.}
\end{scnindent}
\scnitem{рекуррентный формальный нейрон}
\begin{scnindent}
\scntext{пояснение}{Формальный нейрон, имеющий обратную связь с самим собой или с другими нейронами и.н.с.}
\end{scnindent}
\end{scnsubdividing}

\scnheader{формальный нейрон\scnrolesign}
\scnidtf{формальный нейронный элемент\scnrolesign}
\scnidtf{нейронный элемент\scnrolesign}
Expand Down Expand Up @@ -444,80 +411,6 @@
\scnsubset{ролевое отношение}
\scntext{пояснение}{\textbf{\textit{признак}} --- множество ролевых отношений, каждое из которых связывает некоторый п.в.а. с численным значением, которое характеризует данный п.в.а. с какой-либо стороны.}

\scnheader{функция активации*}
\scnidtf{функция активации нейрона*}
\scniselement{неролевое отношение}
\scniselement{бинарное отношение}
\scntext{пояснение}{\textbf{\textit{функция активации*}} --- неролевое отношение, связывающее формальный нейрон с функцией, результат применения которой к \textbf{\textit{взвешенной сумме нейрона}} определяет его \textbf{\textit{выходное значение}}.}
\scnrelfrom{область определения}{\scnnonamednode}
\begin{scnindent}
\begin{scnreltoset}{объединение}
\scnitem{формальный нейрон}
\scnitem{функция}
\end{scnreltoset}
\end{scnindent}
\scnrelfrom{первый домен}{формальный нейрон}
\scnrelfrom{второй домен}{функция}
\begin{scnindent}
\begin{scnsubdividing}
\scnitem{линейная функция}
\begin{scnindent}
\scntext{формула}{
\begin{equation*}
y \eq kS
\end{equation*}
где \textit{k} --- коэффициент наклона прямой, \textit{S} --- в.с.}
\end{scnindent}
\scnitem{пороговая функция}
\begin{scnindent}
\scntext{формула}{
\begin{equation*}
y \eq sign(S) \eq
\begin{cases}
1, S > 0,\\
0, S \leq 0
\end{cases}
\end{equation*}}
\end{scnindent}
\scnitem{сигмоидная функция}
\begin{scnindent}
\scntext{формула}{
\begin{equation*}
y \eq \frac{1}{1+e\upperscore{\scnleftcurlbrace -cS\scnrightcurlbrace}}
\end{equation*}
где \textit{с} > 0 --- коэффициент, характеризующий ширину сигмоидной функции по оси абсцисс, \textit{S} --- в.с.}
\end{scnindent}
\scnitem{функция гиперболического тангенса}
\begin{scnindent}
\scntext{формула}{
\begin{equation*}
y \eq \frac{e\upperscore{\scnleftcurlbrace cS\scnrightcurlbrace}-e\upperscore{\scnleftcurlbrace -cS\scnrightcurlbrace}}{e\upperscore{\scnleftcurlbrace cs\scnrightcurlbrace}+e\upperscore{\scnleftcurlbrace -cS\scnrightcurlbrace}}
\end{equation*}
где \textit{с} > 0 --- коэффициент, характеризующий ширину сигмоидной функции по оси абсцисс, \textit{S} --- в.с.}
\end{scnindent}
\scnitem{функция softmax}
\begin{scnindent}
\scntext{формула}{
\begin{equation*}
y\underscore{j} \eq softmax(S_j) \eq \frac{e\upperscore{\scnleftcurlbrace S\underscore{j}\scnrightcurlbrace}}{\sum\upperscore{j} e\upperscore{\scnleftcurlbrace S\underscore{j}\scnrightcurlbrace}}
\end{equation*}
где $S\underscore{j}$ --- в.с. \textit{j}-го выходного нейрона.}
\end{scnindent}
\scnitem{функция ReLU}
\begin{scnindent}
\scntext{формула}{
\begin{equation*}
y \eq F(S) \eq
\begin{cases}
S, S > 0,\\
kS, S \leq 0
\end{cases}
\end{equation*}
где \textit{k} $\eq$ 0 или принимает небольшое значение, например, 0.01 или 0.001.}
\end{scnindent}
\end{scnsubdividing}
\end{scnindent}

\scnheader{взвешенная сумма*}
\scnidtf{взвешенная сумма входных значений*}
\scnidtf{в.с.}
Expand Down

0 comments on commit 36e5726

Please sign in to comment.