|
340 | 340 | \end{itemize}}
|
341 | 341 | \end{scnindent}
|
342 | 342 |
|
343 |
| -\scnheader{формальный нейрон} |
344 |
| - \scnidtf{искусственный нейрон} |
345 |
| - \scnidtf{нейрон} |
346 |
| - \scnidtf{ф.н.} |
347 |
| - \scnidtf{нейронный элемент} |
348 |
| - \scnidtf{множество нейронов искусственных нейронных сетей} |
349 |
| - \scnidtf{математическая модель реального биологического нейрона} |
350 |
| - \scntext{примечание}{Отдельный формальный нейрон является искусственной нейронной сети с одним нейроном в единственном слое.} |
351 |
| - \scnsubset{искусственная нейронная сеть} |
352 |
| - \scntext{пояснение}{\textbf{\textit{формальный нейрон}} --- это основной элемент \textit{искусственной нейронной сети}, применяющий свою \textit{функцию активации} (\scncite{Golovko2017}) к сумме произведений входных сигналов на весовые коэффициенты: |
353 |
| - $y \eq F(\sum\underscore{\scnleftcurlbrace i \eq 1\scnrightcurlbrace}\upperscore{\scnleftcurlbrace n\scnrightcurlbrace} w\underscore{i} x\underscore{i} - T) \eq F(WX - T)$ |
354 |
| - где $X \eq (x\underscore{1},x\underscore{2},...,x\underscore{n})\upperscore{\scnleftcurlbrace T\scnrightcurlbrace}$ --- вектор входного сигнала; $W - (w\underscore{1},w\underscore{2},...,w\underscore{n})$ --- вектор весовых коэффициентов; \textit{T} --- пороговое значение; |
355 |
| - \textit{F} --- функция активации.} |
356 |
| - \scnrelfrom{изображение}{\scnfileimage[20em]{Contents/part_ps/src/images/sd_ps/sd_ann/neuron.png}} |
357 |
| - \scntext{примечание}{Формальные нейроны могут иметь полный набор связей с нейронами предшествующего слоя или неполный (разряженный) набор связей.} |
358 |
| - \begin{scnsubdividing} |
359 |
| - \scnitem{полносвязный формальный нейрон} |
360 |
| - \begin{scnindent} |
361 |
| - \scnidtf{нейрон, у которого есть полный набор связей с нейронами предшествующего слоя} |
362 |
| - \scntext{пояснение}{отдельный обрабатывающий элемент и.н.с., выполняющий функциональное преобразование взвешенной суммы элементов вектора входных значений с помощью функции активации} |
363 |
| - \end{scnindent} |
364 |
| - \scnitem{сверточный формальный нейрон} |
365 |
| - \begin{scnindent} |
366 |
| - \scntext{пояснение}{Отдельный обрабатывающий элемент и.н.с., выполняющий функциональное преобразование результата операции свертки матрицы входных значений с помощью функции активации.} |
367 |
| - \scntext{примечание}{Сверточный формальный нейрон может быть представлен полносвязным формальным нейроном.} |
368 |
| - \scntext{примечание}{Сверточный формальный нейрон с соответствующим ему ядром свертки может быть представлен нейроном с неполным набором связей.} |
369 |
| - \end{scnindent} |
370 |
| - \scnitem{рекуррентный формальный нейрон} |
371 |
| - \begin{scnindent} |
372 |
| - \scntext{пояснение}{Формальный нейрон, имеющий обратную связь с самим собой или с другими нейронами и.н.с.} |
373 |
| - \end{scnindent} |
374 |
| - \end{scnsubdividing} |
375 |
| - |
376 | 343 | \scnheader{формальный нейрон\scnrolesign}
|
377 | 344 | \scnidtf{формальный нейронный элемент\scnrolesign}
|
378 | 345 | \scnidtf{нейронный элемент\scnrolesign}
|
|
444 | 411 | \scnsubset{ролевое отношение}
|
445 | 412 | \scntext{пояснение}{\textbf{\textit{признак}} --- множество ролевых отношений, каждое из которых связывает некоторый п.в.а. с численным значением, которое характеризует данный п.в.а. с какой-либо стороны.}
|
446 | 413 |
|
447 |
| -\scnheader{функция активации*} |
448 |
| - \scnidtf{функция активации нейрона*} |
449 |
| - \scniselement{неролевое отношение} |
450 |
| - \scniselement{бинарное отношение} |
451 |
| - \scntext{пояснение}{\textbf{\textit{функция активации*}} --- неролевое отношение, связывающее формальный нейрон с функцией, результат применения которой к \textbf{\textit{взвешенной сумме нейрона}} определяет его \textbf{\textit{выходное значение}}.} |
452 |
| - \scnrelfrom{область определения}{\scnnonamednode} |
453 |
| - \begin{scnindent} |
454 |
| - \begin{scnreltoset}{объединение} |
455 |
| - \scnitem{формальный нейрон} |
456 |
| - \scnitem{функция} |
457 |
| - \end{scnreltoset} |
458 |
| - \end{scnindent} |
459 |
| - \scnrelfrom{первый домен}{формальный нейрон} |
460 |
| - \scnrelfrom{второй домен}{функция} |
461 |
| - \begin{scnindent} |
462 |
| - \begin{scnsubdividing} |
463 |
| - \scnitem{линейная функция} |
464 |
| - \begin{scnindent} |
465 |
| - \scntext{формула}{ |
466 |
| - \begin{equation*} |
467 |
| - y \eq kS |
468 |
| - \end{equation*} |
469 |
| - где \textit{k} --- коэффициент наклона прямой, \textit{S} --- в.с.} |
470 |
| - \end{scnindent} |
471 |
| - \scnitem{пороговая функция} |
472 |
| - \begin{scnindent} |
473 |
| - \scntext{формула}{ |
474 |
| - \begin{equation*} |
475 |
| - y \eq sign(S) \eq |
476 |
| - \begin{cases} |
477 |
| - 1, S > 0,\\ |
478 |
| - 0, S \leq 0 |
479 |
| - \end{cases} |
480 |
| - \end{equation*}} |
481 |
| - \end{scnindent} |
482 |
| - \scnitem{сигмоидная функция} |
483 |
| - \begin{scnindent} |
484 |
| - \scntext{формула}{ |
485 |
| - \begin{equation*} |
486 |
| - y \eq \frac{1}{1+e\upperscore{\scnleftcurlbrace -cS\scnrightcurlbrace}} |
487 |
| - \end{equation*} |
488 |
| - где \textit{с} > 0 --- коэффициент, характеризующий ширину сигмоидной функции по оси абсцисс, \textit{S} --- в.с.} |
489 |
| - \end{scnindent} |
490 |
| - \scnitem{функция гиперболического тангенса} |
491 |
| - \begin{scnindent} |
492 |
| - \scntext{формула}{ |
493 |
| - \begin{equation*} |
494 |
| - y \eq \frac{e\upperscore{\scnleftcurlbrace cS\scnrightcurlbrace}-e\upperscore{\scnleftcurlbrace -cS\scnrightcurlbrace}}{e\upperscore{\scnleftcurlbrace cs\scnrightcurlbrace}+e\upperscore{\scnleftcurlbrace -cS\scnrightcurlbrace}} |
495 |
| - \end{equation*} |
496 |
| - где \textit{с} > 0 --- коэффициент, характеризующий ширину сигмоидной функции по оси абсцисс, \textit{S} --- в.с.} |
497 |
| - \end{scnindent} |
498 |
| - \scnitem{функция softmax} |
499 |
| - \begin{scnindent} |
500 |
| - \scntext{формула}{ |
501 |
| - \begin{equation*} |
502 |
| - y\underscore{j} \eq softmax(S_j) \eq \frac{e\upperscore{\scnleftcurlbrace S\underscore{j}\scnrightcurlbrace}}{\sum\upperscore{j} e\upperscore{\scnleftcurlbrace S\underscore{j}\scnrightcurlbrace}} |
503 |
| - \end{equation*} |
504 |
| - где $S\underscore{j}$ --- в.с. \textit{j}-го выходного нейрона.} |
505 |
| - \end{scnindent} |
506 |
| - \scnitem{функция ReLU} |
507 |
| - \begin{scnindent} |
508 |
| - \scntext{формула}{ |
509 |
| - \begin{equation*} |
510 |
| - y \eq F(S) \eq |
511 |
| - \begin{cases} |
512 |
| - S, S > 0,\\ |
513 |
| - kS, S \leq 0 |
514 |
| - \end{cases} |
515 |
| - \end{equation*} |
516 |
| - где \textit{k} $\eq$ 0 или принимает небольшое значение, например, 0.01 или 0.001.} |
517 |
| - \end{scnindent} |
518 |
| - \end{scnsubdividing} |
519 |
| - \end{scnindent} |
520 |
| - |
521 | 414 | \scnheader{взвешенная сумма*}
|
522 | 415 | \scnidtf{взвешенная сумма входных значений*}
|
523 | 416 | \scnidtf{в.с.}
|
|
0 commit comments