Реферат: Структура нейронных сетей - текст реферата. Скачать бесплатно.
Банк рефератов, курсовых и дипломных работ. Много и бесплатно. # | Правила оформления работ | Добавить в избранное
 
 
   
Меню Меню Меню Меню Меню
   
Napishem.com Napishem.com Napishem.com

Реферат

Структура нейронных сетей

Банк рефератов / Компьютерные сети

Рубрики  Рубрики реферат банка

закрыть
Категория: Реферат
Язык реферата: Русский
Дата добавления:   
 
Скачать
Архив Zip, 53 kb, скачать бесплатно
Заказать
Узнать стоимость написания уникального реферата

Узнайте стоимость написания уникальной работы

Структура нейронных сетей В наши дни возрастает необходимость в си стемах , которые способны не только выполнять однажды запрограммированную последова тельность действий над заранее определенными данными , но и способны сами анализировать вновь поступающую информацию , находить в ней закономерности , производить прогнозирован и е и т.д . В этой области приложений самым лучшим образом зарекомендовали себя так называемые нейронные сет и – самообучающиеся системы , имитирующие деятельность человеческого мозга . Рас смотрим подробнее структуру искусственных нейрон ных сетей (НС ) и их приме нение в конкретных задачах. Искусственный нейрон. Несмотря на большое разнообраз ие вариантов нейронных сетей все они имею т общие черты . Так все они , также как и мозг человека , состоят из большого числа однотипных элементов – нейронов , которые имитируют ней роны головного мозга , связанных межд у собой . На рис .1 показана схема нейрона Из рисунка видно , что искусственный не йрон , так же как и живой , состоит из синапсов , связывающих входы нейрона с ядром , ядра нейрона , которое осуществляет обра ботку входных сигналов и аксона , который с вязывает нейрон с нейронами следующего слоя . Каждый синапс имеет вес , который определ яет насколько соответствующий вход нейрона вл ияет на е г о состояние . Состояние нейрона определяется по формуле (1) где n - число входов нейрона x i – значение i - го входа нейрона w i – вес i -го синапса Затем определяется знач ение аксона нейрона по формуле Y = f ( S ) (2) Где f - некоторая функция ,которая называется активационной . На иболее часто в качестве активационной функции используется так называемый сигмоид , который имеет сл едующий вид : (3) Основное достоинство этой функции в т ом , что она дифференцируема на всей оси абсцисс и имеет очень простую производную : (4) При уменьшении параметра яя сигмоид ста новится более пологим , вырождаясь в горизонта льную линию на уровне 0,5 при я =0. При увеличе нии я сигмоид все больше при ближается к функции единичного скачка. Нейронные сети обратного расп ространения. Нейрон ные сети обратного распространения – это мощнейший инструмент поиска закономерностей , прогнозирования , качественн ого анализа . Такое название – сети обратного распространения ( back propagation ) они получили из-з а используемого алгоритма обучения , в котором ошибка распространяется от выходного с лоя к входному , т.е . в направлении , противоп оложном направлению распространения сигнала при нормальном функционировании сети. Нейронная сеть обратного распр остранения состоит из нескольких слоев нейрон ов , причем каждый нейрон слоя i связан с к аждым нейроном слоя i +1 , т.е . речь идет о полносвязной НС. В общем случае задача обучения НС сводится к нахождению некой функциональной зависимости Y = F ( X ) где X - в ектор входной , а Y -выходной векторы . В общем случае такая задача , пр и ограниченном наборе входных данных имеет бесконечное множество решений . Для ограничения пространства поиска при обучении ставится задача минимизации целевой функции ошибки НС , которая находится по методу наименьших квадратов : (5) где y j – значение j -го выхода нейросети d j - целевое значение j - г о выхода p – число нейронов в выходном слое Обучение нейросети производится методом г радиентного спуска , т.е . на каждой итераци и изменение веса производится по форм уле (6) где я - параметр определяющи й скорость обучения (7) где y j - значение выхода j -го нейрона S j – взвешенная сумма входных сигналов , определяемая по формуле (1). При этом множитель (8) где x i – значение i -го в хода нейрона Далее рассмотрим определение первого множ ителя формулы (7) (9) где k – ч исло нейронов в слое n +1. Введем вспомогательную переменную (10) Тогда мы сможем определит рекурсивную формулу для определения n -ного слоя если нам известно следующего n +1 -го слоя. (11) Нахождение же для последнего слоя НС не представляет трудности , так как нам известен целевой вектор , т.е . векто р тех значений , которые должна выдавать НС при данном наборе входных значений. (12) И наконец запишем формулу (6) в раскрыто м виде (13) Рассмотрим теперь полный алгоритм обучени я нейросети подать на вход НС один из требу емых образов и определить значения вы ходов нейронов нейросети рассчитать для выходного слоя НС по ф ормуле (12) и рассчитать изменения весов выходного слоя N по фо рмуле (13) Рассчитать по формулам (11) и (13) соответственн о и для остальных слоев НС , n = N -1..1 Скорректировать все веса НС (14) Если ошибка существенна , то перейти на шаг 1 На этапе 2 сети поочередно в случайном порядке предъявляются вектора из обучающей последовательности. Повышение эффективности обучения НС обрат ного распространения Про стейший метод градиентн ого спуска , рассмотренный выше , очень неэффект ивен в случае , когда производные по различ ным весам сильно отличаются . Это соответствуе т ситуации , когда значение функции S для некоторых нейронов близка по модулю к 1 или когд а модуль не которых весов много больше 1. В этом случае для плавного уменьшения ошибки надо выбирать очень маленькую скоро сть обучения , но при этом обучение может занять непозволительно много времени. Простейшим методом усовершенствования градие нтного спуска является введение момента я ,когда влияние градиента на изменени е весов изменяется со временем . Тогда форм ула (13) примет вид (13 .1 ) Дополнительным преимуществом от введения момента является способность алгоритма преодолев ать мелкие локальные минимумы. Представление входных данных Основное отличие НС в том , что в них все вхо дные и выхо дные параметры представлены в виде чисел с плавающей точкой обычно в диапазоне [0..1] . В тоже время данные предметной области часто имеют другое кодирование . Так это могут быть числа в произвольном диапазоне , даты , символ ьные строки . Таким образ ом данные о проблеме могут быть как количественными та к и качественными . Рассмотрим сначала преобра зование качественных данных в числовые , а затем рассмотрим способ преобразования входных данных в требуемый диапазон. Качественные данные мы можем разделить на две группы : упорядоченные (ординальные ) и неупорядоченные . Для рассмотрения способов кодирования этих данных мы рассмотрим за дачу о прогнозировании успешности лечения как ого-либо заболевания . Примером упорядоченных данны х могут например являться данные, наприм ер , о дополнительных факторах риска при да нном заболевании . Нет Ожирение Алкоголь Куре ние Гипертония А также возможным примером может быть например возраст больного До 25 лет 25-39 лет 40-49 лет 50-59 лет 60 и старше Опасность каждого фактора во зрастает в таблицах при движении слева на право. В первом случае мы видим , что у больного может быть несколько факторов рис ка одновременно . В таком случае нам необхо димо использовать такое кодирование , при кото ром отсутствует ситуация , когда разным комбин ац иям факторов соответствует одно и т о же значение . Наиболее распространен способ кодирования , когда каждому фактору ставится в соответствие разряд двоичного числа . 1 в этом разряде говорит о наличии фактора , а 0 о его отсутствии . Параметру нет можн о постав и ть в соответствии число 0. Таким образом для представления всех фа кторов достаточно 4-х разрядного двоичного чис ла . Таким образом число 1010 2 = 10 10 означает наличие у больного гипертонии и употребления алкоголя , а числу 0000 2 соответствует отсутст вие у бо льного факторов риска . Таким образом факторы риска будут представлены числами в диапазоне [0..15] . Во втором случае мы также можем к одировать все значения двоичными весами , но это будет нецелесообразно , т.к . набор возмож ных значений будет слишком неравноме рным . В этом случае более правильным будет установка в соответствие каждому значению своего веса , отличающегося на 1 от веса сос еднего значения . Так число 3 будет соответствов ать возрасту 50-59лет . Таким образом возраст будет закодирован числами в диапазо н е [0..4] . В принципе аналогично можно поступать и для неупорядоченных данных , поставив в соответствие каждому значению какое-либо число . Однако это вводит нежелательную упорядоченн ость , которая может исказить данные , и сил ьно затруднить процесс обучения . В качес тве одного из способов решения этой пробл емы можно предложить поставить в соответствие каждому значению одного из входов НС . В этом случае при наличии этого значен ия соответствующий ему вход устанавливается в 1 или в 0 при противном случае . К сожале н ию данный способ не является панацеей , ибо при большом количестве вариан тов входного значения число входов НС раз растается до огромного количества . Это резко увеличит затраты времени на обучение . В качестве варианта обхода этой проблемы м ожно использовать несколько другое ре шение . В соответствие каждому значению входно го параметра ставится бинарный вектор , каждый разряд которого соответствует отдельному вхо ду НС . Например если число возможных значе ний параметра 128, то можно использовать 7 разрядн ый вектор. Тогда 1 значению будет соответ ствовать вектор 0000000 а 128 - вектор 1111111, а ,например , 26 значению – 0011011. Тогда число требуемых для кодирования параметров входов можно определить как N=log 2 n (15) Где n - количест во значений параметра N - количест в о входов Преобразование числовых входных данных Для НС необходимо чтобы входные данны е лежали в диапазоне [0..1] , в то время как данные проблемной области могут лежать в любом диапазоне . Предположим что данные по одно му из параметров лежат в диапазоне [Min ..Max] . Тогд а паиболее простым способом нормирования буде т (16) где x - исходное значение параметра -значение , подаваемое на вход НС К сожалению этот способ кодирования н е лишен недостатков . Так в случае если то распределение данных на входе может пр инять вид Т.е . распределение входных параметров буде т крайне неравномерным , что приведет к уху дшению качества обучения . Поэтому в подобных ситуац иях , а также в случае , когд а значение входа лежит в диапазоне можно использовать нормировку с помощью функции вида (17)
1Архитектура и строительство
2Астрономия, авиация, космонавтика
 
3Безопасность жизнедеятельности
4Биология
 
5Военная кафедра, гражданская оборона
 
6География, экономическая география
7Геология и геодезия
8Государственное регулирование и налоги
 
9Естествознание
 
10Журналистика
 
11Законодательство и право
12Адвокатура
13Административное право
14Арбитражное процессуальное право
15Банковское право
16Государство и право
17Гражданское право и процесс
18Жилищное право
19Законодательство зарубежных стран
20Земельное право
21Конституционное право
22Конституционное право зарубежных стран
23Международное право
24Муниципальное право
25Налоговое право
26Римское право
27Семейное право
28Таможенное право
29Трудовое право
30Уголовное право и процесс
31Финансовое право
32Хозяйственное право
33Экологическое право
34Юриспруденция
 
35Иностранные языки
36Информатика, информационные технологии
37Базы данных
38Компьютерные сети
39Программирование
40Искусство и культура
41Краеведение
42Культурология
43Музыка
44История
45Биографии
46Историческая личность
47Литература
 
48Маркетинг и реклама
49Математика
50Медицина и здоровье
51Менеджмент
52Антикризисное управление
53Делопроизводство и документооборот
54Логистика
 
55Педагогика
56Политология
57Правоохранительные органы
58Криминалистика и криминология
59Прочее
60Психология
61Юридическая психология
 
62Радиоэлектроника
63Религия
 
64Сельское хозяйство и землепользование
65Социология
66Страхование
 
67Технологии
68Материаловедение
69Машиностроение
70Металлургия
71Транспорт
72Туризм
 
73Физика
74Физкультура и спорт
75Философия
 
76Химия
 
77Экология, охрана природы
78Экономика и финансы
79Анализ хозяйственной деятельности
80Банковское дело и кредитование
81Биржевое дело
82Бухгалтерский учет и аудит
83История экономических учений
84Международные отношения
85Предпринимательство, бизнес, микроэкономика
86Финансы
87Ценные бумаги и фондовый рынок
88Экономика предприятия
89Экономико-математическое моделирование
90Экономическая теория

 Анекдоты - это почти как рефераты, только короткие и смешные Следующий
– Милый, у меня голова так болит после вчерашнего, как будто извилины друг с другом дерутся!
- Думаешь, к твоей пришли гости?
Anekdot.ru

Узнайте стоимость курсовой, диплома, реферата на заказ.

Обратите внимание, реферат по компьютерным сетям "Структура нейронных сетей", также как и все другие рефераты, курсовые, дипломные и другие работы вы можете скачать бесплатно.

Смотрите также:


Банк рефератов - РефератБанк.ру
© РефератБанк, 2002 - 2016
Рейтинг@Mail.ru