Приложение для распознавания образов

Страницы:   1   2   3   4

---

Содержание

 

ВВЕДЕНИЕ

ОСНОВНАЯ ЧАСТЬ

1 Обзор предметной области и актуальность проблемы компьютерного зрения

1.1 Системы компьютерного зрения и их применение

1.2 Требования, предъявляемые к формированию признаков изображения

2 Методы распознавания изображений

2.1 Обзор и анализ существующих методов распознавания объектов на изображениях

2.1.1 Метод сравнения с эталоном

2.1.2 Статистические методы

2.1.3 Структурные и синтаксические методы

2.1.4 Точечные методы

2.1.5 Нейронные сети

2.1.6 Основные виды признаков изображения

2.1.7 Методы извлечения точечных признаков

2.1.7.1 Метод SIFT

2.1.7.2 Метод SURF

2.2 Способы представления изображения

2.2.1 Общие положения

2.2.2 Низкоуровневое представление

2.2.3 Контурное представление

2.2.4 Структурное представление

2.2.5 Признаковое представление

3 Проектирование программного обеспечения компьютерного зрения

3.1 Выбор программных средств реализации поставленной задачи

3.2 Выбор и реализация алгоритмов, позволяющих решить поставленную задачу

3.2.1 Общий алгоритм для решения поставленной задачи

3.2.2 Выбор конкретных алгоритмов для решения соответствующих этапов основного алгоритма

3.3 Проектирование структуры проекта программного обеспечения

3.3.1 Разработка базы данных для эталонных изображений

3.3.2 Предобработка эталонных изображений

3.3.3 Программная архитектура системы компьютерного зрения

3.4 Описание работы программы

ЗАКЛЮЧЕНИЕ

СПИСОК ИСПОЛЬЗОВАННЫХ ИСТОЧНИКОВ И ЛИТЕРАТУРЫ

 

ВВЕДЕНИЕ

 

Актуальность работы связана с тем, что системы распознавания образов и компьютерного зрения все чаще и чаще используются при автоматическом подсчете количества объектом и других применениях.

Выбор темы обоснован актуальностью применения систем технического зрения в современной промышленности.

Теоретическая значимость работы состоит в изучении методов распознавания изображений, практическая – в применении разработанного программного обеспечения для подсчета деталей.

Системы технического зрения (СТЗ) сейчас становятся одним из основных средств развития АСУ движением в условиях, когда объём априорных данных не достаточен и для реализации задач управления нужен анализ внешней обстановки в онлайн режиме. СТЗ используются в новейших космических, наземных, подводных и надводных мобильных объектах. Хорошая дальность действия и широкий спектр пространственного и цветового разрешения сегодняшних линейных и матричных приемников оптического излучения СТЗ служат отличными источниками данных при автоматическом выполнении задач навигации, наведения или распознавания.

Минимизация времени конвертации зрительных сигналов при большой скорости движения мобильных объектов очень сложна в реализации, и является единственным препятствием для повсеместного применения СТЗ. Сложности также связаны с синтезом алгоритмов необходимых преобразований. Нет универсального алгоритма решения задач зрительного слежения, распознавания, навигации и наведения при стандартном движении аппарата или объекта зрительного слежения. Для любой задачи СТЗ и в конкретной ситуации фотометрических и траекторных условий необходим лишь определенный алгоритм, причём даже незначительное изменение указанной зрительной сцены часто требует смены применяемого алгоритма исследования фотометрического сигнала. Это ведет к необходимости поддержания алгоритмической полноты и структурной устойчивости проведения задач технического зрения на различных фотометрических ситуациях и траекториях передвижения.

Сложная ситуация алгоритмического обеспечения СТЗ складывается и с конструктивными просчетами их технической реализации — нехватке динамических диапазонов свето- и цветопередачи, дискретностью фотоприёмников, астигматизмом канала наблюдения, погрешностями калибровочных характеристик и привязок к времени потока видеоданных. Поэтому зачастую полезность алгоритма гибнет под ударами искажений и шумов. Борьба с помехами в видеоданных становится основной алгоритмической задачей в процессе применения зрительной обратной связи в центр управления. Такой подход требует серьезного развития математических методов и алгоритмов зрительных преобразований в рамках реализации конкретных задач управления передвижными объектами.

Объектом исследования выпускной квалификационной работы является методы и способы распознавания изображений.

Предметом исследования является программная реализация методов распознавания изображений.

Целью работы является повышение эффективности работы за счет применения проекта программного обеспечения для подсчета количества деталей в системах логистики.

Основными задачами работы являются:

1. Анализ структуры изображения в цифровом виде;
2. Анализ методов и алгоритмов распознавания объектов;
3. Разработка алгоритмов работы программы;
4. Разработка структуры программного обеспечения;
5. Тестирование программного обеспечения.

 

1 Обзор предметной области и актуальность проблемы компьютерного зрения

1.1  Системы компьютерного зрения и их применение

 

В настоящее время системы технического зрения (СТЗ) являются одним из основных средств с помощью которых осуществляется развитие автоматических систем для управления движением в условиях, когда объём априорной информации может быть слишком мал и для решения задач управления необходимо произвести анализ внешней обстановки в режиме реального времени. СТЗ могут применяться в современных космических, наземных, авиационных, подводных и надводных мобильных объектах. Благодаря достаточно высокому дальнодействию и уровням пространственного и цветового разрешения современных матричных и линейных приемников для оптического излучения СТЗ служат незаменимыми источниками информации при автоматизации решения задач по распознавания образов, навигации или наведения[18].

Сегодня применение цифровых видео датчиков с повышенным разрешением помогло значительно приблизить информативность созданных зрительных устройств к отдельным характеристикам человеческого глаза. А сами аппаратные возможности, доступные благодаря развитию электроники и вычислительной техники, так шагнули вперед, что вычислительные мощности персональных ЭВМ уже почти приблизились к параметрам «вычислительных мощностей», применяемых для обработки изображений в мозгу.

Одним из ведущих направлений в ИТ сегодня является создание, анализ, а также применение методов для решения задач таких как: анализ, нахождение и оценивание изображений. Результаты различных фундаментальных и прикладных исследований часто могут использоваться в технической диагностике, неразрушающем контроле, удаленном зондировании, отслеживании экологического состояния, диагностике и прогнозировании в медицине, геологическом поиске, планировании, прогнозировании в химии, автоматизации научной деятельности. Данная тематика привлекает большое количество исследователей, но большинство работ в этой области, в основном, имеют эмпирический характер.

Укажем, что эта проблематика несет немаловажное значение для исследования информационной природы изображений. Цели и итоги работы очень важны для создания и анализа АИС обработки и анализа изображений обширного назначения, не ограниченных узкой предметной областью, работающих с изображениями, полученными в обширных диапазонах условий наблюдения. Разработка новейшего поколения подобных систем часто связана с желанием и необходимостью автоматизации выбора варианта изменения изображения в рамках его семантики и информационной природы. Одним из центральных направлений по созданию подобных систем становится автоматизация реализации их отдельных функций, примером может быть — определение методов описания и преобразования изображений в рамках их информационной природы [18].

Исследования, проводимые для изучения алгоритмов компьютерного зрения, начали появляться в середине 60-70-х годов XX века. В этой «науке» человек заставляет машину научиться находить некоторые особенности мира без участия человека, то есть, чтобы машина сама понимала то, что она видит.

Когда в мире стали устанавливать камеры (на дорогах, улицах, домах и т.д.), стали создавать ПО и устройства, позволяющие на фото выделять разные объекты: лица, номера и другие данные, которые необходимы человеку. Это позволило совершенствовать технологии, которые определяют объекты на фотографиях, проводят сравнение с шаблонами и ориентируются на местности относительно указанных параметров.

При создании бортовых систем видео слежения создается целый класс задач, связанных с сложностями обнаружения, указания и ведения объектов, находящихся в поле зрения датчика изображений. Примерами таких объектов становятся различные летательные аппараты, люди, суда, транспорт и т.п. При этом радиус охвата видеодатчика подвижен, а априорные данные о характеристиках объектов зачастую скудны или включают в себя лишь примерные размеры объектов и характер их следования.

Между тем видеодатчик, установленный на корпусе мобильного носителя, следует в пространстве вместе с носителем, а также, его ориентацию в пространстве можно поменять при помощи устройства позиционирования. Часто датчик изображения испытывает на себе воздействие вибраций различной природы. Под влиянием перечисленных факторов, составляемые им изображения подвержены искажениям. Они затрудняют, а чаще всего делают невозможным вообще нахождение решения многих задач: нахождение подвижных объектов, градация и параметризация сопровождаемых объектов, находящихся близко друг к другу, анализ траекторий сопутствующих объектов. При этом искажения, связанные с вибрациями корпуса носителя, затрудняют работу оператора системы, поэтому иногда возникает задача стабилизации отслеживаемого датчика.

Природные явления: дождь, ветер, снег, туман могут вносить ощущаемый процент зашумления и колебания в изначально статичную сцену, создавать сильные помехи, перекрывая частично поля зрения камеры. Указанные нюансы часто делают алгоритмы, замечательно работающие в одних условиях, отнюдь ненужными для других.

В итоге следует отметить, что, хоть сейчас есть большое количество разработанных алгоритмов, сама область еще плохо исследована. В процессе создания системы учитывается большинство доступных методов, необходимых для нахождения движения и отметки объектов.

Самой важной особенностью задачи обработки данных, получаемых с датчиков для определения объектов, находящихся на изображении, становится отсутствие для изучаемых реальных ситуаций или объектов каких-то адекватных математических моделей, благодаря которым можно было бы провести расчеты и составлять количественные или качественные выводы.

Проблема распознавания данных многогранна и проблематична, поскольку изображения имеют высокую информационную емкость и изначальную неопределенность (содержат любые объекты и составляются с помощью различных типов сенсоров), а также высокую изменчивость (корректировка ракурса или освещения приводит к сдвигам значений сразу во всех элементах изображения). Также объекты, присутствующие на изображениях, состоят обычно в сложных иерархических отношениях типа «частное-целое» и «частное-общее». Именно проблематичность решения совокупной задачи распознавания изображений заставляет создавать множество частных методов.

Из-за огромного количества уже имеющихся методов возникает вопрос об их похожести, различиях и результативности применения в процессе применения к той или иной задаче. Основным моментом в процессе подбора метода распознавания становится представление начального изображения. Под представлением зачастую определяют формальную систему, включающую алгоритмы для преобразования в явном виде описаний объектов рассматриваемого класса.

Главными типами представлений становятся:

• Признаковые;
• Низкоуровневые;
• Структурные;
• Контурные.

Вид промежуточного представления данных не станет полноценной характеристикой метода распознавания данных. Зачастую важен также подход к выявлению критерия качества и алгоритм оптимизации данного критерия.

Представления на уровне пикселей становятся опорными для любых приложений по описанию изображений в современных ИС. И поскольку это представление становится общим для разных задач компьютерной обработки изображений, можно сказать, что «изображения — это группы пикселей». Но нужно уметь разделять содержание (само изображение) от его формы (представления).

Представления на уровне пикселей включают в себя все доступные данные о наблюдаемой сцене, но в форме, совершенно не подходящей для автоматического анализа. Зачастую подобные представления почти не используются для распознавания или сравнения изображений. Это и несет необходимость использования других представлений изображений для поиска в них релевантных данных.

Главной проблемой, возникающей при обработке изображений, становится повышение качества изображения, к примеру, увеличение различимости отдельных фрагментов. К факторам, уменьшающим качество изображений, относят:

• Присутствующие яркостные помехи в виде шума;
• Повышенная или пониженная освещенность объектов съемки;
• Недостаточная резкость при создании изображения;
• Небольшие размеры деталей, которые нужно распознать.

Огромное количество методов повышения качества изображений разделяется на две большие категории: методы обработки в пространстве и методы обработки по частоте. Понятие «пространственная область» принадлежит плоскости растрового изображения, формирующегося из отдельных пикселей, и включает в себя методы, базирующиеся на прямом изменении пикселей изображения. Методы обработки по частоте базируются на корректировке сигнала, создаваемого путем использования в изображении преобразования Фурье или подобных преобразований. Часть методов удобно располагается в пространственной области, а для расположения остальных больше подходит частотная область. Далее будут рассмотрены только пространственные методы увеличения качества изображений, что зачастую связано с проведением большого объема вычислений при реализации преобразований Фурье для растровых изображений размером 800×600 пикселей и выше.

Яркость на фото может значительно снижать различимость отдельных фрагментов изображения, но важно понимать, что для нынешних систем создания изображения в цифровом виде характерно почти полное отсутствие каких-либо существенных яркостных помех, но полученные с помощью их изображения все-таки иногда имеют недостаточную различимость части фрагментов, что может объясняться:

• Малой контрастностью изображения, поскольку известно, что человеческий глаз не может различить границу между фрагментами, яркость которых отлична лишь на единицу градации;
• Малой резкостью изображения, что ведет к замыливанию границ разных фрагментов.

Главными источники шума и повышенной яркости на цифровом изображении становятся: методика его получения, оцифровка, а также его передача. Действие сенсоров, реагирующих на электромагнитное излучение в определенном спектральном диапазоне, может зависеть как от внешних условий в момент получения изображения, так и от чувствительности самих сенсоров. К примеру, в момент получения изображения фотокамерой с ПЗС матрицей, главными факторами, определяющими величину шума, становятся температура самих сенсоров и уровень освещенности.

При передаче изображения подвержены помехам, возникающим в каналах связи. К примеру, при передаче изображения с применением беспроводной сети, оно может подвергнуться изменению в момент разряда молнии или других возмущений в атмосфере.

 

1.2 Требования, предъявляемые к формированию признаков изображения

 

Наиболее современные производственные, технологические а так же офисные системы во время прохождения процесса его функционирования используют информацию о маркировке объектов. Возможно использование информации о маркировке различных грузов, таких как: вагоны, контейнеры, а также номерные знаки автомобилей и не только дает возможность наиболее рациональным образом организовывать процесс технологической обработки информации или проводить учет и контролирование изделий, материалов, транспортных средств. Основным в процессе использования маркировок (нанесения текстовоцифровых меток) лежит технология автоматизированного распознавания структурированных символов. Потребность в данной технологии была вызвана необходимостью создания методов, моделей и систем распознавания структурированных символов.

В настоящее время подобные технологии обычно реализуются с помощью трех методов: структурный, признаковый и шаблонный. Каждый из приведенных методов предназначен для использования в определенных условиях и именно в них данные методы наиболее эффективны.

Однако каждый из рассмотренных методов имеет свои недостатки. Самым существенным из них является низкая устойчивость к таким явлениям как: перемены масштаба, смещения, повороты, а также смена ракурса и другим возможным искажениям.

Эти недостатки могут наиболее ярко проявляться при масштабной эксплуатации программнотехнологических систем, использующих в своей основе данные методы. У большинства подобных систем распознавания структурированных символов характеристики точности осуществляют наиболее резкое падение и уже недотягивают до приемлемого уровня если их подвергают искажениям аффинными и проекционными преобразованиями. Вместе с тем технологические условия получения информации о маркировке не позволяют полностью устранить эти искажения [1].

Требование эффективности процесса распознавания образов является основным требованием к используемой системе признаков данного изображения. Данное требование имеет ряд аспектов:

• к признакам предъявляются требования вычислительного характера, которые заключаются в том, чтобы существует алгоритм расчёта признаков, и данный алгоритм является вычислительно эффективным;
• из требований эффективности выводится необходимость так же удовлетворить требования по устойчивости или инвариантности образа по отношению к ряду искажений объекта.

Так же для ряда практических задач требование инвариантности оказывается достаточно общим и подразумевает все или некоторые из следующих требований:

• инвариантность к шумовым и динамическим искажениям;
• инвариантность к яркостным искажениям (изменению яркости и контраста);
• инвариантность к изменению местоположения объекта;
• инвариантность к изменению масштаба объекта;
• инвариантность к изменению ориентации объекта (к повороту объекта в плоскости изображения);
• инвариантность к произвольным аффинным преобразованиям.

Из-за проведения предварительного преобразования исходного изображения достигается инвариантность к данным искажениям. Первая группа искажений это: шумовые а так же динамические изменения изображения. Такие искажения устраняется путем использования методов и алгоритмов восстановления. Ко второй группе относятся яркостные искажения. Они могут быть эффективно устраняться путем приведения изображения к «нормализованному» виду.

 

2 Методы распознавания изображений

2.1 Обзор и анализ существующих методов распознавания объектов на изображениях

 

2.1.1     Метод сравнения с эталоном

 

Под распознаванием обычно понимают отнесение объекта к конкретному классу. Примерами характерных объектов служат вертолёты, самолёты, автотранспорт, ракеты, корабли. Повышенный интерес представляет проблема разработки систем распознавания объектов, функционирующих в онлайн режиме. Проектирование таких систем может быть полезно для выполнения таких задач, как картография, поисковые работы и спасение в чрезвычайных ситуациях, отслеживание наземного и воздушного движения, минимизация аварийных ситуаций на транспорте [9].

Нынешняя теория распознавания хорошо развита и сложена как область знания, оперирует различными методологиями [20]. Исследование различных источников дает возможность выделить 4 главных подхода к распознаванию.

Детерминированный подход говорит о том, что в любой точке пространства признаков, применяемых для распознавания, с какой-то априорной вероятностью появляется реализации только одного класса объектов. Тогда достаточно найти уравнения границ, делящие в пространстве образов области, относящиеся к тому или иному классу. В случае, если найти эти границы невозможно, разделение проводится путем подсчета расстояния в пространстве признаков между классами изображений и распознаваемым образом. Важно отметить, что распознавание с применением такого подхода имеет наглядное геометрическое представление и для его реализации не нужно дополнительных данных, кроме начального изображения каждого класса. Вычислительные затраты для указанного метода относительно небольшие, что делает его использование оправданным в бортовых системах анализа данных.

 

2.1.2 Статистические методы

 

Отличие статистического подхода от детерминированного заключается в том, что в одной точке пространства образов с ненулевой априорной вероятностью могут происходить реализации, относящиеся к разным классам[10]. Это обычно связано с неизбежностью возникновения случайных ошибок, присутствующих в детерминированных признаках, или использованием признаков, которые принципиально являются случайными величинами. Байесовский подход выражается из статистической природы наблюдений. Начальными данными выступает предположение о наличии вероятностной меры на пространстве образов, которая может быть или известна, или оценена. Цель заключается в создании такого классификатора, который позволит точно найти самый вероятный класс для пробного образа. В таком случае задача заключается в определении «наиболее вероятного» класса.

Итак, Байесовский подход к статистическим задачам берет за основу предложение о существовании отдельного распределения вероятностей для конкретного параметра. Минусом такого метода становится необходимость постулирования как наличия априорного распределения для скрытого параметра, так и знание его формы [13].

 

2.1.3 Структурные и синтаксические методы

 

Структурно-лингвистический (синтаксический) подход базируется на описании геометрической структуры класса при помощи конкретного формального языка, алфавит которого включает в себя производственные элементы и структуры, а также композиции и операции над ними, определяемые грамматикой языка. Подобный подход предполагает, что характер и структура связей элементов всей совокупности объектов подчиняется конкретным, заранее известным закономерностям. Понятно, что такая методика практически не подойдет для работы в бортовых ИС реального времени, поскольку ведет к сложной и запутанной программной реализации [14].

Теория распознавания образов изучает множество задач, которые применяются для адаптации вероятностных моделей, а метод минимизации поиска, похож на схему интерпретационного дерева. Главные составляющие подобного метода это допущения такие как:

• Последовательность случайных переменных, условно независимая от всех других, кроме предшествующей переменной;
• Любая случайная переменная определяется измерениями, вероятность которых зависит от состояния [15].

Подобным элементам сопоставима наиболее результативная формальная модель, которую называют скрытой марковской моделью (СММ). Данная модель с успехом применяется в системах созданных для распознавания речи. В которых скрытые состояния отслеживают речевую систему, а под наблюдениями подразумеваются различные акустические измерения. Зачастую скрытые марковские модели соотносятся с каждым словом. После чего модель начинает складываться воедино с помощью модели языка, которая задает вероятность появления следующего слова в рамках распознанного текущего слова. В итоге реализуется другая (зачастую большая) СММ. Предложение, интерпретированное набором акустических измерений, выстраивается с помощью методики логического вывода, применяемой к модели языка.

Деятельность алгоритма по методу динамического программирования всегда начинается с последнего столбца решетки. Заранее известен логарифм правдоподобия пути с одним состоянием, завершающимся в каждой вершине, т.к. данное значение становится весовым коэффициентом этой вершины. Далее рассматривается путь с двумя состояниями, начинающийся в предпоследнем столбце решетки. Затем получается наилучший путь, выходящий из вершины в этом столбце. Переходим к вершине. Мы знаем весовой коэффициент любого ребра, покидающего вершину, и весовой коэффициент вершины в окончании ребра. Поэтому можно определить сегмент пути с самым большим значением суммы, и такое ребро станет лучшим ребром, выходящим из указанной вершины. Для любой вершины ее весовой коэффициент суммируется со значением лучшего сегмента пути, покидающего вершину весовой коэффициент ребра плюс коэффициент итогового узла. Подобная будет оптимальным значением, которое получается при достижении этой вершины (пусть это будет значение вершины).

Т.к. мы знаем наилучшее значение, получаемое при достижении каждой вершины во втором от конца столбце, можно вычислить наилучшее значение, реализуемое при достижении любой вершины в третьем от конца столбце. Далее в любой вершине третьего от конца столбца анализируются ребра, входящие в вершину, с известным значением. Возьмем ребро с максимальным значением величины (вес ребра + значение вершины), суммируем это значение с весовым коэффициентом начальной вершины в третьем от конца столбце и в итоге выведем значение начальной вершины. Такой процесс можно проводить до получения значения всех вершин первого столбца, при этом максимальное значение будет максимально правдоподобным. В итоге получается путь с самым наибольшим значением функции правдоподобия. При подсчете значения вершины убираются все ребра, покидающие вершину, кроме наилучшего ребра. По факту достижения первого столбца далее нужно идти по пути от узла с наилучшим значением.

 

2.1.4 Точечные методы

 

Гистограмма (в фотографии) — это график распределения полутонов изображения, в котором по горизонтальной оси представлен уровень тона канала или яркость, а по вертикали — число пикселей с данным значением. Гистограммы обычно являются весьма важными данными при обработке изображений. Существуют различные методы для построения и сравнения цветовых гистограмм, которые отличаются между собой изначальной цветовой схемой (RGB, CMY, HSV, grayscale и т. д.), размерностью гистограммы и определением расстояния между гистограммами [5].

Достоинством метода является простота и производительность. Для того что бы вычислить гистограмму потребуется всего лишь один проход по пикселям изображения без каких-либо дополнительных вычислений.

Гистограмма – это массив целых чисел, размер которого равен количеству возможных значений цветового канала, а каждая ячейка массива содержит количество точек изображения с данным значением канала. Если цветовой катал не один, как например каналы палитры RGB, то массивов будет три[10].

Для цветовой схемы RGB уровень каждого канала может изменяться в пределах от 0 до 255. Тогда как для построения гистограммы, для каждого из каналов, самым удобным вариантом будет применение матрицы размером 3×255. В некоторых отличных случаях наиболее удобно преобразовывать исходное изображение в оттенки серого (GrayScale) и использовать только один массив размером 256.

В таблице 1 рассмотрен простейший случай. Рассматриваются одномерные гистограммы только с двумя столбцами. Модель гистограммы имеет значение 1 в левом столбце и 0 в правом. Последние три строки показывают сравнение гистограмм и значения сгенерированные различными метриками.

Таблица 1 — Поведение метрик

 

Результаты экспериментов показывают, что при использовании метода гистограмм необходимо определить диапазон значений, в котором будет находиться пороговое значение сходства. Диапазон должен быть определён для каждого метода сравнения свой – отличный от других. Это обусловлено особенностями методов сравнения.

Если гистограммы сравниваются с помощью расстояния Бхатачария, то значение порога должно находиться в пределах от 80 до 100 процентов[11].

Ограничения, накладываемые на порог сходства, необходимы для того, чтобы отсеять некорректные результаты. В случае, когда пороговое значение задаётся ниже, чем минимальный допустимый порог, то результаты сравнения заполняются неточными данными. Это обусловлено особенностью метода и способами сравнения.

 

2.1.5 Нейронные сети

 

Искусственная нейронная сеть является некоторой моделью естественной нейронной сети. Каждый элемент искусственной сети (нейрон) является прототипом, имитирующим свойства и работу биологического нейрона.

Качество работы искусственной нейронной сети во многом зависит от весов синаптических связей и от типа применяемых активационных функций.

У метода обратного распространения имеется ряд недостатков:

• паралич сети — это явление происходящее, когда в процессе обучения сети значения весов становятся большими величинами, т.е. у нейронов увеличиваются выходные значения, но из за того что производная активационной функции в случаях с большими значениями мала, то производная в пунктах (7), (10), (13) принимает малое значение. В результате чего процесс обучения сети впадает в состояние «ступора». Что бы решить данную проблему предотвращения паралича следует уменьшить размер для шага η, что в свою очередь, влияет на время обучения ,в следствии чего, оно увеличивается. Так же можно попытаться решить проблему с помощью ввода эвристических правил для обнаружения паралича;
• локальные минимумы – это явление когда в процессе обучения найдены неудовлетворительные значения весов, что происходит из-за того, что обратное распространение является разновидностью градиентного спуска, что означает, осуществление им спуска вниз по поверхности ошибки, непрерывно подстраивая веса по направлению в сторону минимума. И если в случае когда поверхность ошибки примет сложную форму, тогда обучение застревает в локальном экстремуме. Во избежание подобной ситуации могут использоваться, достаточно медленные, статистические методы обучения;
• размер шага – в [6] упоминается коррекции весов, которая должна осуществляться бесконечно малым шагом, однако на практике, обычно требуется, что бы шаг должен быть конечным и достаточно большим. Но в тоже самое время размер шага не должен быть большим, что приведет к параличу сети, а также к постоянной неустойчивости;
• временная неустойчивость – это когда в памяти нейронной сети не остается предыдущих шагов обучения, при попытках ее дальнейшего обучения. Из чего следует, что процесс обучения следует обязательно организовывать так, чтобы обучение сети осуществлялось на всем множестве для обучения и не было пропусков уже изученного. Так же в рекомендациях в случае потребности в коррекции весов, перед этим на вход сети подавать все обучающее множество. Но может так случиться, входные образы не всегда могут быть повторены и тогда данный подход будет невозможно применить, из-за постоянных осцилляций.

---

Страницы:   1   2   3   4