Министерство образования и науки РФ Государственное образовательное учреждение высшего профессионального образования Самарский государственный архитектурно-строительный университет Факультет Информационных систем и технологий Кафедра Прикладной математики и вычислительной техники Утверждаю: Декан_____________(В.В. Козлов) «___» ________2011 г. Блок М1.Б.2.2 Дисциплина Теория нейронных сетей 19 2 Весна(10) Недель ТО, Экз.: Объем работы студента в АЧ в семестре Лек 18 Лаб 18 Пр КСР Ауд 36 СРС 36 Изуч 72 Экз Всего 72 Дисциплина входит в состав модуля Специальные главы математики Индекс дисциплины по учебному плану М1.Б.2.2 Код (ОКСО) 230400 Наименование направления подготовки Информационные системы и технологии Наименование магистерской программы Информационные системы и технологии Форма обучения очная Всего часов по дисциплине 72 в том числе: аудиторные 36 самостоятельная работа студента 36 Форма итогового контроля зачет Курс обучения 5 Семестр обучения 10 Действие программы продлено на протокол № от « » 20 г. уч. год на заседании кафедры ПМ и ВТ Зав. кафедрой С.Пиявский Действие программы продлено на протокол № от « » 20 г. уч. год на заседании кафедры ПМ и ВТ Зав. кафедрой С.Пиявский Действие программы продлено на протокол № от « » 20 г. уч. год на заседании кафедры ПМ и ВТ Зав. кафедрой С.Пиявский Действие программы продлено на протокол № от « » 20 г. уч. год на заседании кафедры ПМ и ВТ Зав. кафедрой С.Пиявский Действие программы продлено на протокол № от « » 20 г. уч. год на заседании кафедры ПМ и ВТ Зав. кафедрой С.Пиявский Самара 2011г. 1 Контроль РАБОЧАЯ ПРОГРАММА ДИСЦИПЛИНЫ «Теория нейронных сетей» для магистров З Рабочая программа дисциплины составлена на основании ФГОС ВПО, утвержденного Министерством образования и науки РФ по направлению подготовки 230400 Информационные системы и технологии (квалификация (степень) "магистр") (Приказ Министерства образования и науки РФ от 14 января 2010 г. N 25) и учебного плана СГАСУ. Рабочая программа разработана кафедрой ПМ и ВТ Вед. инженер инновационного центра СГАСУ, Ассистент Д. Будаев Рассмотрена и одобрена на заседании кафедры ПМ и ВТ протокол № ___от «___»_________20 __ г. Зав. кафедрой ПМ и ВТ, профессор, д.т.н. С.Пиявский Рассмотрена и одобрена на заседании методической комиссии по направлению 230400 профиль Информационные системы и технологии профиль Информационные системы и технологии _________ протокол № __ от «____» _________ 20 __г. Председатель методической комиссии зав. кафедрой ПМ и ВТ, профессор, д.т.н. С.Пиявский 2 1. Цели и задачи дисциплины Целью дисциплины является формирование, совместно с другими дисциплинами учебного плана и всеми формами образовательного процесса в вузе, у выпускника компетенций, знаний, умений и навыков, определяемых требованиями ФГОС, изложенными в п.3 настоящей рабочей программы. Задачами, решаемыми при преподавании дисциплины для достижения указанной цели, являются: - освоение студентами теоретического материала, включенного в цикл лекций, - выполнение студентами предусмотренных рабочей программой лабораторных работ, курсовых работ и проектов, - активное участие студентов в практических занятиях и семинарах, - активная самостоятельная работа студентов, включая выполнение домашних заданий, других учебных заданий, - своевременный контроль текущей и промежуточной успеваемости и принятие необходимых мер по его итогам. 2. Место дисциплины в структуре ООП Дисциплина относится к базовой общенаучного цикла и входит в модуль «Специальные главы математики». Формируемые дисциплиной базовые знания указаны в п.3. Для изучения дисциплины необходимы входные компетенции, знания, умения и навыки, формируемые в дисциплине «Представление знаний в информационных системах», «Интеллектуальные информационные системы». 3. Требования к результатам освоения дисциплины Изучение данной учебной дисциплины направлено на формирование у обучающихся следующих общекультурных (ОК) и профессиональных (ПК) компетенций (см. ФГОС ВПО): № Комп Содержание компетенции (или ее части) 1 2 3 ОК-1 ОК-2 ОК-6 способность совершенствовать и развивать свой интеллектуальный и общекультурный уровень способность к самостоятельному обучению новым методам исследования, к изменению научного и научно-производственного профиля своей профессиональной деятельности способность самостоятельно приобретать с помощью информационных технологий и использовать в практической деятельности новые знания и умения, в том числе в новых областях знаний, непосредственно не связанных со сферой деятельности 3 В результате изучения учебной дисциплины обучающиеся должны: Знать Уметь Владеть 4 5 6 - методы анализа и синтеза информацион ных систем; - формальные модели систем; - средства структурного анализа; методологию структурного системного анализа и разрабатыва ть модели предметных областей; руководить процессом проектиров ания информаци онных систем; - применять на практике методы и методам и анализа и синтеза информа ционных систем; методам и разработ ки математ ических ПК-1 ПК-4 ПК-5 ПК-6 ПК-7 ПК-8 ПК-9 ПК-12 ПК-13 ПК-15 ПК-16 ПК-17 умение разрабатывать стратегии проектирования, определение целей проектирования, критериев эффективности, ограничений применимости способность осуществлять авторское сопровождение процессов проектирования, внедрения и сопровождения информационных систем и технологий умение организовывать взаимодействие коллективов разработчика и заказчика, принятие управленческих решений в условиях различных мнений умение находить компромисс между различными требованиями (стоимости, качества, сроков исполнения) как при долгосрочном, так и при краткосрочном планировании, нахождение оптимальных решений способность осуществлять сбор, анализ научно-технической информации, отечественного и зарубежного опыта по тематике исследования умение проводить разработку и исследование теоретических и экспериментальных моделей объектов профессиональной деятельности умение проводить разработку и исследование методик анализа, синтеза, оптимизации и прогнозирования качества процессов функционирования информационных систем и технологий способность проводить анализ результатов проведения экспериментов, осуществлять выбор оптимальных решений, подготавливать и составлять обзоры, отчеты и научные публикации способность прогнозировать развитие информационных систем и технологий разрабатывать методы решения нестандартных задач и новые методы решения традиционных задач воспроизводить знания для практической реализации новшеств осуществлять подготовку и обучение персонала 4 проектирован ия; - модели предметных областей информацион ных систем; - объектноориентирован ный подход; математическ ие модели информацион ных процессов; - формальные языки и грамматики; - анализ структур информацион ных систем; - методы управления проектом информацион ных систем; - механизмы интеграции систем; теоретически е основы построения моделей искусственны х нейронных сетей средства проектиров ания информаци онных систем; - оценивать качество проекта информаци онных систем; - проводить исследован ия характерист ик компоненто ви информаци онных систем в целом; осуществля ть контроль за разработкой проектной документац ии предложить архитектур ы нейронных сетей для реализации задачи реализовать программно нейронную сеть -уметь смоделиров ать нейронную сеть с помощью прикладных пакетов моделирова ния НС моделей информа ционных систем; методам и проектир ования информа ционных систем; средства ми автомати зированн ого проектир ования информа ционных систем; навыкам и составле ния инновац ионных проектов аппарато м, теорий, определе ниями теории искусств енных нейронн ых сетей 4 Объем дисциплины (модуля) и виды учебной работы Виды учебной работы Общая трудоёмкость Семестры, Всего количество часов часов 10 в семестре 72 Аудиторные занятия: 36 Лекций 18 Лабораторные работы 18 Самостоятельная работа: 36 Всего зач.ед. 2 Курсовой проект (работа) Зачет 5. Тематика лекционных и лабораторных занятий № 1. Тематика лекций Введение в нейронные вычисления Час 2 2. Принципы организации функционирования ИНС и 2 3. 2 4. Первые ИНС. Персептрон. Адаптивный линейный элемент Ассоциативные сети 5. Сети преобразования данных 2 6. Подготовка данных для обучения ИНС 4 7. Перспективы развития и применения ИНС и нейрокомпьютеров Всего 4 2 Тематика лабораторных работ Изучение модели формального нейрона Моделирование и исследование простого персептрона и адаптивного линейного элемента Исследование сети Хопфилда Час 2 Исследование машины Больцмана Исследование многослойного персептрона Исследование самоорганизующихся сетей Кохонена Изучение модели формального нейрона 2 18 Примечания 4 2 4 2 2 18 7. Тематика практических (семинарских) занятий (с указанием наименования и краткого содержания, количество часов). НЕТ 8. Тематика самостоятельной работы (с указанием наименования разделов, тем, сроки выполнения, количество часов). Подготовка к лабораторным работам 9. Тематика рефератов. НЕТ 10. Тематика курсовых проектов (работ). НЕТ 5 11. Формы текущего контроля ЧЕРЕЗ МОНИТОРИНГА НИРС WWW.SCIYOUTH.RU КАФЕДРАЛЬНУЮ СИСТЕМУ № Неделя Содержание контроля 1 4 Изучение модели формального нейрона 2 8 3 10 Моделирование и исследование простого персептрона и адаптивного линейного элемента Исследование сети Хопфилда 4 13 Исследование машины Больцмана 5 16 Исследование многослойного персептрона 12. Вопросы к зачету 1. Понятие нейронной сети (НС). Отличия НС от традиционных вычислительных систем. 2. Элементы нейрона. Сигмоидальный нейрон. 3. Задача четкого разделения двух классов на обучающей выборке. Разделение центров масс. 4. Алгоритм обучения персептрона. Виды обучения. 5. Геометрическая интерпретация алгоритма обучения персептрона. 6.Аппроксимация функций. Адалайн. Паде-нейрон. Нейрон с квадратичным сумматором. 7.Реализация булевых функций посредством НС. 8. Виды НС. Способы организации функционирования НС. 9. Интерпретация ответов НС. Виды интерпретации. 10. Оценка способности нейронной сети решить задачу. Константа Липшица сети. 11. Алгоритм обратного распространения ошибки. 12. Радиальная нейронная сеть 13. Особенности задач оптимизации, возникающих при обучении НС. 14. Выбор направления минимизации. Партан-методы. 15. Одношаговый квазиньютоновский метод и сопряженные градиенты. 16. Одномерная минимизация. 17. Методы глобальной оптимизации. Алгоритм имитации отжига. 18. Методы глобальной оптимизации. Генетические алгоритмы. 19. Метод виртуальных частиц. 20. Двунаправленная ассоциативная память. 21. Нейронная сеть Хопфилда как ассоциативная память. 22. Сеть Хемминга. 23. Решение задачи коммивояжера на сети Хопфилда. 24. Машина Больцмана. Решение задачи коммивояжера. 25. Машина опорных векторов. Оптимальная гиперплоскость для линейно-разделимых образов. 26. Метод построения машины опорных векторов. 6 27. Самообучение НС. Метод динамических ядер. Сети Кохонена. 28. Когнитрон. Неокогнитрон. 29. Нейронные сети адаптивного резонанса 30. Контрастирование (редукция) нейронной сети. Оценка значимости параметров и сигналов. 31. Сокращение числа входов в линейном сумматоре методом "снизу-вверх". 32. Метод исключения параметров "сверху-вниз" с ортогонализацией. 33. Бинаризация адаптивного сумматора. 34. Электронные и оптические методы реализации нейрокомпьютеров. 35. Система нечеткого вывода Мамдани-Заде. Фазификатор и дефазификатор 36. Нечеткие сети Такаги-Сугено-Канга 13. Перечень технических средства обеспечения дисциплины (оборудование, раздаточный материал и т. п.). Мультимедиа, Ноутбуки студентов, Компьютерный класс с интернетом и Wi-Fi, 14. Перечень программных средств для обучения студентов и контроля остаточных знаний (компьютерные программы, иллюстративный материал, видеофильмы и т. д.) Microsoft Office, Visual Studio, КАФЕДРАЛЬНАЯ СИСТЕМА МОНИТОРИНГА НИРС WWW.SCIYOUTH.RU ФАКУЛЬТЕТСКИЙ ПОРТАЛ WWW.SCIYOUTH.RU 15. Учебно-методические обеспечение дисциплины. 15.1 Список основной литературы по дисциплине (с указанием автора, названия, места издания, издательства, года издания, количество экземпляров в библиотеке университета). 1. И. В. Заенцев, Нейронные сети: основные модели, Учебное пособие к курсу "Нейронные сети" для студентов 5 курса магистратуры к. электроники физического фак-та Воронежского Государственного университета 2. Башмаков А.И., Башмаков И.А. Интеллектуальные информационные технологии: Учеб. пособие. - М.: Изд-во МГТУ им. Н.Э. Баумана, 2005. - 304 с 15.2 Список дополнительной литературы по дисциплине (с указанием автора, названия, места издания, издательства, года издания). 1. Круглов Владимир Васильевич, Борисов Вадим Владимирович Искусственные нейронные сети. Теория и практика. — 1-е. — М.: Горячая линия - Телеком, 2001. — С. 382. — ISBN 5-93517-031-О 2. В. А. Терехов, Д. В. Ефимов, И. Ю. Тюкин Нейросетевые системы управления. — 1-е. — Высшая школа, 2002. — С. 184. — ISBN 5-06-004094-1 7 3. Уоссермен, Ф. Нейрокомпьютерная техника: Теория и практика = Neural Computing. Theory and Practice. — М.: Мир, 1992. — 240 с. — ISBN 5-03-002115-9 4. Саймон Хайкин Нейронные сети: полный курс = Neural Networks: A Comprehensive Foundation. — 2-е. — М.: «Вильямс», 2006. — С. 1104. — ISBN 0-13-273350-1 5. Роберт Каллан Основные концепции нейронных сетей = The Essence of Neural Networks First Edition. — 1-е. — «Вильямс», 2001. — С. 288. — ISBN 5-8459-0210-X 6. Л.Н. Ясницкий Введение в искусственный интеллект. — 1-е. — Издательский центр "Академия", 2005. — С. 176. — ISBN 5-7695-1958-4 7. Г. К. Вороновский, К. В. Махотило, С. Н. Петрашев, С. А. Сергеев Генетические алгоритмы, искусственные нейронные сети и проблемы виртуальной реальности. — заказное. — Х.: ОСНОВА, 1997. — С. 112. — ISBN 5-7768-0293-8 8. Миркес Е. М., Нейрокомпьютер. Проект стандарта. — Новосибирск: Наука, 1999. — 337 с. ISBN 5-02031409-9 Другие копии онлайн: [3]. 9. Нейроинформатика. Новосибирск: Наука, 1998. 10. Беркинблит М. Б. Нейронные сети. — М.: МИРОС и ВЗМШ РАО, 1993. — 96 с. — ISBN 5-7084-00269 11. Еремин Д.М., Гарцеев И.Б. Искусственные нейронные сети в интеллектуальных системах управления. — М.: МИРЭА, 2004. — 75 с. — ISBN 5-7339-0423-2 12. Савельев А. В.. На пути к общей теории нейросетей. К вопросу о сложности // журнал «Нейрокомпьютеры: разработка, применение»., Издательство "Радиотехника". — 2006. — № 4-5. — С. 4—14. 15.3 Список методических указаний к лабораторным занятиям, практическим и семинарским занятиям, самостоятельной работе по дисциплине (с указанием автора, наименования, года издания, издательство (за последние 5 лет)). 15.4 Интернет-ресурсы используемые при изучении дисциплины (сайты). www.kruglov.html http://evrika.tsi.lv/index.php?name=texts&file=show&f=410 http://pca.narod.ru/MirkesNeurocomputer.htm http://www.katenke.net/static/berkinblit/neironnye_seti.html 16. Методы преподавания. ИННОВАЦИОННЫЕ. Технологическая карта дисциплины, учитывающая посещения лекционных занятий, выполнение лабораторных работ, содержащая подробное описание лабораторных работ и лекционных занятий, вопросы к экзамену. Технологическая карта располагается в Интернете на портале ФИСТ и доступна каждому студенту ФИСТ. Использование мультимедиа проектора при подаче лекционного материала Использование входных тестирований для прогноза успешного прохождения дисциплины, а также выходных тестирований контроля. Учащиеся могут самостоятельно выбирать предметные области для реализации экспертных систем, алгоритма прямого и обратного поиска. 8 Методические указания для преподавателя Основными видами обучения студентов являются лекции, лабораторные занятия в дисплейном классе и самостоятельная работа студентов. Лекционный материал должен содержать необходимый теоретический минимум для выполнения учащимися лабораторного практикума, состоящего из 8 тем. При чтении лекций особое внимание следует уделить терминологии, используемой в дисциплине, и основным понятиям разработки интеллектуальных систем Лабораторный практикум ориентируется на использование одного из ранее освоенных языков программирования для выполнения заданий. Самостоятельная работа ориентирована на домашнюю или классную работу как с компьютером, так и без него. Студенты должны систематически работать с литературой и конспектом лекций, с материалами Интернет. ЭС могут разрабатываться как в компьютерном, так и в рукописном варианте в порядке подготовки к лабораторному занятию. Оценка самостоятельной работы должна входить в оценку контрольных точек практикума с учётом контроля остаточных знаний по тестовым вопросам. Методические указания для студента Основными методами обучения являются лекции, лабораторные занятия в дисплейном классе и самостоятельная работа. При проработке лекций особое внимание следует уделить терминологии, используемой в дисциплине. С помощью поисковых систем можно найти дополнительную информацию о создании интеллектуальных информационных систем. Следует учесть, что без самостоятельной работы по подготовке выполнить график лабораторного практикума практически невозможно. Документирование и формирование итоговой отчётности следует начинать заблаговременно и вести в соответствии с российскими стандартами, а также по оформлению учебных документов и научно-исследовательских отчётов. Без предоставления отчётов студенты не могут быть аттестованы по дисциплине в целом. Все лабораторные работы выполняются самостоятельно. 17. Дополнения и изменения в рабочей программе за 20___/20___ учебный год В рабочую программу дисциплины _______________________________________ (наименование дисциплины) для специальности (направления, профиля подготовки) вносятся следующие дополнения и изменения: __________________________________________________ Дополнения и изменения внес ___________________________________________ (должность, Ф.И.О., подпись) Рабочая программа пересмотрена и одобрена на заседании кафедры ________________________________________________«____»___________20 __ г. (наименование кафедры) протокол № ___от «__»_________20 __ г. ___________________________________ (Ф.И.О. и подпись зав. кафедрой) 9