Сучасні проблеми науки та освіти. Сучасні проблеми науки та освіти Нечіткі нейронні мережі та генетичні алгоритми

ISBN 978-5-9912-0320-3 Сайт видавництва: www.techbook.ru Н ейронни е мережі, генетичні алгоритми та нечіткі системи <...> нейронні мережі, Генетичні алгоритми та нечіткі системи: Пер. з пол.<...>ББК 30.17 Адреса видавництва в Інтернет www.techbook.ru Наукове видання Рутковська Данута, Піліньскій Мачей, Рутковський Лешек нейронні МЕРЕЖІ, ГЕНЕТИЧНІ АЛГОРИТМИ І НЕЧІТКІ СИСТЕМИ 2-е видання, стереотипне Редактор А. С.<...> адаптивнийлінійний зважений суматорз сигмоид на виході.<...> приклади оптимізації <...> приклади оптимізаціїфункції за допомогою програми Evolver . <...>Рішення комбінаторних задач за допомогою програми Evolver . <...> приклади оптимізаціїфункції за допомогою програми FlexTool.<...> приклади оптимізаціїфункції за допомогою програми Evolver . <...>Далі наводяться два алгоритму алгоритмзворотного поширення помилки алгоритм <...>Далі наводяться два алгоритмунавчання багатошарових нейронних мереж: класичний і найбільш часто вживаний алгоритмзворотного поширення помилки, А також значно швидший алгоритм, Заснований на рекуррентном методі найменших квадратів.<...> алгоритмунавчання цих мереж: алгоритмзворотного поширенняпомилки і рекурентний алгоритм <...>Тому в цьому розділі ми обговоримо в першу чергу базові елементибагатошарових нейронних мереж - персептрон і системи типу Адалайн (з лінійним і нелінійним виходом), після чого визначимо два алгоритмунавчання цих мереж: алгоритмзворотного поширенняпомилки і рекурентний алгоритмметоду найменших квадратів.<...>Персептрон 23 гіперплоскостей<...>

Нейронние_сеті, _генетіческіе_алгорітми_і_нечеткіе_сістеми.pdf

Д. Рутковська М. П іліньскій Л. Рутковський Н ейронни е мережі, генетичні алгоритми та нечіткі системи Гаряча лініяТелеком WYDAWNICTWO NAUKOWE PWN 2-е видання

Стор.1

2-е видання

стр.3

УДК 681.322 ББК 30.17 Р90 Рутковська Д., Піліньскій М., Рутковський Л. Р90 Нейронні мережі, генетичні алгоритми та нечіткі системи: Пер. з пол. І. Д. Рудинського. - 2-е изд., Стереотип. - М .: Гаряча лінія - Телеком, 2013. - 384 c .: іл. ISBN 978-5-9912-0320-3. Книга присвячена питанням «інтелектуальних обчислень». Містить базові знання про генетичні алгоритми, еволюційному програмуванні, нечітких системах, а також про зв'язки цих напрямків з нейронними мережами. Для наукових і інженерно-технічних працівників в галузі інформатики та обчислювальної техніки, що займаються створенням і використанням інтелектуальних систем, а також аспірантів і студентів різних спеціальностей в області комп'ютерних технологій. ББК 30.17 Адреса видавництва в Інтернет www.techbook.ru Наукове видання Рутковська Данута, Піліньскій Мачей, Рутковський Лешек нейронні мережі, ГЕНЕТИЧНІ АЛГОРИТМИ І НЕЧІТКІ СИСТЕМИ 2-е видання, стереотипне Редактор А. С. Попов Комп'ютерна верстка Т. С. Левикін Обкладинка художника В. Г. Ситникова Підписано до друку 09.01.2013. Формат 60 × 90/16. Друк цифровий Уч.-изд. л. 24. Тираж 200 прим. Вид. № 13320 ISBN 978-5-9912-0320-3 © Рутковська Д., Піліньскій М., Рутковський Л. 1997, 2013 © Видавництво Wydawnictwo Naukowe PWN, 1997, 1999, 2004 © Рудинський І. Д., переклад з польськ., 2004, 2013 © Видавництво «Гаряча лінія-Телеком», 2004, 2013

стр.4

Зміст Передмова. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 9 Передмова до російського видання. . . . . . . . . . . . . . . . . . . . . . . 12 1. Введення. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 14 Список літератури. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 16 2. Багатошарові нейронні мережі та алгоритми їх навчання 18 2.1. Вступ. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 18 2.2. Нейрон і його моделі. . . . . . . . . . . . . . . . . . . . . . . . . . . . . 18 2.3. Персептрон. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 21 2.4. Системи типу Адалайн. . . . . . . . . . . . . . . . . . . . . . . . . . . 25 2.4.1. Лінійний зважений суматор. . . . . . . . . . . . . . . 26 2.4.2. Адаптивний лінійний зважений суматор. . . . . 30 2.4.3. Адаптивний лінійний зважений суматор з сигмоид на виході. . . . . . . . . . . . . . . . . . . . . . . 31 2.5. Алгоритм зворотного розповсюдження помилки. . . . . . . . . . 33 2.6. Застосування рекурентного методу найменших квадратів для навчання нейронних мереж. . . . . . . . . . . . . . . . . . . . . 37 Список літератури. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 43 3. Нечіткі безлічі і нечіткий висновок. . . . . . . . . . . . . . . . 45 3.1. Вступ. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 45 3.2. Основні поняття і визначення теорії нечітких множин. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 45 3.3. Операції на нечітких множинах. . . . . . . . . . . . . . . . . . . 56 3.4. Принцип розширення. . . . . . . . . . . . . . . . . . . . . . . . . . . . . 64 3.5. Нечіткі числа. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 68 3.6. Трикутні норми. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 75 3.7. Нечіткі відносини і їх властивості. . . . . . . . . . . . . . . . . . 78 3.8. Нечіткий висновок. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 83 3.8.1. Основні правила виведення в двійковій логіці. . . . . . 83 3.8.2. Основні правила виведення в нечіткій логіці. . . . . . 84 3.8.2.1. Узагальнене нечітке правило modus ponens. . . 84 3.8.2.2. Узагальнене нечітке правило modus tollens. . . 87 3.8.3. Правила нечіткої імплікації. . . . . . . . . . . . . . . . . . 88

стор.5

6 Зміст 3.9. Нечітке управління. . . . . . . . . . . . . . . . . . . . . . . . . . . . . 91 3.9.1. Класичний модуль нечіткого управління. . . . . . 92 3.9.1.1. База правил. . . . . . . . . . . . . . . . . . . . . . . . . . . . . 92 3.9.1.2. Блок фуззіфікаціі. . . . . . . . . . . . . . . . . . . . . . 94 3.9.1.3. Блок вироблення рішення. . . . . . . . . . . . . . . . . . 94 3.9.1.4. Блок дефуззіфікаціі. . . . . . . . . . . . . . . . . . . . . 105 3.9.2. Метод нечіткого управління Такагі-Сугено. . . . . . . 106 3.10. Проектування бази нечітких правил на основі чисельних даних. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 109 3.10.1. Побудова нечітких правил. . . . . . . . . . . . . . . . . 110 3.10.2. Завдання паркування вантажівки. . . . . . . . . . . . . . . . . . . 115 3.10.3. Примітка. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 118 Список літератури. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 122 4. Генетичні алгоритми. . . . . . . . . . . . . . . . . . . . . . . . . . . . . 124 4.1. Вступ. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 124 4.2. Генетичні алгоритми і традиційні методи оптимізації. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 125 4.3. Основні поняття генетичних алгоритмів. . . . . . . . . . 126 4.4. Класичний генетичний алгоритм. . . . . . . . . . . . . . . . 130 4.5. Ілюстрація виконання класичного генетичного алгоритму. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 136 4.6. Кодування параметрів завдання в генетичному алгоритмі 139 4.7. Основна теорема про генетичні алгоритми. . . . . . . . . 144 4.8. Модифікації класичного генетичного алгоритму. . . 157 4.8.1. Методи селекції. . . . . . . . . . . . . . . . . . . . . . . . . . . 157 4.8.2. Особливі процедури репродукції. . . . . . . . . . . . . . . 160 4.8.3. Генетичні оператори. . . . . . . . . . . . . . . . . . . . . . 161 4.8.4. Методи кодування. . . . . . . . . . . . . . . . . . . . . . . . . 163 4.8.5. Масштабування функції пристосованості. . . . 164 4.8.6. Ніші в генетичному алгоритмі. . . . . . . . . . . . . . . . 166 4.8.7. Генетичні алгоритми для багатокритеріальної оптимізації. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 167 4.8.8. Генетичні мікроалгорітми. . . . . . . . . . . . . . . . . . 169 4.9. Приклади оптимізації функції за допомогою програми FlexTool. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 170 4.10. Еволюційні алгоритми. . . . . . . . . . . . . . . . . . . . . . . . 206 4.11. Додатки еволюційних алгоритмів. . . . . . . . . . . . . . 213

стор.6

Зміст 7 4.11.1. Приклади оптимізації функції за допомогою програми Evolver. . . . . . . . . . . . . . . . . . . . . . . . . 214 4.11.2. Рішення комбінаторних задач за допомогою програми Evolver. . . . . . . . . . . . . . . . . . . . . . . . . 246 4.12. Еволюційні алгоритми в нейронних мережах. . . . . . . . 250 4.12 1. Незалежне застосування генетичних алгоритмів і нейронних мереж. . . . . . . . . . . . . . . . . . . . . . . . . 252 4.12.2. Нейронні мережі для підтримки генетичних алгоритмів. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 252 4.12.3. Генетичні алгоритми для підтримки нейронних мереж. . . . . . . . . . . . . . . . . . . . . . . . . . 253 4.12.4. Застосування генетичних алгоритмів для навчання нейронних мереж. . . . . . . . . . . . . . . . . . . 256 4.12.5. Генетичні алгоритми для вибору топології нейронних мереж. . . . . . . . . . . . . . . . . . . . . . . . . . 256 4.12.6. Адаптивні взаємодіючі системи. . . . . . 257 4.12.7. Типовий цикл еволюції. . . . . . . . . . . . . . . . . . . . . 257 4.12.7.1. Еволюція ваг зв'язків. . . . . . . . . . . . . . . . . . . 259 4.12.7.2. Еволюція архітектури мережі. . . . . . . . . . . . . . . 261 4.12.7.3. Еволюція правил навчання. . . . . . . . . . . . . . . 264 4.13. Приклади моделювання еволюційних алгоритмів у додатку до нейронних мереж. . . . . . . . . . . . . . . . . . 266 4.13.1. Програми Evolver і BrainMaker. . . . . . . . . . . . . . 268 4.13.2. Програма GTO. . . . . . . . . . . . . . . . . . . . . . . . . . . 274 Список літератури. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 303 5. Модулі нечітко-нейронного управління. . . . . . . . . . . . . . . . 307 5.1. Модуль нечіткого управління зі структурою, визначеною в процесі дефуззіфікаціі. . . . . . . . . . . 308 5.1.1. Вступ. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 308 5.1.2. Конструкція модуля. . . . . . . . . . . . . . . . . . . . . . . . . 309 5.1.3. Структура модуля. . . . . . . . . . . . . . . . . . . . . . . . . . . 311 5.1.4. Використання алгоритму зворотного поширення помилки. . . . . . . . . . . . . . . . . . . . . 313 5.1.5. Модифікації модуля. . . . . . . . . . . . . . . . . . . . . . . 320 5.1.6. Застосування модуля нечіткого управління для прогнозування випадкових часових рядів. . . . 322 5.1.7. Застосування модуля нечіткого управління для вирішення завдання паркування вантажівки. . . . . . . . . . . . . 326 5.1.8. Примітка. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 330

стр.7

8 Зміст 5.2. Подання модуля нечіткого управління в вигляді стандартної нейронної мережі. . . . . . . . . . . . . . . . . . . . . . . 330 5.3. Модуль нечіткого управління з нейронною мережею для виконання дефуззіфікаціі. . . . . . . . . . . . . . . . . . . . . . 333 5.3.1. Вступ. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 333 5.3.2. Конструкція модуля. . . . . . . . . . . . . . . . . . . . . . . . . 334 5.3.3. Структура модуля. . . . . . . . . . . . . . . . . . . . . . . . . . . 335 5.3.4. Алгоритми навчання модуля. . . . . . . . . . . . . . . . . . 337 5.3.5. Рішення завдання стабілізації перевернутого маятника. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 342 5.3.6. Примітка. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 348 5.4. Модуль нечіткого управління з можливістю корекції правил. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 348 5.4.1. Вступ. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 348 5.4.2. Фаза навчання на основі самоорганізації. . . . . . 349 5.4.3. Фаза навчання з учителем. . . . . . . . . . . . . . . . . . . . 354 5.4.4. Примітка. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 356 5.5. Модуль нечіткого управління типу Такагі-Сугено: випадок незалежних лінгвістичних змінних. . . . . . 356 5.5.1. Вступ. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 356 5.5.2. Нейронна реалізація функції приналежності. . 357 5.5.3. Модулі Такагі-Сугено. . . . . . . . . . . . . . . . . . . . . . . 359 5.5.4. Реалізація умов. . . . . . . . . . . . . . . . . . . . . . . . . 359 5.5.5. Реалізація висновків. . . . . . . . . . . . . . . . . . . . . . 361 5.5.6. Примітка. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 365 5.6. Модуль нечіткого управління типу Такагі-Сугено: випадок залежних лінгвістичних змінних. . . . . . . 365 5.6.1. Вступ. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 365 5.6.2. Нейронні мережі для нечіткого виведення. . . . . . . . . . 366 5.6.3. Структура системи. . . . . . . . . . . . . . . . . . . . . . . . . . 368 5.6.4. Спосіб навчання. . . . . . . . . . . . . . . . . . . . . . . . . . . . 372 5.6.5. Рішення завдання паркування вантажівки. . . . . . . . . . . . 374 5.6.6. Примітка. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 378 Список літератури. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 379 Предметний покажчик. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 381

стр.8

Передмова Двадцяте століття завершився під знаком революції в області обробки інформації. Ми стали свідками як швидкого зростання обсягу доступних даних, так і збільшення швидкості їх обробки і передачі, а також ємності запам'ятовуючих пристроїв. Чітко видно, що ці явища не тільки взаємопов'язані, але і підсилюють один одного. У ситуації лавінобразного наростання обсягів інформації та обчислювальних потужностей виникає очевидне запитання яким чином можна поліпшити наші здібності до пізнання навколишнього світу, маючи в наявності настільки великі і безперервно зростаючі технічні можливості? Допомога приходить з боку апробованих класичних математичних методів, створених працями Ньютона, Лейбніца, Ейлера та інших геніїв минулого, що заклали фундамент сучасних обчислювальних алгоритмів. Завдяки їм у нас є спеціалізовані обчислювальні процедури для розпізнавання образів і мови, для управління системами різних класів і вирішення інших аналогічних проблем. Незалежні від цього напрямку дослідження в області штучного інтелекту привели до створення експертних та прогностичних систем, заснованих на символьної обробки і використовують бази правил. Однак всі перераховані вище підходи передбачають використання або вузькоспеціалізованих обчислювальних методик, або спеціалізованих баз знань, найчастіше укладених в жорсткий корсет двійковій логіки. Ще одне обмеження на застосування цих методів пов'язане з фактом, що вони не допускають безпосереднє вирішення завдань при використанні обчислювальних систем з універсальної архітектурою, загальною для більшості практичних застосувань. Таким чином, ми підходимо до походження і сутності обчислювальних технологій, що становлять предмет цієї книги. Ці технології, що об'єднуються в англомовній літературі під назвою Computational Intelligence, дозволяють отримувати безперервні або дискретні рішення в результаті навчання за доступними наявними даними. Один з підкласів обговорюваної групи методів складають нейронні мережі, що використовують стохастичні алгоритми для навчання моделі з учителем або шляхом самоорганізації. Вони призначені для обробки зашумлених цифрових даних, за якими алгоритми навчання вибудовують односпрямовані або рекурентні моделі цікавлять нас процесів. Ці моделі характеризуються регулярною структурою, складеної з нелінійних елементів, об'єднаних розгалуженою мережею лінійних з'єднань і часто доповнюється локальними або глобальними зворотними зв'язками. При моделюванні процесів можливості нейронних мереж можуть посилюватися за рахунок застосування технології обробки інформації, заснованої на нечітких множинах і нечіткому висновку. Цей метод пов'язаний з оцінюванням функції приналежності елементів до множинам за допомогою нечітких логічних операторів. Пропонований підхід не тільки послаблює вимоги до точності даних в процесі побудови

стр.9

10 Передмова моделі, але і дозволяє описати складні системи за допомогою змінних, значення яких визначаються на інтуїтивному рівні. Що виникає в результаті парадигма моделювання, управління, вироблення рішень і т.п. веде до формування лінгвістичних аргументів логічних функцій. Такі функції, що описують реальні об'єкти, можуть уточнюватися в процесі навчання за наявними даними. Інший підхід полягає в формуванні правил виведення безпосередньо в процесі навчання. Цим і визначається взаємопроникнення і компліментарність нейронних моделей і систем, які базуються на нечіткій логіці. Лінгвістичні оператори, які ми використовуємо при повсякденному спілкуванні, і ітераційний процес навчання разом ведуть до інтелектуальних логікоалгебраіческім моделям, визначеним поняттям Computational Intelligence (обчислювальні технології). Інтелектуальність в даному випадку розуміється як здатність застосовувати знання, накопичені в процесі навчання, як можливість генерувати правила виведення і як вміння узагальнювати інформацію. Важливим класом алгоритмів навчання, що збагатили нейронні і нечіткі технології, вважаються еволюційні алгоритми. Вони оперують популяціями хромосом, які оцінюються функціями пристосованості, і використовують еволюційну і генетичну обумовленість зміни послідовності бітів або чисел. Таким чином ефективно досліджується простір можливих рішень. Оптимальне рішення шукається в серії послідовних наближень аргументів з кращими значеннями функцій пристосованості, що генеруються в результаті мутації і схрещування хромосом. Автор цих нотаток в якості голови Комітету Симпозіуму Computational Intelligence: Imitating Life, що відбувся в Орландо в 1994 р, стояв біля витоків злиття цих трьох наукових напрямків і виникнення нової інтегральної галузі знань. Він із задоволенням вітає «Нейронні мережі, генетичні алгоритми та нечіткі системи» - новаторську книгу польською видавничому ринку. Крім обговорення базових елементів нейронних мереж, опису нечітких систем і еволюціонногенетіческіх алгоритмів, ця праця містить і оригінальні наукові результати авторів. У книзі наводяться подробиці реалізації конкретних технічних рішень, В тому числі різних процесорів і учнів систем, заснованих на нечіткій логіці. Велика увага приділяється питанням практичного використанняряду пакетів прикладних програм. Тематично книга пов'язана з науковими напрямками Всепольському конференцій по нейронних мереж і їх додатків, організованих професором Л. Рутковським і Польським товариством нейронних мереж в 1994 і 1996 р.р. Дана публікація під керівництвом професора Л. Рутківського надзвичайно актуальна, цінна і унікальна. Вона заповнює велику нішу на ємному науковотехнічної ринку Польщі. Книга виявиться особливо корисною інженерам різних спеціальностей, економістам, фізикам, математикам і фахівцям з інформатики, а також студентам

стор.10

Передмова 11 цих та суміжних з ними областей знань. Слід привітати авторів з великим досягненням у вигляді цього прекрасного наукової праці. Ця книга повинна не тільки помножити визнання їх заслуг, а й залучити нові ряди ентузіастів цієї захоплюючої наукової дисципліни. Липень 1996 р Яцек Журада член IEEE. Університет Луїсвілль, США

Апарат нечітких множин і нечіткої логіки вже давно з успіхом застосовується для вирішення завдань, в яких вихідні дані є ненадійними і слабо формалізованими. Сильні сторонитакого підходу.

Опис умов та методу розв'язання задачі мовою, близькою до природного;

Універсальність: відповідно до теореми FAT (Fuzzy Approximation Theorem), доведеною Б Коско (В. Kosko) в 1993 р, будь-яка математична система може бути апроксимована системою, заснованої на нечіткій логіці;

Ефективність (пов'язана з універсальністю), пояснює поруч теорем, аналогічних теорем про повноту для штучних нейронних мереж, наприклад, теоремою виду: для кожної речової безперервної функціїзаданої на компакті та для довільного існує нечітка експертна система, що формує вихідну функцію таку, що

де - символ прийнятого відстані між функціями.

Разом з тим, для нечітких систем характерні і певні недоліки:

Вихідний набір постуліруемих нечітких правил формулюється експертом-людиною і може виявитися неповним або суперечливим;

Вид і параметри функцій приналежності, що описують вхідні і вихідні змінні системи, вибираються суб'єктивно і можуть виявитися не цілком відображають реальну дійсність.

Для усунення, по крайней мере, частково, зазначених недоліків було запропоновано створювати нечіткі системи адаптивними, коректуючи, у міру їх роботи, правила і параметри функцій приналежності. Одними з найбільш вдалих прикладів таких систем є нечіткі нейронні мережі.

Нечітка нейронна мережа формально за структурою ідентична багатошарової нейронної мережі з навчанням, наприклад, за алгоритмом зворотного поширення помилки, але приховані шари в ній відповідають етапам функціонування нечіткої системи:

Перший шар нейронів виконує функцію введення нечіткості (fuzzification) на основі заданих функцій приналежності входів;

Другий шар відображає сукупність нечітких правил;

Третій шар виконує функцію приведення до чіткості (defuzzification).

Кожен з цих шарів характеризується набором параметрів (функціями приналежності, нечіткими вирішальними правилами, активаційними функціями, вагами зв'язків), настройка яких проводиться, по суті, так само, як і для звичайних нейронних мереж.

нижче розглядаються теоретичні аспектистворення подібних мереж, а саме, апарат нечіткої логіки та власне нечіткі нейронні мережі стосовно завдань прийняття рішень в умовах невизначеності.

Крім того, в цьому розділі значну увагу приділено розгляду генетичних алгоритмів, які як і нечіткі нейронні мережі належать до класу гібридних систем. Найбільш затребуваним є додаток, в якому генетичні алгоритми використовуються в процесі навчання нейронних мереж, в тому числі і нечітких, для пошуку оптимальної структури і набору вагових коефіцієнтів.

ПІД-регулятори, описані вище, мають погані показники якості при управлінні нелінійними і складними системами, а також при недостатній інформації про об'єкт управління. Характеристики регуляторів в деяких випадках можна поліпшити за допомогою методів нечіткої логіки, нейронних мереж і генетичних алгоритмів. Перераховані методи за кордоном називають "soft-computing", підкреслюючи їх відмінність від "hard-computing", що складається в можливості оперувати з неповними і неточними даними. В одному контролері можуть застосовуватися комбінації перерахованих методів (фаззи-ПІД, нейро-ПІД, нейро-фаззі-ПІД регулятори з генетичними алгоритмами).

Основним недоліком нечітких і нейромережевих контролерів є складність їх налаштування (складання бази нечітких правил і навчання нейронної мережі).

5.7.1. Нечітка логіка в ПІД-регуляторах

Нечіткий висновок виконується наступним чином. Припустимо, що область зміни помилки розділена на безлічі, область зміни керуючого впливу - на безлічі і що за допомогою експерта вдалося сформулювати такі правила роботи регулятора [Astrom]:

Наведені правила часто записують в більш компактній табличній формі (рис. 5.91).

Використовуючи правила, можна отримати значення керуючої змінної на виході нечіткого регулятора. Для цього потрібно знайти функцію приналежності змінної безлічі, освіченій в результаті виконання операцій виводу над множинами, що входять в систему правил (5.118).

Операція "И" в правилах (5.118) відповідає перетину множин, а результат застосування всіх правил відповідає операції об'єднання множин [Рутковська]. Функція приналежності для перетину двох множин, наприклад, і (див. Правило 1) знаходиться як [Рутковська]

Функції приналежності, отримані при перетині або об'єднанні множин, можуть бути визначені різними способами, В залежності від сенсу розв'язуваної задачі. У цьому сенсі сама теорія нечітких множин теж є нечіткою. В [Рутковська] наводиться 10 різних визначень функції приналежності для перетину множин, але не сказано, яке з них потрібно вибрати для вирішення конкретного завдання. Використовують, зокрема, більш зрозумілу операцію знаходження функцій приналежності в разі перетину і об'єднання множин, що має аналогію з правилами множення і додавання ймовірностей:

Однак застосування перших двох способів знаходження функції приналежності зазвичай більш переважно, тому що при цьому зберігається більшість правил, розроблених для звичайних множин [Усков].

Функції приналежності для кожного з множин, що входять в нечітку змінну в правилах (5.118), виходять у вигляді [Рутковська]

Тут кожне з 9-ти рівнянь відповідає одному з правил (5.118). Результуюча функція приналежності керуючого впливу, отримана після застосування всіх 9-ти правил, знаходиться як об'єднання функцій приналежності всіх правил:

Тепер, коли отримана результуюча функція приналежності керуючого впливу, виникає питання, яке конкретно значення керуючого впливу потрібно вибрати. Якщо використовувати вірогідну інтерпретацію теорії нечітких множин, то стає зрозуміло, що таке значення можна отримати за аналогією з математичним очікуванням керуючого впливу у вигляді:

Такий спосіб дефаззифікації є найбільш поширеним, але не єдиним.

Для побудови нечітких регуляторів зазвичай використовують П, І, ПІ і ПД ПД + І, ПІ + Д і ПІД-закони регулювання [Mann]. В якості вхідних сигналів для системи нечіткого виведення використовують сигнал помилки, приріст помилки, квадрат помилки і інтеграл від помилки [Mann]. Реалізація нечіткого ПІД регулятора викликає проблеми, оскільки він повинен мати тривимірну таблицю правил відповідно до трьох складовими в рівнянні ПІД-регулятора, яку надзвичайно складно заповнити, користуючись відповідями експерта. Велика кількість структур ПІД-подібних нечітких контролерів можна знайти в статті [Mann].

Остаточне налаштування нечіткого регулятора або настройка, близька до оптимальної, до сих пір залишається важким завданням. Для цього використовуються навчальні алгоритми style = "color: red"> і генетичні пошукові методи, що вимагають великих обчислювальних ресурсів і часу.

Застосування нечіткої логіки для підстроювання коефіцієнтів ПІД-регулятора

Налаштування регулятора, виконана методами, викладеними в розділах "Розрахунок параметрів" і "Автоматична настройка і адаптація", не є оптимальною і може бути поліпшена за допомогою подальшої підстроювання. Підстроювання може бути виконана оператором на підставі правил (див. Розділ "Ручна настройка, заснована на правилах") або автоматично, за допомогою блоку нечіткої логіки (рис. 5.92). Блок нечіткої логіки (фаззи-блок) використовує базу правил підстроювання і методи нечіткого виведення. Фазі-підстроювання дозволяє зменшити перерегулювання, знизити час встановлення і підвищити робастної ПІД-регулятора [Yesil].

Процес автонастройки регулятора за допомогою блоку нечіткої логіки починається з пошуку початкових наближень коефіцієнтів регулятора. Це робиться зазвичай методом Зіглера-Нікольса, виходячи з періоду власних коливань в замкнутій системі і петлевого посилення. Далі формулюється критеріальна функція, необхідна для пошуку оптимальних значень параметрів настроювання методами оптимізації.

В процесі настройки регулятора використовують кілька кроків [Hsuan]. Спочатку вибирають діапазони вхідних і вихідних сигналів блоку автонастройки, форму функцій приналежності шуканих параметрів, правила нечіткого виведення, механізм логічного висновку, метод дефаззифікації і діапазони масштабних множників, необхідних для перерахунку чітких змінних в нечіткі.

Пошук параметрів регулятора виконується методами оптимізації. Для цього вибирається цільова функція як інтеграл від суми квадратів помилки регулювання і часу встановлення. В критерій мінімізації іноді додають швидкість наростання вихідної змінної об'єкта.

Як шуканих параметрів (параметрів, які треба знайти) вибирають положення максимумів функцій приналежності (див. Рис. 5.90) ​​і масштабні коефіцієнти на вході і виході фаззи-блоку. До задачі оптимізації додають обмеження на діапазон зміни позицій функцій приналежності. Оптимізація критеріальною функції може бути виконана, наприклад, за допомогою генетичних алгоритмів.

Слід зазначити, що у випадках, коли інформації достатньо для отримання точної математичної моделі об'єкта, традиційний регулятор завжди буде краще нечіткого тому, що при синтезі нечіткого регулятора вихідні дані задані наближено.

5.7.2. Штучні нейронні мережі

Нейронні мережі, як і нечітка логіка, використовуються в ПІД-регуляторах двома шляхами: для побудови самого регулятора і для побудови блоку настройки його коефіцієнтів. Нейронна мережа має здатність "навчатися", що дозволяє використовувати досвід експерта для навчання нейронної мережі мистецтву настройки коефіцієнтів ПІД-регулятора. Регулятор з нейронною мережею схожий на регулятор з табличним управлінням (див. Розділ "Табличне управління">), проте відрізняється спеціальними методами настройки ( "навчання"), розробленими для нейронних мереж і методами інтерполяції даних.

На відміну від нечіткого регулятора, де експерт повинен сформулювати правила настройки в лінгвістичних змінних, при використанні нейронної мережі від експерта не потрібно формулювання правил - досить, щоб він кілька разів сам налаштував регулятор в процесі "навчання" нейронної мережі.

Нейронні мережі були запропоновані в 1943 р Мак-Каллоком і Питтсом як результат вивчення нервової діяльності і біологічних нейронів. штучний нейронявляє собою функціональний блок з одним виходом і входами, який реалізує в загальному випадку нелінійне перетворення , Де - вагові коефіцієнти (параметри) при вхідних змінних; - постійний зсув; - " функція активації"Нейрона, наприклад, виду (Сигмоїдальна функція), Де - деякий параметр. Нейронна мережа (рис. 5.93) складається з безлічі пов'язаних між собою нейронів, кількість зв'язків може становити тисячі. Завдяки нелінійності функцій активації і великій кількості параметрів, що коефіцієнтів (в роботі [Kato] використано 35 нейронів у вхідному шарі і 25 в вихідному, при цьому кількість коефіцієнтів склало 1850) нейронна мережа може виконувати нелінійне відображення множини вхідних сигналів під безліч вихідних.

Типова структура системи автоматичного регулювання з ПІД-регулятором і нейронною мережею в якості блоку автонастройки показана на рис. 5.94 [Kawafuku, Kato]. Нейронна мережа в даній структурі виконує роль функціонального перетворювача, який для кожного набору сигналів виробляє коефіцієнти ПІД-регулятора .метод зворотного поширення помилки) [Терехов]. Використовуються також інші методи пошуку мінімуму, в тому числі генетичні алгоритми, метод моделювання відпалу, метод найменших квадратів.

Процес навчання нейронної мережі виглядає наступним чином (рис. 5.95). Експертові надають можливість підлаштовувати параметри регулятора в замкнутій системі автоматичного регулювання при різних вхідних впливах. Передбачається, що експерт вміє це робити з достатньою для практики якістю. Тимчасові діаграми (осцилограми) змінних, отримані в системі, подстраиваемой експертом, записуються в архів і потім подаються на нейронну мережу, підключену до ПІД-регулятору (рис. 5.95

Мал. 5.95. Схема навчання нейронної мережі в блоці автонастройки

Тривалість процесу навчання є основною перешкодою на шляху широкого використання методів нейронних мереж в ПІД-регуляторах [Усков]. Іншими недоліками нейронних мереж є неможливість передбачення похибки регулювання для вхідних впливів, які не входили в набір навчальних сигналів; відсутність критеріїв вибору кількості нейронів в мережі, тривалості навчання, діапазону і кількості навчальних впливів. Ні в одній з публікацій не досліджували робастної або запас стійкості регулятора.

5.7.3. генетичні алгоритми

1. Вибір вихідної популяції хромосом розміру N.

2. Оцінка пристосованості хромосом в популяції.

3. Перевірка умови зупинки алгоритму.

4. Селекція хромосом.

5. Застосування генетичних операторів.

6. Формування нової популяції.

7. Перехід до п. 2.

Для роботи алгоритму потрібно задати нижню і верхню межі зміни шуканих параметрів, ймовірність схрещування, ймовірність мутації, розмір популяції і максимальну кількість поколінь.

Вихідна популяція хромосом генерується випадковим чином. Пристосованість хромосом оцінюється за допомогою цільової функції в кодованому вигляді. Далі, хромосоми з кращого пристосованістю збираються в групу, в межах якої виконуються генетичні операції схрещування або мутації. Схрещування дозволяє отримати від двох батьків перспективного нащадка. Оператор мутації вносить зміни в хромосоми. У разі двійкового кодування мутація полягає в зміні випадкового біта в двійковому слові.

Мал. 5.97), потім відбувається обмін генетичною інформацією, розташованої праворуч від обраної позиції [Fleming].

Після виконання генетичного алгоритму виробляють декодування двійкового представлення в інженерні величини.

Оцінка пристосованості хромосом в популяції для оцінки коефіцієнтів ПІД-регулятора може бути обрана, наприклад, як

,

де - поточне значення помилки регулювання, - час.

Селекція хромосом здійснюється методом рулетки. На колесі рулетки є сектори, причому ширина сектора пропорційна функції пристосованості. Тому чим більше значення цієї функції, тим більш ймовірний відбір відповідної їй хромосоми.