Перший і другий принципи адитивності інформації.

Перший принцип адитивності інформації дозволяє в рамках синтаксичного підходу оцінювати цінність інформації через її кількісні характеристики.

Другий принцип адитивності інформації дозволяє визначити робочу область значень інформаційного КФЕ, яка задовольняє вимогам: чим більше кількість інформації про образи, що розпізнаються, тим більша достовірність рішень, що приймаються.

Принцип апріорної недостатності обґрунтування гіпотез (принцип Бернуллі-Лапласа) . Для оцінки ефективності функціонування СК, що навчається, апріорна інформація є неповною, тому, згідно з принципом Бернуллі-Лапласа, виправдано прийняття рівноймовірних гіпотез. При цьому гарантується, що покращення умов функціонування системи не знизить її функціональну ефективність, а навпаки підвищить.

Принцип “найближчого сусіди” обумовлює необхідність побудови оптимальних роздільних гіперповерхонь між найближчими класами розпізнавання.

Принцип рандомізації вхідних даних. Цей принцип дозволяє разом з детермінованими характеристиками функціонального стану СПР розглядати випадкові реалізації образів розпізнавання, що дає змогу оцінювати точнісні характеристики процесу навчання і обчислювати інформаційну спроможність системи.

Основні концептуальні положення ІЕІТ можна сформулювати так:

_· метод ґрунтується на прямій оцінці інформаційної спроможності системи розпізнавання, що навчається;

_· прийняття рішень здійснюється в рамках детерміновано-статистичного підходу шляхом побудови відносно простого детермінованого класифікатора, статистична корекція якого здійснюється в процесі навчання з метою підвищення достовірності рішень, що приймаються на екзамені;

_· метод ґрунтується на застосуванні гіпотез як чіткої, так і нечіткої компактності реалізацій образу, тобто є працездатним за умови перетину класів розпізнавання; що має місце в практичних задачах контролю та керування;

_· метод є об’єктно-структурованим, що дозволяє його розвивати для вирішення проблеми інформаційного синтезу широкого класу систем розпізнавання з успадкуванням властивостей структурованих об’єктів вищого ієрархічного рівня і довизначенням їх методів;

_· метод базується на вибірковому підході математичної статистики і орієнтований на застосування прийнятних з практичних міркувань мінімальних обсягів репрезентативних навчальних вибірок;

_· метод є універсальним для проектування здатної навчатися системи розпізнавання будь-якої природи і дозволяє вирішувати як загальну, так і часткові задачі її інформаційного синтезу.

Основна ідея ІЕІТполягає в оптимізації структурованих просторово-часових параметрів функціонування СПР шляхом трансформації в процесі навчання відношення схожості на нечіткому розбитті простору ознак розпізнавання на класи у відношення еквівалентності. При цьому оптимізація параметрів функціонування здійснюється за ієрархічною ітераційною процедурою пошуку глобального максимуму інформаційного критерію функціональної ефективності навчання системи в робочій області визначення його функції. Побудова безпомилкового за навчальною матрицею класифікатора, згідно з принципами дуальності оптимального керування, редукції, і максимізації інформації при прийнятті рішень, у дискретному субпарацептуальному просторі ознак розпізнавання на кожному кроці навчання здійснюється шляхом цілеспрямованої трансформації вихідного нечіткого розподілу реалізацій образу з метою його вписування в оптимальний контейнер класу розпізнавання, що відновлюється в радіальному базисі. При цьому відновлення контейнерів в радіальному базисі в задачах контролю та керування, де розподіли реалізацій образу є уніномодальними, є природним.

Таким чином, підвищення ефективності машинного навчання системи розпізнавання за умови нечіткої компактності реалізацій образу досягається шляхом цілеспрямованої зміни значень ознак розпізнавання у рамках ІЕІТ, що дозволяє трансформувати апріорне нечітке розбиття простору ознак на класи розпізнавання в чітке з метою побудови безпомилкових за навчальною матрицею вирішальних правил.

Розглянемо бінарний простір ознак розпізнавання W_Б, який є підмножиною простору Хеммінга з потужністю Card W_Б = 2^N, де - число ознак розпізнавання (рецепторів). При класифікаційному аналізі і-та ознака розглядається як випадкова величина, значення якої утворюють на генеральній сукупності повторну вибірку обсягу n.

Детерміновано-статистичний підхід до моделювання систем вимагає завдання систем нормованих (експлуатаційних) і контрольних допусків на ознаки розпізнавання. Нехай - базовий клас, який характеризує максимальну функціональну ефективність системи розпізнавання, тобто є найбільш бажаним для ОПР.

Визначення 4.4.1. Нормованим називається поле допусків , в якому значення і–ої ознаки знаходиться з імовірністю р_і=1 або p_i=0, за умови, що функціональний стан системи розпізнавання образів відноситься до базового класу .

Визначення 4.4.2. Контрольним називається поле допусків , в якому значення і-ї ознаки знаходиться з імовірністю 0< р_і<1за умови, що функціональний стан СПР відноситься до базового класу .

В ІЕІТ контрольні допуски на ознаки розпізнавання вводяться з метою рандомізації процесу прийняття рішень, оскільки для повного дослідження процесу керування необхідно використовувати як детерміновані, так і статистичні характеристики. Зрозуміло, що і базова система контрольних допусків є сталою для всього алфавіту класів розпізнавання.

Визначення 4.4.3. Реалізацією образу називається випадковий структурований двійковий вектор

, ,

де - і-та координата вектора, яка приймає одиничне значення, якщо значення і-ої ознаки знаходиться в полі допусків , і нульове значення, якщо не знаходиться; - мінімальна кількість випробувань, яка забезпечує репрезентативність навчальної вибірки.

При обґрунтуванні гіпотези компактності (чіткої, або нечіткої) за геометричний центр класу приймається вершина двійкового еталонного вектора х_m.

Процес прийняття рішень складається з двох етапів: навчання (самонавчання) і безпосереднього розпізнавання або екзамену.

Визначення 4.4.4. Середньою максимальною асимптотичною (верхньою граничною) повною достовірністю системи розпізнавання, що навчається, називається ймовірність

, (4.4.3)

де – асимптотична повна достовірність розпізнавання реалізацій класу ; - екстремальне асимптотичне значення l-ої достовірності розпізнавання реалізацій класу , яка визначає максимум інформаційного КФЕ процесу навчання; L – кількість статистичних гіпотез. Тут – безумовна ймовірність прийняття статистичної гіпотези, яка за принципом Бернуллі-Лапласа в ІЕІТ дорівнює .

При оптимізації процесу навчання за ІЕІТ роздільні гіперповерхні класів розпізнавання відновлюються у вигляді контейнерів, які складаються із правильних геометричних фігур або їх об’єднання, що зменшує обчислювальну трудомісткість алгоритму навчання. Особливо це ефективно при побудові контейнерів у радіальному базисі.

Ефективність функціонування системи розпізнавання залежить від її параметрів функціонування.

Визначення 4.4.6.Як критерій оптимізації процесу навчання в рамках ІЕІТ застосовується будь-який статистичний логарифмічний інформаційний КФЕ, який є природною мірою різноманітності класів розпізнавання і одночасно функціоналом точнісних характеристик нечіткого регулятора.

Важливим параметром функціонування системи розпізнавання є рівень селекції координат еталонного двійкового вектора, вершина якого визначає геометричний центр класу розпізнавання.

Визначення 4.4.7. Рівнем селекції координат еталонного двійкового вектора називається рівень квантування дискрет полігону емпіричних частот попадання значень ознак розпізнавання у свої поля контрольних допусків.

Полігон будується для кожного класу так: по осі абсцис відкладаються ранги ознак розпізнавання, які відповідають номерам ознак у векторі-кортежі , а по осі ординат – відносні частоти w_m,i =n_i /n, де n_i – кількість випробувань, при яких значення і-ї ознаки знаходиться в своєму полі контрольних допусків. За умовчанням приймається рівень селекції r_m= 0,5..

Визначення 4.4.8.Відносним коефіцієнтом нечіткої компактності реалізацій класу для гіперсферичного класифікатора називається відношення

, (4.4.3)

де – оптимальний в інформаційному розумінні радіус контейнера класу , який забезпечує максимальну різноманітність між найближчими сусідніми класами розпізнавання; – кодова відстань між центрами класу і його найближчим сусідом – класом .

У бінарному просторі формою оптимального контейнера є гіперпаралелепіпед. З метою узагальнення та зручності побудови такого контейнера допустимо існування “псевдогіперсфери”, яка описує гіперпаралелепіпед, тобто містить усі його вершини. Це дозволяє далі розглядати такі параметри оптимізації контейнера в радіальному базисі, як еталонний вектор, наприклад, , вершина якого визначає геометричний центр контейнера , і радіус псевдосферичного контейнера, який визначається у просторі Хеммінга за формулою:

, (4.4.5)

де - i-та координата еталонного вектора ; - i-та координата деякого вектора , вершина якого належить контейнеру .

Надалі, з метою спрощення, кодова відстань (4.4.5) між векторами і буде позначатися так само у вигляді .

У загальному випадку при прийнятті гіпотези нечіткої компактності реалізацій образу покриття L^|M| = не є чіткою фактор-множиною , де Э - відношення еквівалентності. Якщо для нечіткого простору ознак існує нечітке покриття і визначено міру як відношення діаметрів нечітких множин , , і , то покриття є нечітким розбиттям , яке відповідає умовам:

1)