Analysis of new method of initialisation of neuro - fuzzy systems with support vector machines

The correspondence between support vector machines and neuro-fuzzy systems is very interesting. The full equivalence for classification and partial for regression has been formally shown. The equivalence has very interesting implication. It is a base for a new method of initialization of neurofuzzy systems, ie. for creating of fuzzy rule base. The commonly used methods are based on reversion of item: the premises of fuzzy rules split input domain into region, thus premises of fuzzy rules can be elaborated by partition of input domain. This leads to three main classes of partition of input domain. The above mentioned equivalence results in new way of creating the rule base. Now the input domain is not partitioned, but the premises of fuzzy rules are extracted from support vector. The objective of the paper is to examine the advantages and disadvantages of this new method for creation of fuzzy rule bases for neuro-fuzzy systems.

Związek pomiedzy maszynami wektorów podpierajacych i systemami neuronoworozmytymi jest bardzo interesujący. Została wykazana pełna odpowiedniość między tymi systemami dla klasyfikacji i częściowa dla regresji. Odpowiedność ta ma bardzo ważną konsekwencję. Jest podstawa do opracowania nowego sposobu tworzenia bazy reguł dla systemu neuronowo-rozmytego. Dotychczasowe metody opieraja się na podziale przestrzeni wejściowej, a następnie przekształcenia tak powstałych regionów w przesłanki rozmytych reguł. Tutaj możliwe jest przekształcanie wektorów wspierających na przesłanki reguł rozmytych. Celem artykułu jest przebadanie możliwości stosowania takiego podejścia do inicjalizacji systemów neuronowo-rozmytych. Eksperymenty wykazują dosć istotną wadę tego podejścia. W jego wyniku powstają bardzo liczne zbiory reguł rozmytych, co zupełnie przeczy idei interpretowalności wiedzy w systemach neuronowo-rozmytych. Manipulacja pewnymi parametrami umożliwia zmiejszenie liczby reguł, jednak manipulacja ta jest trudna i wymaga wielu prób. Drugą dość istotna wadą jest wyraźnie wyższy błąd wypracowywany przez systemy inicjalizowane przez SVM w porównaniu do systemów, których bazy reguł tworzone sa˛ poprzez podział przestrzeni wejściowej.