Informacja

Drogi użytkowniku, aplikacja do prawidłowego działania wymaga obsługi JavaScript. Proszę włącz obsługę JavaScript w Twojej przeglądarce.

Wyszukujesz frazę "Mutual Information" wg kryterium: Temat


Wyświetlanie 1-14 z 14
Tytuł:
Supposed maximum mutual information for improving generalization and interpretation of multi-layered neural networks
Autorzy:
Kamimura, Ryotaro
Powiązania:
https://bibliotekanauki.pl/articles/91604.pdf
Data publikacji:
2019
Wydawca:
Społeczna Akademia Nauk w Łodzi. Polskie Towarzystwo Sieci Neuronowych
Tematy:
mutual information
disentanglement
generalization
interpretation
Opis:
The present paper1 aims to propose a new type of information-theoretic method to maximize mutual information between inputs and outputs. The importance of mutual information in neural networks is well known, but the actual implementation of mutual information maximization has been quite difficult to undertake. In addition, mutual information has not extensively been used in neural networks, meaning that its applicability is very limited. To overcome the shortcoming of mutual information maximization, we present it here in a very simplified manner by supposing that mutual information is already maximized before learning, or at least at the beginning of learning. The method was applied to three data sets (crab data set, wholesale data set, and human resources data set) and examined in terms of generalization performance and connection weights. The results showed that by disentangling connection weights, maximizing mutual information made it possible to explicitly interpret the relations between inputs and outputs.
Źródło:
Journal of Artificial Intelligence and Soft Computing Research; 2019, 9, 2; 123-147
2083-2567
2449-6499
Pojawia się w:
Journal of Artificial Intelligence and Soft Computing Research
Dostawca treści:
Biblioteka Nauki
Artykuł
Tytuł:
CMIM-2: An Enhanced Conditional Mutual Information Maximization Criterion for Feature Selection
Autorzy:
Vergara, J. R.
Estévez, P. A.
Powiązania:
https://bibliotekanauki.pl/articles/108783.pdf
Data publikacji:
2010
Wydawca:
Społeczna Akademia Nauk w Łodzi
Tematy:
feature selection
conditional mutual information
information theory
relevance
redundancy
Opis:
A new greedy feature selection criterion is proposed as an enhancement of the conditional mutual information maximization criterion (CMIM). The new criterion, called CMIM-2, allows detecting relevant features that are complementary in the class prediction better than the original criterion. In addition, we present a methodology to approximate the conditional mutual information to spaces of three variables, avoiding its estimation in high-dimensional spaces. Experimental results for artificial and UCI benchmark datasets show that the proposed criterion outperforms the original CMIM criterion.
Źródło:
Journal of Applied Computer Science Methods; 2010, 2 No. 1; 5-20
1689-9636
Pojawia się w:
Journal of Applied Computer Science Methods
Dostawca treści:
Biblioteka Nauki
Artykuł
Tytuł:
Optimizing information processing in brain-inspired neural networks
Autorzy:
Paprocki, B.
Pregowska, A.
Szczepanski, J.
Powiązania:
https://bibliotekanauki.pl/articles/202095.pdf
Data publikacji:
2020
Wydawca:
Polska Akademia Nauk. Czytelnia Czasopism PAN
Tematy:
neural network
entropy
mutual information
noise
inhibitory neuron
Opis:
The way brain networks maintain high transmission efficiency is believed to be fundamental in understanding brain activity. Brains consisting of more cells render information transmission more reliable and robust to noise. On the other hand, processing information in larger networks requires additional energy. Recent studies suggest that it is complexity, connectivity, and function diversity, rather than just size and the number of neurons, that could favour the evolution of memory, learning, and higher cognition. In this paper, we use Shannon information theory to address transmission efficiency quantitatively. We describe neural networks as communication channels, and then we measure information as mutual information between stimuli and network responses. We employ a probabilistic neuron model based on the approach proposed by Levy and Baxter, which comprises essential qualitative information transfer mechanisms. In this paper, we overview and discuss our previous quantitative results regarding brain-inspired networks, addressing their qualitative consequences in the context of broader literature. It is shown that mutual information is often maximized in a very noisy environment e.g., where only one-third of all input spikes are allowed to pass through noisy synapses and farther into the network. Moreover, we show that inhibitory connections as well as properly displaced long-range connections often significantly improve transmission efficiency. A deep understanding of brain processes in terms of advanced mathematical science plays an important role in the explanation of the nature of brain efficiency. Our results confirm that basic brain components that appear during the evolution process arise to optimise transmission performance.
Źródło:
Bulletin of the Polish Academy of Sciences. Technical Sciences; 2020, 68, 2; 225-233
0239-7528
Pojawia się w:
Bulletin of the Polish Academy of Sciences. Technical Sciences
Dostawca treści:
Biblioteka Nauki
Artykuł
Tytuł:
Objective Video Quality Method Based on Mutual Information and Human Visual System
Autorzy:
Mardiak, M.
Polec, J.
Powiązania:
https://bibliotekanauki.pl/articles/227280.pdf
Data publikacji:
2012
Wydawca:
Polska Akademia Nauk. Czytelnia Czasopism PAN
Tematy:
objective video quality
HVS
mutual information
VQM
SSIM
PSNR
Opis:
In this paper we present the objective video quality metric based on mutual information and Human Visual System. The calculation of proposed metric consists of two stages. In the first stage of quality evaluation whole original and test sequence are pre-processed by the Human Visual System. In the second stage we calculate mutual information which has been utilized as the quality evaluation criteria. The mutual information was calculated between the frame from original sequence and the corresponding frame from test sequence. For this testing purpose we choose Foreman video at CIF resolution. To prove reliability of our metric were compared it with some commonly used objective methods for measuring the video quality. The results show that presented objective video quality metric based on mutual information and Human Visual System provides relevant results in comparison with results of other objective methods so it is suitable candidate for measuring the video quality.
Źródło:
International Journal of Electronics and Telecommunications; 2012, 58, 2; 145-152
2300-1933
Pojawia się w:
International Journal of Electronics and Telecommunications
Dostawca treści:
Biblioteka Nauki
Artykuł
Tytuł:
Intracranial EEG Evaluation of a Resting State Network
Autorzy:
Duncan, D.
Duckrow, R. B.
Coifman, R. R.
Zaveri, H. P.
Powiązania:
https://bibliotekanauki.pl/articles/115588.pdf
Data publikacji:
2010
Wydawca:
Fundacja na Rzecz Młodych Naukowców
Tematy:
Resting State Networks
Mutual Information
correlation
Epilepsy
Intracranial EEG
Opis:
The study of brain networks is based, to a large extent, on pairwise measurements of relationships. Such pairwise relationships can be estimated from brain electrical activity measured from the scalp with routine EEG, from intracranial electrodes during monitoring for epilepsy surgery, or with functional MRI (fMRI) measurements. Here we focus on the study of brain networks through the measurement of pairwise relationships in brain electrical activity as measured by intracranial EEGs. Intracranial EEG data from 11 patients were tested for the presence of relationships which would confi rm or disconfi rm the presence of a resting state network which has previously been observed with fMRI. Mutual information was used as a measure of relationship.
Źródło:
Challenges of Modern Technology; 2010, 1, 1; 27-29
2082-2863
2353-4419
Pojawia się w:
Challenges of Modern Technology
Dostawca treści:
Biblioteka Nauki
Artykuł
Tytuł:
Nieliniowa identyfikacja rzędu autozależności w stopach zmian indeksów giełdowych
Nonlinear identification of lags of serial dependencies in stock indices returns
Autorzy:
Orzeszko, Witold
Powiązania:
https://bibliotekanauki.pl/articles/422831.pdf
Data publikacji:
2012
Wydawca:
Główny Urząd Statystyczny
Tematy:
współczynnik informacji wzajemnej
miara informacji wzajemnej
opóźnienia czasowe
nieliniowa dynamika
indeksy giełdowe
mutual information coefficient
mutual information measure
lags
nonlinear dynamics
stock indices
Opis:
Naturalnym uogólnieniem współczynnika korelacji liniowej Pearsona jest współczynnik informacji wzajemnej. Współczynnik ten umożliwia pomiar zależności różnego typu, również o charakterze nieliniowym. Podobnie jak współczynnik korelacji liniowej Pearsona, może być zastosowany do pojedynczego szeregu czasowego w celu identyfikacji autozależności. W niniejszej pracy badaniu poddano logarytmiczne stopy zmian wybranych polskich i zagranicznych indeksów giełdowych. Porównując rezultaty otrzymane dla oryginalnych szeregów stóp zmian i dla reszt z dopasowanych modeli ARMA-GARCH, określono charakter wykrytych zależności. Ponadto, wykorzystując procedurę bootstrap, zweryfikowano istotność współczynników informacji wzajemnej, co umożliwiło zidentyfikowanie opóźnień czasowych w analizowanych szeregach. W większości z przebadanych indeksów wykryto zależności nieliniowe innego typu niż GARCH a dominującym poziomem opóźnień czasowych w tych szeregach okazał się lag=1.
The mutual information coefficient is one of the most important generalizations of the Pearson correlation coefficient. Its advantage is that it is able to measure all kinds of dependencies, also nonlinear ones. Like the Pearson correlation coefficient, the mutual information coefficient may be applied to a single time series in order to identify serial dependencies. In this paper the log-returns of the selected Polish and foreign stock indices have been analyzed. By comparing the results obtained for the raw returns and the residuals of the fitted ARMA-GARCH models, the nature of the identified dependencies has been determined. Moreover, the bootstrap procedure has been applied to verify significance of the mutual information coefficients and, in consequence, to determine the number of lags in the analyzed series. In the most investigated indices, nonlinear dependencies different from the ARCH effect have been detected and lag=1 was the dominant time delay in such situations.
Źródło:
Przegląd Statystyczny; 2012, 59, 4; 369-385
0033-2372
Pojawia się w:
Przegląd Statystyczny
Dostawca treści:
Biblioteka Nauki
Artykuł
Tytuł:
Mutual information based registration of brain images
Autorzy:
Kuczyński, K.
Mikołajczak, P.
Powiązania:
https://bibliotekanauki.pl/articles/332963.pdf
Data publikacji:
2002
Wydawca:
Uniwersytet Śląski. Wydział Informatyki i Nauki o Materiałach. Instytut Informatyki. Zakład Systemów Komputerowych
Tematy:
rejestracja obrazu
wzajemne informowanie
podobieństwo pomiaru
image registration
mutual information
similarity measure
Opis:
Registration is one of the essential medical image processing techniques. The goal is to find a geometric transformation, that relates corresponding voxels in two different 3D images of the same object. The publication presents a registration technique based on maximization of mutual information.
Źródło:
Journal of Medical Informatics & Technologies; 2002, 3; MI213-219
1642-6037
Pojawia się w:
Journal of Medical Informatics & Technologies
Dostawca treści:
Biblioteka Nauki
Artykuł
Tytuł:
On certain ‘tools’for research into the perception and creation of music and the complex ways in which they affect one another
Autorzy:
Humięcka-Jakubowska, Justyna
Powiązania:
https://bibliotekanauki.pl/articles/780287.pdf
Data publikacji:
2011
Wydawca:
Uniwersytet im. Adama Mickiewicza w Poznaniu
Tematy:
perception
musical structure
modelling
entropy
probability
Markov process
mutual information
parse
expectation
surprise
Opis:
Perception is a constructive mental process, which cannot be considered impersonally. Similarly, music cannot be cognised solely on the basis of its score, since its coming into being is strictly connected to the activation of human memory and sound imagination. The patterns that emerge from the sounds of heard music enable the listener to draw conclusions regarding the structures those sounds embody. However, such conclusions are accompanied by a degree of uncertainty, which concerns not just the perceived moment of the heard music, but also the way in which it is represented in the listener’s memory. Perception is an inferential, multi-layered, uncertain process, in which particular patterns seem more likely than others. Mental representations of those probabilities lie behind such essential musical phenomena as surprise, tension, expectation and pitch identification, which are fixed elements of theperception of music. The aim of the present article is to describe the essence of three selected types of music modelling, based on spectral anticipation (Shlomo Dubnov), based on memory (Rens Bod), and exploiting the dynamic character of music to obtain information (Samer Abdallah and Mark Plumbley). All these models take account of the element of uncertainty that accompanies the perception of music; hence they make use the foundations of information theory and statistical analysis as measurement ‘tools’. The use of these tools makes it possible to obtain numerical rates, which inform us of the degree of predictability of the musical structures being analysed. One crucial advantage of these methods is the possibility of evaluating them in respect to the use of real musical structures, deriving from actual music, and not abstract structures formed for the purposes of research. We obtain cognitive insight into the analysed music by employing methods of a mathematical provenance, and so we have the possibility of examining music whilst taking account of the role of the listener, but with the use of objectivised methods.
Źródło:
Interdisciplinary Studies in Musicology; 2011, 10; 61-76
1734-2406
Pojawia się w:
Interdisciplinary Studies in Musicology
Dostawca treści:
Biblioteka Nauki
Artykuł
Tytuł:
A platform for joint analysis of biosignals ensembles in real-time using FPGA
Platforma do analizy całości biosygnałów za pomocą FPGA
Autorzy:
Mierzejewski, K.
Véjar, A.
Powiązania:
https://bibliotekanauki.pl/articles/261470.pdf
Data publikacji:
2016
Wydawca:
Politechnika Wrocławska. Wydział Podstawowych Problemów Techniki. Katedra Inżynierii Biomedycznej
Tematy:
biosignals
joint analysis
mutual information
DSP
FPGA
biosygnały
zintegrowana analiza
informacja wzajemna
Cyfrowe Przetwarzanie Sygnałów
programowalne układy cyfrowe
Opis:
We present the design of a platform for acquisition and digital processing of biosignals. The objective of this platform is to process biosignals in real-time to obtain quantitative indicators for joint analysis of biosignals ensembles. An important indicator of non-linear dependence between signals is the mutual information. The estimation of the mutual information between signals is time- and resource-consuming when using standard software implementations on normal computers. To circumvent the calculation limitations on standard software implementations we use a reconfigurable computing unit of type FPGA, were the calculation of mutual information is specified in hardware.
Przedstawiamy projekt platformy służącej do pozyskiwania i cyfrowej obróbki biosygnałów. Jej zadaniem jest przetwarzanie biosygnałów w czasie rzeczywistym w celu uzyskania wskaźników ilościowych dla zintegrowanej analizy zespółów biosygnałów. Ważnym wskaźnikiem nieliniowej zależności pomiędzy sygnałami jest informacja wzajemna. Jej oszacowanie pomiędzy sygnałami przy użyciu standardowego oprogramowania na zwykłych komputerach jest mało wydajne i czasochłonne. Aby obejść ograniczenia narzucone przez narzędzia zwykle wykorzystywane w tym celu, zastosowano rekonfigurowalną jednostkę typu FPGA, w której obliczenia informacji wzajemnej są określone.
Źródło:
Acta Bio-Optica et Informatica Medica. Inżynieria Biomedyczna; 2016, 22, 4; 253-260
1234-5563
Pojawia się w:
Acta Bio-Optica et Informatica Medica. Inżynieria Biomedyczna
Dostawca treści:
Biblioteka Nauki
Artykuł
Tytuł:
The possibility of using pseudo-phase space methods in the analysis of the positive displacement pump wear
Możliwość wykorzystania metody pseudoprzestrzeni fazowej w analizie zużycia elementów pompy wyporowej
Autorzy:
Stojek, J.
Powiązania:
https://bibliotekanauki.pl/articles/368889.pdf
Data publikacji:
2012
Wydawca:
Akademia Górniczo-Hutnicza im. Stanisława Staszica w Krakowie. Wydawnictwo AGH
Tematy:
positive-displacement pump
mutual information
pseudo-phase space method
diagnostic of machines
pompa wyporowa
informacja wzajemna
metoda pseudoprzestrzeni fazowej
diagnostyka maszyn
Opis:
In this paper the possibility of tracking the evolution of reconstructed pseudo-phase portraits in the diagnosis of positive-displacement pump wear has been presented. The reconstructed pseudo-phase portraits were obtained from vibration signals measured in characteristic places on the pump casing and from the dynamic pressure graphs recorded in the output port of the pump during the passive test experiment. The recorded measurement concerned to tree state of pump condition: in full working order, in part working order and pump with wear out elements.
W artykule przedstawiono możliwość wykorzystania odtworzonych z zarejestrowanych sygnałów przebiegów pseudoportretów fazowych w diagnostyce zużycia pomp wyporowych na przykładzie badań pompy wielotłoczkowej. Odtworzone pseudoportrety fazowe otrzymano w wyniku przeprowadzenia biernego eksperymentu diagnostycznego, ze zmierzonych w charakterystycznych miejscach korpusu pompy sygnałów wibracji oraz dodatkowo z przebiegów ciśnienia dynamicznego dla trzech stanów pracy pompy: pełnej sprawności, stanu częściowej sprawności oraz pracy pompy zużytej.
Źródło:
Mechanics and Control; 2012, 31, 3; 115-123
2083-6759
2300-7079
Pojawia się w:
Mechanics and Control
Dostawca treści:
Biblioteka Nauki
Artykuł
Tytuł:
On the 0/1 test for chaos in continuous systems
Autorzy:
Melosik, M.
Marszalek, W.
Powiązania:
https://bibliotekanauki.pl/articles/200037.pdf
Data publikacji:
2016
Wydawca:
Polska Akademia Nauk. Czytelnia Czasopism PAN
Tematy:
test 0/1 for chaos
oversampling
phase space reconstruction
mutual information
FFT
test 0-1 dla układów dynamicznych
chaos
faza przebudowy przestrzeni
wzajemne przekazywanie informacji
Opis:
In this paper we discuss in detail the resonance and oversampling features of the 0/1 test for chaos in continuous systems and propose methods to avoid those undesired features. Our method is based on certain frequency properties of the 0/1 test. When reconstructing the phase space, our approach is compared with the first minimum of the mutual information method. Several numerical results for typical chaotic systems (including memristive circuits) are included.
Źródło:
Bulletin of the Polish Academy of Sciences. Technical Sciences; 2016, 64, 3; 521-528
0239-7528
Pojawia się w:
Bulletin of the Polish Academy of Sciences. Technical Sciences
Dostawca treści:
Biblioteka Nauki
Artykuł
Tytuł:
Wpływ redukcji szumu losowego metodą Schreibera na identyfikację systemu generującego dane. Analiza symulacyjna
Impact of the Schreiber Noise Reduction Method on DGP Identification Simulation Analysis
Autorzy:
Orzeszko, Witold
Powiązania:
https://bibliotekanauki.pl/articles/1830757.pdf
Data publikacji:
2011-06-30
Wydawca:
Główny Urząd Statystyczny
Tematy:
Identyfikacja nieliniowości
redukcja szumu losowego
metoda Schreibera
wskaźnik NRL
test BDS
miara informacji wzajemnej
bootstrap
nonlinear time series
noise reduction
Schreiber method
NRL quantity
BDS test
mutual information
Opis:
Jednym ze sposobów ograniczenia negatywnego wpływu obecności szumu losowego na analizę rzeczywistych szeregów czasowych jest stosowanie metod redukcji szumu. Prezentowane w literaturze przedmiotu rezultaty zastosowania takich procedur w procesie identyfikacji nieliniowości i chaosu są zachęcające. Jedną z metod redukcji szumu jest metoda Schreibera, która, jak wykazano, prowadzi do efektywnej redukcji szumu losowego dodanego do danych wygenerowanych z systemów deterministycznych o dynamice chaotycznej. Jednakże w przypadku danych rzeczywistych, badacz zwykle pozbawiony jest wiedzy, czy system generujący rzeczywiście jest deterministyczny. Istnieje więc ryzyko, że redukcji szumu zostaną wówczas poddane dane losowe. W niniejszym artykule wykazano, iż w sytuacji, gdy brak jest wyraźnych podstaw do stwierdzenia, że badany szereg pochodzi z systemu deterministycznego, metodę Schreibera należy stosować z dużą ostrożnością. Z przeprowadzonych symulacji, w których wykorzystano test BDS, miarę informacji wzajemnej oraz współczynnik korelacji liniowej Pearsona wynika bowiem, że redukcja szumu może wprowadzić do analizowanych danych, zależności o charakterze nieliniowym. W efekcie szeregi losowe mogą zostać błędnie zidentyfikowane jako nieliniowe.
A presence of a noise is typical for real-world data. In order to avoid its negative impact on methods of time series analysis, noise reduction procedures may be used. The achieved results of an application of such procedures in identification of chaos or nonlinearity seem to be encouraging. One of the noise reduction methods is the Schreiber method, which, as it has been shown, is able to effectively reduce a noise added to time series generated by deterministic systems with chaotic dynamics. However, while analyzing real-world data, a researcher usually cannot be sure if the generating system is deterministic. Therefore, there is a risk that a noise reduction method will be applied to random data. In this paper, it has been shown that in situations where there in no clear evidence that investigated data are generated by a deterministic system, the Schreiber noise reduction method may negatively affect identification of time series. In the simulation carried out in this paper, the BDS test, the mutual information measure and the Pearson autocorrelation coefficient were used. The research has shown that an application of the Schreiber method may introduce spurious nonlinear dependencies to investigated data. As a result, random series may be misidentified as nonlinear.
Źródło:
Przegląd Statystyczny; 2011, 58, 1-2; 114-131
0033-2372
Pojawia się w:
Przegląd Statystyczny
Dostawca treści:
Biblioteka Nauki
Artykuł
Tytuł:
Research on information content of light field on the image plane illuminated by incoherent light source
Autorzy:
Cai, Xiao-ou
Lai, Xian-jing
Wang, Hui
Powiązania:
https://bibliotekanauki.pl/articles/173681.pdf
Data publikacji:
2019
Wydawca:
Politechnika Wrocławska. Oficyna Wydawnicza Politechniki Wrocławskiej
Tematy:
information content
mutual intention
degree of freedom
coherent wavelet source
independent coherent signal
Opis:
A novel approach for the measurement of information content of light field on the image plane illuminated by an incoherent light source has been proposed according to Shannon’s information theory. We put forward a hypothetical concept named "coherent wavelet source" on an incoherent light source which can form an independent coherent signal on the object surface based on the expression of mutual intensity on the object surface. As a result, the number of independent coherent signals on the object surface can be made out by dividing the whole illumination source on a coherent wavelet source size. Meanwhile, the maximum number of degree of freedom of light field which can reach the image plane is given based on the structure of imaging system. Concrete algorithm for the information content of the imaging light illuminated by a 1D linear light source and a 2D circular light source are presented.
Źródło:
Optica Applicata; 2019, 49, 2; 265-273
0078-5466
1899-7015
Pojawia się w:
Optica Applicata
Dostawca treści:
Biblioteka Nauki
Artykuł
Tytuł:
Maritime security and threat assessments
Autorzy:
Eidnes, I. M.
Batalden, B. M.
Sydnes, M. K.
Powiązania:
https://bibliotekanauki.pl/articles/116477.pdf
Data publikacji:
2019
Wydawca:
Uniwersytet Morski w Gdyni. Wydział Nawigacyjny
Tematy:
maritime security
DNK-Norwegian Shipowners Mutual War Risks Insurance Association
security intelligence information
Company Security Officer (CSO)
Analysis of Variance (ANOVA)
Norwegian Maritime Companies
threat assessment
risk assessment
Opis:
Maritime security is still a challenge in international trade. In this case-study we analyze how the Norwegian Shipowners’ Mutual War Risks Insurance Association (DNK) provides Norwegian maritime companies with regional assessments of threat-levels. Through a survey and a series of interviews, we study factors that affect the communication and perception of threats, in addition to how maritime companies make security decisions regarding operating in different areas. The study concludes that the DNK and maritime companies largely have a common assessment of threat levels. Though communication between DNK and its member companies has challenges, the members largely consider DNK threat assessments to be reliable. Security decisions in maritime companies typically involve multiple actors, considerations of economy versus security, and multiple sources of security intelligence information.
Źródło:
TransNav : International Journal on Marine Navigation and Safety of Sea Transportation; 2019, 13, 4; 707-714
2083-6473
2083-6481
Pojawia się w:
TransNav : International Journal on Marine Navigation and Safety of Sea Transportation
Dostawca treści:
Biblioteka Nauki
Artykuł
    Wyświetlanie 1-14 z 14

    Ta witryna wykorzystuje pliki cookies do przechowywania informacji na Twoim komputerze. Pliki cookies stosujemy w celu świadczenia usług na najwyższym poziomie, w tym w sposób dostosowany do indywidualnych potrzeb. Korzystanie z witryny bez zmiany ustawień dotyczących cookies oznacza, że będą one zamieszczane w Twoim komputerze. W każdym momencie możesz dokonać zmiany ustawień dotyczących cookies