Il funzionamento delle reti neurali

I modelli connessionisti assumono che l'attività di ciascuna unità di elaborazione di una rete simuli l'attivazione di un neurone, e che il funzionamento della rete avvenga attraverso elementi lenti, ma massivamente interconnessi in parallelo (le reti neurali sono modelli a parallelismo massivo, Parallel Distributed Processing).
Ogni unità di elaborazione possiede una soglia di attivazione e, solo se la soglia viene superata, l'unità si attiva: l'attivazione avviene solo se la somma dei pesi delle connessioni di input che provengono da tutte le unità con le quali essa è connessa supera la soglia di attivazione dell'unità.
Il funzionamento delle unità di elaborazione segue un andamento non lineare:
ciascuna unità di elaborazione si attiva solo se la quantità di input supera la soglia di att.
una volta superata la soglia, l'attivazione dell'unità di elaborazione non aumenta all'aumentare del numero di input.
I modelli connessionisti ipotizzano che ciascuna unità della rete elabori un frammento di informazione più piccolo di un simbolo, un subsimbolo.
Le rappresentazioni interne alla rete non vengono immagazzinate all'interno di specifiche unità ma sono immagazzinate sotto forma di configurazioni di connessioni tra unità (rappresentazione distribuita: una stessa configurazione di unità può rappresentarsi diversi concetti, attribuendo pesi differenti a ciascun concetto).
La rappresentazione distribuita si attiva anche in presenza di una rilevazione incompleta di un oggetto (la rete neurale, ad esempio, può leggere una parola priva di una lettera o riconoscere un oggetto parzialmente nascosto). Inoltre, il danneggiamento o la rimozione di alcune unità della rete non impediscono un funzionamento della rete pressoché normale.
Un danno ad alcune unità comporta una riduzione marginale dell'attivazione di una rappresentazione distribuita, anziché una completa assenza di funzionamento, come succede nella rappresentazione simbolica. Pur essendo continue e graduate, le rappresentazioni della rete possono anche manifestare proprietà binarie e categoriali.