Una rete neurale nella sua forma più semplice è in pratica una equazione di primo grado:
ax + by + c = 0
I pesi non sono altro che i coefficienti a b e c, gli ingressi sono le variabili x e y. La funzione calcola() restituisce la somma pesata arrotondata tramite una funzione sigmoide.
Questa idea è alla base del primo modello di neurone sperimentato, che prende il nome di percettrone. Si tratta di un neurone a singolo strato in grado di apprendere operazioni semplici.
Facciamo un esempio pratico: un neurone può apprendere una operazione logica tramite un algoritmo di backpropagation a partire da un insieme di esempi. In pratica si calcola l’errore rispetto al risultato atteso e lo si corregge in maniera incrementale, applicando ad ogni ciclo di apprendimento una correzione ai pesi mediata per un fattore di apprendimento.