XOR avec 2 neurones (et pas 5)

Général
1

XOR avec 2 neurones (et pas 5)

La démo est là:
le fichier excel

en texte:
Couche 0, Neurone 0, Poids 0, valeur -2,9583, (A)
Couche 0, Neurone 0, Poids 1, valeur -2,6269, (B)
bias 0,7671 sigmoide f(x)=1/(1+exp(-x))

Couche 1, Neurone 1, Poids 0, valeur -2,2055, (Neurone 0)
Couche 1, Neurone 1, Poids 1, valeur -0,5947, (A)
Couche 1, Neurone 1, Poids 2, valeur -0,9410, (B)
bias 1,4375 sigmoide f(x)=1/(1+exp(-x))

A=0, B=0, out_N0=0,6829, OUT=0,4829 < 0,5 => 0
A=1, B=0, out_N0=0,1005, OUT=0,6505 > 0,5 => 1
A=0, B=1, out_N0=0,1347, OUT=0,5497 > 0,5 => 1
A=1, B=1, out_N0=0,0080, OUT=0,4711 < 0,5 => 0

tous les poids initialisés à 0
retropropagation du gradient classique avec 685 tours.

http://yves.maguer.free.fr/poids_RDN_MINI_XOR%20v1.txt

2

Bonjour @yvesmag31 et bienvenue sur le Forum dédié à l’Intelligence artificielle,

Merci pour le partage, le résultat est intéressant :+1:
En revanche, la présentation est assez difficile à suivre si on cherche à comprendre le fonctionnement du réseau.

Serait-il possible d’avoir :

  • un schéma visuel simple du réseau
  • une explication intuitive du rôle de chaque neurone (notamment le neurone caché et le fait que la sortie dépend aussi de A et B)
  • une lecture géométrique de ce que fait chaque neurone pour résoudre XOR

Et, comme le post est sur un forum dédié à l’ IA, pourrais-tu aussi préciser le lien avec l’IA : en quoi cet exemple illustre des principes fondamentaux de l’apprentissage et des réseaux de neurones ?

Merci d’avance pour ces éclaircissements :slightly_smiling_face:

1 « J'aime »
3

Rejoint nous. EDEN. HIA.

4

Bonjour,

RDN_2_neur_xor
RDN_2_neur_xor832×473 36.4 KB

5

Le fichier tableur:

Capture tableur RDN XOR
Capture tableur RDN XOR1354×189 39.7 KB

un seul media par message, c’est stupide.

6

Désolé, je n’avais pas vu que quelqu’un l’avait trouvé avant moi!!:
https://helios2.mi.parisdescartes.fr/~bouzy/Doc/AA1/ReseauxDeNeurones1.pdf

Habituellement, on nous enseigne que le XOR se résout avec 5 neurones et 10 synapses. Donc avec 3 couches.

Ici, nous résolvons le XOR avec 2 neurones et 5 synapses. Donc avec 2 couches.

Cette simplification divise par 2 le nombre de neurones et synapses.
Avec la course actuelle au « toujours plus de neurones », c’est peut être une piste à creuser!