Blog déplacé
neodelphis.github.io
Rétropropagation du gradient dans le cadre d’une ultime couche Softmax
Cet article présente la rétropropagation du gradient dans un réseau neuronal monocouche complètement connecté, avec softmax comme fonction d’activation et la divergence de Kullback-Leibler comme fonction de coût. Minimiser cette …
Mathjax
Aparté : utilisation de MathJax pour la publication d’équations dans WordPress. $$f(x_i, W, b) = W x_i + b$$ $$f(x_i, W) = W x_i$$ Intégration de b dans W en …
SVM
Visualisation des poids appris sur chaque classe de CIFAR10 pour un algo SVM écrit from scratch. Merci Stanford! Bientôt sur GitHub.
L2 – forme vectorielle
Calcul de la matrice des distances L2 sous forme vectorielle pour une solution utilisant le voisinage d’ordre k (K-nearest neighbor). Temps de calcul divisé par 100 par rapport à l’utilisation …
CIFAR10 – Break time
Génération d’une image composée d’une mosaïque d’images de la même classe. L’image initiale est sélectionnée au hasard dans l’ensemble d’entraînement de la bibliothèque d’images CIFAR10 Par exemple, avec: On forme: …
Tensorflow without a PhD – 11 – 12 – 13
Mise en place de la batch norm pour un dernier petit gain de deux dixièmes de %, taux de réussite finale de 99.52. Pas loin du reccord mondial qui ajoute …
Tensorflow without a PhD – 10
Best score for iteration 6550 | Accuracy = 0.9933! 99.33 % de taux de reconnaissance sur le jeu de test. Mission réussie 🙂 A moins de 0.4 point du record …
Tensorflow without a PhD – 9
Réseau neuronal convolutif, Best score for iteration 8100 | Accuracy = 0.9915 github
Tensorflow without a PhD – 8
Réseau neuronal convolutif – Théorie github