Un khey CALÉ en DEEP LEARNING? quelques questions

Le 27 avril 2022 à 21:44:12 :
Ca dit "installe jupyter" mais ça ne sait pas comment l'installer avec support GPU, je vois le genre, tu te fais troller l'OP.
C'est une vraie plaie à installer, aucun tuto valable pour le faire.
Et à lancer, jupyterlab :nez:

Il a qu'à installer Anaconda qui a déjà tout intégré dont Jupyter

Le 27 avril 2022 à 21:50:28 :

Le 27 avril 2022 à 21:47:17 ploud4 a écrit :

Le 27 avril 2022 à 21:46:00 :
je sais pas qui croire bordel
je veux juste des graph

Mais merci je compte bien persévérer

Bah teste.

C'est le seul moyen de savoir quand tu fais du ML.

ça me plait ça try and error
Au fait à propos des "neurons"
Si je devais coder ça avec mon savoir actuel je ferais une variable pour chaque neurone, j'imagine que c'est le pire truc à faire
j'ai vu que ça utilise des matrices, tout le réseau tient dans une seule matrice ?

si tu déclares une variable par neurone, tu ne pourras pas tirer profit de la parallélisation des calculs sur GPU

le ML sur CPU est très gourmand en ressources, c'est notamment pour ça que les NN ont mis autant de temps à émerger dans le domaine du ML, et qu'ils ont fini par exploser une fois que les cartes graphiques ont atteint un certain niveau de performance vers 2010

non pas une matrice pour tout le réseau mais plutôt une matrice par couche de poids (ou si tu préfères penser que les couches sont des couches de neurones : une matrice par opération pour passer d'une couche à une autre)

pour passer d'une couche à une autre en général on fait une ou plusieurs opération(s) linéaire(s) ; c'est donc une multiplication matricielle PX de tes neurones X par tes poids P, et ça se parallélise assez bien sur gpu

Le 27 avril 2022 à 21:54:32 :

Le 27 avril 2022 à 21:44:12 :
Ca dit "installe jupyter" mais ça ne sait pas comment l'installer avec support GPU, je vois le genre, tu te fais troller l'OP.
C'est une vraie plaie à installer, aucun tuto valable pour le faire.
Et à lancer, jupyterlab :nez:

Il a qu'à installer Anaconda qui a déjà tout intégré dont Jupyter

Anaconda m'a apporté que des malheurs, si je l'installe sur une machine virtuelle? Je pers en performance? Je préfère télécharger "word.exe" qui vient d'un site porno zoophile allemand que de mettre anaconda direct sur ma machine.

Le 27 avril 2022 à 21:54:32 Peil a écrit :

Le 27 avril 2022 à 21:44:12 :
Ca dit "installe jupyter" mais ça ne sait pas comment l'installer avec support GPU, je vois le genre, tu te fais troller l'OP.
C'est une vraie plaie à installer, aucun tuto valable pour le faire.
Et à lancer, jupyterlab :nez:

Il a qu'à installer Anaconda qui a déjà tout intégré dont Jupyter

j'ai installé anaconda, puis tensorflow puis pycharm

Le 27 avril 2022 à 21:55:27 Banclistologue a écrit :

Le 27 avril 2022 à 21:50:28 :

Le 27 avril 2022 à 21:47:17 ploud4 a écrit :

Le 27 avril 2022 à 21:46:00 :
je sais pas qui croire bordel
je veux juste des graph

Mais merci je compte bien persévérer

Bah teste.

C'est le seul moyen de savoir quand tu fais du ML.

ça me plait ça try and error
Au fait à propos des "neurons"
Si je devais coder ça avec mon savoir actuel je ferais une variable pour chaque neurone, j'imagine que c'est le pire truc à faire
j'ai vu que ça utilise des matrices, tout le réseau tient dans une seule matrice ?

si tu déclares une variable par neurone, tu ne pourras pas tirer profit de la parallélisation des calculs sur GPU

le ML sur CPU est très gourmand en ressources, c'est notamment pour ça que les NN ont mis autant de temps à émerger dans le domaine du ML, et qu'ils ont fini par exploser une fois que les cartes graphiques ont atteint un certain niveau de performance vers 2010

non pas une matrice pour tout le réseau mais plutôt une matrice par couche de poids (ou si tu préfères penser que les couches sont des couches de neurones : une matrice par opération pour passer d'une couche à une autre)

pour passer d'une couche à une autre en général on fait une ou plusieurs opération(s) linéaire(s) ; c'est donc une multiplication matricielle PX de tes neurones X par tes poids P, et ça se parallélise assez bien sur gpu

en fait parfois PX+b quand il y a un bias. Par ailleurs cette opération linéaire est suivie d'une fonction d'activation. Mais je te conseille de suivre un cours dessus, il faut que tu te plonges dedans pour comprendre.

j'ai trouvé un mec qui explique bien, en 2h j'ai mieux compris que des mois à m'y intéresser
après bon va falloir coder

Le 27 avril 2022 à 21:56:48 :

Le 27 avril 2022 à 21:54:32 :

Le 27 avril 2022 à 21:44:12 :
Ca dit "installe jupyter" mais ça ne sait pas comment l'installer avec support GPU, je vois le genre, tu te fais troller l'OP.
C'est une vraie plaie à installer, aucun tuto valable pour le faire.
Et à lancer, jupyterlab :nez:

Il a qu'à installer Anaconda qui a déjà tout intégré dont Jupyter

Anaconda m'a apporté que des malheurs, si je l'installe sur une machine virtuelle? Je pers en performance? Je préfère télécharger "word.exe" qui vient d'un site porno zoophile allemand que de mettre anaconda direct sur ma machine.

Kek, quel problème? Jamais eu de soucis avec Anaconda perso, t'es sûr que t'as pas téléchargé une version albanaise via un site tiers hébergé aux Philipines?

Le 27 avril 2022 à 21:54:30 :

Le 27 avril 2022 à 21:54:05 Citranus a écrit :
Si tu fais plusieurs neurones en parallèle, ta liste de vecteur devient une matrice, pareil pour la liste de poids et la liste de biais devient un vecteur.

Ah ouais du coup pas besoin d'une chiée de variable

Ca c'est pour calculer le nombre de variables pour un réseau dense = Somme_sur_chaque_neurone(1+nombre d'entrées du neurone)
Ca fait énormément de variables, tellement que le CPU qui traite variable par variable devient obsolète, et les GPU qui traitent matrice de variable par matrice de variable sont bien plus efficaces.

Le 27 avril 2022 à 21:59:04 :

Le 27 avril 2022 à 21:56:48 :

Le 27 avril 2022 à 21:54:32 :

Le 27 avril 2022 à 21:44:12 :
Ca dit "installe jupyter" mais ça ne sait pas comment l'installer avec support GPU, je vois le genre, tu te fais troller l'OP.
C'est une vraie plaie à installer, aucun tuto valable pour le faire.
Et à lancer, jupyterlab :nez:

Il a qu'à installer Anaconda qui a déjà tout intégré dont Jupyter

Anaconda m'a apporté que des malheurs, si je l'installe sur une machine virtuelle? Je pers en performance? Je préfère télécharger "word.exe" qui vient d'un site porno zoophile allemand que de mettre anaconda direct sur ma machine.

Kek, quel problème? Jamais eu de soucis avec Anaconda perso, t'es sûr que t'as pas téléchargé une version albanaise via un site tiers hébergé aux Philipines?

Moi j'ai jamais eu de problème avec idle perso
anaconda : deux réinstallations, je peux même pas faire tourner un print("PUTAIN CONDA T A CHIER")

-Dropout, ca sert surtout a regulariser le reseau. Tu peux aussi mettre un cout de regularization (L1 ou L2 penalite) afin de rendre le reseau "sparse" ca a certain avantage theorique en plus de reduire l'overfitting

-Ca existe, ca s'appel les "Skip connections", tu peux lire le paper sur RestNet ou DenseNet. De nos jours on met meme des coeff alpha et beta sur les connections pour eviter d'avoir a utiliser batch norm (lire le papier NFNets)

- Aucune idee, mais en ce moment tout le monde utiliser des Transformer-like donc ca doit marcher la bas aussi

-JAX ou Pytorch

Le 27 avril 2022 à 21:50:28 :

Le 27 avril 2022 à 21:47:17 ploud4 a écrit :

Le 27 avril 2022 à 21:46:00 :
je sais pas qui croire bordel
je veux juste des graph

Mais merci je compte bien persévérer

Bah teste.

C'est le seul moyen de savoir quand tu fais du ML.

ça me plait ça try and error
Au fait à propos des "neurons"
Si je devais coder ça avec mon savoir actuel je ferais une variable pour chaque neurone, j'imagine que c'est le pire truc à faire
j'ai vu que ça utilise des matrices, tout le réseau tient dans une seule matrice ?

POurquoi ils appellent ça des "neurones" ? On est d'accord que c'est n'importe quoi sémantiquement et que ça réplique absolument pas un vrai schéma neuronal humain, c'est juste que c'est plus vendeur et que ça fait "intelligence" d'utiliser ce genre de termes alors que sur le fond c'est pas du tout des vrais "IA" ?

Le 27 avril 2022 à 22:01:25 :

Le 27 avril 2022 à 21:59:04 :

Le 27 avril 2022 à 21:56:48 :

Le 27 avril 2022 à 21:54:32 :

Le 27 avril 2022 à 21:44:12 :
Ca dit "installe jupyter" mais ça ne sait pas comment l'installer avec support GPU, je vois le genre, tu te fais troller l'OP.
C'est une vraie plaie à installer, aucun tuto valable pour le faire.
Et à lancer, jupyterlab :nez:

Il a qu'à installer Anaconda qui a déjà tout intégré dont Jupyter

Anaconda m'a apporté que des malheurs, si je l'installe sur une machine virtuelle? Je pers en performance? Je préfère télécharger "word.exe" qui vient d'un site porno zoophile allemand que de mettre anaconda direct sur ma machine.

Kek, quel problème? Jamais eu de soucis avec Anaconda perso, t'es sûr que t'as pas téléchargé une version albanaise via un site tiers hébergé aux Philipines?

Moi j'ai jamais eu de problème avec idle perso
anaconda : deux réinstallations, je peux même pas faire tourner un print("PUTAIN CONDA T A CHIER")

Un peu de dignité khey, y'a littéralement trois clics à tout casser pour installer proprement Anaconda, tout est fait à ta place. Tu t'es foiré quelque part mais ne rejette pas la faute sur ce bon vieux Anaconda

Le 27 avril 2022 à 22:02:08 :

Le 27 avril 2022 à 21:50:28 :

Le 27 avril 2022 à 21:47:17 ploud4 a écrit :

Le 27 avril 2022 à 21:46:00 :
je sais pas qui croire bordel
je veux juste des graph

Mais merci je compte bien persévérer

Bah teste.

C'est le seul moyen de savoir quand tu fais du ML.

ça me plait ça try and error
Au fait à propos des "neurons"
Si je devais coder ça avec mon savoir actuel je ferais une variable pour chaque neurone, j'imagine que c'est le pire truc à faire
j'ai vu que ça utilise des matrices, tout le réseau tient dans une seule matrice ?

POurquoi ils appellent ça des "neurones" ? On est d'accord que c'est n'importe quoi sémantiquement et que ça réplique absolument pas un vrai schéma neuronal humain, c'est juste que c'est plus vendeur et que ça fait "intelligence" d'utiliser ce genre de termes alors que sur le fond c'est pas du tout des vrais "IA" ?

Ca y est, tu comprends que "l'Intelligence Artificielle" n'a en vérité rien d'intelligent?
Oui, ça a toujours été un terme marketing pour attirer des investisseurs et ça a marché du tonnerre

Le 27 avril 2022 à 22:03:53 :

Le 27 avril 2022 à 22:02:08 :

Le 27 avril 2022 à 21:50:28 :

Le 27 avril 2022 à 21:47:17 ploud4 a écrit :

Le 27 avril 2022 à 21:46:00 :
je sais pas qui croire bordel
je veux juste des graph

Mais merci je compte bien persévérer

Bah teste.

C'est le seul moyen de savoir quand tu fais du ML.

ça me plait ça try and error
Au fait à propos des "neurons"
Si je devais coder ça avec mon savoir actuel je ferais une variable pour chaque neurone, j'imagine que c'est le pire truc à faire
j'ai vu que ça utilise des matrices, tout le réseau tient dans une seule matrice ?

POurquoi ils appellent ça des "neurones" ? On est d'accord que c'est n'importe quoi sémantiquement et que ça réplique absolument pas un vrai schéma neuronal humain, c'est juste que c'est plus vendeur et que ça fait "intelligence" d'utiliser ce genre de termes alors que sur le fond c'est pas du tout des vrais "IA" ?

Ca y est, tu comprends que "l'Intelligence Artificielle" n'a en vérité rien d'intelligent?
Oui, ça a toujours été un terme marketing pour attirer des investisseurs et ça a marché du tonnerre

bah en soit, une lumière qui clignote, c'est une intelligence artificielle

Le 27 avril 2022 à 22:03:01 Peil a écrit :

Le 27 avril 2022 à 22:01:25 :

Le 27 avril 2022 à 21:59:04 :

Le 27 avril 2022 à 21:56:48 :

Le 27 avril 2022 à 21:54:32 :

Le 27 avril 2022 à 21:44:12 :
Ca dit "installe jupyter" mais ça ne sait pas comment l'installer avec support GPU, je vois le genre, tu te fais troller l'OP.
C'est une vraie plaie à installer, aucun tuto valable pour le faire.
Et à lancer, jupyterlab :nez:

Il a qu'à installer Anaconda qui a déjà tout intégré dont Jupyter

Anaconda m'a apporté que des malheurs, si je l'installe sur une machine virtuelle? Je pers en performance? Je préfère télécharger "word.exe" qui vient d'un site porno zoophile allemand que de mettre anaconda direct sur ma machine.

Kek, quel problème? Jamais eu de soucis avec Anaconda perso, t'es sûr que t'as pas téléchargé une version albanaise via un site tiers hébergé aux Philipines?

Moi j'ai jamais eu de problème avec idle perso
anaconda : deux réinstallations, je peux même pas faire tourner un print("PUTAIN CONDA T A CHIER")

Un peu de dignité khey, y'a littéralement trois clics à tout casser pour installer proprement Anaconda, tout est fait à ta place. Tu t'es foiré quelque part mais ne rejette pas la faute sur ce bon vieux Anaconda

perso team IDE aussi

Le 27 avril 2022 à 22:04:41 :

Le 27 avril 2022 à 22:03:53 :

Le 27 avril 2022 à 22:02:08 :

Le 27 avril 2022 à 21:50:28 :

Le 27 avril 2022 à 21:47:17 ploud4 a écrit :

Le 27 avril 2022 à 21:46:00 :
je sais pas qui croire bordel
je veux juste des graph

Mais merci je compte bien persévérer

Bah teste.

C'est le seul moyen de savoir quand tu fais du ML.

ça me plait ça try and error
Au fait à propos des "neurons"
Si je devais coder ça avec mon savoir actuel je ferais une variable pour chaque neurone, j'imagine que c'est le pire truc à faire
j'ai vu que ça utilise des matrices, tout le réseau tient dans une seule matrice ?

POurquoi ils appellent ça des "neurones" ? On est d'accord que c'est n'importe quoi sémantiquement et que ça réplique absolument pas un vrai schéma neuronal humain, c'est juste que c'est plus vendeur et que ça fait "intelligence" d'utiliser ce genre de termes alors que sur le fond c'est pas du tout des vrais "IA" ?

Ca y est, tu comprends que "l'Intelligence Artificielle" n'a en vérité rien d'intelligent?
Oui, ça a toujours été un terme marketing pour attirer des investisseurs et ça a marché du tonnerre

bah en soit, une lumière qui clignote, c'est une intelligence artificielle

Exa exa, nonobstant ce gogole de Ray Kurtzwell qui prédit l'IA forte et la singularité pour dans genre 30 ans

Le 27 avril 2022 à 22:04:48 :

Le 27 avril 2022 à 22:03:01 Peil a écrit :

Le 27 avril 2022 à 22:01:25 :

Le 27 avril 2022 à 21:59:04 :

Le 27 avril 2022 à 21:56:48 :

Le 27 avril 2022 à 21:54:32 :

Le 27 avril 2022 à 21:44:12 :
Ca dit "installe jupyter" mais ça ne sait pas comment l'installer avec support GPU, je vois le genre, tu te fais troller l'OP.
C'est une vraie plaie à installer, aucun tuto valable pour le faire.
Et à lancer, jupyterlab :nez:

Il a qu'à installer Anaconda qui a déjà tout intégré dont Jupyter

Anaconda m'a apporté que des malheurs, si je l'installe sur une machine virtuelle? Je pers en performance? Je préfère télécharger "word.exe" qui vient d'un site porno zoophile allemand que de mettre anaconda direct sur ma machine.

Kek, quel problème? Jamais eu de soucis avec Anaconda perso, t'es sûr que t'as pas téléchargé une version albanaise via un site tiers hébergé aux Philipines?

Moi j'ai jamais eu de problème avec idle perso
anaconda : deux réinstallations, je peux même pas faire tourner un print("PUTAIN CONDA T A CHIER")

Un peu de dignité khey, y'a littéralement trois clics à tout casser pour installer proprement Anaconda, tout est fait à ta place. Tu t'es foiré quelque part mais ne rejette pas la faute sur ce bon vieux Anaconda

perso team IDE aussi

Toi tu es team "je n'utilise pas Jupyter Notebook", le droit à la parole t'es donc refusé d'office

Le 27 avril 2022 à 22:05:47 Peil a écrit :

Le 27 avril 2022 à 22:04:48 :

Le 27 avril 2022 à 22:03:01 Peil a écrit :

Le 27 avril 2022 à 22:01:25 :

Le 27 avril 2022 à 21:59:04 :

Le 27 avril 2022 à 21:56:48 :

Le 27 avril 2022 à 21:54:32 :

Le 27 avril 2022 à 21:44:12 :
Ca dit "installe jupyter" mais ça ne sait pas comment l'installer avec support GPU, je vois le genre, tu te fais troller l'OP.
C'est une vraie plaie à installer, aucun tuto valable pour le faire.
Et à lancer, jupyterlab :nez:

Il a qu'à installer Anaconda qui a déjà tout intégré dont Jupyter

Anaconda m'a apporté que des malheurs, si je l'installe sur une machine virtuelle? Je pers en performance? Je préfère télécharger "word.exe" qui vient d'un site porno zoophile allemand que de mettre anaconda direct sur ma machine.

Kek, quel problème? Jamais eu de soucis avec Anaconda perso, t'es sûr que t'as pas téléchargé une version albanaise via un site tiers hébergé aux Philipines?

Moi j'ai jamais eu de problème avec idle perso
anaconda : deux réinstallations, je peux même pas faire tourner un print("PUTAIN CONDA T A CHIER")

Un peu de dignité khey, y'a littéralement trois clics à tout casser pour installer proprement Anaconda, tout est fait à ta place. Tu t'es foiré quelque part mais ne rejette pas la faute sur ce bon vieux Anaconda

perso team IDE aussi

Toi tu es team "je n'utilise pas Jupyter Notebook", le droit à la parole t'es donc refusé d'office

Tu es un homme ? Oui j'utilise des cellules

Le 27 avril 2022 à 22:06:49 :

Le 27 avril 2022 à 22:05:47 Peil a écrit :

Le 27 avril 2022 à 22:04:48 :

Le 27 avril 2022 à 22:03:01 Peil a écrit :

Le 27 avril 2022 à 22:01:25 :

Le 27 avril 2022 à 21:59:04 :

Le 27 avril 2022 à 21:56:48 :

Le 27 avril 2022 à 21:54:32 :

Le 27 avril 2022 à 21:44:12 :
Ca dit "installe jupyter" mais ça ne sait pas comment l'installer avec support GPU, je vois le genre, tu te fais troller l'OP.
C'est une vraie plaie à installer, aucun tuto valable pour le faire.
Et à lancer, jupyterlab :nez:

Il a qu'à installer Anaconda qui a déjà tout intégré dont Jupyter

Anaconda m'a apporté que des malheurs, si je l'installe sur une machine virtuelle? Je pers en performance? Je préfère télécharger "word.exe" qui vient d'un site porno zoophile allemand que de mettre anaconda direct sur ma machine.

Kek, quel problème? Jamais eu de soucis avec Anaconda perso, t'es sûr que t'as pas téléchargé une version albanaise via un site tiers hébergé aux Philipines?

Moi j'ai jamais eu de problème avec idle perso
anaconda : deux réinstallations, je peux même pas faire tourner un print("PUTAIN CONDA T A CHIER")

Un peu de dignité khey, y'a littéralement trois clics à tout casser pour installer proprement Anaconda, tout est fait à ta place. Tu t'es foiré quelque part mais ne rejette pas la faute sur ce bon vieux Anaconda

perso team IDE aussi

Toi tu es team "je n'utilise pas Jupyter Notebook", le droit à la parole t'es donc refusé d'office

Tu es un homme ? Oui j'utilise des cellules

Ton corps est composé de quoi? Spoiler: de cellules
Echec et mat

Le 27 avril 2022 à 22:01:31 :
-Dropout, ca sert surtout a regulariser le reseau. Tu peux aussi mettre un cout de regularization (L1 ou L2 penalite) afin de rendre le reseau "sparse" ca a certain avantage theorique en plus de reduire l'overfitting

-Ca existe, ca s'appel les "Skip connections", tu peux lire le paper sur RestNet ou DenseNet. De nos jours on met meme des coeff alpha et beta sur les connections pour eviter d'avoir a utiliser batch norm (lire le papier NFNets)

- Aucune idee, mais en ce moment tout le monde utiliser des Transformer-like donc ca doit marcher la bas aussi

-JAX ou Pytorch