La nouvelle IA qui assiste les développeurs : Codestral par Mistral AI

Рет қаралды 13,042

Ай бұрын

Mistral vient de sortir un modèle spécialisé dans la génération de code.
💪 Soutenir la chaine via tipeee :
fr.tipeee.com/codeconcept
🚀 Plus de 40 formations pour 25 €/mois SANS engagement de durée 🚀
codeconcept.teachable.com/
Liens cités dans la vidéo :
mistral.ai/news/codestral/

Пікірлер: 37

@alexg7282 Ай бұрын

Merci

@Unnaymed Ай бұрын

Oui il est très bon. Mais pour bien l'utiliser faut passer du temps pour bien lui décrire ce qu'on veut. Lui filer des structures ou des bouts de code. Ca marche bien aussi de le corriger.

@flb5078 Ай бұрын

Codestral: en fait coup de comm de Mistral pour faire le buzz aptes Llma3 et ChatGPT4o releases. Premiere utilisation: rapide, peut coder, mais...pour les applications ML, il ne connait pas Keras. 3.0, release October 2023, encore acceptable. Mais il ne connait pas Unitnormalization dans Keras, release Q1 2022...donc, le daraset utilise semble etre de 2021...Llama3, ChatHPT4o, et meme Claude connaissent Unitnormalization. Pas etonnant qu' on puisse pas l' utiliser en prod.

@codeconcept Ай бұрын

J'essaie de pousser des IAs non-US, car au bout du compte, les OpenAI et autre Meta attirent les meilleurs profils du monde entier dont la France. Mais oui, pas moyen de faire cracher à ce modèle du code Angular 17 ni même 16. C'est un début un poil décevant.

@alexandrequemy Ай бұрын

Le plus important ce n'est pas ce que l'IA a vu durant son entrainement mais la maniere dont elle code. Ajouter des connaissances a un model, sans fine-tuning, c'est relativement facile. 🙂

@Eloii_Xia Ай бұрын

Pour faire tourner ce modèle en local (en fonction de la méthode de "compression") il faut au minimum un GPU avec 16Go de VRAM. D'autant plus que la on parle d'un modèle QLoRA 4-bit NormalFloat. Si on veut la version complète 16-bit NormalFloat il faudrait 480Go de VRAM

@codeconcept Ай бұрын

16 Go de VRAM, ça peut aller. 480Go ... euh, il va falloir trouver un filon d'or ou se découvrir héritier d'un oncle d'Amérique 😄

@Eloii_Xia Ай бұрын

@@codeconcept Rof on peut toujours louer des A100 80Go pour pas cher

@electroheadfx Ай бұрын

sur des machine apple avec 32/64GO de ram c'est possible et facile (mémoire unifié avec cpu/gu). J'ai pas trouver le model super efficace en autocomplete de code, codeqwen est meilleur bon après peut etre qu'il y a des réglages. Le plus efficace est supermaven (meilleur que copilot).

@Unnaymed Ай бұрын

En GGUF on a pas besoin de beaucoup de ram graphique meme si ça sera plus lent. Le sweet spot de perfo c'est tout le temps 6bits de quantisation.

@electroheadfx Ай бұрын

@@Unnaymed merci pour tes lumières

@frankdearr2772 Ай бұрын

Genial video, merci 👍

@codeconcept Ай бұрын

Merci Franck 😀

@alexandrequemy Ай бұрын

On peut utiliser l'API pour des utilisations commerciales uniquement sur accord de Mistral, ce qui se fait au cas par cas et donc requiert de les contacter en amont.

@codeconcept Ай бұрын

Merci pour cette précision 😀

@Boonen0Indiana Ай бұрын

Je ne suis pas du tout un developpeur expérimenté, mais je réalise énormement d'analyse de données en Python. Mistral réalise pas mal d'erreur, pour des taches assez simples (problème de slicing, ...)

@codeconcept Ай бұрын

En faisant le même test sur une autre IA dédiée au dev, c'est mieux / moins bien ?

@nicolasbertholet5541 Ай бұрын

C est quoi l avantage par rapport a chatgpt ? je vois pas

@JaisPasCompris Ай бұрын

chatgpt coute cher (surtout l'api)

@codeconcept Ай бұрын

C'est un concurrent.

@0liverr Ай бұрын

Je ne sais pas si cela illustre une limite classique des LLM, mais le fait que l'IA propose Leaflet me semble assez symptomatique. Leaflet a été la lib cartographique de référence pendant des années mais est maintenant relativement déclassée par MapLibre. Je crains toujours que les IA me poussent à coder à l'ancienne vu que la base de données sur laquelle elles se basent pour générer une réponse inclue beaucoup de code qui date pas mal.

@neal-developpement113 Ай бұрын

C'est ça!

@moneyfr Ай бұрын

sur mon ollama c'est tres long par rapport a llama3

@duvioletautourdesyeux Ай бұрын

Il y a quoi de similaire qui tourne en local ?

@lalit3969 Ай бұрын

Tu peux faire tourner Codestral en local avec Ollama

@alexandreamiel1865 Ай бұрын

pour moi ce n'est pas la bonne manière de faire en 2024, ( a part pour avoir des boilerplates de code ) il faut utiliser Cursor IDE, qui est un fork de VsCode avec des fonctionnalités d'IA integré ( avec pris en compte du systeme local de fichier, intégration de specifications techniques depuis internet ), ca vous le coup d'oeil.

@CyrilHskt Ай бұрын

J'avais entendu parler d'un ide qui intègre directement l'IA pour aider le dev. Car le problème que je rencontre avec par exemple copilot, c'est que les TU front en général il fait n'importe quoi. Il a du mal a mocker et à gérer les dépendances. Du coup, j'ai plus vite fait moi-même. C'est ce qui m'empêche de vraiment me mettre à l'IA. Ça parle à quelqu'un ce genre de projet d'IDE ? J'aimerais bien en savoir plus.

@furiy3741 Ай бұрын

L'IDE que tu recherches s'appelle sûrement Cursor. Je l'utilise actuellement. Elle intègre une IA qui a accès à toute ta codebase, elle peut compléter du code existant, répondre à des questions que tu pourrais lui poser, accéder aux erreurs se trouvant dans le terminal pour t'aider à les corriger ... Elle est basée sur VSCode ce qui veut dire que tu peux récupérer tes extensions et tu ne seras pas perdu sur le fonctionnement au départ si tu utilisais déjà VSCode. Bref, elle a beaucoup d'avantages mais seul problème que je lui trouve actuellement, c'est son prix, tu as 15 jours d'essai qui se déclenche quand tu installes l'IDE et ensuite tu n'as plus l'autocomplétions de ton code. Pour revenir sur l'autocomplétions, elle est très précise et fait VRAIMENT gagner du temps car elle utilise le reste de ta codebase pour générer du code cohérent avec le reste de ton projet. J'espère que ce long commentaire t'auras aidé, n'hésite pas à aller sur le site de Cursor pour avoir plus de détail et de meilleures explications que les miennes :)

@CyrilHskt Ай бұрын

@@furiy3741 ce long commentaire est absolument parfait ! Merci beaucoup. Je rentre chez moi et j'enquête là-dessus !

@FaRead01 Ай бұрын

@@CyrilHskt J'espère que tu ne l'utilise pas pour un client mdr. Tu donnes juste l'intégralité du code protégé... Très mauvaise idée.

@CyrilHskt Ай бұрын

@@FaRead01il faut que je creuse cet aspect, oui. Mais je vois qu'ils ont une politique là-dessus où on peut expressément demander à ne pas stocker le code. C'est dans le plan payant évidemment. Mais ça ne me dérange pas de payer pour des outils de travail. On peut aussi utiliser sa propre clé API.

@FaRead01 Ай бұрын

@@CyrilHskt Les seuls API safe c'est le 100% self hosted. Je sais pas si mistral le fait

@humnad289 Ай бұрын

Je l'ai utilisé pour du débug. C'est pas mal du tout

@codeconcept Ай бұрын

En collant le code à débugger et en demandant de trouver le problème ?

@maloukemallouke9735 Ай бұрын

je l ai testé il fait beaucoup d erreurs (python)

@codeconcept Ай бұрын

Et en comparant avec une autre IA dédiée au développement, sur le même code Python, ça donne quoi ?

@maloukemallouke9735 Ай бұрын

@@codeconcept pour l instant quand Cody est celui qui me donne le meilleur code en VSCODE pour python et je vais tester lava pour le mutlimodale mais je ne sais pas si il y a un autre meilleur.