Reprise du message précédent :

 
Sans doute mega crame, mais avec des collègues on fait des tests sur la version locale de Mistral sorti il y a 3-4 jours et c’est top

ok pour info depuis j'en ai testé pas mal et celui qui sort du lot pour moi c'est Gemma 3

testé gemini sur android, quel feignasse ce truc ,
 je lui demande le trajet en train le - long ,il me dit 4h (je sais que c'est faux )je lui fait repeter la question en lui disant que y"a - long, plusieurs fois toujours 4h , je lui dit qu'il existe un trajet de 2h ....
 
reponse :  "ah oui effectivement blabla bla ..."
 
 

Soyez plus précis si possible;
Les modèles évoluent sans cesse. Donc il suffit que la version ait plus de paramètre et elle est a priori supérieure non ?  

Autre levier : Avoir de meilleures données.
Mais est ce qu'on a un moyen de comparer les données des différents modèles ?

Au final c'est le truc qui va différencier les IA je pense.
Il suffit d'avoir de la donnée que le voisin n'a pas et t'es meilleur.

Indépendamment de la puissance des paramètres.

Avec quelle config ? Je ne vais pas tarder à changer mon laptop, j'hésite à prendre un avec un i9 270HX RTX 5080 (version laptop donc, genre ça avec upgrade RAM en plus : https://www.ldlc.com/fiche/PB00668735.html ) pour expérimenter avec des LLM et faire quelques entrainements de modèles
 
Et   au passage

Veux tu que je repolisse le plateau d'argent avant de te l'apporter ?  
 
https://www.google.com/search?q=gem [...] s-wiz-serp

Non juste donnez bien les versions c'est tout.
 
Après les benchmark on s'en fou un peu j'ai envie de dire.  
C'est vraiment le quotidien qui est important.  
 
C'est bien d'avoir des retour pragmatiques.  
 
Moi j'arrive pas à décrocher du online. Ca me semble tellement en avance par rapport à un truc en local.  
Mais j'ai pas de données locales donc bon ..  
 
De ce que j'ai compris :  
Mistral 7 -> 7 milliards de paramètres
GPT 4.5 -> 1800 milliards de paramètres  
 
Ca donne l'ordre de grandeur  

Peros j'utilise que les modèles commerciaux aussi, mais j'apprécie l'idée d'avoir un modèle local qui peut tourner sur mon ordi ou mon tel quand j'ai pas de connexion

Par exemple quand je vais aux USA pour le taf, dans l'avion ça peut être pratique sur l'ordi;
Autre cas, je serai dans des régions désertiques d'Afrique du Nord dans un mois (voyage auto tour) et avoir un LLM sur le tel ça peut être cool pour avoir quelques infos sur le lieu où on est

Si on voit plus loin, si un jour on a des modèles locaux très performant ce sera moins couteux que de prendre des abonnements

Quand je vois ce que stable diffusion me sort en local je suis impressionné. Sur un simple MacBook Air M3 on obtient le niveau de qualité qu'on obtenait des modèles commerciaux il y a un peu plus de deux ans. Pour le coup, j'ai des cas d'usage concrets et ça va me faire économiser des appels API couteux

Belle bête, tu comptes jouer aussi un peu et faire tourner des modèles IA photos et vidéos?

Un modèle 32B tournant en q4, fine tuné sur des données nécessaires à un cas d'utilisation très précis + potentiellement du RAG sera forcément plus intéressant que GPT4.5 qui n'aura jamais vu ces données et n'aura jamais été paramétré dessus, malgré sa taille.

Mais alors, pour trouver les bonnes données histoire de renforcer la probabilité d'une réponse adéquate au contexte idoine, bonne chance. Perso, je suis dans l'optique de fine-tuner un modèle type Qwen/R1-Distill 70B doté d'un raisonnement autour de données en sciences humaines et sociales mais je galère à trouver de bonnes bibliothèques de données ouvertes, de bonne qualité (je peux potentiellement aspirer Anna's archives mais ça va être trèèès long de trier)... et ça va me coûter un rein de louer plusieurs GPU type H100 en cloud computing pour entraîner le modèle, sans compter la question l'inférence en cloud, la sauvegarde, la difficulté technique etc... Si j'avais les moyens de me payer un Mac Studio ou un GPU avec suffisamment de VRAM pourquoi pas mais pour l'instant ça reste compliqué de se doter d'un LLM adapté à un usage très précis.

J'envie les dev, j'ai l'impression que la plupart des LLM tournent autour du code. Y'a bien que o1 Pro qui me semble assez polyvalent, même en SHS (mais avec le bon contexte).

Quasi pas de jeu
 
J'ai parfois besoin au taf d'extracteurs de texte, on explore pour faire ça par LLM au lieu d'heuristiques. Avoir une grosse machine me permettrait aussi de fine tune des modèles huggingface, ou entrainer quelques autres modèles simples style deeplearning de reconnaissance. En CPU c'est une vraie plaie le temps que ça prend  
 
Le training par cloud public étant touchy politiquement dans mon cas, le gros laptop serait un compromis.

Par OVH ça passe pas ?

 
Pareil j'avais un MBP 14 M3 max 128Go refurb dans le panier pendant 3j avant de décider d'être raisonnable  

 
Tu n'as pas peur d'user prématurément le pc ? Je sais pas la fréquence d'usage, mais niveau ventilation/refroidissement, ça reste bien en dessous d'une tour.

Y'a encore des gens qui achètent des PC portables en 2025 ?  
Une bonne puce Apple Silicon sur un portable ça envoie bien sinon

 
C'est pas magique non plus, tu peux pas "tout" faire tourner, particulièrement en VLM (et en agents même si ça a l'air de se débloquer un peu) où c'est très en retard niveau implémentation.

https://www.notebookcheck.biz/Test- [...] 586.0.html

Ça par exemple c'est plutôt bien. On en trouvera prochainement dans des Mini PC comme le GMK Evo X2 ou sur le futur Framework Desktop.

Le but n'est pas de faire tourner pendant la nuit entière, chaque jour. Si j'ai besoin d'autant ça sera cloud ou rien. Après un portable gamer ça tient bien logiquement, ça supportait mes LAN d'étudiant en tout cas.

@falcon : je ne connais personne en milieu pro de dev qui bosse sur autre chose que laptop. Certains sont sur macos (surtout dev iphone), mais la majorité est sur windows. A plus forte raison pour les équipes dotnet.

Bonne alternative. Merci pour l'info

MANUS IA : CODE HACKÉ & VÉRITÉ DÉVOILÉE !  
https://www.youtube.com/watch?v=is8IK8cvJv4

Après bon 256gb/s (en théorie) et 40CU ça sera pas un foudre de guerre par rapport à un M3 Ultra (800gb/s) ou M4 Max (500gb/s) 128gb.

Que ce soit en traitement du contexte ou la sortie.

Ça s'entend

C’est cool qu’un des influenceurs IA soit lucide, concret, critique et pragmatique  
Ce sont des valeurs qui se sont perdues depuis longtemps sur les réseaux

Plus visible  
Ça parlait de quoi ?

Incroyable ! "Cette vidéo n'est plus disponible en raison d'une réclamation pour atteinte aux droits d'auteur envoyée par Ludo SALENNE"

Dans la vidéo supprimée, le type montrait que Manus était bien conçu et + qu'un simple wrapper mais qu'ils ont utilisé les influenceurs ia connus pour totalement survendre le truc et la vidéo le démontrait très bien en critiquant une vidéo de ce Ludo

EDIT : après avoir regardé plusieurs vidéos je me fais un avis rapide. C'est encore un vendeur de formation miracle sauf qu'il a un discours différent des autres.
Les influenceurs classiques ont un discours de type "Je vais vous donner tous les secrets, achetez mon truc"
Lui c'est "Tout le monde est nul et vous ment par ignorance, achetez mon truc"

A choisir je préfère les gens positifs et bienveillants