Twitxy Saved

Nicolas

Verified account This account is verified. Learn more

@nb4ld

« Technohooligan » — dixit la TV russe.
« Scathing » — dixit Forbes.
« Séparatiste » — dixit Blanquer.
« Dont on ignore les compétences » — dixit la Bâtonnière.
Mes DM sont ouverts Joined April 2013
374 Following 13K Followers 576 Posts

Latest posts 5

Nicolas Verified account @nb4ld
Petit modèle MoE 7B-1A, avec 32k de contexte.

Ça n'a pas l'air impressionnant comme ça, mais OVH vise très juste.

Il ne s'agit pas d'un modèle destiné au chat interactif ou à des agents de codage.

C'est un modèle qui permet de traiter de la donnée rapidement. Avec une particularité : on peut le déployer partout.

Sur l'ordinateur ou le smartphone d'un utilisateur lambda, sur l'hébergement mutualisé d'un site web. Pas besoin de grosse machine ou de GPU.

C'est l'arrivée de l'IA en language naturel comme une commodité au sein du processus métier.

- détermine le niveau de priorité d'un mail et le service vers lequel le transmettre
- résume ou anonymise un document
- corrige ou traduis ce message
- extraits l'information de manière structurée
- modère ce message posté sur le forum

Et utile aussi pour celui qui a de gros GPU, pour du traitement massif.

- voici 3 millions de jurisprudences, fais un extrait des articles de loi cités par chaque dans un format normalisé
- lis intégralement ces 30 000 articles scientifiques pour trouver lesquels sont pertinents par rapport à notre travail

Bref. Bravo OVH !
Hâte de voir la suite.
Octave Klaba Verified account @olesovhcom 20h
OVH annonce Olala mini 7A1B

OVH sa première famille de LLM. Premier représentant de cette famille, Olala mini 7A1B est un modèle compact bâti sur une architecture inédite.

Olala : le modèle innovant dans l’attention hybride

Olala mini repose sur une architecture de 7 milliards de paramètres (7B)  avec un milliard activés répartis entre 256 experts par couche, l’attention hybride avec Differential-TPA et Mamba-3, au format BF16. Seule une fraction du modèle est sollicitée à chaque requête, ce qui le rend plus rapide et moins gourmand en mémoire. Conséquence directe: le modèle fonctionne sur un GPU doté d’un minimum de 8 Go de mémoire, il atteint 160 tokens par seconde sur une RTX A4500, et même sans GPU, sur un simple processeur, à 50 tokens par seconde. Sa fenêtre de contexte atteint aujourd’hui 32 000 tokens. Olala mini sera disponible en open source sur Hugging Face, sous licence Apache 2.0.

Entraîné avec l’aide publique européenne et en fonctionnement chez Qwant

Olala mini a été entraîné sur trois supercalculateurs publics européens, Jupiter, MeluXina et Jean Zay, équipés de GPU GH200, A100 et H100. Ce soutien, qui représente l’équivalent de 7 M€ en heures de calcul, a été déterminant, et OVH tient à en remercier les pouvoirs publics. L’initiative publique s’est révélée un succès à plus d’un titre : elle a fait émerger une équipe d’exception en intelligence artificielle et a donné naissance au Lab Agentique d’OVH: OVHai LLM. Olala mini est publié avec ses poids, son modèle de base pré-entraîné, son rapport technique et sa documentation de conformité à l’AI Act. Qwant l’a déjà adopté pour sa fonctionnalité de réponse flash, avec des gains significatifs : des réponses 20 % plus rapides et des coûts de fonctionnement divisés par trois par rapport au modèle précédemment utilisé.

En route vers la v1.1, puis la v2.0 

Attendue d’ici la fin de l’année, la version 1.1 portera la fenêtre de contexte à 128 000 tokens et améliorera ses performances en raisonnement mathématique. Avec la version 2.0, OVHai LLM entend développer des modèles spécialisés dans trois domaines. D’abord, l’agentique pour les entreprises : à terme, Olala alimentera OVHai Workspace, dont la version chiffrée nécessitera des modèles capables de tourner en local, directement sur le poste de travail. Ensuite, le DevOps cloud, avec des déclinaisons adaptées aux développeurs, aux architectes et aux équipes d’exploitation qui assurent la continuité de service 24h/24. Enfin, la cybersécurité, dans ses volets défensif comme offensif. Olala v2.0 dépassera les 100 milliards de paramètres.

corporate.ovhcloud.com/fr/newsroom/ne…
View quoted post on X
10 replies 25 reposts 274 likes 13K views View on X
Nicolas Verified account @nb4ld
Bah déjà, la base c'est de démembrer pour transmettre avant l'héritage 🙄
Clémence Guetté Verified account @Clemence_Guette 1d
Nous instaurerons un plafond de 5 logements transmissibles par héritage.

Au-delà, les biens seront réquisitionnés par l’État et redistribués entre le parc social et des dispositifs d’accès à la propriété.
View quoted post on X
3 replies 0 reposts 50 likes 4.9K views View on X
Nicolas Verified account @nb4ld
Finalement, je suis en train de massicoter et de numériser toute ma bibliothèque de livres techniques et scientifiques.

L'IA qui bosse pour moi a un large savoir natif, mais il lui manque encore l'information de spécialité.

Elle a peut-être déjà lu ces livres lors de son entraînement, elle en a peut-être un souvenir lointain et grossier. Un modèle compresse l'information avec de la perte, et il répète l'information qu'il a vue le plus fréquemment.

J'ai donc besoin que l'IA puisse feuilleter toute ma bibliothèque pour m'aider.

Quand je lui fournis mes livres, je veux qu'elle y retrouve le détail, l'information noyée dans la masse statistique.

L'information que stocke un modèle n'a jamais la qualité de l'œuvre originale. C'est pourquoi l'œuvre originale restera toujours nécessaire.

J'ai investi dans un scanner double-face à haute fiabilité : le Ricoh iX2500
43 replies 18 reposts 398 likes 38K views View on X