Shirin Mohammadi retweeted
My cofounder Patrick talked to top tech companies about how they control their AI spend and summarized his findings. Highly recommended reading.
Today @databricks we're publishing a detailed analysis of techniques we used to drastically reduce our internal AI spend while aggressively growing adoption. Savings come from layering in several techniques, which combine to drive unit costs down as much as 90% in some scenarios. Tl;dr, the wins come from:
1. Shifting defaults to more efficient models, including OSS models such as GLM. Maximum intelligence models simply aren't needed for many coding tasks, and "good enough" models are quickly becoming very cheap. We shift traffic between models using Unity AI Gateway. Approximate savings: 50% or more.
2. Using smart routing to automate model selection. Routing can further squeeze efficiency by dynamically selecting the model or harness that can most efficiently execute a particular task. Our task-level routing leverages @omnigent_ai. Approximate savings: 30%.
3. Providing user visibility and adaptive budgeting. Every user can see how much they spend, and users receive hints on how to contain spend. Heavy spenders encounter progressive friction as they ratchet spend above certain levels. Approximate savings: 10%.
4. Managing context bloat by pruning tool call results and tuning harness settings. Extraneous context costs $$ and delivers no value. Tuning cache settings also help lower average token costs. Approximate savings: 10%.
Shirin Mohammadi retweeted
Replying to @databricks
@databricks has the fastest and lowest latency on Kimi K3 (max)! Great job by Databricks AI team!
artificialanalysis.ai/models…
Shirin Mohammadi retweeted
Now with GitHub Enterprise Cloud, organizations have the ability to store their most valuable asset, their code, in the EU. The timing is vital and pressing for much of Europe, as we face a steep uphill climb in a global economy gone digital. (1/4)
github.com/newsroom/press-re…
Shirin Mohammadi retweeted
📆 J-2 avant notre #webinaire inédit sur le thème « Préparer l’adoption de #Kubernetes » !
Comment adopter K8s en production ? Découvrez toutes les étapes nécessaires (crawl, walk, run, fly et warp) pour la construction de votre plateforme Kubernetes !
👉 https://teapaw.org/t.co/6CdVOFVZCl
Créer les #applications du futur et apporter de la valeur à vos clients, c'est ce qu'on vous propose le 28 janvier !
Venez découvrir les dernières actualités autour de nos services applicatifs et du #Devops, nous vous avons concottés un agenda aux petits oignons😁 #github #azure
📣 Rdv le 28/01 pour tout savoir sur les solutions imaginées par les équipes de l'#Azure ☁ Engineering Group lors d’une matinée unique de démos et d’échanges. Inscrivez-vous dès maintenant à l'#AzureAppsForum ! ⤵
Shirin Mohammadi retweeted
📣 Rdv le 28/01 pour tout savoir sur les solutions imaginées par les équipes de l'#Azure ☁ Engineering Group lors d’une matinée unique de démos et d’échanges. Inscrivez-vous dès maintenant à l'#AzureAppsForum ! ⤵
📌J-1 pour découvrir comment optimiser la catégorisation des produits sur votre site de #ecommerce grâce au témoignage de @stephanerosii , CFO d'#Alltricks accompagné de notre partenaire @Expertime.
tinyurl.com/y5q7kxr3
Créez, déployez et mettez à l'échelle vos #applications en toute confiance grâce au partenariat @RedHat_France et @Azure_France autour du service managé Azure d'OpenShift !
#apps #dev #OpenShift #opensource #redhat #microsoft #cloud #DevOps
Shirin Mohammadi retweeted
📢 Vous souhaitez participer aux échanges sur l'API ? 💬 Rejoignez Uli Hitzel, spécialiste du numérique chez @Axway et @pierreg256, CTO #Azure ☁ chez #Microsoft le 22 octobre pour une discussion autour des trends API ! 👇 #AroundTheCorner
Shirin Mohammadi retweeted
🆕Azure DevOps vous permet de générer, tester et déployer une application dans le cloud ou localement. #cahierdevacances 📚
Le cahier des vacances pour moderniser vos #applications, c'est par ici et c'est tout l'été ! #apps #Cloud #tech #azure #webapps #PaaS
🔥 Cet été, apprenez à déployer un site web sur Azure avec Azure App Service ! 👇 ☁️ #cahierdevacances
3
Shirin Mohammadi retweeted
📆 #Webinar : accélérez les #migrations, soyez + précis dans l'évaluation des efforts & identifiez les axes de modernisation des applications, RDV le 28 juillet 👇 @onquality
Repenser notre façon de travailler : comment accompagner les #développeurs avec des outils et des méthodologies qui leur permettent de collaborer efficacement et de rester agiles ?
https://teapaw.org/t.co/vNqXQtdh4H
#TransfoNum #remoteworking #developers #github #opensource
J-5 avant cet échange avec @AlainHelaili !
#DigitalTransformation #agility #bizdevops
#innersource @github @Azure_France @asseh @faatz @xavperret
Rendez-vous le mardi 16 juin à 13h30 pour un webinar sur la #TransfoNum des entreprises avec @github ✨
➡ Retour sur les enjeux et défis actuels pour mieux collaborer entre équipes IT et Business 👇
msft.it/6011TiarW
Workshops Azure Kubernetes Service au complet ce matin chez @microsoftfrance ! Un peu de théorie suivie de la session Hands On Lab cet après-midi ! @Azure_France @msdev_fr #azure #kubernetes #conteneurs #apps #devops #cloud
Shirin Mohammadi retweeted
🆕 #QuestionDev du mois : Le Serverless... 👇
Que souhaitez-vous savoir ? Notre expert vous répond en vidéo ! 🎬
58%Qu'est-ce que c'est ?
24%Quelles sont ses limites?
18%Ça marche hors du cloud?
4,502 votes • Final resultsSuper témoignage de @Solocal sur le move to cloud de leur parc applicatif, réalisé en seulement 1 an avec #Azure ! customers.microsoft.com/fr-f… #Cloud #apps #appinnovation @Azure_France
Shirin Mohammadi retweeted
#AppInnovationDay On continue cette journée avec @AdelChaibi (@IntelFrance) pour une session autour de l’Intelligence Artificielle #AI et le #DeepLearning via un use case dans le monde de la médecine
Live demo of our App Migration Assistant on #AppInnovationDay to help you assess and move you #applications to the #cloud #PaaS #Azure #caas #appservice @davidcoppet @faatz @HoussemDellai @MCKLMT @Azure_France @msdev_fr
Shirin Mohammadi retweeted
What’s next for Microsoft engineering devops journey goes by more inner source w @github !!




















