On a refait OpenAI en Open Source

92% des développeurs au Etats Unis utilisent un Assistant de Code propulsé par l’IA. 70% de ces développeurs y trouvent un gain” (Source: https://github.blog/2023-06-13-survey-reveals-ais-impact-on-the-developer-experience/)

L’IA est clairement un outil qui va booster la productivité des équipes à condition de bien l’utiliser. Les considérations éthiques et idéologiques ne sont pas à laisser de côté. Sans oublier les risques de vol de propriété intellectuelle ou sur la confidentialité de données notamment lors de l’utilisation d’IA Publiques: OpenAI, DeepSeek,…

Pour garder le contrôle complet de la data, nous avons refait une Stack IA complète, déployée sur une infra privée à partir de projets Open Source.

Ce talk est l’occasion de comprendre tout ce qu’il se cache derrière n’importe quelle IA publique et de lever le voile sur l’ensemble des couches qui permettent de servir les applications qui s’appuie sur l’IA.

Au cours du talk, on va partir de l’infra GPU, passer par la gestion des modèles IA, parcourir les métriques importantes sans oublier la mesure de l’empreinte carbone. Et on terminera la découverte avec un exemple d’application IA.