Le PDG d'Amazon Andy Jassy affirme que la demande en IA forme un « haltère » : les coûts d'inférence élevés laissent le marché intermédiaire inexploité
Points clés
- •Jassy a caractérisé la demande actuelle en IA comme concentrée aux extrémités haute et basse du marché en termes de coûts, laissant un potentiel important inexploité entre les deux.
- •L'inférence génère une dépense récurrente chaque fois qu'un modèle d'IA produit une réponse, ce qui limite une adoption plus large par les entreprises.
- •Amazon promeut ses puces Trainium, qui offriraient, selon la société, un rapport prix-performance compétitif pour les charges de travail IA sur AWS.
- •L'investissement d'Amazon dans Anthropic lie les perspectives de financement et de valorisation de la start-up à l'économie globale du déploiement de l'IA.
- •De futures initiatives de réduction des coûts d'Amazon ou des annonces d'Anthropic concernant des financements ou des partenariats pourraient affecter les perceptions du marché.
Le PDG d'Amazon Andy Jassy a décrit la demande en intelligence artificielle comme un « haltère », avec les laboratoires d'IA à une extrémité et les entreprises en quête de réductions de coûts à l'autre, tandis que le potentiel situé entre les deux reste largement inexploité en raison des coûts d'inférence élevés.
L'inférence — le processus de calcul intensif consistant à exécuter des modèles entraînés pour générer des réponses — représente un coût récurrent à chaque requête traitée par un modèle. Les remarques de Jassy soulignent le défi auquel Amazon est confronté pour rendre la technologie de l'IA économiquement viable pour un usage élargi en entreprise. Elles interviennent alors que la société promeut ses accélérateurs IA personnalisés — des puces spécialisées pour les calculs d'IA — tels que Trainium, qui offriraient, selon les rapports, un meilleur rapport prix-performance que ceux des concurrents. Trainium est développé par la division Annapurna Labs d'Amazon et alimente les charges de travail IA de la plateforme cloud Amazon Web Services (AWS) de la société.
Ces commentaires ont des implications pour l'ensemble du secteur de l'IA, notamment pour des entreprises comme Anthropic, le développeur de l'assistant IA Claude. Amazon a investi des milliards de dollars dans Anthropic, et les modèles de la start-up sont proposés aux clients via AWS.
La tarification du marché évoquée aux côtés des commentaires de Jassy met en lumière les défis de coûts liés à l'adoption de l'IA et pèse sur les perspectives de valorisation d'entreprises comme Anthropic. La tarification actuelle semble cohérente avec des scénarios dans lesquels Anthropic pourrait devoir répondre à des besoins d'investissement découlant des coûts d'inférence élevés. Les indicateurs de marché suggèrent néanmoins que, malgré ces défis, un optimisme modéré subsiste quant à la possibilité que la valorisation d'Anthropic atteigne certains objectifs d'ici la fin de l'année.
L'attention se porte désormais sur les développements d'Amazon concernant les stratégies visant à réduire les coûts d'inférence de l'IA, ce qui pourrait influencer les perceptions du marché. Toute annonce d'Anthropic concernant des levées de fonds ou des partenariats pourrait également modifier la tarification du marché. Les observateurs suivront de près toute initiative stratégique ou avancée technologique susceptible de modifier la dynamique actuelle des coûts de déploiement de l'IA.
