Litellm

LiteLLM es una herramienta versátil diseñada para facilitar las interacciones con una amplia variedad de Modelos de Lenguaje Grande (LLMs) utilizando una interfaz unificada. Soporta más de 100 LLMs y ofrece características como balanceo de carga, seguimiento de costos y lógica de reintento, lo que la hace adecuada tanto para desarrolladores como para equipos de habilitación de IA.