Evaluación de la Inserción de Documentos en Fireworks: Fortalezas y Limitaciones en el Análisis de PDFs e Imágenes

python script_name.py file1.pdf file2.pdf "Tu consulta aquí"

"""
Script para interactuar con la API de Fireworks para procesar archivos y generar respuestas basadas en un prompt proporcionado por el usuario.

Características:
- Admite múltiples tipos de archivos (PDF, PNG, JPG, GIF, TIFF) codificándolos como URLs Base64.
- Envía los archivos y el prompt a la API de Fireworks para su procesamiento.
- Permite especificar un nombre de modelo opcional; por defecto es "llama-v3p3-70b-instruct".
- Imprime la respuesta de la API en un formato estructurado y fácil de leer.

Uso:
python script_name.py <ruta_al_archivo1> [<ruta_al_archivo2> ... <ruta_al_archivoN>] <prompt> [<nombre_del_modelo>]

Requisitos:
- Establecer la variable de entorno FIREWORKS_API_KEY con una clave API válida.
- Instalar la biblioteca requests.

Ejemplo:
python script_name.py sample1.pdf sample2.pdf "Extrae datos de estos documentos." "custom/model/path"
"""

import requests
import json
import os
import sys
import base64

# Obtener la clave API de la variable de entorno
api_key = os.getenv("FIREWORKS_API_KEY")

if not api_key:
    print("Error: La variable de entorno FIREWORKS_API_KEY no está configurada.")
    sys.exit(1)

# Endpoint de la API
url = "https://api.fireworks.ai/inference/v1/chat/completions"

# Función para codificar un archivo a una URL Base64 según su tipo
def encode_file_to_base64_data_url(file_path):
    _, file_extension = os.path.splitext(file_path.lower())

    # Determinar el tipo MIME según la extensión del archivo
    mime_type = None
    if file_extension == ".pdf":
        mime_type = "application/pdf"
    elif file_extension in [".png"]:
        mime_type = "image/png"
    elif file_extension in [".jpg", ".jpeg"]:
        mime_type = "image/jpeg"
    elif file_extension == ".gif":
        mime_type = "image/gif"
    elif file_extension == ".tiff":
        mime_type = "image/tiff"
    else:
        print(f"Extensión de archivo no soportada: {file_extension}")
        sys.exit(1)

    # Leer el archivo y codificarlo a Base64
    try:
        with open(file_path, "rb") as file:
            base64_data = base64.b64encode(file.read()).decode("utf-8")
        return f"data:{mime_type};base64,{base64_data}#transform=inline"
    except FileNotFoundError:
        print(f"Error: El archivo '{file_path}' no existe.")
        sys.exit(1)
    except Exception as e:
        print(f"Ocurrió un error al codificar el archivo: {e}")
        sys.exit(1)

# Asegurarse de que haya al menos dos argumentos (archivos y prompt)
if len(sys.argv) < 3:
    print("Uso: python script_name.py <ruta_al_archivo1> [<ruta_al_archivo2> ... <ruta_al_archivoN>] <prompt> [<nombre_del_modelo>]")
    sys.exit(1)

# Separar rutas de archivos, prompt y nombre de modelo opcional
if sys.argv[-1].startswith("accounts/"):
    model_name = sys.argv[-1]
    prompt = sys.argv[-2]
    file_paths = sys.argv[1:-2]
else:
    model_name = "accounts/fireworks/models/llama-v3p3-70b-instruct"
    prompt = sys.argv[-1]
    file_paths = sys.argv[1:-1]

# Validar que se proporcione al menos un archivo
if not file_paths:
    print("Error: Se debe especificar al menos un archivo.")
    sys.exit(1)

# Imprimir el modelo que se está utilizando
print(f"\nUsando el modelo: {model_name}\n")

# Codificar todos los archivos a URLs Base64
data_urls = []
for file_path in file_paths:
    data_urls.append(encode_file_to_base64_data_url(file_path))

# Crear mensajes para cada archivo
file_messages = [
    {
        "type": "image_url",
        "image_url": {
            "url": data_url
        }
    }
    for data_url in data_urls
]

# Payload para la solicitud a la API
payload = {
    "model": model_name,
    "max_tokens": 16384,
    "top_p": 1,
    "top_k": 40,
    "presence_penalty": 0,
    "frequency_penalty": 0,
    "temperature": 0.6,
    "messages": [
        {
            "role": "user",
            "content": file_messages + [
                {
                    "type": "text",
                    "text": prompt
                }
            ]
        }
    ]
}

# Encabezados para la solicitud a la API
headers = {
    "Accept": "application/json",
    "Content-Type": "application/json",
    "Authorization": f"Bearer {api_key}"
}

try:
    # Imprimir el prompt
    print("\nPrompt:")
    print(f"- {prompt}")

    # Imprimir los archivos que se están procesando
    print("\nArchivos:")
    for file_path in file_paths:
        print(f"- {file_path}")

    # Realizar la solicitud POST a la API
    response = requests.post(url, headers=headers, data=json.dumps(payload))

    # Lanzar un HTTPError para respuestas incorrectas (4xx y 5xx)
    response.raise_for_status()

    # Analizar la respuesta JSON
    response_data = response.json()

    # Imprimir la salida formateada
    print("\nRespuesta de la API:")
    print(f"ID: {response_data.get('id')}")
    print(f"Modelo: {response_data.get('model')}\n")

    # Imprimir el encabezado de las opciones
    print("Texto de la Respuesta:")
    for choice in response_data.get('choices', []):
        print(f"- Razón de Finalización: {choice.get('finish_reason')}")
        print(f"  Contenido: \n{choice['message']['content']}\n")

    # Imprimir detalles de uso
    print("Uso:")
    usage = response_data.get('usage', {})
    print(f"- Tokens de Prompt: {usage.get('prompt_tokens')}")
    print(f"- Tokens de Completación: {usage.get('completion_tokens')}")
    print(f"- Tokens Totales: {usage.get('total_tokens')}")
except requests.exceptions.RequestException as e:
    print(f"Ocurrió un error: {e}")

python3 inline_fireworks.py data/2408.02479v1.pdf data/2411.00932v1.pdf "Identifica los títulos de ambos artículos proporcionados y compara su contenido. Resume sus puntos en común y destaca las diferencias clave."

Los dos artículos proporcionados son:

1. "From LLMs to LLM-based Agents for Software Engineering: A Survey of Current, Challenges and Future"
2. "LLMs: A Game-Changer for Software Engineers?"

Comparando su contenido, ambos artículos discuten la aplicación de los Modelos de Lenguaje Grandes (LLMs) en la ingeniería de software, destacando su potencial para revolucionar el campo. Exploran las capacidades y limitaciones de los LLMs, así como sus direcciones futuras y desafíos.

**Puntos en común entre los dos artículos incluyen:**

- La discusión sobre la capacidad de los LLMs para automatizar tareas como la generación de código, pruebas y depuración.
- El potencial de los LLMs para mejorar la productividad y calidad del desarrollo de software.
- La necesidad de supervisión humana y revisión del código generado por LLMs para garantizar precisión y seguridad.
- La importancia de abordar preocupaciones éticas, como el sesgo y la propiedad intelectual, en el desarrollo y uso de los LLMs.

**Diferencias clave entre los dos artículos incluyen:**

- El primer artículo se centra específicamente en agentes basados en LLMs, diseñados para trabajar de manera autónoma y tomar decisiones, mientras que el segundo artículo proporciona una visión más general de los LLMs en la ingeniería de software.
- El primer artículo ofrece un análisis detallado de la arquitectura y los puntos de referencia utilizados en los agentes basados en LLMs, mientras que el segundo artículo discute las fortalezas técnicas y beneficios de los LLMs en la ingeniería de software, así como sus desafíos y direcciones futuras.
- El primer artículo está más enfocado en los aspectos académicos y de investigación de los agentes basados en LLMs, mientras que el segundo artículo está más orientado a profesionales y la industria, proporcionando una perspectiva más práctica sobre la adopción y uso de los LLMs en la ingeniería de software.

En general, ambos artículos contribuyen al creciente cuerpo de investigación sobre los LLMs en la ingeniería de software, destacando su potencial para transformar el campo y mejorar las prácticas de desarrollo de software. Sin embargo, abordan el tema desde diferentes ángulos, con el primer artículo centrándose en los aspectos técnicos de los agentes basados en LLMs y el segundo artículo proporcionando una visión más general y práctica de los LLMs en la ingeniería de software.

python3 inline_fireworks.py data/example_01_mistral_exec_01.png data/example_01_mistral_exec_02.png "Identifica palabras comunes y únicas en los dos archivos proporcionados."

Para identificar las palabras comunes y únicas en los dos archivos proporcionados, analicemos las listas de Modelos de Lenguaje Grandes (LLMs) mencionados:

### Primer Archivo:
1. Mistral
2. ChatGPT
3. Clude LLaMA
4. Gemini
5. Falcon

### Segundo Archivo:
1. Mistral
2. Mistral
3. ChatGPT
4. CLaude
5. LLaMA
6. Gemini/Falcon

### Palabras Comunes:
- **Mistral**: Aparece en ambos archivos.
- **ChatGPT**: Aparece en ambos archivos.
- **Gemini** y **Falcon**: Aunque se presentan como una sola entidad en el segundo archivo (Gemini/Falcon), se enumeran individualmente en el primer archivo. Considerando la intención, pueden considerarse comunes, aunque se presenten de manera diferente.
- **LLaMA**: Aparece en el primer archivo como parte de "Clude LLaMA" y por separado en el segundo archivo. Asumiendo que "Clude LLaMA" se refiere al mismo modelo que "LLaMA" en el contexto de estas listas, LLaMA puede considerarse común.

### Palabras Únicas:
- **Clude**: Parece ser un error tipográfico o una variación en el primer archivo ("Clude LLaMA") y se presenta como "CLaude" en el segundo archivo. Si "CLaude" se considera un modelo distinto de "Clude LLaMA", entonces "CLaude" es único en el segundo archivo.

Corrigiendo el aparente error tipográfico y considerando la intención detrás de la nomenclatura:
- "Clude LLaMA" en el primer archivo probablemente se refiere a "CLaude" y "LLaMA" como entidades separadas, haciendo que "CLaude" sea una mención única en el segundo archivo en comparación con la lista del primer archivo.
- "LLaMA" es común, dado que es parte de "Clude LLaMA" en el primer archivo y se enumera por separado en el segundo.

Por lo tanto, la palabra única, considerando correcciones para errores tipográficos e intención, sería "CLaude", ya que se enumera explícitamente de esa manera solo en el segundo archivo, y hay una duplicación de "Mistral" en el segundo archivo que no está presente en el primero.

python3 inline_fireworks.py data/whitsunday_bus_timetable.jpg "Basado en la imagen adjunta, dame los horarios de salida en Flametree de lunes a viernes. Simplemente responde No lo sé si no puedes encontrarlos en la imagen adjunta."

No lo sé.

python3 inline_fireworks.py data/whitsunday_bus_timetable.jpg "Basado en la imagen adjunta, dame los horarios de salida desde Flametree de lunes a viernes. Simplemente responde No lo sé si no puedes encontrarlos en la imagen adjunta." accounts/fireworks/models/qwen2p5-72b-instruct