Estimaciones y costos de IA

Nuestro agente de IA te proporciona una estimación para usar cualquier proveedor/modelo de IA en una tarea antes de gastar dinero.

Para entender cómo las estimaciones y los costos pueden variar según el proveedor/modelo de IA, es esencial hablar sobre algunos conceptos técnicos básicos acerca de los modelos de IA.

• Los modelos de IA usan tokens para medir su trabajo. Los tokens generalmente son más pequeños que una palabra, a menudo del tamaño de una sílaba, pero también pueden ser un solo carácter. Sí, puede volverse complicado.
• Los modelos de IA cobran tokens tanto por la entrada (es decir, el prompt que les das) como por la salida (es decir, la respuesta que te entregan). Además, los tokens de entrada y salida tienen costos diferentes, sin mencionar que los tokens de modelos de IA recién lanzados pueden ser 5 o 10 veces más costosos que los de modelos menos recientes.
• Todos los modelos de IA tokenizan el contenido de manera diferente, incluso si usas el mismo proveedor. Así que, mientras un modelo podría cuantificar un prompt y una respuesta en 3000 tokens, otro modelo podría fácilmente cuantificar un prompt y respuesta idénticos como 3500 tokens o 2700 tokens.

Dadas todas las posibles variaciones entre tokens asociados con proveedores/modelos, el estimador de Mini Agent intenta usar toda la información pública disponible, tanto de costos como de tokens, para darte una estimación lo más cercana posible al costo real de ejecutar un proveedor/modelo de IA en tu tarea.

Configuraciones del agente de IA que tú controlas y que influyen en el costo

Antes de activar al agente de IA para trabajar en tu tarea, puedes ajustar los parámetros del proveedor/modelo de IA en la ventana de 'Configuración de Resolución de IA' haciendo clic en el icono de engranaje junto al botón 'Generar Resolución de IA'.

Puedes ver aquí la ventana de 'Configuración de Resolución de IA'. Los factores más críticos que influyen en el costo, por orden de importancia, son:

• Proveedor/modelo de IA: Los modelos más nuevos y especializados siempre cuestan más por token. Si tu tarea solo requiere conocimientos básicos, los modelos antiguos y económicos pueden producir resultados tan buenos como los modelos más nuevos y costosos.
• Tokens máximos del modelo de IA: Puedes indicarle al agente de IA que limite la respuesta de un modelo a una cantidad determinada de tokens. Establecer un máximo de tokens no significa necesariamente que todos esos tokens serán consumidos/cobrados en una respuesta, ya que un modelo podría responder con la mitad o menos. Sin embargo, considerando que algunos modelos pueden ser muy habladores, mantener este máximo bajo control asegura respuestas más cortas que se traducen en menores costos.
• Tamaño del prompt de IA: El agente de IA siempre usa el título y la descripción de una tarea para generar un prompt, así como cualquier archivo adjunto asociado a la tarea. Puedes reducir el consumo de tokens optimizando tanto el título como la descripción de la tarea, además de deshabilitar los archivos adjuntos en la casilla inferior para que sean ignorados para la generación del prompt.