Artículos sobre LLM y agentes en el blog de ConsultorIA: cloud, IA aplicada y seguridad en producción.
El coste por token parece obviamente más barato hasta que cuentas la utilización. Las GPU facturan por hora pregunte alguien o no, y ese único hecho decide casi todas estas decisiones.
Cualquier agente que lea contenido no confiable y pueda actuar acabará tomando instrucciones de ese contenido. Las defensas que funcionan son de arquitectura, no de texto.
Un clasificador en cada petición cuesta tiempo y dinero en cada petición. Qué comprobar en la entrada, qué comprobar en la salida y cómo decidir si la barrera vale lo que cuesta.
Cien casos reales, métricas por tarea en vez de una puntuación única, y un juez calibrado contra etiquetas humanas. Con eso basta para cazar regresiones y decidir si un cambio de modelo es seguro.
No es una certificación de tu modelo. Es el andamiaje que hace repetible la gobernanza de la IA, y si ya operas ISO 27001, casi toda la maquinaria está construida.
Un paso de aprobación es el control de seguridad más barato y el más fácil de colocar mal. Demasiado pronto y no has automatizado nada; demasiado tarde y estás sellando por sellar. Cuatro colocaciones y cuándo acierta cada una.
El ajuste fino enseña comportamiento y formato. La recuperación aporta conocimiento. El prompt da forma a la tarea inmediata. Casi todos los equipos cogen la herramienta cara para arreglar un problema que esa herramienta no puede arreglar.
Casi todos los equipos asumen que el Reglamento de IA no les toca, o que prohíbe lo que están construyendo. Cómo determinar tu papel y tu nivel de riesgo, y qué cuestan de verdad las obligaciones.
La monitorización de siempre te dice que el flujo terminó bien. Con un modelo en medio, terminar bien y acertar son cosas distintas. Qué capturar y los tres cuadros de mando que merece la pena construir.
El Model Context Protocol convierte una API interna en algo que un agente puede llamar. El protocolo es la parte fácil; las decisiones de diseño son qué operaciones exponer, con qué granularidad y bajo qué identidad.
Los equipos discuten qué modelo usar y luego despliegan un asistente que responde con seguridad desde el documento equivocado. Lo que decide la calidad son los fragmentos, los permisos, la evaluación y el coste.
Casi toda la fricción que la gente le achaca al modelo es un párrafo que falta en el repositorio. Qué va dentro de un fichero de contexto, qué no, y por qué los que pasan de una página dejan de funcionar.
El cuello de botella se movió de escribir a revisar, y los hábitos de revisión de siempre no escalan a eso. Cuatro puertas que mantienen la calidad sin convertir a un sénior en una cola.
Uno te mantiene dentro del bucle en cada pulsación, el otro se lleva una tarea y vuelve con un diff. Casi todos los equipos que discuten cuál estandarizar acaban usando los dos, por motivos fáciles de enunciar.
Un agente de código con shell y contexto del repositorio es otra herramienta distinta del autocompletado. Las ganancias son reales y desiguales; el coste es que la revisión pasa a ser el cuello de botella. Lo que cambiamos tras seis meses.
Un asistente de código abierto que vive en tu propio servidor, te habla por la aplicación de mensajería que ya usas y ejecuta herramientas en tu nombre. Genuinamente útil, y lo más sobrepermisionado que instalará mucha gente en su vida.
Un nodo de IA dentro de un flujo es un paso no determinista en una tubería determinista. Eso vale para clasificar y redactar, y es peligroso para enrutar y escribir. Aquí está dónde trazamos la línea.
Un prompt es configuración de producción que cambia el comportamiento en silencio. Trátalo como código y construye la evaluación más pequeña capaz de decirte si un cambio mejoró algo.
El servicio gestionado de modelos de Oracle cubre la fontanería de un asistente estándar, incluida una base de datos con vectores que probablemente ya tienes. Esta es la arquitectura y las decisiones que no toma por ti.