Ayer, durante una formación, una participante me explicó que su objetivo era usar la inteligencia artificial. Entender cómo funciona no le parecía necesario para conseguirlo.
«Yo quiero usar el microondas, no saber cómo funciona el microondas».
Su planteamiento tiene sentido: queremos conseguir resultados y dedicar el tiempo a lo que nos acerca a ellos. Nadie debería exigirte estudiar electromagnetismo antes de calentar la cena. Con la IA tampoco necesitas aprender álgebra lineal ni programar una red neuronal para empezar a trabajar.
La cuestión es qué conocimientos necesitas para conseguir esos resultados.
Incluso para usar un microondas necesitas comprender algunas cosas. Qué cambia cuando ajustas la potencia. Qué recipientes puedes meter. Por qué conviene remover ciertos alimentos. Por qué un plato caliente no garantiza que la comida esté caliente por dentro.
Son conocimientos que influyen en cómo lo usas y en el resultado que obtienes.
Con la IA ocurre algo parecido. Puedes empezar escribiendo una pregunta. Para trabajar con criterio necesitas comprender qué información tiene disponible, qué puede hacer y cómo comprobar lo que te devuelve.
Se me ocurren seis razones por las que aprender esos fundamentos puede acercarte a tu objetivo.
1. Que sea fácil preguntar no significa que sea fácil evaluar la respuesta.
La interfaz de una IA conversacional resulta familiar: escribes y alguien te contesta. Esa familiaridad puede hacer que le atribuyas capacidades que no has comprobado.
Si habla con seguridad, parece que sabe. Si menciona un estudio, parece que lo ha consultado. Si dice «lo recordaré», parece que el asunto queda resuelto.
Ninguna de esas conclusiones está garantizada por la frase que aparece en pantalla. Los modelos pueden generar hechos falsos y referencias inexistentes con una redacción perfectamente convincente. Es lo que suele llamarse alucinaciones.
El equivalente sería un microondas que pudiera decirte «la comida está lista» con independencia de la temperatura del centro.
La facilidad de uso te permite empezar. Evaluar el resultado exige criterio.
2. Cada concepto básico evita un error concreto.
No defiendo aprender un diccionario de términos tecnológicos. Defiendo comprender unas pocas ideas porque cambian lo que haces.
Un modelo es el sistema entrenado que genera las respuestas. La aplicación que utilizas puede añadirle búsqueda, acceso a archivos o herramientas. Esa diferencia ayuda a entender por qué dos aplicaciones que usan el mismo modelo pueden hacer cosas distintas.
La ventana de contexto es la cantidad limitada de información que el modelo puede procesar en cada momento. Que tú puedas desplazarte por una conversación antigua no garantiza que todo lo escrito siga llegando íntegro al modelo. Entenderlo te ayuda a recuperar requisitos importantes y a organizar trabajos largos.
Un token es una unidad con la que se representa la información. En texto puede ser una palabra, parte de ella o un signo. No necesitas contarlos a mano, pero sí entender que existen límites de entrada y salida y, en algunos servicios, costes asociados a esas cantidades.
El entrenamiento es el proceso que ajusta el modelo a partir de datos y señales de aprendizaje. Explicarle algo en una conversación no equivale, por sí solo, a reentrenarlo. Por eso corregirlo hoy no garantiza que esa corrección esté disponible en cualquier conversación de mañana.
La memoria permite que una aplicación guarde y recupere información entre conversaciones. Es un mecanismo diferente del entrenamiento y del contexto actual. Importa saber qué guarda y cuándo lo recupera.
Un agente puede decidir pasos y utilizar herramientas para alcanzar un objetivo. Comprenderlo te permite distinguir entre encargar una propuesta y autorizar acciones sobre tus archivos, tu calendario o tus sistemas.
Cada término se gana su sitio cuando ayuda a tomar una decisión.
3. Comprender el funcionamiento permite corregir con criterio.
Imagina que llevas una conversación larga y la IA deja de respetar una condición que pusiste al principio.
Puedes repetirla en mayúsculas. Puedes decirle que ya se lo has explicado cinco veces. Puedes buscar otro «prompt infalible».
También puedes plantearte una hipótesis: quizá esa condición ya no está disponible en el contexto o ha quedado mal recogida al resumir la conversación.
No significa que esa sea siempre la causa. Significa que ahora tienes algo que comprobar. Puedes recuperar los requisitos, reducir la información irrelevante y darle un encargo más acotado. La gestión del contexto aborda precisamente estas limitaciones.
Entender te permite dejar de corregir a ciegas.
4. Las recetas funcionan hasta que cambia la situación.
Un prompt copiado puede darte un buen resultado. El problema aparece cuando cambias de documento, de herramienta o de objetivo y deja de funcionar.
Si solo has aprendido la receta, tienes que encontrar otra. Si comprendes qué información necesita el modelo, qué resultado buscas y cómo evaluarlo, puedes adaptar tu manera de trabajar.
Ocurre también al cocinar. Seguir una receta permite preparar un plato. Comprender qué hace el calor permite resolver situaciones que la receta no contempla.
Los fundamentos te dan autonomía cuando se acaba el ejemplo de la formación.
5. Cuanto más delegas, más necesitas comprender.
Para pedir diez títulos de un artículo puedes aprender probando. Si uno sale mal, lo descartas.
Cuando un agente puede modificar archivos, gestionar una agenda o ejecutar acciones, necesitas entender qué información tiene, qué herramientas puede utilizar y qué límites has establecido. Esa capacidad de decidir pasos y actuar es parte de lo que distingue a un agente.
El conocimiento necesario crece con la autonomía que le das y las consecuencias de sus errores.
No necesitas convertirte en ingeniera. Necesitas saber qué estás delegando.
6. Entender también permite exigirle más.
Solemos justificar la formación hablando de errores y límites. Hay otro motivo igual de práctico: aprovechar mejor las capacidades.
Si desconoces que una aplicación puede consultar documentos, quizá te pases la tarde copiando información. Si no sabes que puede generar archivos, quizá te conformes con un texto que luego tendrás que trasladar a mano. Si dispone de herramientas de comprobación y no las conoces, quizá aceptes una respuesta que podría haber contrastado.
Comprender cómo está organizada la herramienta te ayuda a reconocer qué parte del trabajo puedes encargarle.
La participante planteaba una cuestión que quienes damos formación debemos saber responder: ¿para qué necesito aprender esto si mi objetivo es otro?
Daniel Dennett llama a esto competencia sin comprensión: puedes obtener resultados sin comprender mucho, pero esa competencia solo sirve mientras el entorno y la tarea no cambien. Los humanos somos distintos de los animales porque la comprensión nos ayuda a adaptarnos: cuando algo falla, cambia la tarea o aparece una posibilidad nueva, entender algunos fundamentos te permite ir más lejos y usar mejor la herramienta.
