Seamos sinceros: si usas inteligencia artificial, no hay nada que tú ni nadie pueda hacer para detener las alucinaciones.
Esa es la verdad incómoda. Pero no es una razón para no usar IA. De hecho, es la razón por la que las empresas deben aprender a usarla mejor.
Soy Nícolas Robles, fundador de Gepeto. Después de 3 años implementando inteligencia artificial en distintas industrias, quiero compartirte lo que he observado desde el lado del usuario y del desarrollo.
1. Pasamos de usar tecnología a entrenar tecnología
Toda nuestra vida hemos sido usuarios de tecnología. Usamos el correo electrónico: hay un botón para abrir, uno para borrar, uno para enviar. Es determinista. Si presionas enviar, se envía.
Con la IA generativa, por primera vez, como usuarios tenemos que entrenar a la tecnología. Y lo más nuevo: tenemos que aceptar que no siempre hará lo que le pedimos. ¿Alguna vez presionaste “enviar” en un email sabiendo que tal vez se envíe y tal vez no? Nunca. Con la IA, esa incertidumbre es la norma.
Esto ocurre porque la IA no opera con reglas fijas, opera bajo probabilidades. Aunque la probabilidad de que acierte sea del 99.99%, ese 0.01% significa que eventualmente algo no va a ocurrir como esperas. Y eso cambia por completo nuestra relación con la tecnología.
¿No quieres leer? Te lo cuento en menos de 10 minutos aquí:
2. Alucinar no es lo mismo que mentir
En el mundo de la IA, la palabra “alucinación” se ha vuelto sinónimo de mentira, pero no lo es. Te lo explico con un caso real:
Imagina que configuramos un chatbot para una tienda. Hay un producto que efectivamente tiene un descuento disponible, pero esa información nunca se le dio a la IA. Hay un vacío de información.
Un cliente pregunta: “¿Este producto tiene descuento?”
Escenario A: La alucinación “buena”
La IA responde: “Sí, tenemos descuento. Te comunico con un asesor para que te dé más detalles.” Es una alucinación porque inventó la respuesta sin tener el dato, pero por coincidencia es verdadera y además deriva correctamente sin comprometerse a un número. Comercialmente, funciona.
Escenario B: La alucinación “mala”
La IA responde: “No, no tiene descuento.” También es una alucinación, pero en este caso es falsa y hace perder una venta. Esta sí es equivalente a una mentira.
¿Qué sería NO alucinar?
Que la IA responda: “No lo sé, esa información no está en mi base de conocimiento.”
Entender esta diferencia es clave para diseñar buenos sistemas.
3. El verdadero superpoder humano: el sentido común
Aquí es donde los humanos le sacamos ventaja a la IA.
Cuando contratamos a una persona, esperamos que tenga sentido común para reaccionar a situaciones no previstas. Un humano puede relacionar un aprendizaje de un ambiente y aplicarlo a otro completamente distinto.
La IA, por muy avanzada que sea, carece de sentido común. Confundimos que sepa mucho con que entienda mucho. Puede enseñarte, conversar y parecer muy inteligente, pero no puede razonar fuera de su entrenamiento como lo hace una persona.
Esto crea dos tipos de riesgos totalmente distintos:
• Riesgo humano: Es operacional. El humano se cansa, se enferma, su energía y ánimo cambian durante el día.
• Riesgo de IA: No se cansa y está disponible 24/7, pero tiene riesgo de información, en otras palabras, puede alucinar por falta de contexto o incluso con el contexto necesario.
La pregunta ya no es “¿quién es perfecto?”, sino “¿qué riesgo prefiero gestionar y cuánto me cuesta?“.
4. La solución: El mundo de los Agentes de IA
Y aquí viene la nota positiva. ¿Cómo hemos resuelto los humanos el riesgo de error desde siempre? Con supervisión.
En una empresa no contratas a una sola persona para hacer todo. Creas capas: trabajadores y supervisores. El supervisor reduce el riesgo de error y asume responsabilidad.
Los Agentes de IA prometen exactamente lo mismo. Un agente de IA no es solo un chatbot. Es una IA construida para replicar la descripción de trabajo de un rol humano.
En lugar de tener una sola IA haciendo todo, puedes construir un equipo:
• Agente 1 (Atención): Interactúa con tus clientes.
• Agente 2 (Supervisor): Supervisa al Agente 1. Si detecta que está alucinando o haciéndolo mal, notifica al humano responsable.
• Agente 3 (Postventa): Se encarga del seguimiento de clientes.
• Agente 4 (Analista): Analiza todas las conversaciones del último mes para encontrar patrones.
Así como en tu equipo humano tienes especialistas, en IA empiezas a tener especialistas. Uno habla, otro supervisa, otro analiza. Es el reflejo de una empresa real.
Esto es lo que estamos construyendo en Gepeto: no chatbots aislados, sino equipos de agentes que se supervisan entre sí para operar en un mundo donde las alucinaciones son inevitables.
Conclusión
No podemos eliminar las alucinaciones de la inteligencia artificial, pero sí podemos diseñar empresas que convivan con ellas.
Dejar de buscar la IA perfecta y empezar a construir sistemas de agentes con roles, supervisión y responsabilidad es el siguiente paso para que la IA generativa deje de ser un experimento y se convierta en una ventaja competitiva real.
¿Tu empresa ya está implementando IA? En Gepeto te ayudamos a hacerlo bien desde el inicio.