08-10-2026

¿Por qué se equivoca la IA?

Los asistentes como ChatGPT, Copilot, Gemini o Claude no "buscan" la respuesta correcta en una base de datos. Generan el texto más probable, palabra por palabra, a partir de lo que aprendieron durante su entrenamiento. Casi siempre eso produce respuestas útiles y correctas, pero no hay una garantía de verdad detrás.

Por eso una respuesta equivocada suele verse igual de prolija, segura y convincente que una correcta. La IA no avisa cuando está inventando.

Los errores más comunes

1. Alucinaciones: inventa datos que suenan reales

Es el error más conocido. La IA puede inventar una resolución que no existe, un artículo de ley con el número equivocado, una cita bibliográfica o un dato estadístico, y presentarlo con toda naturalidad.

2. Información desactualizada

Cada modelo se entrena hasta una fecha determinada. Si no tiene acceso a internet, puede no conocer cambios recientes en normativa, alícuotas, vencimientos o procedimientos de ARCA.

3. Errores de cálculo

Aunque parezca contradictorio, los modelos de lenguaje no son calculadoras. En sumas largas, porcentajes encadenados o conversiones pueden fallar. Para números, Excel sigue siendo la herramienta confiable.

4. Complacencia: te da la razón

Si la pregunta viene con una idea incorporada ("esto está exento, ¿no?"), la IA tiende a confirmarla. Conviene preguntar de forma neutral y pedirle expresamente que señale errores.

5. Falta de contexto

La IA no conoce al cliente, la historia del caso ni los criterios internos del estudio. Responde en general, y lo general no siempre aplica al caso concreto.

6. Sesgos

Aprende de textos escritos por personas, con sus prejuicios y desequilibrios. Puede reproducirlos en redacciones, evaluaciones o recomendaciones.

Casos reales

• Abogados sancionados (EE.UU., 2023). En el caso Mata v. Avianca, un estudio presentó un escrito con fallos judiciales inventados por ChatGPT. El juez los sancionó: nadie había verificado que los precedentes existieran.
• Chatbot de Air Canada (2024). El asistente(chatbot) de la aerolínea le informó a un cliente una política de reembolsos que no existía. Un tribunal obligó a la empresa a cumplir lo que había dicho su chatbot.
• Informe de consultora (Australia, 2025). Un informe entregado a un organismo público incluyó referencias y citas inexistentes generadas con IA. La firma debió corregirlo y devolver parte de los honorarios.

La lección es la misma en los tres casos: la responsabilidad sigue siendo de quien firma o envía el trabajo, no de la herramienta.

¡Ojo con la confidencialidad!

Otro límite importante no es de la IA sino nuestro: lo que escribimos en una herramienta de IA puede quedar almacenado fuera de la empresa.

• No cargues datos de clientes (CUIT, balances, sueldos, contratos) en herramientas gratuitas o personales.
• Usa solo las herramientas autorizadas por la empresa.

Ante la duda, consulta con tu sector de informáticaantes de subir un archivo de la empresa a cualquier modelo de IA.

Tip del mes

Pedirle a la IA que te muestre de dónde sale cada dato: "indica la fuente de cada afirmación y marca lo que no puedas confirmar". No la vuelve infalible, pero hace mucho más fácil detectar lo que hay que verificar.

En resumen

La IA es una excelente asistente, pero no una fuente de verdad. Úsala para ganar tiempo en borradores, resúmenes y explicaciones, y mantén siempre la revisión humana, sobre todo en todo lo que tenga números, normativa o llegue a un cliente.

Si tiene alguna consulta con relación a esta temática, por favor no dude en contactarse conmigo al tel.: 11 2759 1175 o por email a luismatas@jebsen.com.ar.

Departamento de Sistemas
Octubre 2026

 
Este boletín informativo ha sido preparado por Jebsen & Co. para información de clientes y amigos. Si bien ha sido confeccionado con el mayor cuidado y celo profesional, Jebsen & Co. no asume responsabilidades por eventuales inexactitudes que este boletín pudiera presentar.