¿La IA se volvió loca o fue a pasear a Barcelona?

Por: Francisco Javier Ovalle Reinoso

Cuántas veces le ha pasado que, usando la Inteligencia Artificial, cualquiera que sea, pareciera que en ese "cerebro interno" se cruzaran los cables y comienza a dar respuestas en otro idioma?

Me pasó hace poco. Estaba realizando una investigación seria sobre transparencia pública en Chile, buscando datos específicos sobre una determinada autoridad. La IA que utilizo con frecuencia, y en la que confío para organizar información compleja, me entregó una respuesta impecable en contenido, estructurada con puntos y guiones... pero en un idioma que, si bien me era familiar y lograba entender a medias, evidentemente no era español. ¡Me estaba respondiendo en catalán!

Creada con IA

Tras el desconcierto inicial y una buena carcajada, confieso que además le respondí acusándola de parecer "desinteligencia artificial" porque no era la primera vez que ocurría, me quedé pensando: ¿Por qué pasa esto? ¿Cómo es posible que una máquina diseñada para procesar el lenguaje a una rapidez que sería imposible para cualquier ser humano, cometa un error tan básico como confundirse de idioma en medio de una conversación?

La explicación, lejos de ser magia o una rebelión de las máquinas, es un fascinante viaje al interior de estos modelos de lenguaje. A estos errores se les llama internamente "alucinaciones lingüísticas" o fallos de inferencia.

Primero, hay que entender que estas IA modernas no son bases de datos con compartimientos separados para "Español", "Inglés" o "Catalán". Son redes neuronales multilingües. Todo el conocimiento lo tienen allí. Imaginemos un mapa gigante, una galaxia de conceptos interconectados donde cada palabra o pedazo de palabra (que llamamos "tokens") tiene una ubicación específica.

Cuando yo le pregunté por "transparencia activa" y "patrimonio" en el contexto de leyes chilenas, mi IA activó una zona de su "cerebro digital" llena de términos legales y administrativos. Aquí está el truco: muchos de estos términos son muy parecidos en todos los idiomas romances que son la base del castellano. "Transparencia" en español está muy cerca, vectorialmente hablando, de "transparència" en catalán.

A este fenómeno los ingenieros lo llaman a veces "Deriva de Idioma" (Language Drift). El modelo, al procesar información técnica y buscar la mayor precisión posible, puede "engancharse" con patrones de datos que vio durante su entrenamiento. Si en su inmensa base de conocimientos hay muchos documentos legales o de transparencia en catalán, el modelo puede empezar a predecir estadísticamente que la siguiente palabra lógica debe seguir ese patrón, olvidando momentáneamente el "ancla" del idioma principal de la conversación.

Es como si la IA estuviera tan concentrada en el QUÉ me estaba explicando, que su mecanismo de "atención" falló al ignorar el CÓMO me lo estaba diciendo. Sufrió una pequeña "alucinación lingüística".

Así que la próxima vez que su asistente digital le responda en francés cuando usted le preguntó por la receta de las humitas, no se asuste. No es que la IA se haya vuelto loca ni que los robots estén a punto de dominarnos. Simplemente, la brújula lingüística tuvo un cortocircuito momentáneo, recordándonos que, detrás de toda esa potencia de cálculo, todavía hay un modelo probabilístico que, a veces, también se equivoca de camino.

Y usted, ¿ya ha tenido su momento de "desinteligencia artificial" con la IA?