Casi todos los profesionales de la traducción defienden su trabajo frente a las herramientas automatizadas, recordando errores notables como la ya famosa promoción en la web de Santander. El sitio se traduce mecánicamente sin supervisión humana, incluido el cambio de referencias al Centro Botín (que lleva el nombre de una prominente familia financiera local) a «Centro de botín» y el cambio de referencias al Centro Histórico (Casco Viejo) que se traduce erróneamente como «casco histórico».
Un estudio reciente de Santiago Rodríguez Rubio, profesor de la Universidad Pablo de Olavide (UPO) de España, destaca otro problema con las herramientas comunes de traducción automática: los errores tipográficos. Estos errores pueden duplicarse, reemplazarse o ignorarse por completo, creando riesgos importantes en áreas críticas como la atención médica, las finanzas, el derecho y las comunicaciones en zonas de conflicto.
Stephen Ibaraki, consultor tecnológico internacional y fundador de AI For Good, describe los aspectos positivos de dicha tecnología: En África, la IA es cada vez más frecuente, lo que permite a la gente común acceder a asistencia médica y mejorar la inclusión financiera. Las últimas gafas inteligentes de Meta tienen capacidades de traducción simultánea y se espera que esta característica esté ampliamente disponible. «
Sin embargo, los escenarios complejos revelan vulnerabilidades en las aplicaciones cotidianas. Hace catorce años, la Agencia de Proyectos de Investigación Avanzada de Defensa de EE. UU. (DARPA) se propuso desarrollar un sistema de traducción para uso táctico en 25 escenarios de conflicto, incluidas interacciones en puntos de control, intercambio de información crítica y evaluaciones médicas. Hemos lanzado un proyecto Transtac para este propósito. . El sistema logró un 80% de precisión y se consideró muy bueno, pero no lo suficientemente bueno como para ser utilizado en situaciones delicadas donde los errores podrían conducir a la violencia.
La traducción médica también requiere una gran precisión. Investigadores de la Universidad de Michigan, la Universidad de Nueva York y la Universidad de Washington analizaron la aplicación Whisper de OpenAI y descubrieron que entre el 38% y el 80% de los casos de conversión de voz a texto eran alucinaciones (texto incorrecto o presentado como exacto). fue descubierto. Whisper, utilizado para transcribir reuniones y crear subtítulos, también se utiliza en centros médicos para registrar las visitas de los pacientes.
Alondra Nelson, profesora de la Universidad de Princeton y ex directora de política científica y tecnológica de la Casa Blanca, dijo a The Associated Press que esos errores pueden tener «consecuencias muy graves», especialmente en entornos hospitalarios. «Nadie quiere que le diagnostiquen erróneamente. Debería haber un listón más alto».
En un registro analizado, Whisper inventó un fármaco inexistente llamado «antibiótico hiperactivado». OpenAI reconoció estos hallazgos y enfatizó que la herramienta no debe usarse en «áreas de alto riesgo» mientras la compañía trabaja para reducir las alucinaciones.
Los mismos riesgos se aplican en entornos legales y financieros, donde una representación precisa es fundamental. Rodríguez-Rubio cita un ejemplo en el que una expresión que significa «deuda excesiva» se tradujo incorrectamente al inglés como «eje» de la deuda.
Para probar el sistema de traducción automática, Rodríguez-Rubio introdujo 1.820 errores tipográficos en el texto fuente utilizado previamente en un estudio de diccionario profesional de español e inglés. El análisis reveló que «la repetición de errores tipográficos originales fue el fenómeno más frecuente» en los dos sistemas probados: Google Translate y DeepL. El rendimiento de Google Translate fue excelente, pero ambos sistemas podían reproducir errores tipográficos (por ejemplo, la excusa tipográfica se tradujo como escivo), eliminar errores o convertir palabras (por ejemplo, vacante se tradujo incorrectamente como «Vances», se convirtió a van). ). .
Rodríguez Rubio, médico y miembro de la Oficina de Filología y Traducción de la UPO, no está en contra de los traductores automáticos, sino todo lo contrario. Su investigación pretende «revelar la capacidad de estos sistemas para gestionar errores tipográficos en el texto original y proporcionar un punto de partida para mejoras».
“La aplicación de la IA en la corrección del habla es innegable. La tecnología siempre ha sido y seguirá siendo un pilar fundamental, pero el ruido informativo, la cultura de la inmediatez, la confianza ciega, los reflejos reducidos, etc., no impiden considerar los posibles inconvenientes de la misma. la tecnología”, señala. Destaca que el elemento humano sigue siendo importante.
Para Rodríguez-Rubio, la prevalencia de errores tipográficos es «un síntoma de un problema más profundo». «Los errores tipográficos que plagan la escritura moderna son indicativos de problemas fundamentales: la disfunción de la revolución tecnológica, la reconfiguración de los roles de los humanos y las máquinas en el proceso de trabajo, y la cultura de la prisa y la inmediatez», dijo.
Si bien el «alcance limitado» del estudio se centra en cómo los errores originales afectan la traducción de palabras aisladas y frases cortas, también sugiere formas de mejorar los sistemas de inteligencia artificial. Sugiere una mayor exploración de sinónimos (por ejemplo, rechazar y rechazar), antónimos (como traducir comprensión de DeepL como sin comprensión) y sinónimos (detectar casi homónimos como gourmet y gastrostomía).
El éxito de los traductores automáticos depende de las fuentes de datos, que son la columna vertebral de cualquier aplicación de IA. Los errores de origen persistentes o que empeoran reducen la precisión del sistema. «Una base de datos sólida es el núcleo de las capacidades generativas de IA», advirtió Baris Gultekin, líder de IA en Snowflake, en una presentación de la investigación realizada en conjunto con MIT Technology Review Insights.
En apoyo de esto, un estudio en Nature muestra que los resultados de la IA se degradan cuando se entrenan con datos generados por la IA. Ilya Shumailov, de la Universidad de Oxford, compara este proceso con copiar repetidamente una fotografía. «Cuando tomas una fotografía, la escaneas, la imprimes y repites este proceso a lo largo del tiempo, el ruido básicamente abruma todo el proceso», dice, lo que él llama «el modelo que conduce al colapso».
Google reconoce estos desafíos y está trabajando para resolverlos. Un portavoz dijo: «Translate aprende patrones de millones de ejemplos en línea. Desafortunadamente, estos patrones a veces pueden producir traducciones incorrectas. Valoramos los comentarios de los usuarios para soluciones rápidas. Entrenamos y probamos rigurosamente nuestros sistemas para mantener la calidad de todas nuestras herramientas».
Suscríbete a nuestra newsletter semanal y recibe más cobertura de noticias en inglés de EL PAÍS Edición USA
