La inteligencia artificial (IA) ya ocupa un lugar relevante en la investigación y la sanción de los delitos. Hoy existen sistemas de IA capaces de comparar rostros, analizar voces, detectar alteraciones en fotografías y videos e incluso mejorar el material audiovisual de baja calidad, que son útiles en la procuración e impartición de la justicia. Sin embargo, cuando una inteligencia artificial se equivoca y su resultado se asume como confiable por investigadores, peritos, fiscales o jueces, surge una pregunta: ¿qué tan preparados estamos para evitar que un error de la inteligencia artificial termine privando de la libertad a una persona inocente?
El principal riesgo no está en imaginar una computadora dictando una sentencia. El problema es más cercano: que se otorgue a los resultados de la inteligencia artificial una certeza que técnicamente no tienen. Una herramienta puede encontrar semejanzas, coincidencias o indicios; el error humano comienza cuando esas conclusiones se presentan ante un tribunal como verdades incuestionables.
Ejemplo de ello es el reconocimiento facial que compara el rostro captado por una cámara de seguridad con fotografías de otras personas para encontrar posibles coincidencias. Si la imagen es de mala calidad, fue tomada de noche, a distancia o en movimiento, el sistema puede señalar que un rostro se parece al de determinada persona sin que necesariamente sea ella. El ángulo, la iluminación y las limitaciones del algoritmo pueden generar errores e identificar a un inocente como responsable.
La inteligencia artificial generativa plantea un riesgo distinto: permite crear fotografías, videos y audios realistas para atribuir a una persona hechos o expresiones que nunca ocurrieron. Puede colocar su rostro en una escena falsa, hacerlo aparecer portando un arma, recibiendo dinero o entregando drogas, o generar una voz sintética que parezca formular una amenaza. Así, una prueba puede parecer auténtica, mostrar el rostro o reproducir la voz de una persona y, aun así, referirse a un hecho que nunca sucedió. Que una imagen parezca real o una voz resulte familiar ya no significa necesariamente que el hecho haya ocurrido.
A esto se suma que la propia inteligencia artificial puede utilizarse para detectar contenidos manipulados. Si una herramienta concluye que “no encontró señales de manipulación”, ello no demuestra que el archivo sea auténtico: puede no haber detectado la alteración, desconocer una técnica nueva o trabajar con un archivo deficiente. Incluso podría ocurrir que una inteligencia artificial ayude a crear una prueba falsa y otra, al analizarla, no detecte el engaño.
Algo semejante ocurre con las herramientas que mejoran fotografías o videos. Si una cámara registra un rostro borroso y una IA produce después una imagen más definida, debe saberse si realmente recuperó información existente o si completó detalles que la cámara nunca registró. Esa diferencia puede ser decisiva en un proceso penal.
Todos estos ejemplos comparten un problema: la tecnología puede generar una apariencia de objetividad difícil de cuestionar. Si un testigo dice “creo que era esa persona”, entendemos que puede equivocarse; pero si un perito informa que un algoritmo encontró una “coincidencia biométrica significativa”, la conclusión parece más contundente. El lenguaje técnico puede otorgar una autoridad excesiva al resultado. Sin embargo, la complejidad no significa infalibilidad.
Sin embargo, el problema sigue siendo humano, pues la inteligencia artificial no acusa ni condena por sí sola: los investigadores usan sus resultados, los peritos los explican, los fiscales los incorporan a una acusación y los jueces determinan su valor. Quizá el mayor riesgo no sea que la inteligencia artificial sustituya al juzgador, sino que el juzgador deje de cuestionarla.
La solución tampoco consiste en rechazar estas tecnologías. Pueden ser herramientas valiosas, pero antes de utilizar sus resultados para sostener una acusación o contribuir a una condena debe conocerse qué hizo el sistema, qué información analizó, cuáles son sus posibilidades de error y si la defensa pudo cuestionar el procedimiento.
La inteligencia artificial puede ayudar a la justicia a buscar la verdad, pero no debe convertirse en una autoridad incuestionable. Lo peligroso comienza cuando dejamos de preguntarnos si también puede equivocarse. En materia penal, el error de una aplicación puede corregirse, pero el error de una prueba puede quitarle la libertad a una persona inocente.
En colaboración con Sujey Azucena Villar Godínez
