La implementación de la inteligencia artificial (IA) y los algoritmos en el sistema de justicia penal es un tema de creciente preocupación para criminólogos y penalistas, entre otros, debido a que estos sistemas realizan análisis predictivos basados en cálculos probabilísticos y una vasta recopilación y tratamiento de datos. Aunque la IA ofrece oportunidades para optimizar tareas rutinarias y agilizar procesos judiciales, mejorando la eficiencia de los servicios legales y el asesoramiento jurídico, también presenta problemas y desafíos significativos que requieren una regulación específica.
Uno de los principales problemas es la posibilidad de sesgos algorítmicos, los cuales pueden replicar y perpetuar prejuicios humanos existentes, como los raciales o de género, lo que podría llevar a decisiones discriminatorias. Estos sesgos surgen cuando la IA es «nutrida» con información o datos recopilados por seres humanos que ya reflejan prejuicios estadísticos, culturales o cognitivos. Un ejemplo claro es el programa COMPAS en Estados Unidos, criticado por mostrar un mayor riesgo de reincidencia para acusados negros en comparación con los blancos, o el caso del software de reconocimiento facial de Google que etiquetó a personas afroamericanas como «gorilas». La falta de transparencia de algunos algoritmos, conocidos como «cajas negras» (Black Box), es otro desafío importante. Incluso los desarrolladores no siempre comprenden completamente cómo la IA llega a un resultado específico, lo que dificulta la explicación de las decisiones y afecta el principio de motivación en las decisiones judiciales. Paradójicamente, muchas prácticas policiales y judiciales humanas también carecen de transparencia.
La atribución de responsabilidad penal cuando la IA comete errores o es utilizada para fines ilícitos es un desafío para los marcos legales actuales, centrados en la culpabilidad y la intencionalidad humana. Los expertos sugieren que la responsabilidad recae en la persona que voluntariamente utilizó o programó el sistema de IA de forma indebida para cometer un delito. Casos como un vehículo autónomo que atropella a una persona, el uso de bots para influir en procesos electorales, o la utilización de sistemas de IA para ciberdelincuencia como el robo de identidad, estafas informáticas (phishing, carding) o la difusión de deepfakes, ilustran la complejidad de determinar la responsabilidad. La industria automotriz y el Parlamento Europeo, por ejemplo, están revisando la responsabilidad del fabricante en caso de defectos del sistema.
La protección de datos personales y la privacidad son preocupaciones centrales, ya que la IA requiere grandes volúmenes de datos para aprender y tomar decisiones inteligentes. Esto plantea riesgos si no se cumple con principios como la legalidad, el consentimiento, la finalidad y la proporcionalidad. La capacidad de la IA para analizar datos masivos («Big Data») y crear perfiles de individuos puede afectar significativamente sus derechos y libertades, perpetuando estereotipos o llevando a discriminación injustificada. Aunque la anonimización de datos se propone como solución, los avances tecnológicos pueden hacer posible la reidentificación de individuos, lo que resalta la importancia de aplicar el principio de proporcionalidad para minimizar la cantidad de datos sensibles utilizados.
Existe también el peligro de una excesiva dependencia en la predicción de riesgo para la imposición de penas. Si bien la estimación de riesgo es necesaria en ciertos contextos penales, como para órdenes de protección o libertades condicionales, basar la pena esencialmente en la predicción de delincuencia futura podría «responsabilizar» a un individuo por rasgos (edad, género, educación, amistades, antecedentes familiares) que están estadísticamente asociados con delitos pero que no pudo controlar. Esto choca con principios como la culpabilidad individual y la proporcionalidad. Además, herramientas predictivas como VioGén, RisCanvi y VeriPol, utilizadas en España para valorar riesgos de reincidencia o denuncias falsas, a menudo carecen de total transparencia en cuanto a la teoría y los datos en los que se basan. La falta de formación especializada para los operadores del sistema penal sobre el uso y limitaciones de estas herramientas puede llevar a la «des-responsabilización» y afectar derechos fundamentales, como la libertad de un interno. Otro riesgo es la privatización del control de la violencia y la justicia, si el Estado deja que empresas privadas, dueñas de algoritmos «caja negra», tomen decisiones cruciales sin la debida supervisión y capacitación judicial.
Ante todos estos desafíos, se subraya la necesidad urgente de una regulación específica y ética para la IA en el ámbito penal que proteja los derechos fundamentales. Esta regulación debe establecer principios como la responsabilidad, la transparencia y la supervisión humana, y fomentar la innovación responsable. Se ha propuesto que los sistemas de IA con riesgo alto o inaceptable sean sujetos a fiscalización y certificación antes de su uso. Esta regulación debe ser integral y adaptable a los avances tecnológicos. La propuesta legislativa debe centrarse en el ser humano, promoviendo la inclusión, la responsabilidad, la transparencia y la justicia. También se contempla la implementación de normativas para la protección de datos mediante evaluaciones de impacto y medidas técnicas, así como regulación específica para vehículos autónomos y la seguridad en sistemas de vigilancia. La filosofía de «privacidad desde el diseño» (privacy by design) busca que la protección de datos sea un componente esencial de la tecnología desde sus fases iniciales, no un añadido posterior.
