China usa Inteligencia Artificial para 'mejorar' decisiones de tribunales y cazar 'errores humanos'

La inteligencia artificial (IA) ahora participará en todos los casos en el sistema legal de China para ayudar a agilizar la carga de trabajo de los jueces, pero los críticos han expresado su preocupación por la privacidad y la discreción.

El Tribunal Popular Supremo de Beijing anunció esta semana que los jueces deben consultar a la IA en todos los casos por ley, informa el Daily Mail.

La inteligencia artificial, que ayuda a los usuarios a recomendar leyes, redactar documentos y señalar "errores humanos percibidos" en los fallos, es parte del sistema de "tribunal inteligente" que el tribunal superior ha estado desarrollando desde al menos 2016. Comenzó como una simple base de datos, pero ahora analiza casi 100.000 casos al día de todo el país todos los días.

Pero la base de datos ahora está conectada a las bases de datos de la policía y al sistema de crédito social de China, lo que significa que cualquier decisión de los jueces se puede hacer cumplir de inmediato. Según el South China Morning Post, la IA del tribunal puede encontrar y confiscar la propiedad de un convicto “casi al instante”, e incluso puede ponerla a la venta en línea.

El sistema también puede realizar ajustes rápidos en la calificación crediticia social de un convicto que, por ejemplo, podría impedir que un deudor utilice un avión, un tren de alta velocidad, hoteles u otros servicios.

Cualquier juez que vaya en contra de la recomendación de AI debe presentar una explicación por escrito de por qué.

Otras supuestas mejoras a través del sistema judicial inteligente incluyen recepcionistas robotizados en los juzgados para ofrecer ayuda legal en línea, grabadoras de voz que transcriben automáticamente a los oradores en la sala del tribunal y "salas virtuales" para celebrar audiencias en línea, según el Mail.

En un informe publicado el martes, Xu Jianfeng, director del centro de información de la corte suprema, dijo que la IA había reducido la carga de trabajo promedio de un juez en más de un tercio. También afirmó que ahorró a los ciudadanos chinos 1.700 millones de horas de trabajo entre 2019 y 2021, y que la sociedad ahorró más de 300.000 millones de yuanes (45.000 millones de dólares) durante el mismo período, una cantidad equivalente a aproximadamente la mitad de los honorarios totales de los abogados en China el año pasado.

Los juristas en China han advertido sobre los inconvenientes de confiar demasiado en la IA de la corte suprema.

Zhang Linghan, profesor de derecho de la Universidad de Ciencias Políticas y Derecho de China en Beijing, advirtió que el rápido aumento de la IA podría reducir la discreción judicial: el poder de un juez humano para tomar una decisión basada en la intuición, la experiencia y la capacitación individuales.

Esto podría mejorar la eficiencia y la equidad hasta cierto punto, pero "los humanos perderán gradualmente el libre albedrío con una creciente dependencia de la tecnología", dijo en un artículo revisado por pares publicado el domingo.

“Debemos estar alerta a la erosión del poder judicial por parte de las empresas de tecnología y el capital”, agregó, refiriéndose a cómo el poder sobre el sistema judicial inteligente estaba en manos de los pocos expertos que escribieron el código y supervisaron la base de datos.