China: llegan los fiscales de Inteligencia Artificial



China presenta un "fiscal de Inteligencia Artificial" que puede acusar automáticamente a los ciudadanos de un delito

Mientras que en Occidente la mayoría de las veces se vigila el habla y el movimiento de las personas mediante sistemas automatizados de censura y vigilancia con "IA", en China parece que se está trabajando en la creación de una máquina que actuaría como un fiscal impulsado por la IA.

El producto, que ya ha sido probado por la ajetreada fiscalía de Shanghai Pudong, es capaz de alcanzar un 97% de precisión en la acusación de personas sospechosas de ocho actos delictivos, según han afirmado los investigadores que lo están desarrollando.

Según el South China Morning Post, los casos que el "fiscal de la IA" es supuestamente muy competente en manejar implican delitos como el fraude con tarjetas de crédito, la conducción peligrosa, el juego, las lesiones intencionadas, la obstrucción a los funcionarios, el robo, pero también algo llamado "buscar peleas y provocar problemas".

Este último se considera especialmente "problemático", ya que su definición, o la falta de ella, puede abarcar diferentes formas de disidencia política.

Y ahora el plan es introducir una máquina a la que se le daría poder de decisión, como la de presentar cargos, y qué sentencia pedir en cada caso.

Según el profesor Shi Yong, que dirige el laboratorio de big data y gestión del conocimiento de la Academia China de Ciencias que está detrás del proyecto, esto supone una marcada diferencia con otras herramientas de "IA" que ya se utilizan en China desde hace años. Una de ellas es el Sistema 206, cuyas tareas se limitan a evaluar las pruebas, el peligro que supone un sospechoso para el público y las condiciones en las que puede ser detenido.

El rostro del Nuevo Mundo no será el de un soldado que pisa fuerte, sino el de un combate en la mente. Estamos viviendo una pesadilla orwelliana. Pero no son los tanques en nuestras calles los que gobiernan el día; es la tecnología en la palma de nuestras manos la que nos controla. 2 + 2 = 5.

Pero la tecnología que hay detrás del nuevo fiscal artificial parece ser al mismo tiempo mucho más ambiciosa y avanzada. Lo que se ha desvelado es que puede funcionar en un PC de sobremesa, procesando 1.000 rasgos extraídos de la descripción de casos archivados por humanos, y basándose en ello formular una acusación.

No está claro si la base de datos de 17.000 casos a lo largo de cinco años utilizada para entrenar los algoritmos es suficiente para considerar el proyecto como verdadera IA, y si se puede conseguir el mismo resultado con algoritmos basados en reglas.

En cualquier caso, no todos los fiscales humanos están encantados de que se sustituya parte de su carga de trabajo de esta manera, aunque precisamente este ha sido el motivo para desarrollar la tecnología.

"La precisión del 97% puede ser alta desde el punto de vista tecnológico, pero siempre habrá una posibilidad de error. ¿Quién asumirá la responsabilidad cuando ocurra? ¿El fiscal, la máquina o el diseñador del algoritmo?", señaló un fiscal de Guangzhou, que habló bajo condición de anonimato.