Inteligencia Artificial- En El Ambito Jurídico Y Su Prevalencia En La Etica De Los Derechos Humanos

Photo by Kevin Ku on Unsplash

La omnipresencia de la inteligencia artificial, es un hecho paradigmático e insoslayable que en la actualidad se refleja en todas las áreas sociales, culturales, económicas, médicas.  La jurídica en el marco legal., no escapa a la presente focalización del presente asunto.

Las relaciones humanas que debieran involucrar el componente ético y moral, pueden escurrirse, amalgamándose con la nueva era de una inteligencia artificial que avasalla los limites mismos de la dignidad de la persona. Su repercusión en el ámbito de los derechos humanos son cuestionables, su impacto en la diversidad de formas se confunden con el ejercicio de derechos y libertades.

 

Libertades que corresponden a la libre manifestación de los derechos innatos de la persona, como aquellos básicos al acceso a la justicia, al discernimiento de libertades de expresión^[1], garantías constitucionales., privacidad de datos personales, derecho al trabajo^[2].La inteligencia artificial, podría llegar a ser un apoyo de la justicia, a la vez de una herramienta de castigo a los fines de automatizar un hecho de manera pragmática sin ningún condimento de razón humana^[3]

 

La implementación de sus usos y de la automatización con fines predictivos del comportamiento humano y su capacidad para originar prácticas controvertidas desde el punto de vista del juicio de valor. La inteligencia artificial desde la mirada de los derechos humanos puede adoptar diversas perspectivas.La tecnología evoluciona de forma autónoma y con inmediatez inhumana y no se adecúa a la evolución de los sistemas normativos, dando lugar a los operadores del derecho a servirse de la transformación tecnológica y así afectar el ámbito privado. La autonomía del usuario deba aumentarse y no restringirse mediante el uso de herramientas o servicios de inteligencia artificial. Los profesionales de justicia deberían en cualquier momento poder revisar, las decisiones judiciales y los datos utilizados para producir un resultado y continuar sin estar obligados a ello a la luz de las características de ese caso en particular. El usuario debe ser informado en un lenguaje claro y comprensible sobre las decisiones ofrecidas por las herramientas de inteligencia ya que son vinculantes sobre las diferentes opciones disponibles: por ejemplo si tiene derecho a asesoramiento legal y derecho a acceder a un tribunal. También debe estar claramente informado de cualquier procedimiento previo como un modo alternativo de resolución de conflictos por medio de inteligencia artificial antes o durante un proceso judicial y tener derecho a objetar, de modo que su caso pueda ser escuchado directamente por el tribunal. En términos generales cuando se implementa cualquier sistema de información basado en sistemas de inteligencia artificial deben existir programas de alfabetización informática para usuarios y debates en los que participen profesionales del sistema judicial.

 

El auge de los sistemas automatizados de toma de decisiones en todos los ámbitos ha traído consigo la constatación de que, lejos de resolver problemas y procesos de manera objetiva, los algoritmos reproducen y perpetúan las estructuras de discriminación que afectan a las personas pertenecientes a grupos que, históricamente, se han encontrado en una posición de subordinación y desventaja^[4]. El Estado social digital, advierte que el "riesgo de llegar a una destopía digital es real"  no solo porque la transformación que la inteligencia artificial está provocando evidencia una insuficiencia o ausencia de vinculación a los derechos humanos, sino también porque la inteligencia artificial es, en la práctica, una zona que "carece de derechos humanos". Ello se percibe especialmente cuando las exigencias básicas que subyacen a los derechos humanos se convierten en una excepción. Así ocurre en ámbitos como la discriminación, la injusticia, la arbitrariedad y la discrecionalidad.

 

En el marco del desarrollo algorítmico la noción de riesgo y la aplicación de su lógica al ordenamiento jurídico. La capacidad exponencial de procesar datos que provienen de multitud de fuentes matemáticas como base  ha convertido en una realidad la posibilidad de resolver mediante un  análisis predictivo y  con la ayuda de la  automatización de decisiones. –por ejemplo,  la selección de una persona para acceder a un programa de beneficio social, la gestión sanitaria, o la verificación de la identidad como persona–, circunstancia suficientes para crear nuevas fuentes de discriminación con características puntuales que encuentran su prevalencia en una concepción preventiva y fielmente munida al Derecho.

 

Sin embargo, es importante tener en cuenta que la discriminación resultante de los procesos algorítmicos, y también la perpetuación de la desigualdad que puede resultar de la automatización de los sistemas de servicios y ayudas públicas, se producen a través de un fenómeno muy específico: el creciente desarrollo e introducción de tecnologías de procesamiento de datos y de automatización de decisiones. Es por ello que la discriminación algorítmica debe ser abordada también como uno más de los riesgos y daños generados por esta clase de sistemas y en el contexto de las características específicas de las decisiones automatizadas.

 

Así, cabe destacar que los algoritmos y las nuevas tecnologías de procesamiento de datos generan también una amplia variedad de problemas que van más allá de las posibles vulneraciones a los derechos a la igualdad y no discriminación con base en las llamadas "categorías sospechosas". Los sistemas automatizados de toma de decisiones, incluyendo los de creación de perfiles, presentan problemas de opacidad, de dificultad en la adjudicación de la responsabilidad de las decisiones, así como importantes riesgos para la autonomía, libertad y dignidad de las personas y sus derechos a la intimidad y a la protección de datos. Asimismo, cuando estos sistemas se emplean por el sector público, pueden conllevar importantes quiebras en la cadena de legitimidad de las decisiones emanadas de los poderes públicos.

 

Otra vertiente desde la que se debe analizar la discriminación algorítmica como fenómeno social y jurídico, es necesario subrayar la íntima relación que guardan entre sí los diferentes riesgos y afecciones a los derechos fundamentales y otros intereses públicos derivados del creciente uso de algoritmos. Así, por ejemplo, difícilmente podrán probarse los casos de discriminación algorítmica directa, esto es, la toma de una decisión discriminatoria teniendo en cuenta una categoría sospechosa, si no se tiene acceso o no se dispone de una explicación suficiente de la lógica sobre la que basa su decisión el sistema.

 

Es más, teniendo en cuenta que, en la actualidad, el marco normativo en materia de protección de datos constituye la principal herramienta dirigida a regular, de manera específica, el tratamiento y procesamiento automatizado de datos y que las normas de protección de datos pretenden ofrecer un amplio marco que, en la medida posible, abarque todas las vicisitudes derivadas de la progresiva automatización de procesos, resulta necesario abordar de manera conjunta los diferentes problemas derivados del creciente uso de sistemas algorítmicos. Es por ello que, si bien las cuestiones problemáticas derivadas del uso de sistemas automatizados diferentes de la vulneración de los derechos a la igualdad y a la no discriminación no constituyen, en sentido estricto, el objeto de estudio de este trabajo, también lo son y se abordan, en la medida en que afectan a las situaciones de discriminación y perpetuación de la desigualdad mediadas por sistemas automatizados.

 

Es oportuno remarcar, que el objeto de este trabajo no lo constituye cualquier clase de tratamiento o de procesamiento de datos, sino que solo lo constituyen aquellos tratamientos y procesamientos de datos realizados de manera total y parcialmente automatizada. Es importante delimitar esta cuestión por cuanto la normativa en materia de protección de datos, a la que se hará referencia, también aborda el tratamiento no automatizado de datos. Por ello, se debe tener en cuenta que toda referencia realizada a las disposiciones normativas contenidas en dicho marco jurídico y a los problemas derivados del tratamiento y procesamiento de datos se debe entender efectuada al tratamiento, procesamiento y consiguiente toma de decisiones automatizadas.

 

Desde el punto de vista jurídico^[5] "constituye un objetivo pertinente abordar los rasgos característicos de la aplicación de la inteligencia artificial al Derecho –entre ellos, la opacidad, la complejidad técnica, los sesgos, cierta imprevisibilidad y el comportamiento parcialmente autónomo de algunos sistemas de inteligencia artificial– con el objetivo de analizar en qué medida está garantizada su compatibilidad con los derechos fundamentales y hasta qué punto facilitan la aplicación de las normas jurídicas. La perspectiva consiste en "situarse ante las diversas fuentes de riesgo, mediante un enfoque basado también en el riesgo”.

 

Es lógico que el marco jurídico dirigido a proteger frente a los riesgos causados por las tecnologías de procesamiento de datos y la automatización de procesos parta de la protección de datos personales, estrechamente relacionada con la protección de la intimidad. Los daños causados por estos sistemas son, principalmente, el resultado de la recogida de datos de carácter personal y muchos de sus efectos tienen lugar en la esfera personal de aquellos individuos cuyos datos han sido recogidos y procesados.

 

También por esta razón, podría caerse en el error de considerar que las reglas y normas establecidas por el ordenamiento jurídico privado deberían ser suficientes para gestionar los conflictos surgidos en relación con el procesamiento de datos, la creación de perfiles y la toma de decisiones automatizadas. Sin embargo, sin entrar a valorar el uso de estos sistemas por los poderes públicos, también cuando los responsables y encargados del tratamiento operan en el sector privado, los daños causados y riesgos que se originan tienen efectos más allá de la configuración tradicional de relaciones jurídicas entre personas privadas. Así, no son pocas las ocasiones en que las personas afectadas por el procesamiento de datos no han compartido su información personal, sino que dichos datos han sido recopilados a través de los perfiles o cuentas en plataformas digitales de terceras personas. O, incluso, cuando hay posibilidades de ejercicio de poder público, son el resultado del cruce de bases de datos que las Administraciones públicas tienen sobre los ciudadanos y que han sido recopilados en el ejercicio de funciones públicas^[6].

 

La Inteligencia Artificial y la Administración Tributaria.

 

 

El uso de la IA (Inteligencia Artificial) tiene como propósito transformar los datos en un activo de conocimiento y de impacto en la gestión tributaria y aduanera, así como lograr el uso inteligente de dichos datos para transformar las AATT(Administración Tributaria) y la forma en cómo interactúan con los contribuyentes.

 

Es una manera "sugestiva" de un control impositivo, con el simple mérito recaudatorio.

La combinación de IA, IoT, Análisis de datos y Data Analytics, dará beneficios exponenciales gracias a la recopilación y análisis de un gran volumen de datos de los contribuyentes en tiempo real y efectivo para una mejor toma de decisiones que impactará positivamente en varias áreas administrativas de las AATT. Inmobiliaria, fiscal, aduanera, bancaria, financiera.

 

La IA es muy buena para automatizar tareas repetitivas, aumentar la precisión y la eficiencia, y descubrir ideas y tendencias ocultas. Con el fin de señalizar a los contribuyentes que en tiempo pertinente han hecho sus DDJJ, y han evadido algunos datos sensibles para la contabilización del a Administración Pública.

Puede interpretar el mejor camino para lograr una respuesta y aprender las rutinas que obtienen el mejor resultado. Puede cargar documentos automáticamente, comprender entradas y clasificarlas en los códigos de contabilidad correctos, entre otras tareas importantes de contenido informativo.

Entre sus principales ventajas^[7] se destacan:

 

-Aumento de la recaudación tributaria: la IA permite procesar altos volúmenes de información económica categorizando de forma mucho más rápida, con mayor objetividad y precisión que el ser humano, con el objetivo de identificar situaciones de incumplimientos, mejorar el control y prevenir el fraude fiscal. La predicción de recaudaciones es un área con gran potencial para el desarrollo de aplicaciones de IA.

-Clasificación de contribuyentes: (grandes, medianos o simples contribuyentes). La IA puede elaborar un perfil preciso de cada contribuyente a partir del análisis de su comportamiento pasado y presente, lo que permite tener una visión más clara de cómo se conducirán en el futuro. En el contexto de la factura electrónica, se puede identificar patrones de consumo de una persona física a través de la tecnología "machine learning".

- Reducción de la evasión fiscal: La IA permite detectar posibles irregularidades mediante la utilización de algoritmos además de realizar un análisis de transacciones en tiempo real para reducir el fraude con base en sofisticados sistemas de Deep learning.

-Diagnóstico y apoyo en la toma de decisiones: La IA es un ejemplo ideal de cómo una máquina puede reducir errores y acelerar los procesos basada en el uso de sistemas capaces de generar estrategias optimizadas para resolver problemas de gran complejidad y ayudar a tomar decisiones.

-Eficacia en los cálculos: La IA tiene alto poder y eficacia en hacer cualquier tipo de cálculo estadístico.

-Optimización de tiempos y recursos: es decir procesamiento de un gran volumen de información en menor cantidad de tiempo.

-Apoyo en las auditorías: La IA puede aplicarse en las auditorías, lo que permite la reducción de tiempos ya que se cuenta con información en tiempo real.

 

Para una adecuada función de IA las AATT^[8] deben dotarse de los activos humanos y tecnológicos con la capacidad de:

 

·      Organizar y proporcionar todos los datos que guarda la administración en un formato uniforme;

·      Activar los ciclos de inteligencia correspondientes, con el fin de transformar dichos datos en información útil para la toma de decisiones;

·        Gestionar la retroalimentación respecto de la información diseminada, para activar procesos posteriores.

·       

La implementación del análisis de big data y de sistemas basados en IA se puede instrumentar a través de productos de mercado y paquetes de software libre.

Por lo general, el desarrollo de soluciones de IA involucra distintas plataformas, modelos y algoritmos integrados según el tipo de problema y el dominio (sector específico) de la solución.

 

Aquellas instituciones que elijan desarrollar soluciones internamente deben asesorar y fortalecer a sus equipos tanto en el número como en el tipo de perfiles, creando a tal fin un grupo con experiencia en la gestión de software libre, así como en capacidades relacionadas a técnicas de IA.

 

Esto se justifica por las constantes y veloces transformaciones del sector. Con asesoría externa especializada, el equipo podrá capitalizar para la empresa los avances obtenidos. El modelo que se elija adoptar para esta asesoría podría contemplar acuerdos con universidades o contratos con empresas emergentes (startups) especializadas^[9].

Por su parte relacionado cómo afectará la IA a las AATT compartimos con Cristina García Herrero Blanco^[10] que dice que los beneficios que se pueden alcanzar a través del uso de la IA son muchos y en nuestro ámbito debería favorecer un mejor cumplimiento tributario, en el sentido de un cumplimiento más fácil para los contribuyentes y a su vez más justo, en un mundo con menores errores por parte de las AATT.

 

Mundialmente, las  AATT utilizan la IA para múltiples funciones  en diversos colectivos humanos y es insoslayable  que su utilización vaya increscendo  a lo largo del tiempo.

La utilización de la IA, por parte de las AATT presenta múltiples beneficios y abanico de oportunidades para que sean más eficientes y eficaces en su cometido central de mejorar los niveles de cumplimiento voluntario. Que humanamente la persona voluntariamente trata de evadir mediante DDJJ anuales.

Pero nunca se debe perder el objetivo de herramientas con límites que deben tener mediante normativas con condimento ético, moral y social, para obtener mejores resultados.

 

La IA también implica riesgos para lo cual se requiere de la regulación específica, sobre todo para la adecuada protección de los derechos y garantías Constitucionales Nacionales y Tratados internacionales, de los derechos de los contribuyentes.

En este punto queda claro que la IA no actúa por sí misma, sino que depende de cómo sea "entrenada o programada" aquí se tiene indefectiblemente un componente humano, pero para razón y beneficio de la Administración Tributaria que son efectivizados por los seres humanos, razón por la cual son y serán los responsables de su adecuado funcionamiento.

 

Los Estados representados por sus gobiernos deberán trabajar en forma conjunta con los distintos actores intervinientes para garantizar la adecuada utilización de la IA, en forma ética y equitativa, protegiendo los derechos fundamentales de los ciudadanos.

Todo este proceso de digitalización de las AATT, incluyendo la adopción de nuevas tecnologías como la IA, no debería realizarse en forma aislada, sino que debería integrarse a la digitalización de los países, dentro del concepto de gobierno digital global.

 

 La digitalización abre nuevas posibilidades y oportunidades a los países desarrollados y en desarrollo y aquellos países que mejor aprovechen el impulso de la digitalización tendrán sin lugar a cavilaciones mejores oportunidades de evolución y brindar una mejor calidad de vida a sus ciudadanos., en forma igualitaria y equitativa.

 

 

Autores:

Patricia A. Cozzo Villafañe. Abogada. Especialista En Tributación Local. Funcionaria de La Agencia De Recaudación De La Provincia De Buenos Aires.

Paula Fabiana Romano. Abogada. Ejercicio Independiente De La Abogacía. Doctora en Ciencias Jurídicas.