Inteligencia artificial y automatización de la Administración

Ricardo A. Muñoz (h)

I. Inteligencia artificial y derecho administrativo [arriba] 

A lo largo de este capítulo procuraremos algunas ideas básicas respecto de que manera la IA impacta en el Derecho administrativo, y cómo éste debería adaptarse para poder potenciar las ventajas de aquella, y controlar sus efectos no tan beneficiosos.

Cabe señalar, por cierto, que la relación entre la automatización, maquinización (cuanta otra novedad que se refiera a estas nuevas realidades) y el Derecho Administrativo nunca fue extraña a la clásica doctrina, y en este punto puede destacarse –entre importante bibliografía– un revelador y anticipatorio trabajado del profesor español Tomas Ramón Fernandez del año 1971 en el cual ya avizoraba las tecnologías de automatización para el dictado de resoluciones, por cierto, tomando partida por su inconveniencia, a través de una mirada algo pesimista. Para el autor

“La electrónica al servicio del Derecho será cualquier día, próximo o lejano, una realidad como elemento mecánico de ayuda a la investigación, como elemento receptor y emisor de información; pero la noble función de juzgar no puede ser mecanizada. Seguirá siendo atribución del hombre preparado para ella” y a renglón seguido aclara “La función del ordenador va a ser exclusivamente la de informar. El ordenador no va a hacer sentencias ni va a sustituir a los investigadores”, aunque reconoce en la nota al pie de página n° 2 de ese texto doctrinal que “Evidentemente podría hacer tanto una cosa como la otra”1.

Tampoco deja de llamarnos la atención una recensión bibliográfica del año 1969 que firma Gonzalez Navarro, comentando una obra de Derecho Administrativo de Aurelio Guaita, a través de la cual, destacando el trabajo paciente y constante del autor, el primero se pregunta si no sería posible recurrir al empleo de una máquina para facilitar la tarea del investigador de la penosa búsqueda de la bibliografía, y dice:

“Desde luego, la idea parece factible. Tal vez, incluso, se ha realizado ya con éxito alguna experiencia en este sentido…El cerebro humano –se ha dicho– es intensamente complejo, quizá tan complejo como 10.000 computadores actuales combinados. En el futuro, si este grado de complejidad se consigue con un solo computador, quizá se pueda averiguar si puede competir con el poder de pensamiento del cerebro humano. Sin embargo –se añade también–, el problema de programar este supercomputador no habrá desaparecido. Las limitaciones del hombre que haya de programarlo pondrán siempre un límite a la inteligencia que se pueda simular por la máquina. La ´inteligencia artificial´ de un computador obedece a los dictados, del hombre, y hace falta mayor inteligencia para disponer que para ejecutar. El hombre, como creador, estará siempre en la cúspide… Lo que queremos subrayar al traer a colación las anteriores palabras, es que el trabajo del hombre no puede ser nunca eliminado. La máquina nos hará ganar en rapidez, en precisión, pero el hombre será siempre insustituible”2.

Poco más de una década más tarde, el profesor italiano Vittorio Frosini, analizando la Administración pública de entonces, visualizó con total lucidez que “El ordenador electrónico, provisto de “inteligencia artificial”, es el instrumento de que el hombre puede valerse para gobernar las máquinas y los sistemas de organización en los que éstos han sido insertados”. Por lo que resulta evidente, reflexiona el autor citado, que el interés de la Administración pública de las sociedades industriales avanzadas por el nuevo sector de la tecnología electrónica y de sus aplicaciones constituye el carácter innovador y distintivo de los servicios administrativos de nuestros tiempos, tratándose de un proceso que denomina “automatización administrativa”3.

Podrá verse, por lo tanto, que desde la década del ´60, por lo menos, el debate sobre la automatización en la Administración ronda –en líneas generales– alrededor de los mismos ejes: las tecnológicas que se vienen, los beneficios que traen, cuales son las actividades que pueden desarrollar, y el rol de la persona humana en todos esos procesos.

Si partimos de una clasificación de períodos de evolución de la Justicia que se basa en la conocida categorización de etapas de las distintas revoluciones4, pero aplicada –por nosotros– al ámbito de la Administración pública, asimilando –mutatis mutandis– sentencia con acto administrativo, juez con funcionario y proceso con procedimiento, podremos caracterizar a la Administración 1.0 como la correspondiente a la etapa clásica decimonónica –todavía vigente–, basada en formato en papel, con expedientes y archivos físicos, presencial y de trámites rígidos. La Administración 2.0, por su lado, denota un mejoramiento respecto su antecesora, ya que agrega herramientas electrónicas para el mejoramiento de su funcionamiento y la comodidad de los agentes públicos (teléfonos, computadoras, etc.). Pero el primer

“salto cuali-cuantitativo más relevante se da con el paso a la Justicia 3.0 –para nosotros Administración 3.0–, donde el diferencial lo hace la revolución digital mediante el paso de la aparatología mecánica y analógica a la tecnología digital. Aquí se abren paso las tecnologías de la información y las comunicaciones con el revolucionario arribo de las computadoras personales y de su intervinculación a través de ´redes´: internet”5.

Ahora bien, el segundo salto, se presenta con el desarrollo de la IA, por cuanto a través de la innovación se puede simplificar y eficientizar enormemente la actividad administrativa. La Administración 4.0, edificada sobre su antecesora, irrumpe a través de tecnologías disruptivas de alto impacto, incluyendo la robótica, la nanotecnología, la computación cuántica e internet de las cosas, ente otras.

Como se advierte, y anticipándonos en nuestras conclusiones, no se trata de suplantar en forma abrupta ni definitiva la intervención de la persona humana. Todo lo contrario, buscar la introducción de agentes inteligentes de manera gradual pero nunca totalmente.

Las complejidades se presentan, no solo a la hora de la imposibilidad de llegar a todos los administrados con este tipo de nuevos “modos”, sino también los riegos que para ellos generan en sus situaciones jurídicas subjetivas. La disponibilidad de una enorme masa de información, sumado a la cantidad de datos personales (inclusive sensibles), pone al ciudadano en el riesgo de una absoluta indefensión ante el poder público. De allí entonces, debe buscarse un equilibro entre los beneficios de las tecnologías disruptivas y los derechos fundamentales. En ese camino transitaremos.

Vayamos entonces al análisis jurídico de una de las principales incidencias prácticas y concretas que hoy tiene la IA sobre los institutos del Derecho Administrativo, sin perjuicio que en el futuro se den muchas más relaciones. Estamos haciendo referencia, a las decisiones administrativas automáticas, por un lado, y a la automatización del procedimiento, por el otro.

II. Acto administrativo automatizado [arriba] 

a) Concepto y alcance

La Administración electrónica, como anticipábamos, trae consigo nuevos retos. Uno de los más importantes es el relativo a la construcción del concepto y del régimen jurídico de la actuación administrativa realizada íntegramente por medios electrónicos, sin intervención de persona física, denominada en el Derecho Comparado como “actuación administrativa automatizada”.

Por ejemplo, la actuación administrativa automatizada ha sido definida por la Ley N° 11/2007, de 22 de junio, de “Acceso Electrónico de los Ciudadanos a los Servicios Públicos” de España –LAE– (hoy derogada6) como “actuación administrativa producida por un sistema de información adecuadamente programado sin necesidad de intervención de una persona física en cada caso singular”7.

Llama la atención, en este sentido, que la LAE hable en todo momento de actuación administrativa automatizada, en lugar de hacer referencia a acto administrativo automatizado.

“La razón es sencilla –y avala la interpretación que se está argumentando en estas páginas–: lo relevante de aquélla no es el producto, que no deja de ser un acto administrativo normal y corriente, sino la forma en que se adopta, la actuación que permite llegar a ese producto final”8.

Por su lado, en régimen español vigente (Ley N° 40/2015 “Régimen jurídico del sector público”, aplicable a todas las administraciones locales), define ahora a la “actuación administrativa automatizada”, como “cualquier acto o actuación realizada íntegramente a través de medios electrónicos por una Administración Pública en el marco de un procedimiento administrativo y en la que no haya intervenido de forma directa un empleado público9”.

Así, la decisión administrativa automatizada implica un acto administrativo como cualquier otro, y solo la diferencia radica en la fuente de producción: en aquel caso corresponde a un sistema de información programado y no a una persona humana. Ahora bien, la ausencia de la persona de “carne y hueso” no es total, sino “en cada caso singular” (conforme esa definición), esto es, en cada concreto supuesto en que se hace uso de ese sistema de información para desarrollar la correspondiente actuación administrativa exigida por el ejercicio de la potestad, ya que antes y en forma general la persona humana intervino otorgando competencia y validez al sistema, incluso, a través también del diseño del motor informático10.

Efectivamente, un acto administrativo adoptado –aun en su integridad– por medios electrónicos puede consistir en una declaración de voluntad (adjudicación de un contrato por subasta electrónica); en una declaración de juicio (valoración de los méritos de un candidato en el marco de un proceso de evaluación de su actividad); en una declaración de conocimiento (certificado electrónico de empadronamiento); o en una declaración de deseo (propuesta de sanción por infracción en materia de tráfico); entre muchos otros 11.

De esta manera entonces, tal como lo sostiene Delpiazzo, es perfectamente posible que determinados tipos de actos administrativos puedan ser dictados por el computador como “nuevo funcionario”, en la medida en que sean programados o que la información contenida en la base de conocimientos de un sistema experto contenga previsión de los supuestos necesarios para su aplicación en el caso concreto12.

Así lo ha reconocido expresamente el Tribunal en lo Contencioso Administrativo de la República de Uruguay al analizar el sistema informático vigente en el ámbito aduanero y considerar que, “cuando la liquidación de las obligaciones surge de criterios adoptados por la Administración y vertidos al software”, “a través del referido software –ya sea para liquidar una operación o para impedirla– se materializa un acto particular o subjetivo de la Administración”. En términos más explícitos sostuvo que “este sistema informático aplica en forma automática el régimen tributario aduanero que corresponde a la operación, el cual ha sido previamente determinado por la Dirección Nacional de Aduanas…” y

“en virtud de ello, no cabe duda alguna que, como correctísimamente afirma el Procurador del Estado, la liquidación de las obligaciones surge de criterios generalmente adoptados por la Administración y vertidos en el referido software, lo cual lleva a concluir que en definitiva el programa informático contiene unos criterios que constituyen una expresión de voluntad unilateral de la Administración que produce efectos jurídicos”13.

También en materia tributaria, recientemente el Consejo Constitucional francés, a través de una sentencia del 27 de diciembre de 201914, se inclinó por la constitucionalidad de la regulación introducida por el legislador a través de la Ley de Presupuestos 2020, que autoriza la utilización de un mecanismo o herramienta de IA con fines de control fiscal. La normativa aprobada otorga a la administración la potestad de recabar de forma automatizada y utilizar determinados contenidos accesibles públicamente a través de ciertos operadores de plataformas de internet (redes sociales, plataformas de intermediación de venta de bienes y servicios), con el fin de investigar infracciones fiscales y aduaneras.Ancla Se ha señalado que, para resolver en ese sentido, el decisorio establece condiciones de compatibilidad del mecanismo con los derechos fundamentales de los ciudadanos, entre los cuales se precisó cuál es el ámbito de aplicación o situaciones en las que puede utilizarse el mecanismo: datos públicos en línea de una serie de redes sociales y plataformas de comercio electrónico e intermediación, mediante una doble condición legal para la captación de los datos, en el sentido de que el contenido debe ser accesible libremente a través de un servicio público de comunicación en línea: por un lado, se excluye la captación de datos respecto de los cuales se requiere acceso con contraseña o registro en una página web, y, por otro lado, se requiere que exista voluntariedad sobre su divulgación pública por parte de los usuarios de tales redes sociales o plataformas.

De igual manera, la bibliografía comenta un caso por el cual un condenado cuestionó la sentencia de imposición de una condena de cumplimiento efectivo, determinada por parte de un tribunal del Estado de Wisconsin a través del algoritmo de IA denominado COMPAS, agraviándose en la violación del debido proceso al ser sentenciado en base a un programa que se desconoce cómo obtiene el resultado, la violación al derecho del acusado de obtener una sentencia individualizada debidamente fundada por los juzgadores, y la utilización en forma incorrecta de información que abastece al software, tal como la edad, genera, raza, situación socioeconómica de las personas para generar estigmatización de selectividad criminal.

Por su lado, el tribunal del circuito de ese Estado explicó que sus consideraciones sobre la puntuación de riesgo arrojada por COMPAS fueron respaldadas y fundadas por el juzgador, a su vez en otros factores independientes de los brindados por el algoritmo de inteligencia artificial. Asimismo, dicho tribunal consideró que el informe de riesgo del sistema de IA, fue correcta y apropiada ya que el tribunal, al no fundar la condena únicamente en los resultados arrojados por el algoritmo de IA, sino fundarla también en otros factores de riesgo15.

Por último, en este punto, resulta absolutamente trascendente destacar que la automatización administrativa muchas veces se logra mediante los datos e información que aportan los particulares en el trámite16, o si se quiere, existe una suerte de delegación de competencia pública a favor del ciudadano, por lo que en estos sistemas más que nunca se torna visible el principio de colaboración del administrado en la Administración. En la mayoría de los casos, la decisión automatizada surge sobre la base de elementos que los mismos interesados introducen, lo que es importante, además, no solo desde la teoría de los actos propios, sino también desde la propia actividad procedimental de interesado que insta el trámite. Finalmente, en el caso de ser una actividad administrativa realizada de oficio o “espontanea” de la Autoridad administrativa, ésta encuentra como principal limite que la decisión automatizada no puede ser exclusivamente motivada por datos extraídos del “perfilamiento” digital del usuario. En el Capítulo VI, volveremos con este último punto.

b) Críticas desde la teoría del órgano y del acto administrativo

El evento de la adopción de un acto administrativo automatizado, sin embargo, ha llevado a no pocos autores a plantear la posibilidad de la superación de la teoría del órgano y la redefinición del concepto de acto administrativo.

Efectivamente, y dicho de forma muy sintética, la total ausencia de intervención de persona física en la adopción de una resolución administrativa parece no encajar en la construcción dogmática de ambos conceptos. El órgano administrativo es el resultado de una agrupación de funciones en torno a la persona de su titular; el acto administrativo es una declaración de voluntad, cualidad exclusiva del ser humano. En la actuación automatizada la función la ejerce una máquina y el acto resultante, como producto de una máquina, no puede ser entendido como expresión de voluntad, porque carece de ella.

Por ejemplo, Parada señala –a lo que no coincidimos– que no sería posible considerar resolución administrativa la adoptada de forma automatizada, porque las máquinas carecen de voluntad:

“los actos administrativos son manifestaciones de voluntad y las máquinas, al no tenerla, carecen de posibilidad de producir actos jurídicos y lo que reflejan no es más que el resultado de los datos y programas que se introducen en ellas, por lo que la producción jurídica sigue estando referida a los funcionarios y autoridades que se sirven de aquéllas”17.

Para Uríos Aparisi y Alamillo Domingo la adopción de los actos administrativos como resultado de un proceso automatizado en el que se ha desplazado completamente toda intervención humana directa produce una quiebra en la concepción tradicional del acto administrativo, y lleva a la necesaria reforma de la teoría general del órgano administrativo18. En esta misma línea, Delgado García y Oliver Cuello hablan de una quiebra en el concepto tradicional de acto administrativo como instrumento que encierra una manifestación de voluntad, conocimiento o juicio del órgano administrativo19.

Y entre nosotros, Lacava, admite que el acto administrativo automatizado adoptado sin intervención de ser humano, podría no subsumirse en el concepto tradicional del acto administrativo, toda vez que por lo menos falta uno de sus elementos esenciales: la voluntad20.

No obstante, para Martín Delgado, a quien seguimos en el tema, la actuación administrativa automatizada resulta perfectamente compatible con la teoría del órgano y con el concepto actual de acto administrativo.

“El hecho de que la decisión haya sido adoptada por una máquina de forma automatizada no implica que la actuación se le impute a ella, sino que la autoría del acto recaerá sobre el órgano administrativo que ejerce la potestad y tiene encomendada la competencia. La imputación no deja de ser una ficción normativa: la autoría de una actuación llevada a cabo por una persona –o, en este caso, por una aplicación informática– integrada en un órgano de una Administración pública se atribuye a esta última porque así lo impone la ley”21… “la teoría del órgano, por tanto, sigue vigente y no hay quiebra alguna del elemento subjetivo del acto administrativo, pues la conexión entre actividad automatizada y órgano se produce a través del uso de un sistema para firmar y autenticar el ejercicio de la competencia”22.

Y respecto lo segundo, el autor niega aquella postura por la cual se señala que no sería posible considerar resolución administrativa la adoptada de forma automatizada ya que las máquinas carecen de voluntad. Frente a ello aclara que

“la voluntad de la que es expresión un acto administrativo no es una voluntad de persona física, sino voluntad procedimental, voluntad normativa, una hipóstasis: el órgano administrativo, a través de las personas –o, en su caso, máquinas– que lo integran, procede a emanar una declaración de voluntad, juicio, conocimiento o deseo en ejecución de una norma para la satisfacción del interés general”23, de tal manera que se está ante un acto administrativo como cualquier otro, lo que cambia es la manera de tomarse la decisión y las formas, en este caso, digitales24.

c) Limitaciones. Actividad reglada y discrecional

Ahora bien, no todo tipo de actuación puede ser automatizada, toda vez que la misma, pese su indiscutible utilidad y realidad cada día más presente, encuentra no pocas limitaciones. En primer lugar, debemos destacar que no cabe automatización del ejercicio de potestades reglamentarias, dado que solo nos referimos a actos administrativos individuales25. De igual manera, estamos refiriendo siempre a actuaciones formalizadas, por lo que –obviamente– no es posible la automatización de actividad puramente material.

Claro está, esta posibilidad nos lleva a la derivación que la IA adopte actuaciones administrativas formalizadas, tanto antes de iniciar un procedimiento administrativo (referido a actuaciones preliminares), durante el procedimiento administrativo (adopción de medidas cautelares, petición o generación de informes, por ejemplo) y en la terminación del procedimiento (dictar la propia resolución definitiva).

Pero el segundo límite, que nos genera todo tipo de perplejidad, es el que viene determinado por la naturaleza de la potestad ejercida.

Desde luego, parece indiscutida la posibilidad de que la IA produzca decisiones automatizadas en relación con potestades regladas, como señalan García De Enterría y Tomás Ramón Fernández:

“la Ley puede determinar agotadoramente todas y cada una de las condiciones de ejercicio de la potestad, de modo que construya un supuesto legal completo y una potestad aplicable al mismo también definida en todos sus términos y consecuencias (por ejemplo, jubilación por edad de los funcionarios, ascenso por antigüedad, liquidación de un tributo –aplicación de una cuota establecida por la Ley a una base fijada sobre un hecho imponible determinado– etc.). En estos casos, como siguen destacando estos autores “opera aquí la Administración de una manera que podría llamarse automática”26.

Cuando esa actuación es reglada, entonces, no existen dudas. El acto surge como consecuencia de ciertos supuestos objetivamente constatables, y, por ende, programables. En estos casos, las posibilidades son claras: si se cumple el supuesto de hecho previsto en la norma, se aplica la consecuencia jurídica en ella contenida y, mediante este simple proceso, se satisface el interés general. En estos casos, tal proceso intelectivo puede ser desarrollado por una persona o por una máquina, sin que ello suponga alteración alguna en el resultado final en cuanto al aspecto relativo a su definición27.

En cambio, en materia de actividad discrecional de la Administración, la discusión es mayor, habiendo incluso expresado la doctrina en contra de la automatización cuando lo que se trata es de la configuración de la expresión estatal ante potestades de aquel tipo.

Para la doctrina clásica antes citada

“La existencia de potestades discrecionales es una exigencia indeclinable del gobierno humano: éste no puede ser reducido a una pura monocracia objetiva y neutral, a un simple juego automático de normas, contra lo que en su tiempo espero la entelequia social y política de la Ilustración (y como hoy, en cierto modo, alimenta la más vulgar fe en la informática y los ordenadores)”28.

Más recientemente, autores como Uríos y Alamillo han expresado que “la resolución automatizada de procedimientos administrativos habría de ser excepcional y debidamente justificada”, lo que también les lleva a excluir esta posibilidad allí donde exista discrecionalidad y a limitarla, en consecuencia, a los supuestos reglados29. O, en todo caso, tal y como defienden Delgado García y Oliver Cuello, siguiendo a Cervantes, en relación con procedimientos sencillos, en los que el sentido de la resolución viene determinado por la aplicación automática de unos parámetros ya delimitados y no hay margen alguno de desvío respecto de la resolución que hubiera adoptado el órgano administrativo por medios convencionales. Ello conduce a delimitar el marco del empleo de las TIC en el proceso decisorio al ejercicio de potestades regladas30.

En una posición más intermedia, Martín Delgado explica que,

“dado que la actuación administrativa automatizada supone parametrizar los elementos configuradores de la decisión administrativa mediante la introducción de los criterios que la aplicación informática tendrá en cuenta y manejará para la adopción de la resolución”, “no debe descartarse el uso de sistemas de información en el ejercicio de potestades discrecionales en las que la discrecionalidad sea de baja intensidad”, refiriéndose a la discrecionalidad técnica31.

No obstante, también respecto a los actos que son producto de actividad discrecional es posible su automatización mediante la implementación de sistemas expertos capaces de emular la conducta de un experto humano dentro de un dominio limitado32 a partir del llamado “razonamiento cibernético” (programas, algoritmos, etc.)33.

Tengo para mí que la utilización de la inteligencia artificial al Derecho Administrativo, y con ello, la automatización de gran parte de la expresión de voluntad decisoria, tendrá razón de ser justamente ante el ejercicio de actividad a través de criterios de oportunidad, mérito y conveniencia, en donde justamente los motores –mediante la aplicación de logaritmos– servirán para reducir la discrecionalidad administrativa. Y esto es así, porque en la actividad reglada no hay dudas, y sea por medios convencionales o tecnológicos, la decisión será única. Si la inteligencia artificial implica una tecnología predictiva, entonces en la actividad reglada no habrá nada para predecir. En cambio, sí será de verdadera utilidad en materia de actividades discrecionales34.

Coincidimos con Granero en que

“Hoy podemos saber, con una certeza bastante aproximada a la realidad, cuál es la tendencia de los Tribunales en la resolución de un tema –léase resoluciones para nosotros–, y la probabilidad de un resultado favorable o desfavorable y en cuestión de segundos informarle al cliente las perspectivas de su petición. Ciencia ficción, no, realidad gracias a la inteligencia artificial. Intentaremos ver cómo ello es posible”35.

El esfuerzo de parametrización antes dicho, tendrá como consecuencia la predicción de la conducta estatal, es decir, la tecnología anticipa al administrado lo que sucederá, y la IA servirá –por lo tanto– para reducir la arbitrariedad y mejorar el control y trasparencia sobre la actuación administrativa. No tenemos dudas que la IA aplicaba al ámbito de la Administración, implica un instrumento efectivo para evitar, o por lo menos, reducir, acciones caracterizadas por el oscurantismo público.

En esencia, afirma el catedrático español Ramió Matas,

“La introducción de las nuevas tecnologías constituye, en sí misma, una herramienta de prevención y lucha contra la corrupción, la trazabilidad de las actuaciones electrónicas, y la seguridad que rodea a su gestión favorece la confianza en la gestión, y la introducción de mejores sistemas de control. Sistemas de control que pueden aplicarse a sectores tan en riesgo y bajo sospecha como la contratación pública. Como ejemplos podemos citar los sistemas de alerta temprana impulsados por los pactos de integridad en la contratación impulsados por Transparencia Internacional España… y el caso de la digitalización de la Administración” 36.

Y yendo un poco más específicamente a la lucha contra la corrupción y aplicación de máximos estándares de transparencia, la IA puede servir para extraer de esas grandes masas de datos información relevante y, en lo que ahora nos importa, útil para identificar riesgos de corrupción y concretar políticas de integridad. El uso de big data y de la IA para la detección de riesgos de corrupción puede ser muy útil para prevenir la “mala administración” y la corrupción, a través de la definición de indicadores. La herramienta podría implicar un sistema de evaluación de riesgos: la investigación de factores de riesgo de mala administración, establecer un sistema de alertas, que integre una base de datos, y un sistema lógico e informático de procesamiento de datos basado en algoritmos, que dará lugar a mapas de evaluación de riesgos, planes individuales de autoevaluación, entre otros37.

En definitivita, la automatización de la actividad administrativa, a través de tecnologías de IA, ayudará al decisor, y dará plena efectividad a los principios de transparencia, igualdad, confianza legítima, seguridad y previsibilidad, entre otros.

d) La “ultima” palabra es la del “ser humano”

Ahora bien, esa “fe moderna”, casi una necesidad histórica de trasladar el pensamiento humano a una máquina, a la que nos hemos referido cuando analizamos historia de la IA, nos puede llevar a una situación extrema por la cual, gracias a mecanismos de aprendizaje automático y profundo y otros avances en marcha, se podría dar lugar –en teoría– a la substitución de la ponderación basada en criterios no jurídicos que pueda realizar el decisor humano.

Pero que esa operación sea posible técnicamente por los avances de la tecnología, no significa que deba ser siempre deseable. Existen límites que deben establecerse a la IA en el proceso de toma de decisiones discrecionales, no tanto por limitaciones tecnológicas, sino de oportunidad, mérito y conveniencia al deberse establecer una “reserva” para que ciertas decisiones sean tomadas por humanos, lo que autores como Ponce Solé llaman “reserva de humanidad”: “en el ámbito de decisiones discrecionales, la actividad administrativa sólo puede ser semi–automatizada, no totalmente automatizada. La IA podrá hacerse servir como apoyo, pero la ponderación final que conduzca a la decisión debería ser humana”38.

A medida que la concesión normativa de potestades supone la entrada de apreciaciones subjetivas basadas en criterios extrajurídicos (potestades regladas que exigen interpretación de conceptos, conceptos jurídicos indeterminados valorativos, discrecionalidad) se abren al decisor público una pluralidad de alternativas en el servicio al interés general.

Ya sea que en determinados supuestos, elegidos razonable y justificadamente (sin arbitrariedad, ni discrecionalidades), o ya sea porque vuelven las actuaciones al decisor administrativo –o su superior jerárquico– ante impugnaciones administrativas, existen casos y supuestos donde, de una u otra manera, el decisor “persona humana” (órgano persona) ocupando un cargo (órgano jurídico) resuelve él mismo en el caso concreto respecto la suerte de situaciones jurídicas subjetivas, sin la “delegación” que supone el programa. Es así, donde, graficamos, la “ultima” palabra la tiene el funcionario humano.

Aquí es donde la doctrina introduce el concepto de “empatía”, señalando que

“Entre los problemas, sobre todo queremos llamar la atención sobre cómo el ejercicio de la discrecionalidad implica la necesidad de empatía. En ocasiones, al deber apreciarse en ocasiones conceptos jurídicos valorativos como la buena conducta, la buena fe, el ejercicio de la equidad en la revisión de oficio o la revocación, por ejemplo. En el ejercicio de discrecionalidad hay un importante papel de la empatía en esa consideración de los hechos, intereses y derechos relevantes a considerar y sopesar. El decisor público debería tener la capacidad de ponerse en la piel de los interesados, participantes y posibles afectados por la futura decisión, pues solo así podrá ponderar correctamente, para el buen ejercicio de la discrecionalidad”39.

A diferencias de las personas humanas, la IA no tiene un perfil psicológico, cultural, social y emocional. Si bien es verdad que, en campos acotados, la IA tiene mayor capacidad de almacenamiento, procesamiento y los tiempos de respuesta que un humano de cualquier edad. Pero también lo es que aquella, en términos generales, carece de objetivos internos, de capacidad de memoria que pueda relacionar cada experiencia con diversos contextos, personas y objetos. Por lo que, por ahora, no cuenta con la empatía, la creatividad y el pensamiento crítico40.

En definitiva, sabiendo que el verdadero sentido de las IA se da en materia de actividades discrecionales, pero también al ser conscientes de las limitaciones y riesgos de la IA, proponemos que –de una manera y otra– una “reserva” de resolución humana a cargo del funcionario competente, ya sea para aquellos supuestos por los cuales el caso lo justifica en donde la parametrización y modelación no pudo llegar o generaría una solución injusta reñida con los principios vigentes, ya sea cuando a través de recursos e impugnaciones administrativas deba revisarse la decisión primigeniamente tomada por el sistema tecnológico. Estas salidas, asimismo, obligan una regulación jurídica concreta que parta de la validación legal de los mecanismos tecnológicos que automatizan la actividad administrativa y los procedimientos para llevarla a cabo.

e) El régimen jurídico del acto automatizado

La constatación efectiva para la automatización administrativa de la vigencia de la teoría del órgano como unidad administrativa que tiene asignadas funciones de cuyo ejercicio se derivan efectos jurídicos a terceros, y de la plena vigencia de la teoría del acto administrativo como declaración de un órgano administrativo (automatizado) en el ejercicio de una potestad administrativa, no conduce –sin embargo– a entender ni a concluir que la implantación de las nuevas tecnologías en la organización y en la actuación de las Administraciones públicas carezca de efecto alguno.

Al contrario, ante ello se derivan consecuencias, pero no sobre el concepto de órgano o de acto (y, por tanto, no sobre el concepto de actuación administrativa automatizada), sino sobre su régimen jurídico, puesto que –por ejemplo– la ley española antes citada exigía el cumplimiento de toda una serie de condiciones adicionales que influyen sobre la validez y la eficacia de los actos administrativos adoptados de forma automatizada: identificación y autenticación; habilitación normativa previa; aprobación y publicidad de los programas y especificaciones empleados; o notificación electrónica41.

Como se ha dicho antes, el acto administrativo adoptado de forma automatizada no deja de ser acto administrativo, por lo que estos deberán reunir todos y cada uno de los requisitos y condiciones que el régimen jurídico exige para la completa validez y eficacia de los actos administrativos. Así, por ejemplo, en materia de automatización e IA se ha estado por el respeto a la especial exigencia de motivación que impone el principio de buena administración, por lo que resulta imprescindible una justificación específica de las decisiones que se adopten, y que, además, resulte comprensible para una persona que carezca de los conocimientos para valorar el alcance de la tecnología utilizada42.

Ahora bien, y sin perjuicio de los requisitos “ordinarios”, se debe contemplar una serie de exigencias adicionales y específicas, complementarias a aquellos, que en definitiva redundan en garantía para los administrados.

Primero, la utilización de los medios electrónicos debe contar con una habilitación normativa previa, que no alcanza en forma genérica, sino para el caso particular, una habilitación específica que avale y justifique la automatización en tales supuestos. Segundo, tal norma legal debe determinar órgano u órganos competentes, para la definición de las especificaciones, programación, mantenimiento, supervisión y control de calidad y, en su caso, auditoría del sistema de información y de su código fuente. Tercero, como una derivación del principio de transparencia y legalidad, deberá darse publicidad a las especificaciones y programas empleados en la actuación administrativa automatizada. Y cuarto, deberá garantizarse la identidad, integridad, autenticidad, confidencialidad, calidad y conservación de toda la información y de la resolución automatizada en sí, a los fines de evitar violaciones a derechos constitucionales, y en particular, de protección de datos personales43.

En particular, respecto este último punto, aquella sentencia del Consejo Constitucional francés del año 201944, puso como condición para ratificar la constitucionalidad de normativa por la cual se utilizaba IA para fines tributarias, que se excluyan del ámbito de aplicación la captación de datos sobre opiniones políticas, religiosas o filosóficas, origen étnico o racial, orientación sexual, datos genéticos o biométricos, etc.; que se cancelen todos aquellos datos que hubieran sido captados y carecieran de trascendencia fiscal; que los indicios de fraude fiscal recabados en forma automática a través de algoritmos no puede servir de única prueba para fundamentar la regulación; y que las condiciones de acceso y utilización de los datos captados solo pueden ser manejados por personal de la Administración sujeta a secreto profesional y un régimen de estricta confidencialidad (garantía de “secreto tributario”).

f) Revisión administrativa y judicial de la automaticidad

Tampoco el procedimiento de impugnación de esta categoría de actos está ajeno a especiales particularidades a tener en cuenta.

En primer lugar, se ha afirmado que una de las consecuencias de la automatización de las decisiones administrativas es la no aplicabilidad de la institución de la excusación y recusación: dado que no hay persona humana actuante, sino que quien tramita y resuelve es una aplicación informática, carecerá obviamente de todo interés en el asunto y, por tanto, actuará siempre de forma independiente y objetiva.

“Difícilmente el titular del órgano (o las personas físicas que integran sus unidades) encargado del diseño de la aplicación tendrá en cuenta su interés en un caso concreto en el ejercicio de su función programadora. Es por ello que puede afirmarse con que la automatización del proceso de toma de decisiones administrativas es, en sí misma, garantía de imparcialidad y favorece indudablemente la igualdad de trato de los administrados por parte de la Administración, así como la seguridad jurídica”45.

En todo caso, y excepcionalmente, en un supuesto de “gabinete”, la excusación o recusación podría darse en contra de quien confeccionó el programa remoto, y no de del órgano que resuelve (que es una mera ficción de imputación de competencia), debiéndose demostrar, entonces, la relación entre el titular del órgano encargado de la programación y los asuntos se resuelven en forma automatizada.

Ahora bien, en el supuesto se presente cualquier vicio que pudiera sufrir todo acto administrativo, o eventualmente, de darse algunas deficiencias en función de los requisitos específicos antes indicados, los que podrían implicar defectos concretos de forma o de fondo respecto el acto automatizado, debe estarse ante la posibilidad de la impugnación administrativa y judicial de tales decisiones.

Cabe aquí preguntarnos si resulta posible hablar de desviación de poder en el marco de la actuación administrativa automatizada. El interrogante es respondido por Martin Delgado quien afirma que

“Entendida como la falta de correspondencia entre el fin perseguido por la norma al atribuir la potestad y el fin que persigue la Administración en ejercicio de la misma, la desviación de poder sólo puede producirse en el momento de la configuración del sistema de información –que puede ser alterada y realizada en función de intereses diferentes de los consagrados por el ordenamiento jurídico–, pero no respecto de la actuación administrativa final. No hay, pues, posibilidad alguna de desviación de poder electrónica, porque la máquina carece de voluntad propia y se limita a actuar en aplicación combinada de los parámetros introducidos por el órgano encargado de la gestión del sistema de información. No obstante, cuando esa ´voluntad automatizada´ esté viciada de origen por un diseño fraudulento de la aplicación informática procederá declarar la nulidad del acto administrativo automatizado por infracción del ordenamiento jurídico”46.

Volviendo al procedimiento, debe convenirse que el control administrativo de los actos a través de medios impugnativos, solo puede ejercerse por el superior jerárquico del emisor del acto cuya revisión se pretende, en el caso que ésta última autoridad no se expida en forma automatizada, porque de ser así, el acto original agota por sí mismo la vía administrativa. Y esto es así, ya que naturalmente en el caso del recurso de reconsideración (que debe ser resuelto por la misma autoridad), o en el caso del recurso jerárquico en donde el superior también decida en base al mismo programa, como lo algoritmos ya están definidos, no existe posibilidad de que resuelva de un momo distinto al primero.

Y finalmente, la revisión judicial de los actos automatizados puede tener grandes obstáculos, tales como el conocimiento acerca de cómo se ha producido la formación de la voluntad del órgano administrativo, y la imposibilidad sustituir el criterio de la Administración, más aun, en materia de actos discrecionales.

Para el autor antes citado

“el Juez debe hacer una doble valoración a la hora de resolver el recurso contencioso-administrativo: de un lado, comprobar si se han respetado todas y cada una de las exigencias formales de régimen jurídico de la actuación administrativa automatizada; de otro, para el caso de que no haya sido así, determinar el grado de influencia de esa irregularidad. Y, en relación con esta valoración, deberá tener en cuenta dos circunstancias: si ha existido indefensión y si el resultado final hubiera sido el mismo de haber actuado el órgano administrativo por medios convencionales”47.

Los nuevos sistemas pueden ofrecer resultados que ningún operador humano defendería en derecho, o al menos resultaría discutible en esa sede, y sin embargo se nos podrían presentar como únicos posibles por estar así automatizados. Y entonces la pregunta es elemental: ¿calificaríamos de injusta o arbitraria la solución si fuera directamente emitida por un agente humano, y la admitiríamos como inevitable por proceder de un sistema de IA?48 Claramente la respuesta es por la negativa.

Si decíamos que en materia de automatización administrativa tiene la última palabra la persona humana, más aún todavía, y a mayor razón, también lo es en el caso de control administrativo. Aquí traemos nuevamente el profesor Prosini, quien ya en 1984 observaba que

“el ordenador posee una inteligencia artificial, es decir, mecánica y mnemotécnica, pero no posee una capacidad de iniciativa y decisión, y, por tanto, no puede tener ninguna responsabilidad. El problema de los controles, esto es, de las autorizaciones (y de las sanciones eventuales), sobre la gestión administrativa automatizada sigue siendo, en consecuencia, un problema jurídico referido al momento inicial y al momento final de cualquier procedimiento administrativo, es decir, cuando interviene el funcionario personalmente”49.

Volveremos nuevamente con la revisión de los actos administrativos automáticos, en el Capítulo VI, cuando hagamos referencia al principio de la tutela administrativa efectiva y la imposibilidad que la IA sea utilizada como una herramienta para violentar derechos, en lugar de realizarlos y efectivizarlos.

III. La automatización de los procedimientos administrativos [arriba] 

Juan Corvalán temporiza cuatro paradigmas distintos de la Administración. El 1.0 correspondiente a la etapa clásica decimonónica, compuesto por papel, la imprenta y el uso de la máquina de escribir. La Administración 2.0 incorpora al ordenador, los procesadores de texto, la impresora y luego el fax. A partir de Internet, los portales digitales, las aplicaciones móviles y las redes sociales, el sector público en este siglo XXI ha comenzado a migrar hacia el formato 3.0, que se caracteriza por varios conceptos o principios que la normativa antes citada reitera sistemáticamente (lo remoto, simple, automático, ágil e instantáneo). Una Administración Pública gestionada en un esquema 3.0, comenta el autor citado,

“implica transformar los binomios tiempo/espacio–burocracia/ciudadanía a partir de potenciar y actualizar tres supraprincipios rectores: optimización, simplificación y facilitación. En definitiva, hoy en día conviven tres formatos –1.0, 2.0 y 3.0– dentro de las organizaciones públicas, que a gran escala muestran un lento y complejo camino en el que se ha intentado simplificar y optimizar la gestión de los datos y la información”50.

Ahora bien, se está definitivamente rumbo no solo consolidar el formato 3.0, sino también iniciar el camino hacia una Administración inteligente 4.0. Estas mutaciones, a fin de cuentas, presuponen una triple transición que se desarrollará de forma asimétrica: de una “burocracia papel”, a una “burocracia digital” y de ahí a una “burocracia inteligente” en donde los sistemas de IA facilitan, simplifican y aceleran exponencialmente interacciones, tareas, generación de documentos, etc., a partir de la automatización y de la actividad predictiva51.

Por eso, no nos podemos quedar en el procedimiento administrativo electrónico. Hay más. Tal como lo señalábamos respecto el acto administrativo, el desenvolvimiento de las tecnologías en el procedimiento administrativo lejos está hoy de constituir una mera posibilidad de poner a disposición de los operadores y usuarios una serie de instrumentos electrónicos (expediente, notificación, firma, etc.). La verdadera automatización del procedimiento refleja que las herramientas tecnológicas que dispone la Administración no son instrumentos de apoyo, sino constituyen ellas mismas un medio de actuación de las fases procedimentales.

Se ha vuelto posible abordar la automatización del procedimiento decisional que conforma el acto administrativo, en donde los actos administrativos son adoptados mediante ordenadores. Tal como se dijo, en la legislación y la práctica administrativa, junto al acto administrativo del funcionario concurre el acto administrativo automatizado, el acto definido y adoptado mediante un ordenador. Esta nueva figura de acto administrativo ha dado lugar a una problemática del acto profundamente distinta de la tradicional, la cual refleja la peculiaridad de la así llamada “maquinización” del procedimiento decisional. De una teoría del acto que gira sobre la “decisión” del funcionario se ha pasado a una teoría del acto que se concentra sobre el acto–software (el acto–programa) que “gobierna” el procedimiento decisional del ordenador52.

Comenta Lacava53 que en ese caso

“el procedimiento administrativo es desenvuelto directamente por el ordenador, el cual, a partir de los datos con los que cuenta, se encuentra en grado de tramitarlo en modo íntegro. En otros términos, un procedimiento de este tipo supone que no es materialmente desarrollado por los operadores de la Administración pública, sino que resulta realizado directamente por los aparatos informáticos, por ello la exigencia de su reingeniería, de su reestructura en clave automatizada”54.

Con un carácter meramente enunciativo, traemos a colación posibles aplicaciones de la IA dentro del proceso administrativo: a) medidas cautelares, en la evaluación del peligro en la demora y la verosimilitud del derecho, a los fines de determinar la suspensión administrativa de los efectos del acto, conforme la materia, las circunstancias, etc.; b) en la faz probatoria, a través de la revisión documental de toda base de datos que se encuentre en el ámbito de la Administración, en todos sus niveles, siendo la interoperabilidad la principal herramienta para la localización e identificación de posibles fuentes de pruebas; c) en la ejecución del acto administrativo automatizado, toda vez que –en el caso de quedar firme y consentido– puede llevarse a cabo su cumplimiento, por ejemplo a través de la incorporación de la sanción en un registro –de cualquier tipo–, en la imposibilidad de realizar algún trámite, u obtener una habilitación, entre otros.

Volviendo con el Decreto 733/2018 (citado en el Capítulo 3°), éste otorga los primeros pasos para la automatización y la aplicación de IA en la Administración Pública Nacional. Según Corvalán, esta norma es inédita, en cuanto hace referencia expresamente a la posible aplicación de IA en el sector público para acelerar la burocracia estatal55. En sus fundamentos se impulsa la preparación de condiciones tecnológicas necesarias y adecuadas para la implementación de “...motores de reglas e inteligencia artificial con el objeto de automatizar la mayor cantidad posible de decisiones”. Para el autor citado, es la primera norma en Argentina que reconoce el rol central que ocuparán los sistemas de inteligencia artificial en la optimización de la Administración Pública.

En concreto, el plazo de 90 días para informar los trámites de mayor demanda y los flujos de trabajo cerrado –que ordena el artículo 5° de la norma– se orientan a “diseñar inteligentemente un circuito de trabajo secuencial cerrado y uniforme para coordinar la acción administrativa entre los agentes públicos entre sí y de estos con los administrados, mediante la utilización de motores de reglas e inteligencia artificial para automatizar la mayor cantidad posible de decisiones” (de los considerandos).

Esto es, sin dudas, el puntapié inicial para estandarizar y automatizar algunos procesos, y así poder diseñar sistemas de IA para agilizar y simplificar los trámites de mayor demanda y con un alto grado de uniformidad.

Ahora bien, tal como se señaló respecto la incorporación de las tecnologías en el procedimiento administrativo, lo que se denominó procedimiento electrónico, aquí también, en el procedimiento administrativo automatizado, podemos invocar las mismas inquietudes –que en realidad se presenten ahora en mayor medida– en el caso de ausencia ciudadana de medios digitales, la imposibilidad de acceso a Internet, la carencia de alfabetización digital, etc., lo que redundará en definitiva en circunstancias negativas, no solo desde el punto de vista procedimental en una situación de indefensión de tipo adjetiva, sino también desde lo material, por lo que significa el impedimento de ejercer cualquier tipo de derechos económicos, sociales y culturales ante la Administración pública.

Sin perjuicio que el capítulo siguiente volveremos con el eje basado desde una perspectiva de derechos, y que será tratado en particular, ante el escenario antes dicho debe convenirse que procedimiento electrónico y automático van ocupando espacios del anterior procedimiento y colonizando nuevos, en una suerte de “camino sin retorno” como habitualmente se dice. Sin embargo, en el plano normativo, el corte no es tan radical, como suele ocurrir en la evolución de todo el Derecho.

Por ello, adelanto la conveniencia de la apertura del procedimiento administrativo a partir de la figura del “asistente”, que puede configurarse como un “agente conversacional” (los famosos chatbots antes explicados), o en su caso, y mientras tanto nos adaptemos a estas realidades, un “asistente humano” que existe en algunos sistemas comparados. Por ejemplo, cuenta la doctrina que bajo la forma de “responsable”, como ocurre en materia de procedimiento administrativo en Italia56, se instituyó una figura encargada de ser el referente del ciudadano a lo largo del procedimiento, que acompaña a la persona –que carece de las habilidades y las posibilidades para hacerlo– en el camino para informarse sobre los procesos políticos y administrativos57.

En España, otro ejemplo importante, el ciudadano tiene legalmente reconocido el derecho a ser asistido en el uso de medios electrónicos, incluso a ser representado por un funcionario habilitado si careciera de esos medios, comprendiendo también todas aquellas gestiones que requieran firma o identificación personal58. Este derecho, a su vez, es reforzado a través de la transformación de las oficinas de registro en oficinas de asistencia al ciudadano y mediante la articulación de dos herramientas: el registro de apoderamiento y el registro de funcionarios habilitados.

Notas [arriba] 

1 FERNANDEZ, Tomás R., “Jurisprudencia y computadores”, en Revista de la Administración Pública, N° 64, enero abril, 1971, Madrid, pág. 327 y ss.
2 “Recensiones y notificas de libros”, Revista de la Administración Pública, N° 60, septiembre–octubre, 1969, Madrid, pág. 525, en part. pág. 546.
3 FROSINI, Vittorio, “Informática y Administración pública”, Revista de la Administración Pública, N° 105, septiembre– diciembre, 1984, Madrid, pág. 447 y ss., en part. pág. 447 y 449.
4 Véase, por ejemplo, CORVALÁN, Juan Gustavo y SÁ ZEICHEN, Gustavo, “Justicia 4.0: el uso de inteligencia artificial para acercar la justicia a los ciudadanos”, Ediciones SAIJ, Id SAIJ: DACF190020.
5 CORVALÁN, Juan Gustavo y SÁ ZEICHEN, Gustavo, “Justicia 4.0: el uso de inteligencia artificial para acercar la justicia a los ciudadanos”, Ediciones SAIJ, Id SAIJ: DACF190020.
6 Esta Ley fue derogada por la Ley N° 39/2015, de 1 de octubre, del Procedimiento Administrativo Común de las Administraciones Públicas. Solo se contempla que “Los sistemas normalizados de solicitud podrán incluir comprobaciones automáticas de la información aportada respecto de datos almacenados en sistemas propios o pertenecientes a otras Administraciones u ofrecer el formulario cumplimentado, en todo o en parte, con objeto de que el interesado verifique la información y, en su caso, la modifique y complete”.
7 La mecanización y automatización, como principios, no son nuevos en los sistemas jurídicos normativos, por cuanto ya en la exposición de motivos de la Ley Procedimientos Administrativos española de 1958 se señaló que “Por lo demás, las aludidas directrices no se conciben como simples enunciados programáticos, sino como verdaderas normas jurídicas, al habilitar a la Administración de una vez para siempre para adoptar cuantas medidas repercutan en la economía, celeridad y eficacia de los servicios; a estos fines responden los preceptos relativos a la normalización de documentos, racionalización, mecanización y automatización de los trabajos en las oficinas públicas, creación de oficinas de información y reclamaciones y fijación de horarios adecuados para el mejor servicio de los administrados”.
8 MARTÍN DELGADO, Isaac, Naturaleza, concepto y régimen jurídico de la actuación administrativa automatizada, en “Revista de la Administración Pública”, N° 180, Madrid, septiembre–diciembre 2009, pág. 365.
9 Artículo 41. 1. Y agrega que “En caso de actuación administrativa automatizada deberá establecerse previamente el órgano u órganos competentes, según los casos, para la definición de las especificaciones, programación, mantenimiento, supervisión y control de calidad y, en su caso, auditoría del sistema de información y de su código fuente. Asimismo, se indicará el órgano que debe ser considerado responsable a efectos de impugnación”. Finalmente, en el artículo 42 se establece que “En el ejercicio de la competencia en la actuación administrativa automatizada, cada Administración Pública podrá determinar los supuestos de utilización de los siguientes sistemas de firma electrónica: a) Sello electrónico de Administración Pública, órgano, organismo público o entidad de derecho público, basado en certificado electrónico reconocido o cualificado que reúna los requisitos exigidos por la legislación de firma electrónica. b) Código seguro de verificación vinculado a la Administración Pública, órgano, organismo público o entidad de Derecho Público, en los términos y condiciones establecidos, permitiéndose en todo caso la comprobación de la integridad del documento mediante el acceso a la sede electrónica correspondiente”.
10 Para Vincenzo AQUARO (Director de Gobierno Digital de la ONU): “los sistemas de Inteligencia Artificial no pueden reemplazar completamente las competencias de los seres humanos. Pueden colocar a los humanos en una posición ventajosa y ayudar a organizar mejor nuestra sociedad, pero al final, los humanos son, o al menos deberían ser, los que siempre toman las decisiones finales. Esta es la razón por la que prefiero deletrear la IA como “Inteligencia (humana) Aumentada” en lugar de Inteligencia Artificial” (AQUARO, “Prologo”, en CORVALÁN, Juan Gustavo, Prometea. Inteligencia Artificial para transformar organizaciones públicas, ob. cit., pág. 7).
11 Tal como se verá seguidamente, estas herramientas tienen gran tradición en materia tributaria, aun antes de la implementación de un régimen general. Por ejemplo, en España la Ley N° 58/2003, de 17 de diciembre, General Tributaria, contempla el empleo por parte de la Administración tributaria de las nuevas tecnologías en el desarrollo de su actividad y para el ejercicio de sus competencias. Concretamente hace una mención directa a la posibilidad de adopción de decisiones de forma automatizada, al precisar que “cuando la Administración tributaria actúe de forma automatizada se garantizará la identificación de los órganos competentes para la programación y supervisión del sistema de información y de los órganos competentes para resolver los recursos que puedan interponerse”. Imagínese el lector, por ejemplo, sistemas de declaración jurada informativa donde en forma automatizada, el programa –previa verificación de datos– brinda la determinación y liquidación del monto a abonar.
12 DELPIAZZO, Carlos, “Noción y regulación del procedimiento y del acto administrativo electrónico”, en Estudios de Derecho Administrativo, 79–108, citado por SCHIAVI, Pablo, “Acto administrativo electrónico y nuevas tecnologías. ¿Evolución o disrupción?”, Revista de Derecho Administrativo, Cita Online: AR/DOC/4133/2019.
13 DELPIAZZO, Carlos, “Noción y regulación del procedimiento y del acto administrativo electrónico”, en Estudios de Derecho Administrativo, 79–108, citado por SCHIAVI, Pablo, “Acto administrativo electrónico y nuevas tecnologías. ¿Evolución o disrupción?”, Revista de Derecho Administrativo, Cita Online: AR/DOC/4133/2019.
14 CALDERON CARRERO, José Manuel, “Algoritmos de inteligencia artificial con fines de control fiscal: ¿puede el derecho embridar a las nuevas tecnologías?”, El Derecho Tributario, marzo, 2010.
15 RIQUERT, Marcelo A. y SUEIRO, Carlos Cristian, Sistema penal e informática, Ciberdelitos, evidencia digital, TCS, Nº 2, “Selección de jurisprudencia”, Hammurabi, Bs. As., 2019, pág. 324.
16 Lo que incluso tiene recepción legal con el artículo 108 del Reglamento de la Ley de Procedimiento Administrativo (Decreto 1759/72, T.O. Decreto 894/2017), en cuanto expresa que “los interesados que interactúen con la Administración deberán aportar al procedimiento administrativo los datos y documentos exigidos de acuerdo con lo dispuesto en la normativa aplicable. Asimismo, podrán aportar cualquier otro documento que estimen conveniente”.
17 PARADA, Ramón, Régimen jurídico de las Administraciones Públicas y Procedimiento Administrativo Común, Marcial Pons, Madrid, 2009, citado por PONCE SOLÉ, Juli, “Inteligencia artificial, Derecho administrativo y reserva de humanidad: algoritmos y procedimiento administrativo debido tecnológico”, en Revista General de Derecho Administrativo, N° 52, enero, 2019, España.
18 URÍOS APARISI –ALAMILLO DOMINGO, “Los límites a la utilización del sello del órgano por parte de las Administraciones Públicas en la Ley N° 11/2007”, Comunicación presentada a las Jornadas Tecnimap, celebradas en Gijón del 27 al 30 de noviembre de 2007, pág. 4, disponible en www.tecnimap.es.
19 DELGADO GARCÍA– OLIVER CUELLO “Regulación de la informática decisional en la Administración electrónica tributaria”, Comunicación presentada en las Jornadas Tecnimap, celebradas en Sevilla del 30 de mayo al 2 de junio de 2006, p 7.
20 LACAVA, Federico J., “Decisiones administrativas automáticas y derechos”, ob. cit., pág. 255.
21 MARTÍN DELGADO, Isaac, “Naturaleza, concepto y régimen jurídico de la actuación administrativa automatizada”, en Revista de la Administración Pública, N° 180, Madrid, septiembre–diciembre 2009, pág. 360. Para el autor citado, a lo que coincidimos, “No es difícil imaginar un Registro administrativo completamente electrónico, en el que la entrada, salida, archivo y organización de comunicaciones electrónicas estén completamente automatizadas. Tampoco un centro informático específicamente encargado de la producción de un concreto tipo de actos administrativos (pensemos en certificaciones del padrón municipal, concesión de licencias regladas o adjudicaciones en subastas electrónicas)” (pág. 361).
22 MARTÍN DELGADO, Isaac, “Naturaleza, concepto y régimen jurídico de la actuación administrativa automatizada”, en Revista de la Administración Pública, N° 180, Madrid, septiembre–diciembre 2009, pág. 363.
23 MARTÍN DELGADO, Isaac, “Naturaleza, concepto y régimen jurídico de la actuación administrativa automatizada”, en Revista de la Administración Pública, N° 180, Madrid, septiembre–diciembre 2009, pág. 364. Por ende “del mismo modo que ocurre con la atribución de la voluntad de los funcionarios físicos de la Administración, se puede recurrir a la ficción jurídica de atribuir a la Administración el proceso intelectivo del ordenador, sobre la base de una decisión asumida precedentemente por una o más personas físicas que componen sus órganos, superando así la objeción sobre la imposibilidad de considerar acto administrativo a la decisión automatizada por la imposibilidad de calificar a ésta como declaración de voluntad” (LACAVA, Federico J., “Decisiones administrativas automáticas y derechos”, ob. cit., pág. 255).
25 PONCE SOLÉ, si bien admite que “tecnológicamente, podría producir también disposiciones generales” aunque la “normativa existente calla sobre este aspecto”, recomienda “la prohibición del uso de la IA en relación con ejercicio de potestades discrecionales, incluidas, claro está, las planificadoras o reglamentarias” (PONCE SOLÉ, Juli, “Inteligencia artificial, Derecho administrativo y reserva de humanidad: algoritmos y procedimiento administrativo debido tecnológico”, en Revista General de Derecho Administrativo, N° 52, enero, 2019, España.
26 GARCÍA DE ENTERRÍA, Eduardo. y FERNÁNDEZ, Tomás R, Curso de Derecho Administrativo, vol. I, 11ªed., España, 2000, pág. 454 y ss.
27 Para el ámbito de la Justicia es exactamente lo mismo. Así podrá utilizarse en las causas de ejecuciones civiles y comerciales, donde solo se discute el título ejecutivo, como en reclamos de multas, tributos o impuestos, o inclusive en las causas de accidentes laborales. Pero hasta cierto punto, porque esa velocidad meteórica de la IA puede convertirse en peligrosa para los ciudadanos que ven vulnerados sus derechos por el Estado (causas sobre libertad de personas, delitos de lesa humanidad, entre otras) (RAFFAGHELLI, Luis, “Desafíos presentes y futuros del trabajo, tal como se presenta en la era actual”, elDial.com – DC2626).
28 GARCÍA DE ENTERRÍA, Eduardo y Fernández, Tomás Ramón, Curso de Derecho Administrativo, vol. I, 11ªed., España, 2000, pág. 454 y ss.
29 URÍOS APARISI –ALAMILLO DOMINGO, “Los límites a la utilización del sello del órgano por parte de las Administraciones Públicas en la Ley N° 11/2007”, Comunicación presentada a las Jornadas Tecnimap, celebradas en Gijón del 27 al 30 de noviembre de 2007, pág. 4, disponible en www.tecnimap.es.
30 DELGADO GARCÍA –OLIVER CUELLO, “Regulación de la informática decisional en la Administración electrónica tributaria”, Comunicación presentada en las Jornadas Tecnimap, celebradas en Sevilla del 30 de mayo al 2 de junio de 2006, pág. 7.
31 Para el autor, “No es difícil parametrizar en estos casos. Los méritos que reúne el aspirante a una plaza de funcionario público o la puntuación que debe obtener una oferta para la adjudicación de un contrato administrativo, aun cuando son susceptibles de valoración por el órgano llamado a concretarlos, tal valoración, técnicamente hablando, puede ser llevada a cabo por una máquina en uso de una aplicación informática debidamente configurada. En consecuencia, también cabría la automatización de la decisión en el ejercicio de una potestad administrativa discrecional cuando la libertad decisoria se concreta en criterios técnicos y no políticos” (MARTÍN DELGADO, Isaac, “Naturaleza, concepto y régimen jurídico de la actuación administrativa automatizada”, en Revista de la Administración Pública, N° 180, Madrid, septiembre–diciembre 2009, pág.370).
32 MARTINO, Antonio, “Sistemas expertos legales”, en Informática y Derecho, V.1, Depalma, Bs. As., 1987, pág. 136; PEREZ LUÑO, Antonio, “Sistemas expertos jurídicos: premisas para un balance”, en Informática y Derecho, V.5, Depalma, Bs. As., 1996, pág. 97.
33 En el ámbito judicial existen proyectos para aplicar inteligencia artificial a los efectos de automatizar algunas tareas jurídicas, que consiste en cargar resoluciones simples, para después ser buscadas y luego vinculadas en documentos legales pre–configurados, los que se firmaran digitalmente. Respecto el modelo utilizado por el Ministerio Público Fiscal de la Ciudad Autónoma de Buenos Aires, ver CEVASCO, Luis y CORVALÁN, Juan Gustavo, ¿Desempleo tecnológico? El impacto de la inteligencia artificial y la robótica en el trabajo, en Diario La Ley, 11–07–2018.
34 En una postura crítica, LACAVA entiende que, si bien la eliminación de la discrecionalidad “parece consustanciarse con los principios vectores del Estado constitucional, a poco que se aprecie, tales decisiones eliminan la posibilidad de flexibilizar o adaptar las decisiones a las circunstancias, por lo que el sistema impide ponderar los intereses los intereses en conflicto o evaluar el contexto. Píense en la hipótesis de acordar una determinada subvención, o la no admisión a un concurso público como resultado de la brecha digital, por ejemplo, porque determinado aspirante carece del sistema informático adecuado. O la imposición de una multa a quien no produjo la infracción de tránsito y no tuvo derecho a defenderse en modo previo a su aplicación” (LAVACA, Federico J., “Acto administrativo automático en el marco del Estado constitucional de derecho”, El Derecho Administrativo, 3 de diciembre de 2019, pág. 5).
35 GRANERO, Horacio R., La inteligencia artificial entiende el lenguaje “talcahuanensis” (Impacto de los lenguajes de procesamiento de lenguaje natural (NLP) en la recuperación de información legal)”, elDial.com – DC2991.
36 RAMIÓ MATAS, Carles, “inteligencia artificial, robótica y modelos de administración pública”, Revista del CLAD Reforma y Democracia, N° 72, oct. 2018, pág. 5 y ss., citando a CAMPOS, Concepción (2018), 5 Ejemplos de Inteligencia Artifical (IA) en la administración pública: ¿presente o futuro. Por el contrario, BARRAZA se han manifestado con una posición escéptica al respecto, entendiendo que la corrupción preexistente muchas veces es potenciada por la tecnología. Cito textual “En segundo término, se habla de que mediante la inteligencia artificial los miles de conflictos que se debaten en el fuero previsional o los procedimientos administrativos se solucionarán rápidamente. En realidad, de lo que se trata es de modificar un sistema corrupto, en el que los órganos administrativos no realizan adecuadamente la liquidación de haberes de un agente. ¿Cómo funciona el sistema? Si a un agente de 
a Administración Pública no se le practica adecuadamente esa reliquidación, eso debería dirimirse en el ámbito administrativo y no crear un sistema informático, para potenciar esa corrupción. Tal vez deberíamos pensar en un sistema para sancionar la omisión y la corrupción. ¿Cómo es posible que dos personas que despliegan la misma actividad deban percibir emolumentos distintos? ¿Para eso crearemos inteligencia artificial? ¿Para que una persona haga juicio? En fin, debemos avanzar hacia la inteligencia artificial, pero antes debemos analizar cada uno de los sistemas corruptos que existen, y no potenciarlos mediante la tecnología” (BARRAZA, Javier Indalecio, “Derechos humanos, nuevas tecnologías y los órganos de gobierno”, en Revista de Derecho Público. Derechos humanos y nuevas tecnologías–II, Rubinzal–Culzoni, Santa Fe, 2018, pág. 77 y ss., en part. pág. 86).
37 Ampliar en, PONCE, SOLÉ, Juli, “La prevención de riesgos de mala administración y corrupción, la inteligencia artificial y el derecho a una buena administración”, Revista internacional de transparencia e integridad, Número 6, enero–abril 2018.
38 PONCE SOLÉ, Juli, “Inteligencia artificial, Derecho administrativo y reserva de humanidad: algoritmos y procedimiento administrativo debido tecnológico”, en Revista General de Derecho Administrativo, N° 52, enero, 2019.
39 PONCE SOLÉ, Juli, “Inteligencia artificial, Derecho administrativo y reserva de humanidad: algoritmos y procedimiento administrativo debido tecnológico”, en Revista General de Derecho Administrativo, N° 52, enero, 2019. Aclara el autor citado que: “No debe, sin embargo, confundirse esa empatía con la simpatía, prohibida por los deberes de imparcialidad y el derecho a la igualdad. La empatía a la que nos referimos es diferente y forma parte de una característica que parece ser específicamente humana, vinculada con la capacidad de ponerse en el lugar del otro, entrar en resonancia con los sentimientos del otro (tanto alegría como sufrimiento), no sólo de forma cognitiva sino también emocional, para dar lugar a la compasión y al altruismo. Esa capacidad empática, está basada en parte en las neuronas espejo, pero no únicamente, pues implica aspectos emocionales y cognitivos y a numerosas áreas del cerebro”.
40 LUSKI, Gisela M., “Por qué todavía somos más inteligentes que la inteligencia artificial... y cómo seguir siéndolo”, El Derecho, T. 285.
41 MARTÍN DELGADO, Isaac, “Naturaleza, concepto y régimen jurídico de la actuación administrativa automatizada”, en Revista de la Administración Pública, N° 180, Madrid, septiembre–diciembre 2009, pág.366.
42 VALERO TORRIJOS, Julián, “Las garantías jurídicas de la inteligencia artificial en la actividad administrativa desde la perspectiva de la buena administración”, Revista Catalana de Dret Públic, N° 58, Año 2019, pág. 82 a 96. 
43 En este sentido, la efectividad de las garantías jurídicas pasa necesariamente por extender la transparencia y el derecho de acceso a la información pública lo más amplio posible, que incluya no solo el conocimiento del resultado de la aplicación o del sistema informativo sino, además y sobre todo en materia de inteligencia artificial, el origen de los datos empleados y la naturaleza y el alcance del tratamiento realizado.
44 CALDERON CARRERO, José Manuel, “Algoritmos de inteligencia artificial con fines de control fiscal: ¿puede el derecho embridar a las nuevas tecnologías?”, El Derecho Tributario, marzo, 2010.
45 MARTÍN DELGADO, Isaac, “Naturaleza, concepto y régimen jurídico de la actuación administrativa automatizada”, en Revista de la Administración Pública, N° 180, Madrid, septiembre–diciembre 2009, pág. 374.
46 MARTÍN DELGADO, Isaac, “Naturaleza, concepto y régimen jurídico de la actuación administrativa automatizada”, en Revista de la Administración Pública, N° 180, Madrid, septiembre–diciembre 2009, pág. 384.
47 MARTÍN DELGADO, Isaac, “Naturaleza, concepto y régimen jurídico de la actuación administrativa automatizada”, en Revista de la Administración Pública, N° 180, Madrid, septiembre–diciembre 2009, pág. 386.
48 FERNANDO PABLO, Marcos M. y TERRÓN SANTOS, Daniel, “Sobre la gobernanza de la inteligencia artificial”, en DEL GUAYO CASTIELLA, Iñigo, y FERNÁNDEZ CARBALLAL, Almudena, Los desafíos del derecho público en el siglo XXI. Libro conmemoratorio del XXV Aniversario del acceso a la Cátedra del Profesor Jaime Rodríguez–Arana Muñoz, INAP, Madrid, 2019, pág, pág. 384 y ss.
49 FROSINI, Vittorio, “Informática y Administración pública”, Revista de la Administración Pública, N° 105, septiembre– diciembre, 1984, Madrid, pág. 447 y ss., en part. pág. 453. Reflexionaba el autor citado que, habiendo pasado tantos años “de experiencia desde el principio de la transformación de la Administración pública tradicional (basada en el binomio hombre–papel) hasta la nueva fase de la Administración automatizada, en la que el ordenador sustituye (aunque parcialmente) ya sea el elemento humano, efectuando directamente los cálculos y las comparaciones exigidos por un acto administrativo, así como el elemento papel, ya que la memoria magnética sustituye los archivos y el medio de comunicación es el impulso eléctrico. Sin embargo, dado que se ha demostrado que el ordenador actúa siempre de modo mimético, o sea imitativo, y no creativo respecto a la inteligencia humana, se le ha definido simia hominis (V. FROSINI, Cibernética, diriito e societá, IV ed. Milán, 1978, págs. 104–105)”.
50 CORVALÁN, Juan Gustavo, “Hacia una Administración Pública 4.0: digital y basada en inteligencia artificial. Decreto de “Tramitación digital completa”, en Diario La Ley, 17–08–2018.
51 CORVALÁN, Juan Gustavo, “Hacia una Administración Pública 4.0: digital y basada en inteligencia artificial. Decreto de “Tramitación digital completa”, en Diario La Ley, 17–08–2018.
52 MASUCCI, Alfonso, “Formación y evolución del acto administrativo en Francia y Alemania”, en Revista de la Administración Pública, N° 184, enero–abril– 2011, Madrid, pág. 9 ss., en part. pág. 32
53 LACAVA, Federico J., “Decisiones administrativas automáticas y derechos”, ob. cit., pág. 231. 
54 Recordemos que por actuación administrativa automatizada entendemos al ejercicio, por parte de la Administración pública, de una potestad pública por medio de un sistema de información programado y no de una persona física (MARTÍN DELGADO, Isaac, “Naturaleza, concepto y régimen jurídico de la actuación administrativa automatizada”, ob. cit., pág. 367).
55 CORVALÁN, Juan Gustavo, “Hacia una Administración Pública 4.0: digital y basada en inteligencia artificial. Decreto de “Tramitación digital completa”, en Diario La Ley, 17–08–2018.
56 CORVALÁN, Juan Gustavo y SÁ ZEICHEN, Gustavo, “Justicia 4.0: el uso de inteligencia artificial para acercar la justicia a los ciudadanos”, Ediciones SAIJ, Id SAIJ: DACF190020.
57 GALETTA, Diana–Uriana, “Transparencia y buen gobierno. Evaluaciones y propuestas a partir de la experiencia en la Unión Europea e Italia”, ILEMATA, Revista Internacional de Eticas Aplicada, N° 27, pág. 131 y ss., en part. pág. 143, 
58 El artículo 12 de la Ley N° 39/2015 del Procedimiento Administrativo Común de las Administraciones Públicas: “Artículo 12. Asistencia en el uso de medios electrónicos a los interesados. 1. Las Administraciones Públicas deberán garantizar que los interesados pueden relacionarse con la Administración a través de medios electrónicos, para lo que pondrán a su disposición los canales de acceso que sean necesarios así como los sistemas y aplicaciones que en cada caso se determinen. 2. Las Administraciones Públicas asistirán en el uso de medios electrónicos a los interesados no incluidos en los apartados 2 y 3 del artículo 14 que así lo soliciten, especialmente en lo referente a la identificación y firma electrónica, presentación de solicitudes a través del registro electrónico general y obtención de copias auténticas. Asimismo, si alguno de estos interesados no dispone de los medios electrónicos necesarios, su identificación o firma electrónica en el procedimiento administrativo podrá ser válidamente realizada por un funcionario público mediante el uso del sistema de firma electrónica del que esté dotado para ello. En este caso, será necesario que el interesado que carezca de los medios electrónicos necesarios se identifique ante el funcionario y preste su consentimiento expreso para esta actuación, de lo que deberá quedar constancia para los casos de discrepancia o litigio. 3. La Administración General del Estado, las Comunidades Autónomas y las Entidades Locales mantendrán actualizado un registro, u otro sistema equivalente, donde constarán los funcionarios habilitados para la identificación o firma regulada en este artículo. Estos registros o sistemas deberán ser plenamente interoperables y estar interconectados con los de las restantes Administraciones Públicas, a los efectos de comprobar la validez de las citadas habilitaciones. En este registro o sistema equivalente, al menos, constarán los funcionarios que presten servicios en las oficinas de asistencia en materia de registros”.