jueves, abril 25, 2024

La inteligencia artificial en la administración pública: de la ficción a la realidad

Por Gregorio Montero

Si bien desde inicio de la década de 1940 se empezó a hablar de Inteligencia Artificial (IA), el término como tal se utilizó por primera vez en 1956; pero vemos cómo en los últimos veinte años los avances tecnológicos han dado un insospechado impulso a este fenómeno, referenciado sin duda en la inteligencia humana o natural. 

La inteligencia humana ha sido planteada y asumida como la posibilidad que tienen los seres humanos para su desarrollo cognitivo y la solución de nuevos problemas, a partir de su capacidad para analizar, sintetizar y generalizar; se caracteriza por el razonamiento lógico, la comprensión, el aprendizaje, el conocimiento, las emociones, la creatividad, el pensamiento crítico, la solución de problemas y otros.

De forma progresiva, la Inteligencia Artificial, que es parte de la cuarta revolución industrial y de las denominadas tecnologías exponenciales, procura imitar la función cognitiva de los humanos y se ha venido colocando en el centro de los debates que se producen en prácticamente todos los ámbitos de las actividades sociales, económicas, institucionales y académicas; se estudia en el contexto la tecnología de la información y comunicación, y de la innovación, y se asume conceptualmente como la utilización de datos y algoritmos, que permiten generar aprendizaje y comportamiento autónomo e inteligente, y desarrollar tareas propias de los humanos, que se derivan de la percepción, el razonamiento y la acción.

El desarrollo de la Inteligencia Artificial está determinado por soluciones e hitos tecnológicos sucesivos que son esenciales, como algoritmos, datos, decisiones automatizadas, asistentes de voz, sistemas de reconocimiento facial, entre otros. Se identifican en este sentido varios niveles evolutivos de la IA, tales como inteligencia artificial del internet (primer nivel), impulsado por las redes sociales digitales, en la que el uso de algoritmos permite conocer las preferencias humanas y hacer recomendaciones personalizadas; inteligencia artificial negocio (segundo nivel), en el que los sistemas utilizan las bases de datos sobre las personas que interactúan con ellas, generan patrones, predicen tendencias de consumo y de comportamiento y modelan futuras actuaciones. 

Inteligencia artificial percepción (tercer nivel), se encuentra en estado incipiente, se basa en la digitalización creciente del entorno físico, mediante la interacción con sensores, dispositivos inteligentes y neuro-tecnologías, aumenta la capacidad de procesamiento y permite el crecimiento exponencial de la percepción natural del mundo y de la actividad de los seres humanos, disminuyendo de forma progresiva la separación entre el mundo físico y el digital; inteligencia artificial autónoma (cuarto nivel), constituye el salto evolutivo máximo, aun no conocido, movería la IA a un estadio en el que robots y máquinas inteligentes tendrían autonomía respecto de los seres humanos, es decir, estaríamos en el momento de la singularidad de los sistemas, que les permitirá disponer de capacidades hasta ahora atribuibles a los seres humanos, como analizar, recordar, aprender, anticipar, percibir, decidir, crear, e incluso, sentir. 

Soy consciente de lo que deben estar pensando en este momento algunos lectores: eso es ciencia ficción; pero no, se trata de ciencia real, como real es que respiramos y vivimos en estos tiempos. 

Ante este escenario, en el que cada vez se colocan en el mercado nuevas soluciones de inteligencia artificial, que antes solo hacían parte de la ficción, el debate se profundiza en el seno de la Administración Pública, muchas inquietudes y aprehensiones se ponen de manifiesto; pero no hay duda en que el llamado imperioso a la implementación del gobierno digital coloca a las instituciones públicas en la necesidad improrrogable de asumir soluciones y herramientas tecnológicas de inteligencia artificial, el reto es que los funcionarios públicos así lo entiendan y aprendan a gestionar estas, y que el Estado formule las regulaciones que corresponden. 

A estas alturas no hay otra alternativa, solo queda prepararnos para aceptar que en las instituciones estatales deben convivir, o ya conviven, los humanos con los robots, compartiendo y realizando tareas y actividades administrativas.  

En el proceso de implementación de la IA en el sector público, en tanto realidad latente, se debe tener claridad en que los algoritmos tienen que contribuir, entre otras cosas, a mejorar los procesos administrativos y los servicios públicos, centrados en el bienestar de los ciudadanos, a tomar mejores decisiones, con base en datos y evidencia, a una mayor interoperabilidad de datos e información, a la transparencia y la lucha contra la corrupción, al diseño de políticas públicas más inclusivas, al involucramiento  de la ciudadanía en la solución de problemas públicos complejos, a elevar la confianza y legitimidad de las instituciones públicas. 

Para garantizar los objetivos enunciados, el desarrollo de la Inteligencia Artificial en la Administración Pública se debe fundamentar en principios como autonomía humana, que propugna que los algoritmos que se adopten garanticen que los usuarios mantengan el control sobre los datos que sean utilizados, manteniendo el mayor margen posible a la elección humana; transparencia, que plantea que los algoritmos y la IA deben basarse en la difusión de información y datos significativos, en que las personas puedan comprender los sistemas y en que sean auditables; rendición de cuentas, que postula que los involucrados en el diseño y uso de los algoritmos y sistemas de inteligencia artificial deben rendir cuentas por su adecuado funcionamiento y el respeto de los derechos humanos; responsabilidad, según el cual todos los involucrados deben responder por las daños que la implementación de soluciones de IA causen a los ciudadanos. 

Otros principios son seguridad y robustez técnica, que establecen que los sistemas deben ser seguros y estar protegidos y que no pueden ser manipulables por terceros no autorizados; fiabilidad, que procura garantizar que los sistemas sean fiables técnicamente, mediante la validación de los algoritmos; confianza, dirigido a garantizar que los algoritmos atiendan a la necesidad de promover confianza en la ciudadanía y demás actores; privacidad y protección de los datos personales, que establece la necesidad de garantizar que los sistemas algorítmicos no vulneren la privacidad de los datos de las personas, estableciendo protocolos para el acceso y uso de los mismos; calidad e integridad de los datos, reza que, dada la diversidad de fuentes de donde provienen los datos, deben instituirse mecanismos para que los procesos de selección, entrenamiento y uso de estos cumplan con requisitos normalizados de calidad, evitando la utilización de datos sesgados; centralidad de las personas, conforme al cual las soluciones tecnológicas deben colocar a la personas en el centro, desde las perspectivas de respetar sus derechos y de agregar valor público; sostenibilidad, que plantea que la IA en la Administración Pública debe alinearse con los Objetivos de Desarrollo Sostenible (ODS), con base en el bien común.

La Inteligencia Artificial en la Administración Pública enfrenta importantes y variados desafíos que deben ser tomados en cuenta, relacionados con discriminaciones por diversos motivos que pueden sesgar los datos que alimentas los sistemas; opacidad algorítmica en los servicios y decisiones públicas automatizadas; reemplazo de los humanos por las máquinas; transición de funciones y tareas hacia robots; convivencia entre máquinas y personas en entornos laborales; regulación de los algoritmos en todos los aspectos de las relaciones laborales; vulneración de derechos fundamentales;  las brechas digitales y los riesgos de exclusión social y económica; los dilemas éticos en ámbitos especialmente sensibles o con alto riesgo en el sector público; la desconfianza de la ciudadanía en su interacción con máquinas.

Es importante resaltar que el Centro Latinoamericano de Administración para el Desarrollo (CLAD), se encuentra en el proceso de elaboración, junto a los gobiernos que lo integran, de la Carta Iberoamericana de Inteligencia Artificial en la Administración Pública. También, el gobierno dominicano inició el proceso de discusión para la elaboración de la Estrategia Nacional de Inteligencia Artificial, en el marco del eje Gobernanza Efectiva, de la Política de Innovación 2030; dicha estrategia deberá estar aprobada en agosto del presente año.

La Inteligencia Artificial, implementada adecuadamente en la Administración Pública, debe y puede ser una herramienta al servicio de la precisión en la toma de decisiones, la eficiencia de las instituciones y la calidad de los servicios públicos. 

Gregorio Montero
Gregorio Montero
Es viceministro de Reforma y Modernización de la Administración Pública, miembro de la Comisión de Reforma Educativa de la Policía Nacional, catedrático universitario, y ex Secretario General del Centro Latinoamericano de Administración para el Desarrollo.

DEJA UNA RESPUESTA

Por favor ingrese su comentario!
Por favor ingrese su nombre aquí

spot_img

Las más leídas

spot_img

Articulos relacionados