Perfilan diputados cambios a la Ley de Humanidades para crear Estrategia para el uso ético de la IA

La Cámara de Diputados perfila una reforma la Ley General en materia de Humanidades, Ciencias, Tecnologías e Innovación, para incluir la obligación de las autoridades para crear y publicar una “Estrategia Nacional para el Uso Adecuado y Ético de la Inteligencia Artificial”.

La iniciativa impulsada por la diputada Karina Rojo Pimentel, aprobada el miércoles pasado en la Comisión de Ciencia, Tecnología e Innovación de San Lázaro, propone modificaciones a la ley para que los tres órdenes de gobierno, la academia y la sociedad civil puedan participar en la articulación de una estrategia que regule el uso de la IA.

Según el documento, la inteligencia artificial es el “sistema basado en máquinas, diseñado para funcionar con diferentes niveles de autonomía que, para un conjunto de objetivos explícitos o implícitos definidos por personas, procesa datos de entrada y genera información de salida, como predicciones, recomendaciones, contenidos o decisiones, que pueden influenciar o interactuar con entornos reales o virtuales”.

De acuerdo con la propuesta de la legisladora petista, la Secretaría de Ciencia, Humanidades, Tecnología e Innovación será la institución encargada de articular y publicar dicha estrategia, la cual deberá estar apegada al Plan Nacional de Desarrollo y debe establecer los principios y valores que que regirán las políticas públicas en materia de inteligencia artificial.

Para crear la Estrategia Nacional para el Uso y Desarrollo Ético de la Inteligencia Artificial, detalla el dictamen, la Secretaría de Ciencia, Humanidades, Tecnología e Innovación utilizará mecanismos de coordinación interinstitucional con todos los actores interesados en participar; y previo a la publicación de dicha estrategia, el anteproyecto deberá someterse a consulta pública.

La propuesta agrega que la estrategia deberá articularse a partir de criterios de accesibilidad, inclusión, no discriminación, paridad, datos abiertos y transparencia proactiva de insumos y resultados.

Además, la estrategia deberá contar con elementos como principios éticos para el diseño, desarrollo y aplicación de sistemas de inteligencia artificial; mecanismos de evaluación y mitigación de riesgos asociados al uso y desarrollo de inteligencia artificial; criterios de supervisión y auditoría que garanticen la transparencia y explicabilidad de los sistemas de inteligencia artificial.

También mecanismos para fomentar la investigación y desarrollo de tecnologías orientadas al bienestar social; mecanismos para impulsar el uso de la IA en la reducción de desigualdades y el desarrollo sostenible; criterios objetivos de responsabilidad para desarrolladores y usuarios de sistemas de inteligencia artificial frente a daños y perjuicios a terceros; entre otros aspectos que la Secihti considere pertinentes.

Los diputados y diputadas de la Comisión de Ciencia, Tecnología e Innovación que analizaron la iniciativa coincidieron en la importancia de tomar como referencia los Principios de Chapultepec, a partir de los cuales la Secihti y la Agencia de Transformación Digital y Telecomunicaciones presentaron en enero pasado la “Declaración de ética y buenas prácticas para el uso y desarrollo de la Inteligencia Artificial”.

Dicha declaración surgió debido a que la inteligencia artificial es catalogada como uno de los desarrollos científicos y tecnológicos más relevantes de nuestra época por lo que su uso puede “contribuir de manera decisiva al bienestar social, a la reducción de desigualdades y a la construcción de un país más justo, equitativo y sustentable”.

Pero también, “como cualquier herramienta poderosa, puede tener efectos deletereos, reproducir o profundizar desigualdades, generar nuevas formas de discriminación y afectar derechos fundamentales si se desarrolla o utiliza sin criterios éticos claros”, advirtieron la Secihti y la ATDT.

Por ello, los principios de Chapultepec apuestan por servir como una guía ética para orientar políticas públicas en donde el uso y desarrollo de la inteligencia artificial “avance de manera coherente con la dignidad humana, la justicia social y el bien común”.

El decálogo de Principios de Chapultepec incluye que la IA debe ampliar los derechos de las personas, nunca reducirlos; que toda decisión apoyada por inteligencia artificial debe tener responsables humano; que si una decisión no puede explicarse, no debe automatizarse; que la inteligencia artificial se gobierna mejor cuando se decide en colectivo; que la IA solo es valiosa si genera bienestar para todas las personas.

También que antes de automatizar, hay que comprender a quién y a qué afecta; que la tecnología estratégica debe responder a las necesidades del país; que el desarrollo de la inteligencia artificial requiere fortalecer la educación y el conocimiento en el país; que la inteligencia artificial no puede ser ajena a la diversidad cultural y lingüística del país; y que los datos son un bien público que debe cuidarse con responsabilidad.