Home Tags Posts tagged with "ética"

ética

La ética en la Inteligencia Artificial (IA)

Por David Mondragón Tapia

¿Inteligencia Artificial?

Cuando se habla de Inteligencia Artificial, lo primero que se debe entender es que se habla de inteligencia mostrada por las máquinas, de lo contrario se hablaría de inteligencia natural mostrada por los seres humanos y algunos otros seres vivos.

Antecedentes de la Inteligencia Artificial

En la primera mitad del siglo XVIII Augusta Ada Lovelace matemática y escritora inglesa, escribió acerca de las máquinas computadoras y desarrolló también el primer algoritmo con la intención de ser procesado por dichas máquinas.  Con este acontecimiento, se creó el primer programa de cómputo del cual se tiene registro, así como la idea o posibilidad de crear máquinas computadoras. Dos siglos más tarde, en la mitad del siglo XX (en 1950), Alan M. Turing matemático y científico de computadoras, también inglés, realiza un ejercicio llamado la Prueba de Turing (Turing Test), ejercicio con el que buscaba demostrar que las máquinas computadoras tenían un comportamiento inteligente, parecido a la inteligencia humana.

Es a raíz de los resultados obtenidos en esta prueba, que se habla por primera vez del concepto de “inteligencia artificial”, aunque de una manera tímida, debido a las fuertes críticas e implicaciones que tendría este hecho para la sociedad de su tiempo.  Más adelante y ya casi a finales del siglo XX (en 1997), la compañía de computadoras IBM construye una supercomputadora con la capacidad de jugar ajedrez, calculando hasta 200 millones de jugadas por segundo y venciendo por primera vez al campeón mundial vigente de ajedrez, el señor Gary Kaspárov.  Cabe mencionar que esta supercomputadora utilizó un algoritmo de inteligencia artificial llamado Minimax, un algoritmo recursivo utilizado para minimizar la pérdida máxima esperada en juegos contra un adversario e información perfecta.

Es a partir de esta última fecha, y particularmente iniciando el siglo XXI, que otras empresas privadas como lo son: Google, Amazon, Facebook y Microsoft, incursionan de lleno en el desarrollo de diferentes aplicaciones llamadas “débiles o estrechas” de la Inteligencia Artificial (narrow or weak Artificial Intelligence).  Entre algunos de los usos que se le han venido dando, a esta tecnología altamente disruptiva en la vida del ser humano, se encuentran los siguientes:

  • para soluciones de gestión documental con OCR,
  • en la investigación y desarrollo,
  • en la ingeniería,
  • en el entretenimiento (games),
  • en la salud (diagnóstico y cirugías) y el cuidado social,
  • en la mercadotecnia y las ventas,
  • en la manufactura,
  • en el manejo de inversiones bursátiles,
  • en la logística, y en otras áreas que se encuentran actualmente experimentando con esta tecnología revolucionaria.

No hay duda hasta ahora, de que los beneficios esperados por la Cuarta Revolución Industrial y todas las tecnologías digitales que esta conlleva, como lo es el uso de la Inteligencia Artificial, el Aprendizaje de Máquina o el Internet de las Cosas, serán de enorme trascendencia para la vida del ser humano, redefiniendo su rol en la vida política, económica, social y ambiental, así como adoptando nuevas tecnologías y adaptando el marco legal para asegurar la coexistencia entre el binomio “máquina-humano”. 

Sin embargo, tampoco hay duda de que el tiempo que tome este gran cambio en ser comprendido e integrado por la humanidad, será el mismo tiempo en que se estará expuesto a lagunas y riesgos aún de inimaginables proporciones para el ser humano.

La ética en el manejo de la Inteligencia Artificial

De acuerdo con la definición de la Enciclopedia Británica, la ética es una filosofía o disciplina relacionada con lo que moralmente es bueno o malo, correcto o incorrecto, positivo o negativo; la ética implica un sistema de valores y principios (ej. ideas, comportamientos y creencias), que inciden en la toma de decisiones.

En la época de la Cuarta Revolución Industrial, tiempo en que las organizaciones buscan adaptarse rápidamente a los cambios para poder seguir compitiendo o al menos para poder sobrevivir, con iniciativas como la Transformación Digital, surge ahora una pregunta que se alza con fuerza entre la sociedad.  Esta pregunta tiene que ver con el tema de la ética y las implicaciones que el progreso tecnológico y las tecnologías digitales están alcanzando en nuestros días.  Las organizaciones y el ser humano deben cuestionarse hoy, si al transformar digitalmente las actividades cotidianas de los individuos, está haciendo bien o mal, están en lo correcto o incorrecto, o si tendrá efectos positivos o negativos en la sociedad y en su entorno (económico y ambiental).

En el caso de la aplicación o uso de la Inteligencia Artificial, la pregunta es aún más importante, pues al combinarse esta tecnología con otros elementos tecnológicos como los Robots, para crear Robots con Inteligencia Artificial o bien para hacerse cargo de diversas actividades en diferentes ámbitos de la vida del ser humano, como por ejemplo: la seguridad nacional y los sistemas de armamento autónomo y letal (LAWS), las implicaciones de esto, aún no ha sido imaginado y mucho menos dimensionado.

Como respuesta a este riesgo inminente, se ha establecido una premisa simple en cuanto al uso de la Inteligencia Artificial y ésta nos dice, que todo Sistema de IA debe respetar la libertad de decisión del ser humano (principio de “agency) además de ser tecnológicamente confiable.

Así pues, para estudiar y establecer diferentes lineamientos en materia de ética en el uso de la Inteligencia Artificial, se han creado diversas iniciativas a nivel internacional que buscan regular pero sobretodo influir, sobre el uso benéfico que debe tener para el ser humano, esta tecnología.  Así, en el mundo podemos encontrar esfuerzos como:

  • Ethics Guidelines for Trustworthy AI, fundada por Unión Europea.
  • Future of Life Institute, fundada por los EUA.
  • International Standards en proceso de desarrollo en materia de Inteligencia Artificial, por el Comité ISO.
  • Entre otros esfuerzos.

¿Qué pasa si se ignora la ética en la aplicación de la Inteligencia Artificial?

La Unión Europea a través del Grupo Experto de Alto Nivel en Inteligencia Artificial de la Comisión Europea, ha establecido una serie de guías de ética en materia de Inteligencia Artificial, que buscan asegurar el uso confiable de esta tecnología mediante el manejo de dos componentes claves:

  1. Propósito ético: todos los sistemas de Inteligencia Artificial deben respetar los derechos fundamentales, la regulación aplicable, y los principios y valores del ser humano.
  • Robustez técnica: todos los sistemas de Inteligencia Artificial deben ser tecnológicamente confiables y ser construidos con base en conocimientos sólidos, aportados por expertos o maestros en la materia respectiva.

La definición de los dos componentes anteriores, busca eliminar la posibilidad de que un sistema de Inteligencia Artificial, esté basado en una mala intención, carezca de un diseño y operación tecnológicamente robusta y confiable, y por consecuencia pueda provocar daño no intencionado a la humanidad.

Algunas reflexiones finales sobre la Inteligencia Artificial

  • Definitivamente el campo de estudio para los usos de la Inteligencia Artificial son vastos y diversos, pero también lo es el campo de estudio para regular (ética) y legislar (leyes) al respecto.
  • En México, ya hemos iniciado con la aplicación de esta tecnología, sin contar aún con alguna entidad gubernamental o privada que encabece los esfuerzos por normar esta área.
  • La tecnología nos pone ante una gran oportunidad de ser más humanos y de aprovechar las ventajas del trabajo de las máquinas, en actividades que muy pronto serán de poco valor para el hombre, por su naturaleza.
  • Las personas deberemos aprender muy pronto –si no es que ya está pasando- nuevas competencias, para seguir desarrollando nuestra actividad económica cualquiera que esta sea.
  • Los sistemas económicos deberán cambiar y evolucionar muy pronto (¿capitalismo, socialismo, social-capitalismo?), para dar entrada al trabajo masivo de los Robots y la Inteligencia Artificial.
  • La era en que el ser humano podrá convivir y compartir con robotines y robotinas está muy cerca, pero también la era en la que el ser humano tendrá que aprender a juzgar mejor entre lo que es bueno o malo para la sociedad.
  • La ética es una disciplina tan antigua como la Grecia Clásica, pero tan vigente en nuestros días como la Inteligencia Artificial.

Consultas y referencias bibliográficas

  1. Wikipedia:
    1. Artificial Intelligence: https://en.wikipedia.org/wiki/Artificial_intelligence
    1. Augusta Ada Lovelace: https://en.wikipedia.org/wiki/Ada_Lovelace
    1. Alan Turing: https://en.wikipedia.org/wiki/Turing_test
    1. Deep Blue: https://es.wikipedia.org/wiki/Deep_Blue_(computadora)
  2. Enciclopedia Británica: https://www.britannica.com/topic/ethics-philosophy
  3. Comisión Europea: https://ec.europa.eu/futurium/en
David Mondragón
David Mondragón Tapia es Ingeniero Industrial y de Sistemas, con maestría en Ingeniería Industrial, por el Instituto Tecnológico de Monterrey. Es consultor y asesor de mejores prácticas tecnológicas y de gestión del servicio, así como de diferentes métodos y técnicas de planeación y gestión de negocio; cuenta con diversas certificaciones internacionales y trabaja en el campo de la consultoría desde el 2003 a la fecha. Recibe correspondencia al correo dmondragon@yahoo.com

Te invitamos a leer:

Con Mantenimiento Productivo

Para todo mal, mezcal; para todo bien, también… Entrevista con Berenice Acuña.

febrero 12, 2020 0 comment
0 Facebook Twitter Google + Pinterest