La necesidad de una ética para sistemas inteligentes no biológicos

por Uvencio Blanco Hernández
19/05/2023 – Reconocidos expertos han suscrito una comunicación en la cual se plantea la necesidad de hacer una pausa razonable en proyectos de IA debido a que se ha verificado que su desarrollo descontrolado, es un riesgo para nuestro planeta, la sociedad y la humanidad toda. Artículo por Dr. Uvencio Blanco, dedicado a este tema. | Foto: Nadja Wittmann (ChessBase)

ChessBase 17 - Mega package ChessBase 17 - Mega package

Ideas nuevas, análisis precisos, y entrenamiento a medida. ChessBase es la base de datos de ajedrez particular de referencia en todo el mundo. Aprenda, disfrute y mejore su juego. Cualquier ajedrecista con ambiciones, desde el Campeón del Mundo hasta los jugadores de club o los amigos ajedrecistas aficionados, trabajan con esta herramienta. - Paquete Mega.

Más...

Inteligencia artificial y ajedrez

En los últimos 70 años el ajedrez se ha convertido en un ambiente ideal para estudiar el desempeño de los expertos y la adquisición de habilidades. Por ejemplo, Sala y Gobet afirman que “de hecho, el estudio de la memoria y percepción de los ajedrecistas ha contribuido significativamente a nuestra comprensión de la experiencia en muchos otros campos, como la música y la programación de ordenadores”. También, en algunas conferencias hemos tratado sobre dos de las metáforas consideradas paradigmáticas en esta área de la investigación, al estar asociadas a las funciones cognitivas y las habilidades de la mente: la metáfora del computador y la metáfora del cerebro.

En la primera de ellas, el investigador intenta comprender a la mente humana como si la misma fuese un computador; el cual recibe, almacena, recupera y manipula información del medio ambiente. Mientras que, en la segunda, “su modelo es el funcionamiento de las neuronas, sus formas de activación e inhibición y sus redes de conexiones, donde la cognición se procesa en línea y en paralelo y la codificación no es sucesiva sino simultánea”.

En este mismo contexto hablamos de novedosas tecnologías que comenzaron a dominar el mercado a partir de 2017; entre ellas las diseñadas como “Plataformas para el aprendizaje de máquinas”. Se trata de una nueva disciplina -la tecnología del Aprendizaje Automático- nacida de la integración de tecnologías de la Inteligencia Artificial y las Ciencias de la Computación. Esta tecnología focaliza su atención en procesos de aprendizaje en máquinas inteligentes, o como preferimos llamar “sistemas inteligentes no biológicos”. Implica que, mediante programas altamente sofisticados, las computadoras pueden ser habilitadas para “aprender” inclusive, “enseñar” y “entrenar” a partir de su propia experiencia.

Muchas dudas, muchas preguntas

Se le atribuye al robotista italiano Gianmarco Vruggio, miembro del Consejo de Investigaciones de Roma y presidente de la Red Europea de Investigación de Robótica, la creación del término roboética en 2002. En pocas palabras, disciplina de la ética cuyo campo es la robótica.

Sin embargo, su aplicación puede dividirse en dos subáreas; la principal está en el “comportamiento de los seres humanos y cómo estos hacen el diseño, la construcción, el uso y el tratamiento de los robots y otros seres de inteligencia artificial” Mientras que la segunda, la ética de las máquinas, se ocupa del comportamiento moral de los robots a sí mismos, si son o no son agentes considerados artificiales morales (AMAs).

En un artículo titulado Roboética: leyes de la robótica y ética para robots (2021), podemos encontrar una afirmación relativa a la interacción entre máquinas inteligentes y humanos:

La construcción de una sociedad donde los algoritmos cada vez tienen más importancia y coexisten con los seres humanos, obliga a definir ciertos límites sobre cómo usamos la inteligencia artificial y en la manera en que ésta se relaciona con nosotros.

Así mismo, expresa algunas interrogantes que deben ser contestadas:

¿Los algoritmos de los motores de búsqueda siempre nos ofrecen los resultados más justos? ¿Aplican criterios de discriminación? Esa es la duda que pretende erradicar IBM. La empresa informática ha desarrollado un servicio para detectar posibles sesgos en la programación de la IA…. Si una inteligencia artificial no puede explicar cómo y con qué criterios elabora sus recomendaciones, no debería utilizarse. Sólo la IA razonada, transparente y justa sobrevivirá”, afirma Marta Fernández, directora de IBM en España, Portugal, Grecia e Israel. Somos las personas, y no la tecnología, las responsables únicas de construir un futuro ético.

Siendo así, ¿es razonable preocuparnos por la interacción o influencia negativa que, eventualmente, alguno de estos sistemas inteligentes pueda tener sobre sus usuarios, los niños y jóvenes?; en nuestro caso, ¿ajedrecistas de tempranas edades?

Dadas las circunstancias y hechos específicos que están siendo reportados por especialistas, nuestra respuesta es positiva. De hecho, remitámonos al Primer Acuerdo Mundial sobre la Ética de la Inteligencia Artificial el cual señala explícitamente los “profundos y dinámicos impactos positivos y negativos de la inteligencia artificial (IA) en las sociedades, los entornos, los ecosistemas y las vidas humanas, incluidos de la mente humana”.

Y es precisamente aquí donde está uno de los más importantes peligros con el uso inadecuado de esta tecnología. Eventualmente ocurre que un programa informático puede obtener datos no autorizados de sus usuarios, además de crear adicciones que bordean lo patológico, entre otros peligros no previstos. En este sentido Neuwirth, R. (2022), afirma que

El énfasis en los efectos sobre la mente humana es particularmente notable, ya que el uso de la IA no solo afecta el medio ambiente, sino también el pensamiento humano, la interacción y la toma de decisiones.

Evidentemente, siendo el ajedrez un juego cuyo escenario es la mente humana, es dominio susceptible de ser influenciado negativamente, por una o varias expresiones de la IA.

Algunas criaturas que aprenden ajedrez

Es de conocimiento general que el ajedrez ha inspirado el progreso de la inteligencia artificial durante décadas; avanzado más allá del juego, cambiando la forma en que conviven las máquinas y los humanos. El progreso de la inteligencia artificial, destacando en la producción de los juegos estratégicos, ha afectado a muchas otras áreas de interés, como ya se ha visto en los últimos años (Blanco, 2022).

Del creciente conjunto de empresas y laboratorios que en los últimos años han estado trabajando activamente sobre este interesante aspecto, está DeepMind; un laboratorio de investigación de Google ubicado en el Reino Unido.

DeepMind es el creador en 2017 de Alpha-Zero, un algoritmo que juega al ajedrez partiendo de las leyes y reglas básicas de juego y de la experiencia que va adquiriendo partido a partido. El aprendizaje del programa AlphaZero del juego de ajedrez en cuatro (4) horas con sólo las reglas del juego fue notable.

Con esta novedad tecnológica, de inmediato Alpha-Zero, se convirtió en el más reciente y poderoso foco de atención de los ajedrecistas de todo el mundo; un nuevo monstruo había nacido. Este artefacto es uno de los más caros sueños de una inteligencia en el ajedrez que, además de imbatible por humanos, aprende de la experiencia propia.

Este aporte aceleró una carrera en la búsqueda de programas más poderosos. De hecho, en 2019 DeepMind lanzó el último algoritmo basado en el aprendizaje por refuerzo: MuZero. MuZero aprendió a jugar al ajedrez mejor que AlphaZero sin siquiera recibir inicialmente las reglas del juego; inclusive llegó a vencerle contundentemente.

Debido a la relevancia y actualidad de este tema, señalamos que, en el dominio del ajedrez, la Inteligencia Artificial había aportado valores significativos como Alpha-Zero; ente habilitado para aprender a partir de normas básicas y de su propia experiencia.

Esto es, entra en acción una máquina que presenta “inteligencia humana” que además aprende de forma cíclica. Y, finalmente que, en la investigación cognitiva asociada al ajedrez, la comunidad científica deberá velar porque tanto la bioética en psicología cognitiva, como la ética de los programadores, la roboética de los diseñadores de la Inteligencia Artificial y la ética de las máquinas, garanticen la seguridad y la dignidad del ajedrecista que utiliza sus aplicaciones.

Blanco (2022) publicó un artículo titulado “Impacto de la Inteligencia Artificial sobre el ajedrez”. En el mismo hace una breve síntesis del progreso de la inteligencia artificial en el ajedrez:

  • 20 años después del experimento Deep Blue - Kasparov, se produjeron avances significativos en los campos relacionados con la inteligencia artificial cuando AlphaZero ganó una partida de ajedrez en 2017 contra Stockfish, uno de los motores de ajedrez más potentes jamás creados, tras un proceso de autoaprendizaje de sólo 4 horas.
  • El algoritmo de AlphaZero no utilizó la fuerza bruta de la potencia de cálculo sino el aprendizaje por refuerzo. Aprendió a optimizar las decisiones en cualquier escenario sin cambios ni orientación, lo que supuso un verdadero avance.
  • El algoritmo de aprendizaje MuZero tiene un máximo de 1 millón de partidas de ajedrez guardadas en el búfer, con 3.000 partidas jugadas en paralelo.
  • Para que esto fuera posible, DeepMind tuvo acceso a la vasta infraestructura en la nube de Google y utilizó miles de chips de unidades de procesamiento tensorial diseñados específicamente para los cálculos de redes neuronales.

El nuevo algoritmo MuZero, que consigue jugar al ajedrez al mismo nivel que AlphaZero sin recibir estas reglas, es aún más espectacular.

  • Motores de código abierto como Leela Chess Zero, consiguieron alcanzar el nivel de MuZero e incluso superarlo.

Conclusiones

  • Deben establecerse límites respecto a cómo usamos la IA y en la manera en que ésta se relaciona con nosotros.
  • Es necesaria una pausa razonable en proyectos de IA debido a que se ha podido verificar que su desarrollo descontrolado es un riesgo para nuestro planeta, la sociedad y la humanidad toda.
  • Ante las extraordinarias oportunidades de crecimiento que nos ofrecen las innumerables aplicaciones de Inteligencia Artificial, debemos ser prudentes y no facilitar o permitir su acceso al control de aquellos procedimientos y operaciones para las cuales fueron creadas.

Eso no quita que más vale afrontar las partidas con una buena preparación: 

Opening Encyclopaedia 2023

The new ChessBase Opening Encyclopaedia 2023 - More content. More ideas.

Más...


Fuentes y enlaces


Uvencio Blanco Hernández, Venezuela. Comisión Ajedrez y Educación FIDE. Escritor, Investigador, Conferencista, Árbitro Internacional, Organizador Internacional, Entrenador, Profesor de Ajedrez ECU y Lead School Instructor FIDE.