El Papa Francisco sobre la Inteligencia Artificial (IA) y las nuevas tecnologías

La semana pasada el Papa Francisco participó en la reunión de líderes mundiales del Grupo de los Siete (G7). El G7 congrega a las más grandes e importantes economías del mundo, excluyendo a China y Rusia. Su presentación versó sobre los retos de la IA para el mundo. No es la primera vez que comenta el tema, pero ahora fue de manera integrada.

Las alusiones del Papa sobre la IA han sido diversas, destacando lo señalado en Laudato Si, sobre el cuidado de la casa común (2015) y en Fratelli Tutti, sobre la fraternidad y la amistad social (2020. Ahora se agregan nuevos elementos e integran en esta presentación al G7.

Ya en Laudato Si nos planteó que para el surgimiento de nuevos modelos de progreso necesitamos cambiar el modelo de desarrollo global, lo cual implica reflexionar responsablemente sobre el sentido de la economía y su finalidad, para corregir sus disfunciones y distorsiones. Asimismo, anotó que un desarrollo tecnológico y económico que no deja un mundo mejor y una calidad de vida integralmente superior no puede considerarse progreso.

Origen IA

Según el Papa Francisco Dios ha dado a los hombres su espíritu para que tengan habilidad, talento y experiencia en la ejecución de toda clase de trabajos. La ciencia y la tecnología son, por lo tanto, producto extraordinario del potencial creativo que poseen los seres humanos. Ahora bien, la IA se origina precisamente a partir del uso de este potencial creativo que Dios nos ha dado.

La IA es un instrumento extremadamente poderoso, que se emplea en numerosas áreas de la actividad humana: de la medicina al mundo laboral, de la cultura al ámbito de la comunicación, de la educación a la política. Y es lícito suponer, entonces, que su uso influirá cada vez más en nuestro modo de vivir, en nuestras relaciones sociales y en el futuro, incluso en la manera en que concebimos nuestra identidad como seres humanos.

Ambivalencia

El Papa Francisco señala que el tema de la IA a menudo es percibido de modo ambivalente: por una parte, entusiasma por las posibilidades que ofrece; por otra, provoca temor ante las consecuencias que podrían llegar a producirse. Al respecto, no se puede dudar de que la llegada de la IA representa una auténtica revolución cognitiva-industrial, que contribuirá a la creación de un nuevo sistema social caracterizado por complejas transformaciones de época.

Por ejemplo, la IA podría permitir una democratización del acceso al saber, el progreso exponencial de la investigación científica, la posibilidad de delegar a las máquinas los trabajos desgastantes; pero, al mismo tiempo, podría traer consigo una mayor inequidad entre naciones avanzadas y naciones en vías de desarrollo, entre clases sociales dominantes y clases sociales oprimidas, poniendo así en peligro la posibilidad de una cultura del encuentro y favoreciendo una cultura del descarte.

Instrumento

El Papa Francisco anota que la IA es un instrumento fascinante y tremendo al mismo tiempo, y exige una reflexión a la altura de la situación. En esa dirección se podría partir de la constatación de que la IA es sobre todo un instrumento. Y resulta espontáneo afirmar que los beneficios o los daños que esta conlleve dependerán de su uso.

La capacidad de construir herramientas, en una cantidad y complejidad que no tiene igual entre los seres vivos, nos habla de una condición tecno-humana. El ser humano siempre ha mantenido una relación con el ambiente mediada por los instrumentos que iba produciendo. No es posible separar la historia del hombre y de la civilización de la historia de esos instrumentos.

Peligros

Sin embargo, afirma el Papa Francisco, el uso de nuestras herramientas no siempre está dirigido unívocamente al bien. Aun cuando el ser humano siente dentro de sí una vocación al más allá y al conocimiento vivido como instrumento de bien al servicio de los hermanos y hermanas, y de la casa común, esto no siempre sucede.

Es más, no pocas veces, precisamente gracias a su libertad radical, la humanidad ha pervertido los fines de su propio ser, transformándose en enemiga de sí misma y del planeta. La misma suerte pueden correr los instrumentos tecnológicos. Solamente si se garantiza su vocación al servicio de lo humano revelarán no sólo la grandeza y la dignidad única del ser humano, sino también el mandato que este último ha recibido de cultivar y cuidar el planeta y todos sus habitantes.

Complejidad

La IA es una herramienta compleja y sui generis señala el Papa Francisco. Así, mientras que el uso de una herramienta simple —como un cuchillo—está bajo el control del ser humano que lo utiliza y su buen uso depende sólo de él, la IA puede adaptarse de forma autónoma a la tarea que se le asigne y, si se diseña de esa manera, podría tomar decisiones independientemente del ser humano para alcanzar el objetivo fijado.

Lo que hace la máquina, señala el Papa, es una elección técnica entre varias posibilidades y se basa en criterios bien definidos o en inferencias estadísticas. El ser humano, en cambio, no sólo elige, sino que en su corazón es capaz de decidir. La decisión es un elemento que podríamos definir el más estratégico de una elección y requiere una evaluación práctica.

A veces, frecuentemente en la difícil tarea de gobernar, también estamos llamados a decidir con consecuencias para muchas personas. Frente a los prodigios de las máquinas, que parecen saber elegir de manera independiente, debemos tener bien claro que al ser humano le corresponde siempre la decisión, incluso con los tonos dramáticos y urgentes con que a veces ésta se presenta en nuestra vida.

Luego continúa señalando que condenaríamos a la humanidad a un futuro sin esperanza si quitáramos a las personas la capacidad de decidir por sí mismas y por sus vidas, condenándolas a depender de las elecciones de las máquinas. Se necesita garantizar y proteger un espacio de control significativo del ser humano sobre el proceso de elección utilizado por los programas de IA. Está en juego la misma dignidad humana.

Por otra parte, es urgente replantearse el desarrollo y la utilización de dispositivos como las llamadas armas autónomas letales para prohibir su uso, empezando por un compromiso efectivo y concreto para introducir un control humano cada vez mayor y significativo. Ninguna máquina debería elegir jamás poner fin a la vida de un ser humano.

Mecanismo básico

La IA es una herramienta diseñada para resolver un problema y funciona mediante un encadenamiento lógico de operaciones algebraicas, realizado en base a categorías de datos, que se comparan para descubrir correlaciones y mejorar su valor estadístico mediante un proceso de autoaprendizaje basado en la búsqueda de datos adicionales y la automodificación de sus procedimientos de cálculo.

Nunca se debe olvidar, señala el Papa Francisco, que la IA no es otro ser humano y que no puede proponer principios generales. La calidad de las respuestas que los programas de IA pueden dar, sean más o menos sofisticadas, depende en última instancia de los datos que manejan y de cómo estos se estructuran.

IA generativa

Respecto de la llamada IA generativa, anota el Papa Francisco, se olvida que en sentido estricto no es propiamente generativa. En realidad, lo que esta hace es buscar información de la Big data y confeccionarla en el estilo que se le ha pedido. No desarrolla conceptos o análisis nuevos. Repite lo que encuentra, dándole una forma atractiva.

Y cuanto más repetida encuentra una noción o una hipótesis, más la considera legítima y válida. Más que generativa, se la podría llamar reforzadora, en el sentido de que reordena los contenidos existentes, contribuyendo a consolidarlos, muchas veces sin controlar si tienen errores o prejuicios.

Así no sólo se corre el riesgo de legitimar la difusión de noticias falsas y robustecer la ventaja de una cultura dominante, sino de minar también el proceso educativo en ciernes. La educación, que debería dar a los estudiantes la posibilidad de una reflexión auténtica, corre el riesgo de reducirse a una repetición de nociones, que se considerarán cada vez más incontestables, simplemente a causa de ser continuamente presentadas.

Algorética

Según el Papa Francisco pareciera que se está perdiendo el valor y el profundo significado de la categoría de persona humana. Para que estos instrumentos sean para la construcción del bien y de un futuro mejor, deben estar siempre ordenados al bien de todo ser humano. Deben contener una inspiración ética.

La decisión ética, de hecho, es aquella que tiene en cuenta no sólo los resultados de una acción, sino también los valores en juego y los deberes que se derivan de esos valores. A esa forma de moderación ética de los algoritmos y de los programas de IA él la ha llamado algorética. El término condensa una serie de principios que se revelan como una plataforma global y plural capaz de encontrar el apoyo de las culturas, las religiones, las organizaciones internacionales y las grandes empresas protagonistas de este desarrollo.

Políticas necesarias

No podemos, según el Papa Francisco, ocultar el riesgo concreto, de que la IA limite la visión del mundo a realidades que pueden expresarse en números y encerradas en categorías preestablecidas, eliminando la aportación de otras formas de verdad e imponiendo modelos antropológicos, socioeconómicos y culturales uniformes.

La IA corre el riesgo de dar paso a un paradigma mucho más peligroso, que ya ha identificado con el nombre de paradigma tecnocrático. No se puede permitir que una herramienta tan poderosa e indispensable como IA refuerce tal paradigma.

Frente a todos estos retos la respuesta debe ser la buena política. Esta que, ante tantas formas mezquinas e inmediatistas de política, la grandeza política se muestra cuando, en momentos difíciles, se obra por grandes principios y pensando en el bien común a largo plazo.

Colofón

El Papa Francisco termina señalando la importancia de la sana política para mirar con esperanza y confianza nuestro futuro a propósito de la IA. La sociedad mundial tiene serias fallas estructurales que no se resuelven con parches o soluciones rápidas meramente ocasionales.

Hay cosas que deben ser cambiadas con replanteos de fondo y transformaciones importantes. Corresponde a cada uno hacer un buen uso de la IA, y corresponde a la política crear las condiciones para que ese buen uso sea posible y fructífero.