Centauros y cyborgs: la ética de la IA generativa vista desde los Andes
Mientras la política boliviana a veces camina como los cangrejos, hacia atrás y despistando, la innovación tecnológica avanza a saltos, como los canguros, llevando dentro sus criaturas. En ambos terrenos se plantean dilemas éticos complejos, pero en el uso de la inteligencia artificial (IA) cada día aparecen circunstancias nuevas, sobre las que hay poca experiencia.
Así lo plantea este análisis, que busca tender puentes entre la sabiduría ancestral y los desafíos tecnológicos del presente. Porque la IA no es como una máquina que necesita de la intervención humana para cambiar. Más bien es como un ser vivo que evoluciona a la vez que es utilizado. Como un animal al que se le enseña, mientras aprende de sus experiencias. Y, como los animales domesticados, no siempre responde a lo esperado; puede dar sorpresas.
¿Qué dice la encíclica sobre la IA?
No en balde, León XIV en su encíclica Espléndida Humanitas define la construcción de la IA como un cultivo. No todo lo que se desarrolla dentro del algoritmo está conscientemente planificado por el ser humano que lo construye. La IA es parte de lo que los programadores iniciales hacen, pero sobre ello se añaden características que dependen de las experiencias a las que se ve sometido el algoritmo.
Dos modelos de trabajo con la IA: centauro y cyborg
A la vista de ello, se están desarrollando dos modelos de trabajo con la IA. Para transmitirlos, nada mejor que una parábola. Las dos formas se pueden definir como la del centauro y la del cyborg.
El modelo centauro: la persona domina
En la forma centauro, el ser humano y la IA tienen funciones separadas y complementarias. Como el animal mitológico, la parte animal (el caballo) obedece a la humana. En este modelo, la persona domina las decisiones; la IA actúa bajo su criterio.
La persona se reserva cuatro funciones básicas que no delega en los algoritmos: liderar o dirigir; juzgar; crear (en el sentido más genuino y original de esa palabra); y empatizar. Por otra parte, el algoritmo ejercerá funciones propias de: predecir en base a datos; iterar; tramitar; y adaptar las decisiones mecánicas en función de esos datos.
Las personas trabajarán con los algoritmos para entrenarlos, explicar su utilidad y arreglarlos cuando lo necesiten o, incluso, desconectarlos si se estropean (sesgan) demasiado. Los algoritmos permitirán a las personas ampliar su capacidad de análisis, de comunicación e, incluso, aumentar sus habilidades físicas.
El modelo cyborg: la fusión de inteligencias
En la forma cyborg, típica de la IA generativa, la persona trabajará directamente con el algoritmo de manera iterativa. La combinación de las potencialidades de la persona y el algoritmo multiplicarán la capacidad de razonamiento humano. Eso supone aprender una nueva forma de trabajar. La memoria de la persona tendrá menos importancia que hasta ahora. La clave de la inteligencia será formular bien las preguntas. Mientras que la información y los datos, la memoria, los aportará la IA.
¿Cuáles son los peligros éticos de la IA generativa?
En el modelo centauro, el conflicto ético está más o menos resuelto porque la persona se reserva las decisiones, mientras la IA actúa de instrumento. En el modelo cyborg, la confusión puede dar lugar a conflictos éticos mayores. ¿Dónde está el límite de la decisión?
¿Deben los cálculos probabilísticos, típicos de la IA generativa, dirigir las decisiones? Eso es definir la ética como los utilitaristas del siglo XIX: el criterio decisivo sería considerar el mayor bien para el mayor número de personas, sin tener en cuenta los efectos colaterales. Ese es el peligro.
Porque si se parte de la dignidad intrínseca de la persona, el dilema ético está en defenderla en cualquier caso y para cada persona. De manera que la corrupción que hemos vivido en la política se puede quedar pequeña en el uso de la IA, sobre todo de la IA generativa. Será una corrupción conceptual y, por tanto, aceptada. Ese será su mayor peligro.
Preguntas frecuentes sobre la ética de la IA
¿Qué diferencia hay entre el modelo centauro y el cyborg?
En el modelo centauro, la persona mantiene el control de las decisiones clave (liderar, juzgar, crear, empatizar) y la IA actúa como herramienta. En el modelo cyborg, la persona y la IA trabajan fusionadas de forma iterativa, difuminando los límites de la decisión.
¿Por qué la IA generativa puede ser más peligrosa que la corrupción política?
Porque la corrupción conceptual que puede generar la IA generativa se acepta como normal, al basarse en cálculos probabilísticos que priorizan el bien de la mayoría sin considerar los efectos colaterales sobre cada persona.
¿Qué dice la encíclica Espléndida Humanitas sobre la IA?
León XIV define la construcción de la IA como un cultivo, reconociendo que no todo lo que surge del algoritmo está planificado por el ser humano, sino que también depende de las experiencias a las que se somete.