¿Quién es el responsable? (Dignidad de la persona humana)

Cuando pensamos en las consecuencias de la inteligencia artificial pensamos en HAL 9000, en Skynet, en V.I.K.I. Máquinas que se vuelven malas y deciden acabar con la humanidad. Esa idea es cómoda. Mientras el peligro sea una máquina que se rebela por sí sola, nadie tiene que responder por nada: la culpa es del robot.

Hoy, las máquinas no pueden terminar con la humanidad, y lo que sí ocurre es más incómodo. Ninguna se rebeló. Todas están haciendo exactamente lo que alguien les pidió: decidir quién es el mejor candidato para un puesto, quién es buen cliente y accede a un crédito, quién es sospechoso. La pregunta entonces es otra. ¿Quién responde cuando esa decisión está mal?

¿Qué es la dignidad?

La dignidad de la persona humana es el valor que tiene por el simple hecho de existir. En su nivel más profundo, el ontológico, le pertenece a todo ser humano y es incondicional. No se gana ni necesita demostrarse. No depende del rol que ocupa, de sus acciones ni de lo que posee. Ninguna circunstancia puede negarla o quitarla. La persona vale más que las cosas y no puede reducirse a un recurso ni a un medio para obtener resultados.

Hay otros tipos de dignidad. La moral es la forma en que cada quien orienta sus decisiones y sus actos. La social tiene que ver con sus condiciones de vida y con el respeto que la sociedad le reconoce. La existencial es cómo una persona percibe su propio valor y el sentido de su existencia.

De ahí sale la advertencia que León XIV escribió en mayo pasado, en Magnifica Humanitas, la primera encíclica dedicada a la inteligencia artificial. Llama insidiosa a una ideología: la que sugiere que cada persona deba ganarse o justificar su propio valor, y que atribuye más valía a quien es más eficiente y más productivo. Nadie tiene que ganarse el derecho a ser tratado como persona.

La IA no es neutra

La IA no es neutra porque alguien decidió qué mide y qué ignora. El checador registra que llegaste tarde tres veces, pero no puede concluir que eres flojo. El sistema del call center mide la duración de la llamada, no si quien contestó sacó de dudas al comprador. El examen mide el resultado, no al que se quedó dos horas más estudiando. En los tres casos se califica a la persona por su rendimiento y lo que no cabe en la casilla desaparece.

La IA no es neutra porque reduce a la persona a un conjunto de datos. Y esos sistemas, como decía el papa Francisco, no conocen la compasión, la misericordia, el perdón ni la apertura a la esperanza de cambio en el individuo.

La IA no es neutra porque te calcula a partir de lo que fuiste. Si te atrasaste en un pago hace cinco años y desde entonces cambiaste, para el modelo sigues siendo el que se atrasó. Para un algoritmo el error es algo que hay que corregir; para una persona puede ser el inicio de un cambio profundo. El futuro de alguien no es calculable.

Lo que sí se puede exigir

Nada de esto obliga a renunciar a la tecnología, y la encíclica tampoco lo pide. Lo que pide es que las decisiones que afectan la vida de alguien —un empleo, un crédito, un servicio, su reputación— nunca se confíen por completo a un sistema automatizado.

Tres cosas tienen que quedar escritas antes de instalar cualquiera de estos sistemas.

Ø Que se pueda entender. La persona afectada tiene derecho a saber, en lenguaje sencillo, con qué criterios se decidió sobre ella. No el código: los criterios.

Ø Que se pueda discutir. Debe existir una vía de apelación real, y del otro lado una persona con autoridad para revisar y revertir.

Ø Que alguien firme. Un nombre y un cargo que responda por la decisión y repare el daño cuando esté mal.

Si eso no está escrito antes, no existe después. Y no es una lista para el legislador. La mayoría de nosotros no vamos a redactar una ley de inteligencia artificial, pero muchos sí decidimos si un sistema entra a nuestra empresa, a nuestra escuela, a nuestra oficina de gobierno. Esa decisión también se firma.

Skynet no llegó

Hoy, las máquinas no pueden acabar con la humanidad. Pero pueden decidir que alguien no entra, y hacerlo sin que nadie cargue con la decisión. Eso es lo que cambia todo. Cuando un jefe te dice que no, puedes discutirle. Cuando un sistema te descarta no hubo un no: hubo silencio. El descarte queda revestido de una neutralidad ante la cual es imposible protestar.

Llegó algo más aburrido que Skynet y mucho más difícil de discutir: sistemas correctos, eficientes, que deciden sobre personas sin que nadie responda por ellas. La medida es vieja y no ha cambiado: ¿esta tecnología hace la vida del hombre más humana? ¿Más digna del hombre?

* Segunda entrega de cuatro.