Un análisis sobre cómo la programación de sistemas de IA enfrenta dilemas éticos complejos, como el clásico problema del tranvía, y la forma en que la delegación tecnológica puede alterar nuestra percepción de la responsabilidad.
Imaginá que tenés que salvar a una sola persona de una muerte segura: tu madre, que trabaja como empleada doméstica, o un científico a punto de descubrir la cura del cáncer. La mayoría elegiría a su madre, según evidencia experimental. No se trata de un error de cálculo, sino de una restricción que opera antes del razonamiento lógico: nuestras lealtades e identidades suelen pesar más que un análisis utilitarista puro.
Este tipo de dilemas éticos aparece con frecuencia en el desarrollo de aplicaciones de Inteligencia Artificial (IA). Desde hospitales que asignan recursos críticos hasta algoritmos de contratación laboral o la programación de vehículos autónomos para escenarios de colisión, los sistemas deben tomar decisiones basadas en reglas. Al traducir elecciones humanas a código computable, los diseñadores suelen dejar fuera elementos como los vínculos emocionales o las prohibiciones identitarias, que en las personas actúan antes del cálculo frío.
El resultado es una versión formalizada y despersonalizada de la decisión, que se acerca más a lo que *decimos* que debería hacerse que a lo que realmente *haríamos* en una situación concreta. El desafío del «alineamiento» de la IA, entonces, no sería solo hacer que la máquina haga lo que queremos, sino decidir qué estamos dispuestos a elegir cuando omitimos —a menudo por no saber cómo formalizarlas— las restricciones que organizan nuestra moral.
La tensión clave reside en la delegación: la diferencia entre lo que hacemos directamente y lo que autorizamos a un sistema automatizado a hacer en nuestro nombre. Un programador que escribe código para resolver un dilema utilitarista sabe qué resultados producirá el sistema. La responsabilidad, sin embargo, se diluye con la distancia que introduce el rol y las capas tecnológicas.
La psicología moral ha documentado por décadas cómo el peso ético de una decisión cambia según la proximidad a sus consecuencias. En el célebre «problema del tranvía», la elección se vuelve más utilitaria y menos angustiante cuando la palanca se opera a control remoto o cuando el escenario se plantea en un idioma extranjero. La distancia —física, lingüística o tecnológica— amortigua la respuesta emocional y facilita el cálculo frío.
Los sistemas de IA combinan este distanciamiento psicológico con el mecanismo de la delegación, creando lo que algunos expertos llaman «distanciamiento computacional». El programador está separado de las consecuencias finales por capas de código, distribuciones de probabilidad y contextos de implementación que ningún individuo controla en su totalidad. Esta arquitectura, por diseño, fragmenta la responsabilidad.
Este fenómeno no es completamente nuevo. Desde los asesinatos por encargo hasta la tercerización de servicios, la humanidad sabe desde hace tiempo que delegar reduce la angustia moral. La filósofa Hannah Arendt ya hablaba de la «banalidad del mal» en sistemas burocráticos donde la responsabilidad se fragmenta hasta que nadie se siente plenamente responsable de los resultados que ayudó a producir. Los sistemas de IA representarían una variante contemporánea de este mecanismo.
El debate, por lo tanto, trasciende lo técnico y se instala en el terreno de la ética aplicada y la filosofía de la tecnología: ¿cómo diseñamos sistemas que tomen decisiones en nuestro nombre sin perder de vista la complejidad de la moral humana?