Nos guste o no, la tecnología amplifica peligrosamente la toma de decisiones no éticas. Por esta razón, considero la ética como otro de los Superpoderes del Siglo XXI, imprescindible para navegar en tiempos «BANI«: Brittle (quebradizo), Anxious (que genera ansiedad), Non-linear (no lineal) e Incomprehensible (incomprensible).
Para ahondar un poco en la cuestión hago referencia de Susan Liautaud, profesora de ética en Stanford que nos brinda con ‘Power of Ethics’ un marco ético para ayudarnos a hacer las preguntas correctas cuando enfrenta un dilema y describe seis fuerzas que impulsan la ética más allá del límite donde la ley tiene todas las respuestas.
Es un contexto de abundantes e interesantes desafíos, Susan Liautaud no pretende tener todas las respuestas y, en cambio, establece pragmáticamente un marco que permite tomar las mejores decisiones posibles disponibles. ‘Power of Ethics’ es para cualquier persona que busque entender cómo y por qué a veces tomamos decisiones que no tienen un resultado deseable, y cómo podemos mejorar nuestras posibilidades de hacerlo bien para nosotros y para los demás en el futuro.
La autora usa ejemplos concretos de la tecnología, la medicina, la política y más, Susan Liautaud fundamenta los dilemas éticos en la vida real. Nos muestra que en un mundo incierto y que cambia rápidamente, las personas bien intencionadas necesitan comprender la ética para prevenir la explotación, garantizar la equidad y proteger el futuro de la humanidad.
Principales ideas de ‘Power Of Ethics’
- “Ética al límite” describe el lugar donde las leyes ya no guían la toma de decisiones.
- Utilice el marco de toma de decisiones éticas para enfrentar los dilemas de la vida.
- Airbnb se deshizo del pensamiento binario al tratar las denuncias de discriminación racial.
- El poder difuso conduce a consecuencias no deseadas, que la tecnología acelera.
- “Contagio” describe la normalización de nuevas ideas, su mutación y cómo se difunden.
- En el borde, se están desmoronando tres baluartes que sustentan la ética.
- Las fronteras indistintas entre personas y máquinas ponen en peligro los derechos humanos.
- Las mentiras debilitan el andamiaje que mantiene unida a la civilización.
“Ética al límite” describe el lugar donde las leyes ya no guían la toma de decisiones
Con la tecnología impulsando un cambio global masivo a un ritmo sin precedentes, las personas deben tomar decisiones éticas. La sociedad está cada vez más preocupada no solo por los problemas éticos del día a día, como los conflictos en las redes sociales por la política, sino también por cuestiones existenciales como el cambio climático. En este entorno elevado y superexplorado, muchas personas se enfrentan a problemas de ética más allá del punto en que la ley puede guiar su toma de decisiones. Para comprender por qué la ética falla con tanta frecuencia y causa un dolor indebido a las personas y al planeta, considere las historias detrás de tales fallas. Las personas necesitan este conocimiento para remediar y prevenir lapsos similares en el futuro.
“En el borde, podemos hacer lo mejor que podamos con lo que sabemos y hacer todo lo posible para ver la realidad, pero las buenas intenciones no son suficientes”.
La ética informa muchas de sus elecciones, desde decidir publicar su opinión en línea hasta enviar su ADN para un análisis genético y elegir candidatos políticos. La ética ofrece un enfoque deliberado y positivo para la resolución de problemas que proporciona una base sólida para recuperarse cuando comete un error.
Seis fuerzas afectan la toma de decisiones éticas al límite:
- “Desterrar lo binario”: una opción binaria es una respuesta clara de sí o no a una pregunta ética. Sin embargo, en el borde, la mayoría de las decisiones no son binarias. Intente reemplazar la pregunta «¿Debería o no debería?» con «¿Cuándo y bajo qué circunstancias debo hacerlo?»
- Poder difuso: detectar quién tiene poder, cuánto tiene o cómo podría usarlo puede ser difícil. El poder disperso es difícil de discernir y difícil de gobernar.
- Contagio: al igual que una enfermedad infecciosa, los malos comportamientos e ideas pueden propagarse rápidamente. Cuando demasiadas personas se involucran en un comportamiento poco ético, lo normalizan.
- Baluartes que fallan: tres pilares fundamentales que se desintegran respaldan el comportamiento ético: transparencia, consentimiento informado y escucha efectiva. En el borde, estos postes de la tienda se están desmoronando.
- Bordes borrosos: ¿Qué constituye ser humano cuando los límites se desdibujan en la era de las máquinas?
- Mentiras: la toma de decisiones éticas se basa principalmente en la verdad. Cuando la verdad se contamina, las otras cinco fuerzas también se ven comprometidas.
Utiliza el marco de toma de decisiones éticas para enfrentar los dilemas de la vida.
Cuando te acerques a una decisión ética, utiliza un marco que consista en:
- Principios: para ser efectivos, tus principios deben ser claros, pero no demasiado prescriptivos. Los principios más comunes son la honestidad, la integridad, la bondad, la compasión y la lealtad.
- Información: con la tecnología avanzando tan rápido, las personas enfrentan una brecha entre lo que saben y lo que necesitan saber para tomar decisiones éticas. Haz preguntas, escucha, observa y repite a medida que surja nueva información.
- Partes interesadas: tus decisiones no solo lo afectan a usted. Es posible que no conozcas los efectos posteriores, pero intenta identificar a las personas o categorías de personas que pueden sufrir o beneficiarse de tus elecciones.
- Consecuencias: considera los efectos a corto, medio y largo plazo de tu decisión, ahora y con el tiempo.
Airbnb se deshizo del pensamiento binario al tratar las denuncias de discriminación racial.
Las historias de que los anfitriones de Airbnb estaban discriminando por motivos de raza pillaron con la guardia baja a sus gerentes. Sin que ellos lo supieran, su modelo de negocios los puso al borde de la ética. Si bien los propietarios pueden decidir quién puede permanecer en sus hogares, la discriminación no es ética. No es que las leyes prohíban este comportamiento, es que la regulación generalmente va a la zaga de la innovación. Los fundadores de Airbnb no anticiparon este problema. Los sistemas necesitan tiempo para que las personas vivan una innovación y evalúen sus riesgos y oportunidades.
“Cuando simplificamos demasiado los dilemas éticos al tomar partido de inmediato, perdemos oportunidades y riesgos”.
Tal vez si los líderes de la empresa hubieran dejado claros sus principios sobre la discriminación, o si hubieran investigado más en la industria de la hospitalidad, donde el racismo es un problema familiar y recurrente, podrían haber evitado que las personas abusaran del modelo comercial de Airbnb.
Los fundadores no observaron dos elementos del marco de toma de decisiones: principios e información. Descuidaron a sus stakeholders al no comprender que la falta de conocimiento y de principios útiles tiene malas consecuencias. Pero escucharon con eficacia y corrigieron su error. Cambiaron sus principios, ofrecieron programas de capacitación y exigieron a los anfitriones que firmaran un formulario de Compromiso con la comunidad. Acabaron con el binario, abrazaron los matices, aceptaron la responsabilidad y restablecieron la confianza.
El poder difuso conduce a consecuencias no deseadas, que la tecnología acelera.
En el mundo tecnológico supercargado de hoy, el poder ya no recae principalmente en los jefes de estado o los directores ejecutivos. Se dispersa entre personas que carecen de preparación o capacitación para lidiar con los problemas éticos que acompañan a problemas impredecibles y de largo alcance. Y el poder cae rutinariamente en las manos equivocadas.
Muchas tecnologías que la gente da por sentado, como los servicios de transmisión, son invasivas, pero pocos las cuestionan. Las tecnologías más nuevas, como la edición de genes (CRISPR), son tan nuevas y vanguardistas que aún están surgiendo reglas para su uso en la línea germinal humana (óvulos y espermatozoides), aunque los sujetos humanos pueden participar en terapias experimentales. La pregunta sigue siendo cuáles podrían ser los efectos a largo plazo de editar el genoma humano.
“El poder disperso empuja a la ley cada vez más atrás de la realidad en la que se desarrolla nuestra ética”.
El poder tecnológico es singularmente problemático porque se mueve muy rápido y comprender sus efectos requiere mucha experiencia. Es difuso, sin un verdadero centro de control. Por ejemplo, la impresión 3D es una tecnología nueva y versátil, lo que la hace madura para su explotación, como las pistolas 3D que se pueden imprimir en casa. En el caso de CRISPR, pasó poco tiempo después de su debut antes de que un médico de FIV en China interfiriera en el desarrollo embrionario, editando líneas germinales sin el conocimiento o consentimiento de las autoridades estatales. El poder disperso genera más poder disperso, y la ley debe correr para ponerse al día. La tecnología tiene fronteras indistintas y la sociedad carece de un modelo jurisdiccional que muestre cómo hacerla cumplir para cumplir con las leyes. Las empresas tecnológicas explotan esta anarquía relativa con fines de lucro.
“Contagio” describe la normalización de nuevas ideas, su mutación y cómo se difunden.
El poder difuso amplifica otra fuerza en la ética moderna: el contagio. El comportamiento se ha vuelto contagioso a través de las redes sociales y otras tecnologías. Dos tipos de fuerzas impulsan el contagio: clásico (codicia, miedo, celos, regulación ineficaz, escucha ineficaz) y nervioso (automóviles sin conductor, redes sociales, edición de genes, robots). Las fuerzas nerviosas nublan la visión de las personas, lo que hace casi imposible predecir sus riesgos y usos. Detener el comportamiento poco ético requeriría eliminar estos factores, lo cual no es práctico ni posible.
“El comportamiento, tanto ético como no ético, es más contagioso que nunca”.
A veces, el comportamiento poco ético rodea a las personas y no reconocen que están actuando de manera poco ética. Por ejemplo, muchos médicos prescriben opiáceos para el dolor de los procedimientos de rutina, en particular la odontología, a pesar de la conocida epidemia de opiáceos. Millones de personas confiaron en sus médicos para saber qué era lo mejor para ellos y luego se convirtieron en adictos. Esto no es todo culpa de los médicos. La debilidad de las reglamentaciones y el escaso cumplimiento contribuyeron al contagio, la mutación y la propagación de la epidemia de opioides.
La aplicación del marco ético a este problema identifica la brecha crucial: la información. Los médicos no estaban monitoreando la crisis de los opiáceos y no sabían que estaban contribuyendo a ella. Una vez que obtuvieron educación, los dentistas dejaron de recetar opioides automáticamente.
En el borde, se están desmoronando tres baluartes que sustentan la ética.
La sociedad necesita los tres pilares que sustentan la toma de decisiones éticas al límite: transparencia, consentimiento informado y escucha efectiva. Estos ayudan a las personas a mantener una comprensión común de su realidad compartida, que se está volviendo cada vez más compleja. Y, sin embargo, estos pilares se están desmoronando cuando la sociedad más los necesita.
La transparencia brinda la información crucial que las personas necesitan cuando toman decisiones, especialmente las importantes, como las opciones sobre el gasto público. El consentimiento informado regula las acciones que las personas toman y las consecuencias de esas acciones. La escucha eficaz exige prestar atención a si las personas piensan en lo que dicen y darse cuenta de lo que no dicen.
“En el borde, podemos hacer lo mejor que podamos con lo que sabemos y hacer todo lo posible para ver la realidad, pero las buenas intenciones no son suficientes”.
Las pruebas genéticas directas al consumidor de 23andMe son inmensamente populares, y personas de todo el mundo las han comprado para aprender sobre su herencia y salud. Si bien sus principios promovían el control de la información genética por parte del consumidor, la empresa de pruebas es una entidad con fines de lucro que elude las reglamentaciones médicas habituales. Esto compromete los pilares porque la empresa no tiene la misma responsabilidad que, digamos, un médico o un científico. Eso complica el consentimiento informado. Las personas han obtenido información inesperada de sus perfiles genéticos, como la paternidad, que les causó angustia. Los usuarios se han encontrado con otras consecuencias no deseadas, como el seguro médico y la responsabilidad penal (los datos de ADN de 23andMe han ayudado a resolver casos sin resolver), por lo que lo que haces como una broma puede alterar tu vida.
Las fronteras indistintas entre personas y máquinas ponen en peligro los derechos humanos.
La nueva tecnología desdibuja el límite entre humanos y máquinas. Hoy, algoritmos, robots y agentes de IA toman decisiones y las llevan a cabo. Considere entidades como «Sophia», un robot con rostro y modales humanos que alienta a las personas a tratarla como una persona. Esto plantea la pregunta ética: ¿Qué es el ser humano? El creador de Sophia cree que, si los humanos y las máquinas tienen interacciones respetuosas, los humanos serán más amables con otros humanos. Cuando Arabia Saudita le otorgó la ciudadanía a Sophie, puso de relieve el debate sobre los derechos de los robots en un país que restringe los derechos de las mujeres. ¿Sofía puede votar? ella paga impuestos?
“Quizás deberíamos centrarnos en cómo los robots promueven los derechos humanos en lugar de lo contrario”.
Los límites indistintos influyen y se ven afectados por las otras cinco fuerzas. Dividen el pensamiento binario. Dispersan energía, a medida que las máquinas se vuelven más autónomas. Amplifican el contagio y la mutación, a medida que proliferan y la ley lucha por seguir el ritmo. ¿Qué podrían hacer los robots a la sociedad, y podrían inutilizar los tres pilares? Ahora, antes de que proliferen los robots, es el momento de establecer su lugar en la sociedad. Los humanos deben ser lo primero, por lo que deben asumir la responsabilidad total de las actividades de las máquinas. Sobre todo, los robots necesitan un interruptor de apagado, en caso de emergencia.
Las mentiras debilitan el andamiaje que mantiene unida a la civilización.
La “ética fáctica alternativa” y los hechos alternativos son una contradicción en los términos. Cuando la administración presidencial de Donald Trump comenzó con una falsedad obvia, que su toma de posesión había atraído a la audiencia más grande de la historia, expuso un problema urgente: la verdad se había convertido en una opción. La ética necesita de la verdad para existir.
La verdad comprometida es la mayor amenaza para la humanidad. Los hechos, la verdad, respaldan las leyes, los reglamentos, las políticas, el liderazgo y la comunidad. Pero para 2017, la débil toma de decisiones éticas entre las personas más poderosas del mundo hizo que la verdad comprometida fuera aceptable a gran escala. Un mundo posterior a la verdad eliminaría la confianza en todos los niveles.
“Lucha por la verdad. Luchar como si de ella dependiera la toma de decisiones éticas que nos atan a nuestra humanidad. Porque lo hace.
En el mundo de la posverdad, las personas pueden modificar sus rostros digitalmente para aprovechar las oportunidades de empleo o de citas. Pueden solicitar a su gobierno que les permita decidir su propia edad, en lugar de adherirse a la edad en sus certificados de nacimiento. Las ilusiones no son una sustitución de un hecho incontrovertible. El tiempo no es subjetivo. Las personas no tienen derecho a su propia verdad.
Para enmarcar un mundo de posverdad, comienza con los principios. Si un principio no responsabiliza a alguien, no es confiable. Cuando estés buscando información, ten en cuenta cuando las personas reemplazan los hechos con sentimientos o desprecian la ciencia. Fomentar el debate con los rivales. Imagina cómo sería tu verdad si se difundiera. El consenso no es verdad, y la verdad no es conveniente ni fácil. Vale la pena luchar por la verdad, porque sin ella la ética no puede existir, y sin ética las personas dejan de ser humanos.
Foto de Andrea Piacquadio en Pexels