Llegamos a ustedes gracias a:



Reportajes y análisis

¿Los desarrolladores de software deberían tener un código ético?

[16/02/2017] En primer lugar, no hacer daño. Este es el mensaje subyacente del Juramento Hipocrático que, tradicionalmente, han tomado los médicos para demostrar que respetan un código ético de conducta. Plomeros, trabajadores de construcción, agentes del orden público -casi cualquier profesional cuyo trabajo impacta al público, debe cumplir con algún tipo de código ético de conducta.

Hay una excepción bastante notable: la tecnología. Si bien, existen códigos de conducta específicos de la empresa, como estas directrices de la Asociación de los Sistemas Informáticos (ACM, por sus siglas en inglés) y el Instituto de Ingenieros Eléctricos y Electrónicos -equipo de trabajo de Computer Science (IEEE-CS) en las prácticas profesionales de la ética de la ingeniería del software, no hay ningún conjunto de normas que abarque toda la industria.

Pero quizás debería haberlo. En el 2015, las pruebas independientes revelaron que los ingenieros de Volkswagen programaron automóviles para engañar a las normas de emisiones de gases. A raíz de las elecciones presidenciales del 2016 en los Estados Unidos, Facebook -entre otros- está lidiando con una epidemia de noticias falsas. La nación está luchando para enfrentarse a la presunta piratería e interferencia de Rusia en las elecciones. Y el actual presidente electo hizo campaña con la promesa de basarse en el registro musulmán existente (o construir un nuevo) para rastrear a los miembros de esa fe.

¿El bien contra el mal?

Estos son solo algunos ejemplos de cómo es que el software puede ser utilizado para fines nefastos; no hay manera de saber con precisión todos los posibles resultados del desarrollo y usos de cada pieza de tecnología, cada línea de código. Por lo tanto, está en manos de quienes diseñan y construyen los productos, los paquetes de software, aplicaciones y soluciones que utilizamos diariamente, hacer lo correcto. Es bastante presión.

También es difícil explorar por lo que está bien y mal si lo presionan por cumplir con los plazos, o su medio de vida está en juego. Un código ético puede proporcionar un contexto y un marco para que los profesionales se apoyen, señala Dave West, propietario del producto en Scrum.org. Y, a pesar de querer ser testigo de algo así, anota que es comprensible que un grupo tan diverso en formas de pensar no esté de acuerdo en todos los aspectos que tal código implicaría.

"Me encantaría ver un código ético de la industria estandarizado. Nosotros tenemos el nuestro, que trata sobre nuestra misión de mejorar la profesión de la elaboración de software... y sentimos que es una base sólida en la que cualquiera puede apoyarse, si se encuentra inseguro acerca de sus responsabilidades laborales; pues puede retroceder, mirar esos valores y preguntarse: "¿Estoy haciendo lo correcto, aquí, basándome en estas cosas en las que creo?", añade West.

El debate sobre la ética en el desarrollo de software ha estado activo desde que la profesión surgió. Puede llegar a ser casi imposible evaluar todas las aplicaciones de tecnología, buenas o malas, y de eso se trata la belleza y el horror del problema -indica Shon Burton, fundador y CEO de HiringSolved, que utiliza IA para ayudar a las empresas a identificar talentos variados.

Cualquier herramienta puede ser un arma

"Cualquier herramienta puede ser un arma dependiendo de cómo sea usada. Para nosotros, el uso de IA y la automatización -las cosas en las que puedo pensar ahora que estamos cerca, buenas o malas, y ambas son fácilmente accesibles. Para nuestras aplicaciones, podemos ayudar a los clientes a buscar candidatos diversos. Pero también vemos que podría ser utilizado para la búsqueda de personas con diferentes etnias, razas y géneros. Tenemos un código de conducta interno que todos cumplimos. Pero entendemos las consecuencias potenciales y no deseadas", indica Burton.

En ausencia de un conjunto de estándares éticos en toda la industria, los individuos -e incluso algunas entidades corporativas- están haciendo respaldos públicos hacia sus valores. En diciembre, el movimiento NeverAgain.tech circuló una petición para rechazar "... la construcción de una base de datos de personas basada en sus creencias religiosas protegidas por la Constitución. Nos negamos a facilitar las deportaciones masivas de personas que el gobierno cree que son indeseables", señala la petición. Ya han reunido más de 2.500 firmas.

El CEO de GrubHub, Matt Maloney, fue muy criticado por su posición contra el lenguaje y las acciones odiosas, degradantes y discriminatorias. Y el ejecutivo de Oracle, George Polisner, renunció muy públicamente a su posición en respuesta a que el ex empleador de su co-CEO aceptó un rol en la administración presidencial entrante.

Es difícil saber dónde está la línea entre el bien y el mal en este contexto, incluso si la está pisando. Mientras que un código ético estandarizado podría ser una solución, puede que sea más importante enseñarle a la gente a hacer las preguntas correctas, indica West de Scrum.org.

"Personalmente, me encantaría ver más educación en la enseñanza de la ética de la que está actualmente presente, especialmente en un contexto profesional en vez de un curso sobre la teoría. Pues la ética aislada no funcionará a menos que sea parte de estándares profesionales más amplios. Sin embargo, también existe un problema cuando las personas no pueden construir el software solos, y no toman estas decisiones "equivocadas" todas a la vez, sino de manera incremental", indica West.

Enseñarle a la gente a hacer las preguntas correctas implica entender cuáles son esas preguntas, asegura Burton, y comprender que los valores de cada persona son diferentes. Algunas personas no tienen ningún problema en trabajar con software que ejecuta reactores nucleares, o desarrollar sistemas de detección automática para drones, bombas inteligentes o artefactos militares.

"La verdad es que hemos pasado por esto antes, y ya estamos logrando importantes avances hacia la mitigación de riesgos y las consecuencias no intencionadas. Ya no se trata sobre la posibilidad de construirlo, pues sabemos que la tecnología y la capacidad están ahí para desarrollar lo que sea que podamos imaginar. Las preguntas deberían abarcar otros temas: ¿deberían ser desarrollados?, ¿son infalibles?, ¿qué podemos hacer para asegurarnos de causar el menos impacto perjudicial posible? señala.

No existe una "respuesta correcta" en este caso; y, ciertamente, un código ético no solucionará todas las cuestiones éticas. Pero podría ser un buen punto de partida, si los individuos y las organizaciones quieren aprovechar el gran poder de la tecnología para crear soluciones que sirvan al bien mayor.