Llegamos a ustedes gracias a:



Noticias

IEEE lanza guía de diseño ético para desarrolladores de AI

[18/12/2017] A medida que los sistemas autónomos e inteligentes se vuelven más omnipresentes, es esencial que los diseñadores y desarrolladores detrás de ellos se detengan a considerar las consideraciones éticas de lo que están desencadenando.

Ese es el punto de vista del Instituto de Ingenieros Eléctricos y Electrónicos (IEEE) que la semana pasada publicó su segundo documento de Diseño Éticamente Alineado, en un intento por asegurar que tales sistemas "permanezcan centrados en el ser humano".

"Estos sistemas tienen que comportarse de una manera que sea beneficiosa para las personas, más allá de alcanzar metas funcionales y abordar problemas técnicos. Esto permitirá un elevado nivel de confianza entre las personas y la tecnología necesaria para su uso fructífero y generalizado en nuestra vida cotidiana", señalan en el documento.

Diseño alineado éticamente: Una Visión para Priorizar el Bienestar Humano con Sistemas Autónomos e Inteligentes es el resultado de un año de discusión por alrededor de 250 personas de la academia, la industria y el gobierno. Abarca una serie de temas relacionados, entre los que se incluyen la transparencia de los sistemas autónomos, la privacidad de datos, el sesgo algorítmico, la realidad mixta y el "impulso ético", las manipulaciones explícitas u ocultas por parte de sistemas inteligentes diseñados para influir en el comportamiento o las emociones de un usuario. El documento -que está abierto a comentarios del público hasta marzo.

"Los recientes avances en inteligencia artificial han comenzado a transformar lo que antes era sólo ciencia-ficción en una realidad plausible. Sin embargo, definir qué es exactamente' lo correcto' y' lo bueno' en un futuro digital es una cuestión de gran complejidad que nos coloca en la intersección entre tecnología y ética", señaló dijo Rafael Calvo, profesor de ingeniería de software en la Universidad de Sydney, envuelto en el desarrollo del documento.

El académico añadió que esta publicación es un primer paso verdaderamente cambiante y prometedor en una dirección -que a menudo se ha sentido mucho tiempo en venir- hacia la ruptura del muro protector de la especialización que ha permitido a los tecnólogos disociarse de los impactos sociales de sus tecnologías.

Calvo agregó que la publicación significará que los implicados en sistemas inteligentes se responsabilizarán de las consecuencias de su trabajo.

"Exigirá que los futuros líderes tecnológicos comiencen a responsabilizarse y a pensar profundamente sobre el impacto no técnico en los grupos desempoderados, en la privacidad y la justicia, en la salud física y mental, hasta desentrañar los prejuicios ocultos y las implicaciones morales. Representa un paso positivo para asegurar la tecnología que construimos a medida que los seres humanos nos benefician genuinamente a nosotros y a nuestro planeta", anotó.

El IEEE señaló que el diseño alineado éticamente no es un código de conducta ni un código de ética profesional.

El objetivo es "ir más allá del miedo y la admiración poco crítica con respecto a las tecnologías autónomas e inteligentes", señala el grupo, y dar a los tecnólogos la educación, la capacitación y el empoderamiento para dar prioridad a las consideraciones éticas.

Creemos que alinear explícitamente la tecnología con los valores éticos ayudará a avanzar en la innovación con estas nuevas herramientas y disminuirá el temor en el proceso", anotó el IEEE.