[08/03/2017] Internet es un lugar difícil para conversar. Los abusos han hecho que las celebridades y las personas comunes y corrientes salgan de las plataformas sociales que no se encuentran bien equipadas para lidiar con ello, y algunos anunciantes han desactivado las secciones de comentarios.
Ese el motivo por el que Google y Jigsaw (una incubadora de etapa temprana en la compañía matriz de Google, Alphabet) están trabajando en un proyecto llamado Perspective. Éste usa inteligencia artificial para tratar de identificar los comentarios tóxicos, con la intención de reducirlos. La API de Perspective lanzada el jueves proporcionará a los desarrolladores un puntaje sobre la probabilidad de que los usuarios perciban un comentario como tóxico.
A su vez, ese puntaje podría usarse para desarrollar funcionalidades como el filtrado automático de entradas, o proporcionar a los usuarios retroalimentación sobre lo que están escribiendo antes de que lo envíen para su publicación. Desde el jueves, los desarrolladores pueden solicitar acceso a la API de Perspective para usarla en los proyectos en los que estén trabajando, y Jigsaw los aprobará a medida que vayan saliendo.
Muchos anunciantes no han querido o no han podido gastar su tiempo intensivamente en la moderación de los comentarios en sus artículos, y en cambio han optado por desactivarlos completamente y ceder la discusión a las plataformas sociales. El New York Times, que ayudó con el desarrollo de Perspective, abre los comentarios en alrededor del 10% de sus artículos debido al esfuerzo que se necesita para moderarlos de forma manual.
Google también tiene un interés particular en filtrar mejor el abuso. Su sección de comentarios en YouTube puede llenarse de críticas muy fuertes, dejando a los creadores de los videos en línea con la necesidad de añadir las tareas de moderación a su ya larga lista de responsabilidades. Mediante el uso de la API de Perspective para realizar el filtrado, se podría ayudar a aliviar esa carga.
La interpretación que hace Perspective de los comentarios es imperfecta, en el mejor de los casos. Un conjunto de declaraciones soeces que buscaban expresar una fuerte aprobación, quedaron marcadas como probablemente tóxicas.
Jigsaw, por su parte, reconoce los problemas potenciales. El sitio web de Perspective da a los usuarios una manera de probar los comentarios y proporcionar retroalimentación acerca de si son tóxicos o no. La implicancia es que el equipo tomará esa retroalimentación para ayudar con las iteraciones futuras en la tecnología de reconocimiento del abuso.
"Son los días iniciales y nos vamos a equivocar bastante”, afirmó la compañía en su sitio web.
En estos momentos, Perspective solo se encuentra disponible en inglés, aunque parece entender contextualmente algunos comentarios tóxicos en otros idiomas. Jigsaw está tomando las aplicaciones de los desarrolladores que están trabajando en una amplia variedad de lenguajes, y utilizará esa retroalimentación para informar con qué será compatible Perspective en el futuro.
Además, Jigsaw afirmó que planea lanzar APIs adicionales de Perspective que realicen otras funciones.
Blair Hanley Frank, IDG News Service