Perspective: la forma como Google elimina comentarios

Perspective revisa los comentarios en Internet y les asigna una clasificación de spam o toxicidad que refleja la probabilidad de que estén destinados a hacer daño.

Internet es y da para todo; como alguien bien la definiera: “una anarquía maravillosa, pero anarquía al fin”. Hay muchísimas cosas buenas, pero también uno encuentra o está expuesto a mucha basura como racismo, teorías conspiratorias y paranóicas y ataques de cualquier calibre.

Una ingente cantidad de basura escrita que a veces hace perder la fe en la humanidad o, siendo menos dramáticos, las ganas de leer comentarios. Algo con lo que Google quiere acabar. Su incubadora de seguridad de Internet, Jigsaw, ha lanzado una nueva tecnología llamada Perspective, destinada a limpiar las secciones de comentarios.

Según informa TechCrunch, Perspective revisa los comentarios y les asigna una clasificación de daño que refleja la probabilidad de que el comentario esté destinado a ser dañino. El objetivo de Jigsaw es mantener a la gente involucrada en la conversación, por lo que evalúa el “daño” como algo que podría alejar a otros comentaristas.

Perspective va más allá de las palabras, como insultos raciales, y también considera el contexto en el que se utilizan, para determinar si son parte de un ataque directo a otro comentarista o aluden al tema de la historia. La tecnología estará disponible para los editores a través de una API.

La forma de interpretar y reaccionar a una clasificación de toxicidad depende de los editores. Jigsaw no hará nada más que proporcionar la puntuación, por lo que los comentarios podrán ser marcados para la revisión por parte de un moderador humano, o bien ser ocultados tras una advertencia de modo que los lectores tengan que hacer clic para verlos. Los comentaristas también pueden ver su propia clasificación de toxicidad para replantearse si los mensajes que publican expresan realmente lo que quieren decir.

El presidente de Jigsaw, Jared Cohen, explica así los motivos para desarrollar la nueva tecnología: “Imagínate tratar de tener una conversación con tus amigos sobre las noticias que leíste esta mañana, pero cada vez que dices algo, alguien te grita en la cara, te llamó algo desagradable o te acusa de algún crimen horrible. Probablemente dejarías la conversación.

Desafortunadamente, esto ocurre con demasiada frecuencia en línea, ya que la gente que trata de discutir ideas en sus sitios de noticias favoritos es bombardeada con comentarios tóxicos”.

Mario Augusto Beroes Ríos

Periodista graduado en la UCV en la mención Audiovisual.