Facebook usa inteligencia artificial para detectar el terrorismo

La red social usa la inteligencia artificial para detectar posibles casos

Facebook usa inteligencia artificial para detectar el terrorismo

junio 19th, 2017

A través de un equipo especializado de 150 personas, Facebook lleva una difícil tarea, la de cruzar datos con otras redes y organismos para detectar casos de terrorismo. Para ello, deben utilizar inteligencia artificial y comprensión de lenguaje violento. Esto es lo que Facebook hace mientras vos compartís las fotos de tu último cumpleaños.

Facebook usa inteligencia artificial para detectar el terrorismo - Imagen 1

La red social dio detalles de sus políticas en cuanto a terrorismo, luego de que distintos gobiernos lo cuestionaran. Monika Bickert, directora global de Gestión de Políticas de Contenido y Brian Fishman, gerente de Políticas contra el Terrorismo, afirmaron a través de un comunicado en el blog oficial: “Estamos de acuerdo con quienes dicen que las redes sociales no deben ser un lugar donde los terroristas tengan voz. Queremos responder las preguntas que cuestionan nuestro rol en este sentido”.

Los voceros de la compañía reconocieron que usan inteligencia artificial (IA) y para ello aplican “las técnicas más avanzadas en combatir el contenido terrorista sobre ISIS, Al Qaeda y sus afiliados, y esperamos expandirlas a otras organizaciones terroristas”.

Este equipo de “más de 150 personas se dedican exclusiva o principalmente a la lucha contra el terrorismo como su principal responsabilidad. Esto incluye a expertos académicos en antiterrorismo, ex fiscales, ex agentes de la ley, analistas e ingenieros. Dentro de este equipo especializado, hablamos casi 30 idiomas”.

Facebook usa inteligencia artificial para detectar el terrorismo - Imagen 2

Para el próximo año se estima que Facebook incorporará 3.000 personas en todo el mundo para “trabajar las 24 horas del día y en decenas de idiomas para revisar informes y determinar su contexto. Eso nos ayuda a reportar cuentas o contenido que puede violar nuestras políticas, incluyendo la pequeña fracción que puede estar relacionada con el terrorismo”.

Facebook es la red social más usada en el mundo, con más de 2.000 millones de usuarios y disponible en 80 idiomas. Además de esta red social, WhatsApp e Instagram forman parte del mismo grupo y a las que también les aplican las mismas políticas antiterroristas. Incluso revelaron que hace seis meses se unieron a Microsoft, Twitter y YouTube para anunciar una base de datos compartida de huellas digitales únicas de fotos y videos, con el fin de detectar contenido “peligroso”.

Facebook usa inteligencia artificial para detectar el terrorismo - Imagen 3

Pero resulta fundamental el uso de IA “para entender aquellos textos que podrían ser propaganda terrorista. Actualmente estamos experimentando con el análisis de texto favorable a organizaciones como ISIS y Al Qaeda que ya hemos eliminado, con el fin de desarrollar señales basadas en texto para identificar propaganda terrorista”.

Esto lo logran a través de algoritmos, “utilizando señales como, por ejemplo, si una cuenta es amiga de un número elevado de cuentas que han sido inhabilitadas por terrorismo, o si una cuenta comparte los mismos atributos que una cuenta inhabilitada” y, gracias a esto, detectan “más rápido nuevas cuentas falsas” relacionadas con estos grupos.

Sin embargo, Facebook reconoce la importancia del factor humano, a pesar del uso de IA, ya que ésta “no puede detectarlo todo. En la realidad, algunas de las críticas más efectivas a agrupaciones brutales como ISIS utilizan la misma propaganda de la organización en su contra. Y para comprender estos matices necesitamos de la experiencia humana”.

 

Entra desde tu celular a TKM Alta Velocidad haciendo click: AQUI

Tags:

,

,

,

,

,

,

,

,