Las redes sociales tienen nuevos problemas de moderación. La inteligencia artificial tiene una solución
Redes sociales IA solución a problemas moderación
Las redes sociales están en el punto de mira de los reguladores europeos. Tanto en la UE como en el Reino Unido, las nuevas leyes ahora exigen a las plataformas identificar y eliminar contenido ilegal, o enfrentar severas sanciones.
Unitary, una startup con sede en Londres, ha propuesto una solución: una herramienta de moderación impulsada por inteligencia artificial para videos e imágenes.
El sistema está diseñado para analizar simultáneamente múltiples señales. Como resultado, Unitary puede comprender tanto qué es el contenido como el contexto en el que aparece. Se incorporan señales textuales, auditivas y visuales en la interpretación.
Según la CEO de Unitary, Sasha Haco, la herramienta comprende el contenido de la misma manera que tú y yo.
“Hemos construido modelos con una comprensión sutil, capaces de reflejar el enfoque que una persona tomaría para comprender el contenido y tomar decisiones complejas”, dijo Haco a TNW.
- La empresa de electrolizadores Hystar construirá una gran fábrica d...
- Una startup galesa lanzará un satélite de fabricación de semiconduc...
- Este sitio web expone la verdad sobre los precios elevados de los a...
Es un enfoque que está atrayendo un creciente interés de los inversores. Unitary anunció hoy que ha recaudado $15 millones en una ronda de financiación de la Serie A.
La nueva inyección de efectivo llega en un momento oportuno.
Nuevas reglas
Hace apenas unas semanas, el Reino Unido aprobó el Proyecto de Ley de Seguridad en Línea (OSB), que exige a las empresas de redes sociales mantener fuera de sus plataformas material ilegal. Aquellas que no tomen medidas efectivas pueden enfrentar multas de hasta £18 millones (€20,8 millones) o el 10% de sus ingresos anuales globales, lo que sea mayor.
Además del OSB, las empresas ahora también deben cumplir con la Ley de Servicios Digitales de la UE, otra regulación de moderación de contenido. La ley entró en vigor el mes pasado.
Los dos libros de reglas han ampliado el mercado para Unitary. Al utilizar el sistema de aprendizaje automático, las empresas pueden analizar y categorizar rápidamente el contenido en línea.
Luego, se pueden detectar y señalar videos e imágenes riesgosos para tomar medidas. Unitary también puede asegurarse de que el contenido llegue al público adecuado, lo que podría cumplir con las reglas de protección infantil del OSB.
“La inteligencia artificial será el futuro de la moderación de contenido.”
Para identificar material prohibido, los clientes de Unitary envían el contenido a una API. Los modelos multimodales de la empresa analizan las imágenes y finalmente el sistema devuelve una clasificación al cliente.
El cliente determina el siguiente paso. Pueden optar por eliminar un contenido, restringir el público o advertir a un usuario.
“Cada plataforma tiene su propio nivel de riesgo, y según sus necesidades, pueden priorizar falsos positivos sobre falsos negativos, o viceversa”, dijo Haco. “Trabajamos en estrecha colaboración con nuestros clientes para asegurarnos de cumplir con su conjunto específico de necesidades”.
Esas necesidades están destinadas a crecer.
El auge de los videos
Se predice que el contenido de video complejo, que representa el 80% del tráfico de Internet, aumentará la cantidad de información en línea en un factor de diez entre 2020 y 2025. Los revisores humanos no están preparados para hacer frente a la escala, y las atrocidades, de moderar todo ese contenido.
“Definitivamente creemos que la inteligencia artificial será el futuro de la moderación de contenido”, dijo Haco. “La inteligencia artificial generativa va a alterar fundamentalmente el panorama de la confianza y la seguridad, en términos de los tipos de daño, el volumen de contenido y los métodos para una moderación exitosa.
A medida que el contenido crece y las leyes que lo regulan se vuelven más estrictas, la variedad de clientes de Unitary también se expande. Además de las empresas de redes sociales, la compañía trabaja actualmente con plataformas de verificación de anuncios, empresas de marketing de influencers y aplicaciones de citas.
Haco, quien cofundó Unitary en 2019 junto con el CTO James Thewlis, ve a su startup como un servicio fundamental a largo plazo.
“A largo plazo, nos vemos como una capa horizontal de comprensión de contenido en Internet. Si Cloudflare es la capa intermedia que proporciona velocidad y seguridad al tráfico, Unitary proporciona la seguridad y comprensión del contenido”.
