Reddit, la versátil plataforma social conocida por sus numerosos subreddits, está uniendo fuerzas con la inteligencia artificial para las tareas de moderación. Alejándose de los métodos tradicionales de moderación, Reddit se propone optimizar la gestión de comunidades de gran tamaño mediante el uso de modelos de lenguaje a gran escala (LLM).
Gestionar de forma eficaz una plataforma tan diversa como Reddit no es nada fácil, sobre todo a la hora de garantizar que millones de usuarios cumplan las normas de la comunidad. Los subreddits, al ser entidades independientes que operan bajo el paraguas de Reddit, cuentan cada uno con su propio conjunto de normas que deben aplicarse de forma eficaz para mantener su identidad propia.
En situaciones en las que la moderación manual no resulta suficiente, la inteligencia artificial se ha convertido en una potente herramienta para mejorar la capacidad de los moderadores a la hora de gestionar sus respectivas comunidades. Gracias a estas soluciones automatizadas, Reddit está reduciendo considerablemente las tareas de los moderadores, al tiempo que da paso a una era de regulación más eficiente y eficaz.
Conocido como “Rules Hub”, este conjunto de herramientas basadas en inteligencia artificial ofrece a los moderadores la libertad de determinar qué normas deben aplicarse automáticamente. Además, permite a los moderadores decidir qué medidas deben adoptarse cuando se incumple una norma. Lo que distingue especialmente a Rules Hub es su uso de modelos de lenguaje grande (LLM), diseñados para evaluar la compatibilidad de una publicación o un comentario con las normas establecidas.
El verdadero atractivo de los modelos de lenguaje a gran escala (LLM) radica en su capacidad para gestionar mejor los matices del lenguaje natural y los casos extremos. Esto implica que, a diferencia de los modelos genéricos de IA, estos modelos de lenguaje a gran escala serán más capaces de comprender la intención que subyace a la publicación de un usuario, lo que les permitirá tomar decisiones más fundamentadas respecto a posibles incumplimientos de las normas.
En línea con su compromiso de mejorar la gestión de la comunidad, Reddit está ampliando el acceso a estas herramientas antes de su lanzamiento completo, previsto para finales de este año. Se trata de una medida que refleja que la plataforma es consciente de la gran ventaja que la inteligencia artificial puede suponer para su estrategia de moderación.
Gracias a las tecnologías de moderación automatizada, se puede fomentar el diálogo en la comunidad sin tener que preocuparse por gestionar manualmente las interrupciones. Estas herramientas suponen un paso adelante a la hora de garantizar que se escuche la voz de todos los usuarios, al tiempo que permiten identificar y abordar de forma más eficaz los comentarios perjudiciales o perturbadores.
Además de garantizar una conversación de calidad, estas herramientas también contribuyen al compromiso constante de Reddit con la seguridad de los usuarios y el mantenimiento de las normas de comportamiento en línea. Potencian la capacidad de Reddit para fomentar comunidades unidas por el respeto mutuo y la cortesía, y ponen de relieve los beneficios que la tecnología puede aportar a las plataformas sociales.
A medida que nos acercamos al lanzamiento definitivo de estas herramientas, será fascinante ver cómo este nuevo y audaz mundo de la moderación impulsada por la IA da forma a la interacción de la comunidad en Reddit. Lo que está claro es que, tanto si participamos activamente como si simplemente nos limitamos a desplazarnos por la página en silencio, nuestras experiencias en Reddit están a punto de sufrir un cambio transformador impulsado por la inteligencia artificial.
Artículo original: https://www.theverge.com/tech/975398/reddit-ai-rules-hub-moderator-old-reddit-developer-platform
