Modelo de decisión basado en IA, PolicyLM‑1.7B, promete moderación de contenido más rápida y adaptable
La herramienta de peso abierto de Musubi para aplicar políticas en tiempo real
Musubi presentó PolicyLM‑1.7B el martes, publicando los pesos del modelo de forma abierta. El sistema lee una política de contenido escrita en inglés sencillo y emite un veredicto sobre cada mensaje en menos de 50 milisegundos. Su rendimiento y costo son comparables a los de los clasificadores de IA que impulsan la moderación en la mayoría de las plataformas sociales, mientras que su arquitectura hereda la flexibilidad de un modelo de lenguaje moderno de gran tamaño. Como el modelo puede interpretar reglas complejas sin necesidad de entrenamiento adicional, las actualizaciones de políticas no requieren un ciclo de reentrenamiento, lo que permite a los responsables humanos de las reglas iterar rápidamente.
Los modelos de decisión ganan impulso tras el lanzamiento de Jev de TypeSafe AI
El interés en los modelos de decisión aumentó después de que TypeSafe AI lanzara Jev en septiembre, y OpenAI y Amazon introdujeron rápidamente sus propias versiones. A diferencia de los modelos de lenguaje tradicionales que generan texto, los modelos de decisión producen probabilidades de resultados; PolicyLM‑1.7B está ajustado para emitir un juicio binario: el contenido pertenece a la categoría especificada o no. Al restringir las salidas a un conjunto predefinido de opciones, estos modelos funcionan más rápido y con menor costo que los grandes modelos de lenguaje, aunque siguen aprovechando la flexibilidad basada en transformadores.
De controlar agentes de IA a vigilar publicaciones humanas
Una aplicación temprana de los modelos de decisión ha sido poner límites a los agentes de IA que se comportan mal, y la misma lógica ahora se aplica a la mala conducta humana. Filip Jankovic, cofundador y director de IA de Musubi, atribuye su fascinación por este enfoque a un proyecto de 2024 llamado GLiNER, que utilizaba técnicas similares para el reconocimiento de entidades nombradas.
Etiquetado proactivo y escalable para plataformas en crecimiento
Filip Jankovic, cofundador y director de IA de Musubi, afirma:
Los equipos de producto solo quieren entender mejor lo que sucede en su plataforma, especialmente a medida que la cantidad de contenido aumenta exponencialmente. Poder etiquetar todo eso de manera muy escalable y personalizable es extremadamente útil.
Musubi presenta PolicyLM‑1.7B como una alternativa abierta
En su anuncio, Musubi destaca la accesibilidad del modelo:
Si Jev captó tu atención, PolicyLM‑1.7B es el mismo tipo de modelo, entrenado específicamente para la moderación de contenido, que puedes ejecutar por ti mismo.
La empresa busca aprovechar el actual interés en los modelos de decisión para llamar la atención sobre soluciones de moderación de contenido que pueden implementarse de forma independiente.








