OpenAI explora GPT-4 para la moderación de contenido

por Infoblock

OpenAI, una organización pionera en el área de la inteligencia artificial, ahora está investigando el papel que pueden desempeñar los modelos de lenguaje grande (LLM) como GPT-4 en el proceso de moderación de contenido. El objetivo principal es optimizar y mejorar el proceso de moderación de contenido mediante el uso de las habilidades de estos modelos para comprender el lenguaje natural y generar ese lenguaje, lo que acelerará el proceso.

Singapore Air Charter adopta criptomonedas y opciones de pago flexiblesSingapore Air Charter adopta criptomonedas y opciones de pago flexibles

Según una publicación reciente en el blog oficial de OpenAI, la aplicación de GPT-4 en la moderación de contenido puede reducir significativamente el tiempo necesario para desarrollar y personalizar las políticas de contenido. Tradicionalmente, este proceso podría durar meses, pero con GPT-4, se puede condensar en meras horas. He aquí una breve descripción del proceso:

Creación de lineamientos de política: Inicialmente, se formula un lineamiento de política. Después de esto, los expertos en políticas seleccionan un “conjunto dorado” de datos, marcan ejemplos específicos y los etiquetan de acuerdo con la política.

Paradigma: el potencial transformador de los juegos en cadena en el panorama más amplioParadigma: el potencial transformador de los juegos en cadena en el panorama más amplio

Rol de GPT-4: luego, GPT-4 realiza una evaluación independiente de la política y asigna etiquetas al conjunto de datos sin tener conocimiento previo de las respuestas proporcionadas por los expertos.

Refinamiento iterativo: cualquier inconsistencia entre las evaluaciones proporcionadas por GPT-4 y las de los especialistas humanos se examinan cuidadosamente. Esto implica que GPT-4 desarrolle su fundamento para ciertas etiquetas, lo que hace posible que los especialistas identifiquen áreas de ambigüedad en las definiciones de políticas. Después de eso, la política puede definirse y mejorarse. Este ciclo, que consta de las fases 2 y 3, se continúa hasta que la calidad de la política se considere adecuada.

El desarrollo de restricciones de contenido más matizadas representa la finalización exitosa de este proceso iterativo. Después de eso, estas reglas se pueden convertir en clasificadores, lo que hará que sea mucho más fácil poner en práctica la política y permitirá moderar el material a una escala mucho mayor. Además, las predicciones realizadas por GPT-4 pueden aprovecharse para ajustar modelos más pequeños, lo que garantiza que se mantenga la eficiencia incluso cuando se trata de grandes volúmenes de datos.

En conclusión, la investigación de GPT-4 con el propósito de moderación de contenido que OpenAI ha estado realizando proporciona una ruta potencial para mejorar la eficacia y precisión de los procedimientos de moderación de contenido.

Fuente de la imagen: Shutterstock

Content Protection by DMCA.com

TAMBIÉN PUEDE INTERESARTE