Falta de supervisión humana antes de la publicación de las noticias, utilización de LLM y uso de material potencialmente poco ético a la hora de generar artículos es lo que han detectado unos investigadores de la Universidad de Washington tras analizar múltiples conversaciones de WildChat Dataset (un conjunto de datos de 1 millón de interacciones de ChatGPT) y emparejarlas con los artículos publicados de dos agencias de noticias.
Cambia de CMS gratis con expertos
¿Tu CMS te tiene desesperado?
Cambia a un nuevo CMS más rápido y seguro, con inteligencia artificial (IA) e incluso consigue ahorro:
Antes de continuar, hay que saber que los nombres de las agencias han sido anonimizados y que no podemos saber cuáles son las empresas que hay detrás del estudio y que habría estado usando chatGPT de una forma abusiva.
Las conclusiones son claras: “hay un uso continuo y creciente de la IA generativa para la creación de noticias y es necesario establecer directrices para una utilización responsable de la IA en el periodismo”, señalan los autores en las conclusiones del informe.
A pesar de las limitaciones de WildChat – solo han podido analizar interacciones con GPT-4 y GPT 3.5 y únicamente han podido examinar las recogidas en este Dataset -, los analistas consideran que los resultados muestran una clara tendencia sobre la que hay que poner el foco.
La investigación cree que las agencias analizadas no son casos aislados, sino un ejemplo de algo más amplio que lo que se ha encontrado en el repositorio de conversaciones. El objetivo es comprender el uso real y proporcionar información para establecer directrices y políticas para una utilización responsable de la inteligencia artificial en el periodismo.
Generación de artículos y titulares con fuentes externas e internas
A la hora de utilizar los modelos de IA, en más de la mitad de las peticiones se utilizaron fuentes externas: artículos de noticias de otras agencias, comunicados de prensa, informes, sitios web de organizaciones o publicaciones en redes sociales, entre otros. También se usó material interno como artículos ya publicados y transcripciones de entrevistas que pueden contener material sensible o preliminar.
Para hacernos una idea, uno de los usuarios da la siguiente instrucción a la IA: “escribe un nuevo contenido con la información de este artículo, pero no hagas evidente que estás utilizando información de ellos. En caso de información muy sensible menciónales.”
En cuanto a las tareas que los usuarios especificaron en sus entradas, la gran mayoría fue para la generación de artículos (83,1%), un 14,5% para la creación de titulares y una minoría para la edición de artículos.
Límites y rapidez en la supervisión
Respecto a las diferencias entre los borradores arrojados por la IA y los artículos publicados, en general son escasas. Como ejemplo, un titular de un artículo que se publica tal cual, tras ser generado por ChatGPT. Esto da una idea de hasta qué punto es escasa la supervisión en ciertos momentos del proceso. También lo es el hecho de que la mayoría de los artículos de ambas agencias se publicaron un día después de la conversación registrada en WildChat, alertando de la escasa verificación a la que han sido sometidos.
Tu empresa está muy ocupada. Todas lo están. Pero si no mejoras ahora, tu competencia lo hará:
CMS MAG, en vídeo
Disfruta del último programa de nuestro pódcast en vídeo La Hora de CMS MAG:
Suscríbete y recuerda que siempre dejamos los momentos más divertidos en forma de Shorts.
Disponible en:
Últimas noticias:
Autor: Jorge Mediavilla Martínez es licenciado en Periodismo por la Universidad Complutense de Madrid y lleva ejerciendo más de 20 años como editor de noticias, primero, y posteriormente como Product / Project Manager en empresas tan prestigiosas como ya.com, Yahoo!, acierto.com, Wunderman Thompson (grupo WPP) o grupo PRISA, entre otros. Además colabora con la URJC. Síguele en LinkedIN o Twitter. Contacto
Deja una respuesta