El uso de la inteligencia artificial (IA) en las redacciones crece, pero despacio, pues esta tecnología alucina y adolece de otros fallos a tener en cuenta. Para solucionar estos problemas, Glide Publishing Platform ha llegado a un nuevo acuerdo con Amazon Web Services para integrar en su CMS el producto AWS Bedrock Guardrails, que brinda a los clientes mayor control y capacidad para satisfacer las crecientes demandas de seguridad y responsabilidad en el uso de IA.
Asesoramiento experto gratuito en cambio de CMS
¡Cambia a un nuevo CMS, con inteligencia artificial, e incluso ahorra!
El potente y configurable servicio Guardrails es ahora una capacidad estándar en el conjunto de herramientas de IA nativas de Glide CMS, Glide AI Assistant (GAIA). Además de proporcionar un gran nivel de elección de LLM, GAIA garantiza un anillo seguro alrededor de propiedad intelectual y datos patentados y evita el consumo por parte de modelos de IA, una necesidad crítica de las industrias creativas y las empresas editoriales.
Ahora AWS Bedrock Guardrails lleva esa tranquilidad sobre el uso de IA a un nuevo nivel. Glide accede a este servicio como socio tecnológico de primer nivel de AWS y participante del programa AWS Voice of the Pioneer de forma anticipada, antes de su disponibilidad general. Guardrails supone un nuevo nivel de control. Ofrece:
- Filtrado granular de contenido de palabras, imágenes y archivos contra amenazas, odio, blasfemias, etc.
- Filtrado de temas y asuntos basado en parámetros y criterios amplios o específicos
- Filtrado de datos personales o sensibles, incluidos PII, correo electrónico, dirección, identificación, etc.
- Protege contra la manipulación inmediata y los ataques de actores maliciosos u otros servicios.
- Protección contra la alucinación del modelo en las respuestas generadas
- Control estricto sobre los chatbots, los resultados de RAG y otras funciones de IA orientadas a la audiencia
Glide, en su comunicado, ha descrito también casos de uso específicos en los que se puede usar AWS Bedrock Guardrails para favorecer el uso de la IA de forma más segura y controlada.
Noticias relacionadas de Glide
Ahora, los clientes de Glide, además de mantener sus datos seguros, puede pueden crear manuales de reglas de IA detallados y eficaces, específicos para su organización, lo que les brinda tranquilidad a ellos y a su público.
Dado que el contexto regulatorio y global en torno al uso de IA en el contenido avanza tan rápido, la creación de manuales de reglas de IA se ha convertido en una prioridad para las empresas de medios que se toman en serio la integración de dichas herramientas. Esto, además, les protege de posibles errores que pueden socavar la confianza de la audiencia, ganada en muchos casos durante largo tiempo.
GAIA con Guardrails es la combinación perfecta. Funciona igual que cualquier otro componente de GAIA: los clientes controlan lo que desean y pueden cambiar parámetros y definiciones rápidamente, manteniendo un control estricto de los costos. No requiere una gran configuración: simplemente lo activas y lo usas. Es una capa adicional de seguridad para que los editores controlen lo que entra en sus sistemas o lo que se muestra a su público.
Además de los usos obvios, permite, entre otras cosas, seleccionar contenido enviado por los usuarios, establecer reglas para evitar consejos o contenido sobre temas como finanzas o derecho, excluir a personas o temas que no se desean que la IA cubra y verificar datos al instante.
Deja una respuesta