En los últimos días hemos asistido a un error garrafal de Google en relación con su inteligencia artificial que le ha llevado a detener la generación de imágenes de personas en Gemini. El problema, imágenes históricas demasiado inclusivas y poco fieles a la realidad. La búsqueda de la diversidad se les ha ido de las manos y en vez de no ofender a nadie, Gemini ha conseguido ofender a todos.
Asesoramiento experto gratuito en cambio de CMS
¡Cambia a un nuevo CMS, con inteligencia artificial, e incluso ahorra!
En este caso no es que Gemini alucinara, es que estaba programada para evitar estereotipos de género y raciales. Esto ha dado lugar a imágenes de soldados de distintas razas con el uniforme de la Alemania nazi.
El vicepresidente senior de Google Prabhakar Raghavan agradeció en el Blog de la compañía a los usuarios sus comentarios, lógicamente, pidió perdón y explicó qué había pasado: “En definitiva, dos cosas. En primer lugar, nuestro ajuste para garantizar que Gemini mostrara una variedad de personas no tuvo en cuenta los casos en los que claramente no debería mostrar diversidad. Y, en segundo lugar, con el tiempo, el modelo se volvió mucho más cauteloso de lo que pretendíamos y se negó a responder ciertas indicaciones, interpretando erróneamente algunas instrucciones anodinas como sensibles.”
Relacionado. Más sobre Google:
Como vemos, a pesar de que Google trata de ser una compañía cautelosa con la IA, esta les ha jugado una mala pasada. La compañía es consciente de que debe proteger la marca y no lanzar aplicaciones sin terminar de desarrollar y testear, pero la necesidad de responder a los últimos anuncios de OpenAI (como Sora), les ha hecho bajar la guardia.
En un comunicado interno, Sundar Pichai, CEO de Google, calificó de “completamente inaceptable” lo que había sucedido y abordó la misión de la compañía y el papel que debe jugar para mejorar sus modelos de IA: “Vamos a impulsar un conjunto de acciones, que incluyen cambios estructurales, directrices actualizadas de producto, lanzamientos mejorados, robustas evaluaciones, un equipo “red” y recomendaciones técnicas”. El CEO de la compañía deja claro cuál es su objetivo: “Centrémonos en lo más importante: crear productos útiles que merezcan la confianza de nuestros usuarios”.
Dicho esto, ¿por qué no se habían establecido estos procedimientos antes de convertir Bard en Gemini y anunciarlo a bombo y platillo? Algunos analistas sugieren que en Google hay un problema de cultura empresarial. Es decir, lo importante no solo es “mejorar las directrices”, sino también las barreras de control internas.
Relacionado. Más sobre inteligencia artificial:
Esa cultura empresarial es fundamental para convertir un negocio en una misión. Los empleados motivados proporcionan una estupenda ventaja competitiva. Y, como dicen algunos expertos, Google siempre ha sido un referente para la creación de este tipo de cultura donde pertenecer a Google era algo distinto, un valor especial y excepcional. Al fin y al cabo, es trabajar para la tecnológica más importante del mundo.
El propio Sundar Pichai ha sido el foco de los ataques estos últimos días y muchos empiezan a pensar que quizá no sea la persona más adecuada para liderar los nuevos proyectos. Ahora mismo su situación es altamente vulnerable. Se comenta incluso que hay aspectos del negocio que dirige que en realidad no entiende.
* Artículo basado en el trabajo de Rob Corbidge en Glide.
🔔 Recuerda: Si tienes problemas con tu proyecto digital:
Últimas noticias:
Apúntate gratis al boletín semanal:
Al suscribirte, confirmas que aceptas recibir la newsletter semanal de mejorCMS.com y las Condiciones de uso y Política de privacidad de mejorCMS.com, así como las de Mailchimp.
Tu empresa está muy ocupada. Todas lo están. Pero si no mejoras ahora, tu competencia lo hará:
Deja una respuesta