X anuncia 'cero tolerancia' en Grok a explotación infantil y desnudez no consentida
La red social X anunció actualizaciones en su IA Grok con una política de "cero tolerancia" ante explotación sexual infantil y desnudez no consentida, tras críticas por contenido generado sin autorización.
La red social X (antes Twitter) anunció una serie de actualizaciones en su inteligencia artificial Grok, implementando una política de “cero tolerancia” ante la explotación sexual infantil y la desnudez no consentida, luego de enfrentar críticas por permitir la generación de contenido digital explícito sin el permiso de usuarias, incluidas menores de edad, medidas que incluyen restringir la edición de imágenes con ropa reveladora y limitar el acceso a cuentas premium.
Nuevas restricciones técnicas y de acceso
Desde su cuenta oficial Safety, X detalló que se han implementado medidas tecnológicas para evitar que Grok permita la edición de imágenes de personas reales con “ropa reveladora”, como bikinis. Además, la creación y edición de imágenes a través de la IA ahora solo estará disponible para cuentas premium, argumentando que esto añade una capa adicional de protección al hacer más fácil responsabilizar a quienes intenten abusar de la herramienta.
La plataforma aseguró que estas actualizaciones no alteran su protocolo de seguridad vigente, que exige que todo el contenido generado por IA cumpla estrictamente con sus reglas. Reiteró que el personal de Safety trabaja para eliminar contenido infractor e ilegal, aplicar sanciones como suspensiones permanentes de cuentas y colaborar con gobiernos y fuerzas del orden.
Prioridad: Eliminación de material de abuso sexual infantil
X enfatizó que prioriza la eliminación de material de abuso sexual a menores y que denuncia a las autoridades policiales las cuentas que buscan este tipo de contenido. “Tomamos las medidas pertinentes contra las cuentas que incumplen nuestras Reglas de X”, señaló la compañía.
Postura de la Secretaría de las Mujeres en México
La Secretaría de las Mujeres de México, encabezada por Citlalli Hernández Mora, ya había condenado el 6 de enero que producir o difundir contenido íntimo sin consentimiento, incluso si es generado por IA, vulnera la dignidad de las mujeres. Sin embargo, la dependencia señaló que no pudo establecer un diálogo directo con X debido a que la empresa no cuenta con oficinas en el país, subrayando que esta ausencia no exime a la plataforma de su responsabilidad ética y legal con las usuarias mexicanas.
IA: UE impone medida cautelar a X por imágenes explícitas generadas por la IA Grok
Grok, la IA de X, restringió la generación de imágenes para usuarios gratuitos tras ser criticada por crear deepfakes sexualmente explícitos. La plataforma X (antes Twitter) desactivó este viernes la función de creación de imágenes de su asistente de inteligencia artificial -- leer más
Noticias del tema