UE impone medida cautelar a X por imágenes explícitas generadas por la IA Grok
Grok, la IA de X, restringió la generación de imágenes para usuarios gratuitos tras ser criticada por crear deepfakes sexualmente explícitos.
La plataforma X (antes Twitter) desactivó este viernes la función de creación de imágenes de su asistente de inteligencia artificial Grok para los usuarios no suscriptores, luego de fuertes críticas y una medida cautelar de la UE por generar y difundir imágenes falsas sexualmente explícitas de mujeres y menores de edad.
El asistente de inteligencia artificial Grok, propiedad de la plataforma X de Elon Musk, desactivó su función de generación de imágenes para usuarios gratuitos este viernes. La medida se tomó después de que la herramienta fuera ampliamente criticada por producir "deepfakes" sexualmente explícitos, que consistían en el retoque de fotos o videos de personas reales para hacerlas parecer desnudas. Al intentar usar la función, Grok ahora responde que “la generación y edición de imágenes están actualmente reservadas a los suscriptores de pago”.
La Comisión Europea impone una medida cautelar a X
En respuesta al escándalo, la Comisión Europea anunció el jueves la imposición de una medida cautelar contra X. El organismo emitió una “orden de retención” que obliga a la empresa de Musk a “conservar todos sus documentos internos relacionados con Grok hasta finales de 2026”. Esta acción se produce después de que, a principios de diciembre, la UE multara a X con 120 millones de euros por incumplir la Ley de Servicios Digitales (DSA), una legislación que el presidente estadounidense Donald Trump ha acusado de atacar a las tecnológicas estadounidenses.
Presión internacional y condena del gobierno británico
El gobierno del Reino Unido se sumó a las críticas, instando el martes a X a encontrar una solución “urgente” para detener la proliferación de lo que describió como imágenes falsas “repugnantes e inaceptables”. La ministra de Tecnología, Liz Kendall, del gobierno laborista de Keir Starmer, declaró que “lo que hemos visto en línea en los últimos días es absolutamente repugnante e inaceptable en cualquier sociedad que se precie”, reflejando la grave preocupación internacional por el impacto de estos contenidos generados por IA.
Un problema global con deepfakes y responsabilidad de plataformas
El caso de Grok subraya el creciente desafío global que representan los deepfakes y la desinformación generada por IA, especialmente cuando involucra contenido sexual no consentido y menores de edad. La reacción regulatoria europea y la presión política evidencian un endurecimiento en la demanda de responsabilidad a las grandes plataformas tecnológicas sobre los contenidos que sus herramientas pueden producir y distribuir.
El futuro de Grok y la moderación de IA
Aunque limitar el acceso a funciones sensibles es un parche inmediato, el incidente plantea preguntas más profundas sobre los mecanismos de seguridad, verificación y ética integrados en los asistentes de IA antes de su lanzamiento. La sostenibilidad del modelo de negocio de X y la credibilidad de Grok como producto útil y seguro ahora dependen de la capacidad de la empresa para implementar controles más robustos y transparentes.
IA: Reino Unido exige a X frenar imágenes falsas generadas por Grok
El gobierno británico instó a la red social X, de Elon Musk, a frenar urgentemente la proliferación de imágenes falsas sexuales de mujeres y niñas generadas por su IA, Grok. El gobierno británico exigió este martes a la red social X, propiedad de Elon Musk, encontrar -- leer más
Noticias del tema