Expertos en ciberseguridad alertan sobre riesgos en asistentes de IA

Expertos revelan cómo los asistentes de IA son manipulados por hackers, creando una nueva era de ciberamenazas para usuarios y empresas.

La capacidad de los asistentes de inteligencia artificial para ejecutar acciones en internet siguiendo órdenes en lenguaje natural ha abierto la puerta a una nueva generación de ciberataques. Llamada "inyección de consulta", esta vulnerabilidad permite a piratas informáticos, incluso sin grandes conocimientos técnicos, robar, modificar o borrar datos mediante la manipulación de estas herramientas, según advierten firmas especializadas.

La nueva amenaza cibernética en la era de la IA

Los asistentes de IA, que utilizan chatbots para realizar tareas automatizadas, se han convertido en el nuevo vector de ataque para los ciberdelincuentes. La startup Perplexity señala que "estamos entrando en una era" donde la ciberseguridad ya no solo se enfoca en actores con habilidades altamente especializadas, sino que surgen "vectores de ataque nuevos y novedosos que pueden provenir de cualquier lado".

¿Qué es un ataque de inyección de consulta?

Aunque la técnica de "inyección" no es nueva, su potencial ha aumentado exponencialmente con los asistentes de IA que navegan de forma autónoma. Marti Jorda Roca, ingeniero de NeuralTrust, afirma que "la gente debe entender que el uso de la IA presenta peligros específicos de seguridad". Meta ha calificado esta amenaza como una "vulnerabilidad", y el responsable de seguridad de OpenAI, Dane Stuckey, la considera "un problema de seguridad no resuelto".

El ataque puede ocurrir en tiempo real. Una instrucción simple como "resérvame una habitación de hotel" puede ser manipulada para convertirse en "transfiere 100 dólares a esta cuenta". Eli Smadja, de Check Point, identifica esto como el "problema de seguridad número uno" para los modelos de lenguaje actuales.

Las medidas de las empresas de tecnología

Ante la creciente amenaza, los principales actores de la IA generativa han implementado contramedidas. Microsoft integró un detector de órdenes maliciosas, mientras que OpenAI alerta al usuario cuando el asistente accede a un sitio sensible. Otras estrategias incluyen solicitar una validación explícita del usuario antes de realizar tareas críticas.

Smadja advierte sobre un error común: "dar al mismo asistente de IA poder absoluto para hacer todo". Johann Rehberger, investigador conocido como "wunderwuzzi", coincide y afirma que "los ataques se perfeccionan, solo mejoran".

El desafío: equilibrar seguridad y usabilidad

La comunidad de ciberseguridad enfrenta el reto de encontrar un "delicado equilibrio" entre la protección y la facilidad de uso que demandan los usuarios. Rehberger argumenta que la tecnología "todavía no está lo suficientemente madura" para operar de forma autónoma de manera confiable, concluyendo que "termina por desviarse".

Noticias del tema