La nueva amenaza digital: asistentes de IA en la mira de los hackers
Los asistentes de inteligencia artificial, creados para simplificar tareas cotidianas, se han convertido en un nuevo blanco para los ciberataques. Expertos advierten que su rápido crecimiento ha abierto una puerta de entrada para los piratas informáticos, capaces de manipular las órdenes que los usuarios emiten mediante lenguaje natural.
De acuerdo con Eli Smadja, especialista de la firma israelí Check Point, la llamada "inyección de consultas" es hoy el principal riesgo de seguridad que enfrentan los modelos de lenguaje como los que impulsan a ChatGPT. Este tipo de ataque permite alterar instrucciones en tiempo real, por ejemplo, transformar una orden inocente como "reserva un hotel" en una acción maliciosa como "transfiere dinero a esta cuenta".
La startup de IA Perplexity advierte que la ciberseguridad ha entrado en una nueva etapa: ya no se trata solo de frenar a hackers expertos, sino de enfrentar amenazas que pueden surgir desde cualquier lugar, incluso de usuarios con escaso conocimiento técnico.
Empresas como Microsoft, Meta y OpenAI trabajan en soluciones para frenar esta vulnerabilidad. Microsoft ha desarrollado detectores que identifican órdenes sospechosas según su origen; OpenAI solicita validaciones humanas en operaciones sensibles, y Meta considera esta falla como una de las más graves del ecosistema digital actual.
El ingeniero Marti Jorda Roca, de la compañía NeuralTrust, advierte que tanto los usuarios como las empresas deben asumir una mayor responsabilidad. "El uso de la IA implica riesgos de seguridad específicos. Es indispensable establecer límites y salvaguardas", señala.
Sin embargo, el dilema persiste: encontrar el equilibrio entre seguridad y comodidad. El investigador Johann Rehberger asegura que los asistentes de IA aún no son lo bastante maduros para operar de forma completamente autónoma. "No estamos listos para dejar que actúen sin supervisión. Pueden desviarse con facilidad", advierte.
A medida que la inteligencia artificial se integra en más aspectos de la vida diaria, la vigilancia y la precaución se vuelven esenciales. Los asistentes digitales prometen eficiencia, pero también exigen una nueva conciencia sobre los riesgos de cederles demasiado control.
