Expertos alertan en la conferencia Kaspersky HORIZONS de Roma sobre un cambio de paradigma: la IA ya no solo procesa datos, sino que interpreta y moldea la cognición humana, generando riesgos sistémicos que van desde el phishing hiperpersonalizado hasta la manipulación de interfaces cerebro-computadora.
La Inteligencia Artificial (IA) ha cruzado un umbral crítico. Ha dejado de ser una mera herramienta de procesamiento de datos para adentrarse en un territorio inédito: la interpretación e interacción directa con la cognición humana. Este cambio de paradigma, orientado a analizar señales neuronales, modelar comportamientos y anticipar patrones de toma de decisiones, fue el eje central de la última edición de *Kaspersky HORIZONS*, la conferencia anual de referencia sobre el futuro de la ciberseguridad en Europa, celebrada este año en Roma.
Aunque los sistemas actuales carecen de la precisión para descifrar pensamientos de forma directa, ya poseen la capacidad de influir en el comportamiento y moldear decisiones a través de sistemas de recomendación, personalización y control masivo de la información. Para los analistas del equipo Global Research and Analysis Team (GReAT) de Kaspersky, esta evolución no es ciencia ficción, sino un riesgo real y creciente para la ciberseguridad, la sociedad y la tecnología, incluso si los escenarios más catastróficos siguen siendo, por ahora, especulativos.
Ante esta realidad, GReAT ha identificado cuatro riesgos de seguridad emergentes que se intensificarán a medida que madure la IA cognitiva.
1. Ingeniería social: el phishing evoluciona hacia el engaño psicológico
Los Modelos de Lenguaje (LLM) ya están transformando la ingeniería social en una amenaza mucho más sofisticada. Los ciberdelincuentes pueden generar correos electrónicos y páginas de *phishing* de una credibilidad sin precedentes. Con la llegada de la IA cognitiva, este peligro se multiplica: los atacantes podrían aprovechar plataformas sociales y macrodatos para crear fraudes altamente personalizadas, utilizando perfiles psicológicos y conductuales para maximizar sus tasas de éxito.
Estos intentos de phishing ya no serán estáticos. Se generarán de forma dinámica, se adaptarán al contexto en tiempo real y apelarán directamente a las emociones de la víctima. Según el último informe global de Kaspersky Security Services, «Anatomía de un mundo Cibernético», el phishing ya representa aproximadamente el 15% de las técnicas de ataque más utilizadas. En este nuevo escenario, se convierte en una puerta de entrada letal para ciberataques de Amenazas Persistentes Avanzadas y otras formas de cibercrimen dirigidas a empresas y organismos gubernamentales.
2. Manipulación cognitiva: la erosión silenciosa de la opinión pública
Más allá de los ataques individuales, la IA faculta el desarrollo de operaciones de influencia a gran escala. Actores malintencionados, desde grupos hacktivistas hasta APTs, podrían explotar sesgos cognitivos y estímulos emocionales para moldear la opinión pública de poblaciones enteras.
Las redes sociales ya han demostrado cómo los algoritmos refuerzan las cámaras de eco y amplifican la polarización. Sin embargo, a medida que las campañas políticas y corporativas perfeccionen sus técnicas de microsegmentación conductual, la línea entre predecir el comportamiento y moldearlo activamente se volverá imperceptible. Esto no solo amenaza la autonomía individual, sino que genera un riesgo sistémico para la confianza pública y la estabilidad democrática.
3. Perfilado predictivo: cuando los algoritmos juzgan lo que aún no has hecho
El perfilado basado en IA se está consolidando como una potente herramienta de abuso tecnológico. Mediante la agregación de datos procedentes de redes sociales, huellas digitales y otras fuentes, la IA puede construir perfiles psicológicos y de identidad de una granularidad extrema.
Esta capacidad correlaciona automáticamente información que antes estaba fragmentada, exponiendo datos sensibles, vinculando identidades y facilitando campañas de doxxing y acoso a gran escala. El peligro más insidioso radica en los modelos predictivos: existe el riesgo de que las personas sean juzgadas, señaladas o penalizadas por comportamientos inferidos por un algoritmo, y no por acciones reales. La amenaza, por tanto, se desplaza desde la simple pérdida de privacidad hacia la pérdida total de control sobre la propia identidad.
4. Convergencia entre interfaces cerebro-computadora (BCI) e IoT
Aunque aún en fase mayoritariamente experimental, las interfaces cerebro-computadora (BCI) ya permiten facilitar la comunicación de pacientes interpretando sus señales neuronales. Las investigaciones actuales están ampliando estas capacidades hacia el control de dispositivos externos, marcando el punto de convergencia entre las BCI y el Internet de las Cosas (IoT).
En la práctica, las señales neuronales podrían enviar comandos a sistemas conectados, como dispositivos domésticos inteligentes, tecnologías de asistencia o equipamiento médico. Si bien esta integración promete beneficios revolucionarios en sanidad y accesibilidad, también extiende los riesgos de ciberseguridad al ámbito físico. Un sistema comprometido podría permitir acciones no autorizadas a través de la interfaz neuronal del usuario, incluyendo la interceptación de señales o la manipulación de las respuestas del dispositivo. La seguridad deja de ser solo un problema de infraestructura digital para convertirse en una cuestión de autonomía humana.
La necesidad de una regulación con visión de futuro
Aunque la IA cognitiva todavía se encuentra en una fase temprana y lejos de una adopción masiva, su desarrollo avanza a una velocidad vertiginosa. Se espera que los modelos avanzados de interacción entre humanos e IA se generalicen considerablemente en los próximos años. A medida que aumente su adopción, también lo harán los riesgos asociados, y debemos estar preparados para ello.
Abordar estos desafíos exigirá una colaboración proactiva y sin precedentes entre la comunidad de ciberseguridad, los desarrolladores de IA, la comunidad científica y los responsables políticos.
El verdadero riesgo de la IA cognitiva es que moldea nuestras mentes de forma silenciosa y a gran escala. Ya hemos aprendido que los sistemas optimizados para maximizar la interacción erosionan la capacidad de juicio. Por eso la regulación se convierte ahora en una defensa de la autonomía humana, aunque no podrá seguir el ritmo de la IA cognitiva si solo aborda lo que estos sistemas hacen hoy. Necesitamos un principio claro y aplicable: la tecnología debe servir a las personas, y no al revés. La autonomía no es solo una cuestión de privacidad, sino también de democracia.
