La UE podría dejar abierta la puerta a que la IA tenga acceso a nuestra mente inconsciente

La nueva Ley de Inteligencia Artificial de la Unión Europea podría dejar la puerta abierta a que la IA tenga acceso a nuestra mente inconsciente, lo que entraña un gran riesgo, según denuncia el profesor de la UOC Ignasi Beltran de Heredia.

Dejar la puerta abierta a que la Inteligencia Artificial tenga acceso a nuestra mente inconsciente es lo que podría permitir la nueva ley sobre esta materia de la Unión Europea, un gran riesgo que denuncia Ignasi Beltran de Heredia, profesor de los Estudios de Derecho y Ciencia Política de la Universitat Oberta de Catalunya (UOC) y autor del libro ‘Inteligencia artificial y neuroderechos’. El experto recuerda que el 95% de nuestra actividad cerebral discurre por debajo del nivel consciente, sin que tengamos realmente control alguno sobre ello, según una nota de la UOC.

El nuevo reglamento de Inteligencia Artificial que se está debatiendo en la UE pretende anticiparse a los posibles riesgos derivados de los usos de la IA en el futuro. En la propuesta original de esa propuesta de ley se recogía «la prohibición expresa de la comercialización, la puesta en servicio o el uso de una IA capaz de influir más allá del nivel consciente de una persona con el fin de distorsionar su comportamiento».

Sin embargo, desde entonces, se han ido introduciendo enmiendas y modificaciones que han ido diluyendo la rotundidad de esta prohibición.

Así, la propuesta que está actualmente sobre la mesa, y que servirá de referencia para la redacción final, establece la prohibición de este tipo de técnicas «siempre que sean deliberadamente manipuladoras o engañosas y que afecten considerablemente la capacidad de la persona para tomar una decisión informada, causando así que la persona tome una decisión que de otro modo no habría tomado y que de alguna manera cause un daño significativo a alguien». Además, esta prohibición no se aplicará a los sistemas de IA con fines terapéuticos aprobados.

Al respecto y en un artículo sobre esta cuestión que acaba de publicar, Beltran de Heredia alerta de que «la propuesta recoge la prohibición cuando haya un daño grave y la persona acabe haciendo algo que no iba a hacer. Pero eso es un imposible. Si yo no tengo acceso a mi yo inconsciente, es imposible que yo pueda acreditar qué otra cosa hubiera hecho si no hubiera sido estimulado ni tampoco acreditar el daño».

En este sentido, recuerda que «si la publicidad subliminal está hoy totalmente prohibida, sin ningún tipo de matices, ¿por qué estamos dejando espacio a que exista un condicionamiento subliminal por parte de la inteligencia artificial?».

Solo el 5% de la actividad cerebral es consciente

Para evidenciar el riesgo que entraña, el experto destaca que «se estima que solo el 5% de nuestra actividad cerebral discurre de forma consciente. El 95% restante funciona por debajo del nivel consciente, sin que nosotros tengamos realmente control alguno de ella ni percibamos siquiera que se está produciendo».

Tal y como señala Beltran de Heredia en su artículo, «no nos percatamos de este extraordinario torrente de actividad neuronal, porque la interacción entre la mente consciente y el comportamiento inconsciente es sumamente compleja, y las fuerzas que guían nuestras vidas están muy lejos de nuestro control».

Sin embargo, eso no significa que no haya formas de influir más allá de la conciencia. «La inteligencia artificial lo puede hacer de dos formas», señala el investigador. «La primera, recopilando datos sobre nuestra vida y creando una arquitectura de las decisiones que te lleve a tomar una decisión determinada. La otra, menos desarrollada por ahora, consiste en aplicaciones o dispositivos que directamente generen impulsos irresistibles para nuestra mente inconsciente y que de forma subliminal logren generar respuestas impulsivas, es decir, que lleguen a fabricar impulsos».

«A medida que vayamos desarrollando máquinas mejores y más potentes, y estemos más conectados con ellas, las dos opciones serán más y más habituales. Los algoritmos tendrán más datos de nuestra vida y será más fácil crear instrumentos que generen esas respuestas impulsivas», añade. «El riesgo que estas tecnologías atesoran es que, como en el flautista de Hamelín, las personas acaben bailando sin saber por qué».

Por todo ello, Beltran de Heredia sostiene que, «si dejamos la puerta de nuestra mente inconsciente abierta, aunque sea con buenos propósitos, no vamos a poder controlar quién tiene acceso a ella, cómo es ese acceso y qué objetivos busca».

«Alguien podría pensar que estas reflexiones apelan a un futuro distópico difícilmente realizable. No obstante, lo que no cabe duda es que ya estamos siendo víctimas de intromisiones a un nivel de profundidad hace unos años inimaginable y, por este motivo, los ciudadanos deberían disponer del máximo nivel de protección. Nuestra mente inconsciente se refiere a lo más íntimo de nuestra personalidad y debería estar absolutamente blindada. De hecho, estas cosas no deberían ni estarse discutiendo», concluye.