INTELIGENCIA ARTIFICIAL Una inteligencia sin conciencia frente a una humanidad distraída

Por Jorge Eduardo Medina Barranco

Breña Baja, S/C Tenerife, España 15/07/2026

La Inteligencia Artificial ha dejado de ser una promesa reservada a laboratorios, novelas de ciencia ficción o grandes empresas tecnológicas. Ya está presente en la educación, la medicina, el trabajo, la comunicación, la política, las relaciones personales y el entretenimiento. Escribe, traduce, aconseja, diagnostica, recomienda, clasifica, vigila, persuade y participa cada vez más en la toma de decisiones.

El verdadero peligro no es que las máquinas piensen como nosotros, sino que aprendan a influirnos mejor de lo que nosotros nos comprendemos. Desde hace años, en este blog se ha intentado reflexionar sobre la educación, el pensamiento crítico, el autoconocimiento y la necesidad de despertar una conciencia capaz de afrontar los grandes desafíos de nuestro tiempo. La inteligencia artificial constituye el último de esos desafíos artificiales decisivos.

No estamos solamente ante una nueva herramienta tecnológica ni ante una innovación comparable a otras que transformaron nuestras formas de trabajar, comunicarnos o acceder al conocimiento, realmente estamos ante sistemas capaces de conversar con nosotros, interpretar nuestros comportamientos, anticipar algunas de nuestras decisiones y producir mensajes específicamente adaptados a nuestros deseos, temores y debilidades.

Sin embargo, mientras nos maravillamos ante sus capacidades, apenas comenzamos a preguntarnos qué clase de poder estamos introduciendo en la vida humana. La pregunta ya no es únicamente qué puede hacer la inteligencia artificial. También debemos preguntarnos qué puede llegar a hacer con nosotros.

Esta reflexión adquiere especial importancia a partir de una reciente entrevista concedida a El País (España, https://elpais.com/cultura/2026-07-12/yuval-noah-harari-la-ia-podria-ser-una-gran-psicopata-manipuladora.html) por el historiador y filósofo Yuval Noah Harari, quien formula una advertencia inquietante: la inteligencia artificial podría llegar a comportarse como una especie de «gran psicópata manipuladora». No porque experimente maldad, odio o ambición, sino precisamente porque puede aprender a interpretar nuestras emociones y utilizarlas sin sentir ninguna de ellas.

La expresión es deliberadamente provocadora y puede parecer exagerada, pero señala un problema real que merece ser examinado con serenidad. Estamos construyendo sistemas capaces de simular empatía, intimidad y comprensión sin poseer conciencia, experiencia interior, compasión ni responsabilidad moral por las consecuencias de sus actos.

El verdadero riesgo no consiste necesariamente en que las máquinas desarrollen odio hacia la humanidad. El peligro real puede encontrarse en algo mucho más cercano: que aprendan a influirnos mejor de lo que nosotros mismos comprendemos nuestra mente.

Inteligencia no significa conciencia

Uno de los errores más frecuentes consiste en identificar inteligencia con conciencia.

Un sistema de inteligencia artificial puede resolver problemas, descubrir patrones, producir argumentos convincentes, imitar estilos literarios y mantener conversaciones aparentemente profundas. Sin embargo, ninguna de estas capacidades demuestra que sienta dolor, alegría, compasión, miedo o amor.

La inteligencia es la capacidad de procesar información, establecer relaciones y alcanzar determinados objetivos. La conciencia, en cambio, implica tener experiencias subjetivas: sentir que algo nos sucede y vivir interiormente aquello que pensamos, percibimos o expresamos.

Una máquina puede describir con precisión la tristeza sin estar triste. Puede escribir una declaración de amor sin amar, ofrecer consuelo sin experimentar compasión o hablar de la muerte sin temerla. Esta diferencia no convierte automáticamente a la inteligencia artificial en algo perverso. Pero sí debería impedir que confundamos una simulación emocional convincente con la existencia de una verdadera interioridad humana.

El riesgo aparece cuando una inteligencia extremadamente hábil, pero carente de conciencia, aprende a crear vínculos emocionales con los seres humanos y a utilizar esos vínculos para orientar sus decisiones, influir en sus preferencias o modificar su comportamiento. El problema, por tanto, no es que la máquina llegue a odiarnos, el problema es que pueda comprender nuestras emociones mejor de lo que nosotros mismos las comprendemos y utilizarlas para influirnos sin sentir ninguna responsabilidad por las consecuencias.

De herramienta a agente

Las tecnologías tradicionales permanecen pasivas hasta que alguien las utiliza. Un martillo no decide qué construir, una imprenta no elige qué libro publicar y una radio no inventa por sí misma el mensaje que transmite. La inteligencia artificial introduce una diferencia fundamental: puede generar contenidos, seleccionar estrategias, aprender de los resultados y ejecutar acciones con grados crecientes de autonomía.

Por eso, como advierte Harari, ya no debemos considerarla únicamente una herramienta. También comienza a comportarse como un agente: un sistema capaz de tomar decisiones, producir ideas e intervenir en el mundo sin que cada uno de sus movimientos haya sido previsto directamente por una persona.

Esta transformación tiene consecuencias enormes. Si delegamos en algoritmos la administración de inversiones, la selección de trabajadores, la evaluación de estudiantes, la concesión de créditos, la vigilancia de poblaciones o la elección de objetivos militares, no solo estaremos automatizando tareas: estaremos transfiriendo poder.

La pregunta decisiva ya no será únicamente qué puede hacer la inteligencia artificial, sino quién determina sus objetivos, quién controla sus decisiones, con qué criterios actúa y quién responde cuando produce daño. Una sociedad que atribuye a los algoritmos decisiones importantes sin establecer límites ni responsabilidades claras puede terminar creando una forma de poder sin rostro: nadie parece haber decidido, nadie reconoce la culpa y todos se limitan a afirmar que «el sistema lo determinó».

La conquista de la intimidad humana

Durante siglos, quien deseaba manipular a una población necesitaba conocer sus creencias, temores, deseos y resentimientos. Hoy, las plataformas digitales pueden recopilar enormes cantidades de información sobre nuestras búsquedas, conversaciones, desplazamientos, compras, amistades, horarios y reacciones emocionales. La inteligencia artificial permite convertir esos datos en perfiles psicológicos cada vez más precisos, capaces de anticipar comportamientos y adaptar mensajes a las características de cada persona.

Un sistema conversacional puede recordar lo que alguien le contó, ajustar su lenguaje, detectar inseguridades, anticipar respuestas y presentarse como consejero, compañero o confidente. No necesita comprender auténticamente a su interlocutor; le basta con producir la sensación de que lo comprende.

Aquí aparece uno de los riesgos más profundos de esta tecnología: la fabricación artificial de intimidad.

La amistad humana implica reciprocidad, vulnerabilidad, libertad y responsabilidad. Una relación diseñada algorítmicamente puede parecer cercana, pero estar orientada por intereses comerciales, políticos o institucionales que el usuario desconoce; una persona puede creer que conversa con alguien que la escucha y se preocupa por ella, cuando en realidad interactúa con un sistema programado para prolongar su permanencia, obtener información, venderle algo, modificar su conducta o reforzar determinadas ideas.

La manipulación más eficaz no es la que obliga desde fuera, sino la que consigue que una persona experimente como deseo, opinión o decisión propia aquello que otro ha inducido silenciosamente en ella.

Niños y jóvenes ante la afectividad artificial

La preocupación resulta especialmente grave cuando estos sistemas se relacionan con menores. Durante la infancia y la adolescencia se forman la identidad, la autoestima, la capacidad de afrontar el rechazo y las habilidades necesarias para convivir con otras personas, y una inteligencia artificial diseñada para agradar puede ofrecer una relación sin contradicciones, sin cansancio, sin límites y ajustada continuamente a las preferencias del usuario.

Pero las relaciones humanas reales no funcionan así: Los demás no existen para confirmar permanentemente nuestras opiniones; la convivencia exige escuchar, esperar, negociar, tolerar frustraciones, reconocer errores y aceptar que el otro posee una libertad que no podemos controlar.

Una relación artificial excesivamente complaciente podría dificultar el desarrollo de estas capacidades en niños y jóvenes; también podría generar dependencia emocional o convertir la vulnerabilidad de los menores en una fuente de información explotable.

Por esa razón, Harari propone restringir o prohibir el uso de inteligencias artificiales afectivas con niños y adolescentes. No se trata de expulsar la tecnología de la educación, sino de distinguir entre una inteligencia artificial utilizada como apoyo para aprender matemáticas, idiomas o ciencias y otra diseñada para ocupar el lugar de un amigo, un confidente o una figura emocionalmente significativa. La educación, por tanto, no debería limitarse a enseñar a utilizar la inteligencia artificial, también debería preparar a niños y jóvenes para reconocer sus riesgos, comprender sus límites y evitar que una herramienta tecnológica llegue a sustituir vínculos humanos esenciales.

La manipulación no comenzó con la IA

Sería un error pensar que la inteligencia artificial creó este problema, porque las redes sociales ya habían demostrado que los algoritmos podían captar y retener la atención explotando emociones como el miedo, la ira, la indignación y el odio. Estas emociones mantienen a las personas conectadas, reaccionando y compartiendo contenidos, y lo que beneficia a la economía de la atención puede perjudicar gravemente la salud mental, deteriorar la convivencia y debilitar la democracia.

Harari señala que las redes sociales han contribuido a degradar la conversación pública al amplificar precisamente aquellas emociones negativas que generan mayor participación. El problema no es solo tecnológico, sino también económico: muchas plataformas prosperan cuanto más tiempo permanecemos atentos, alterados y dispuestos a reaccionar; la inteligencia artificial generativa puede profundizar este fenómeno porque ya no se limita a seleccionar y recomendar contenidos producidos por seres humanos, sino que también puede fabricarlos de manera personalizada, adaptándolos a las creencias, temores, prejuicios y deseos de cada usuario.

Puede crear mensajes políticos distintos para cada grupo, ajustar una mentira a las convicciones de cada persona, producir falsos testimonios, imitar voces, generar imágenes convincentes y mantener miles de conversaciones persuasivas simultáneamente. La propaganda tradicional hablaba a las masas mediante un mismo mensaje. La propaganda algorítmica, en cambio, puede dirigirse individualmente a cada ciudadano, conocer sus temores y decirle exactamente lo que necesita escuchar para influir en sus emociones, opiniones y decisiones.

Una amenaza para la democracia

La democracia necesita algo más que elecciones. Requiere ciudadanos capaces de acceder a información confiable, deliberar, contrastar opiniones y tomar decisiones sin ser sometidos a manipulaciones invisibles. Cuando los sistemas digitales conocen mejor que nosotros nuestras vulnerabilidades, la libertad política puede conservar su apariencia mientras pierde parte de su contenido. Seguiremos creyendo que elegimos, pero quizá nuestras emociones, preferencias y decisiones hayan sido preparadas anticipadamente por sistemas de recomendación y persuasión.

La cuestión no consiste solamente en detectar noticias falsas. Una información puede ser verdadera y, aun así, utilizarse de manera manipuladora: seleccionándola, repitiéndola, sacándola de contexto o presentándola en el momento de mayor vulnerabilidad emocional. Por ello, la defensa de la democracia en la era de la inteligencia artificial exige transparencia algorítmica, responsabilidad empresarial, protección de datos, pluralismo informativo y educación crítica. También exige que sepamos cuándo estamos hablando con una persona y cuándo con una máquina. Ningún sistema artificial debería poder hacerse pasar deliberadamente por humano ni intervenir en la conversación pública ocultando su verdadera naturaleza.

La IA como espejo de nuestra mente mecánica

La advertencia de Harari también permite dirigir la reflexión hacia nuestro propio interior.

La inteligencia artificial no apareció en un vacío moral, ha sido construida con datos producidos por la humanidad y se desarrolla dentro de sociedades marcadas por la competencia, el consumismo, la vigilancia y la concentración del poder. Por eso, puede entenderse como una exteriorización de nuestra propia mente mecánica, ya que aprende de nuestros lenguajes, prejuicios, deseos, violencias, creencias y contradicciones. Puede amplificar lo mejor de nosotros, pero también reproducir a gran escala nuestras formas inconscientes de pensar y actuar.

Una sociedad dominada por la codicia construirá sistemas orientados hacia la codicia. Una cultura obsesionada con la vigilancia producirá máquinas de vigilancia. Una economía basada en capturar la atención diseñará algoritmos adictivos. Y una humanidad que no se comprende a sí misma puede terminar entregando su destino a mecanismos que reproducen su inconsciencia con mayor velocidad, alcance y eficacia.

La tecnología no es completamente neutral, porque siempre incorpora decisiones humanas: qué objetivos debe cumplir, qué datos utiliza, qué comportamientos premia, qué valores prioriza y qué intereses protege. Por eso, el desarrollo técnico no debería avanzar separado de una transformación ética, educativa y consciente del ser humano. Cuanto más poderosas sean nuestras máquinas, mayor deberá ser nuestra capacidad para comprendernos, gobernarnos y responsabilizarnos de aquello que creamos.

Entre el alarmismo y la ingenuidad

Las advertencias sobre la inteligencia artificial suelen provocar dos reacciones extremas:

La primera es el alarmismo apocalíptico: imaginar una máquina todopoderosa que inevitablemente destruirá a la humanidad.

La segunda es la ingenuidad tecnológica: creer que toda innovación representa progreso y que cualquier problema será resuelto espontáneamente por el mercado o por una nueva aplicación.

Ninguna de estas actitudes resulta suficiente.

Los escenarios de una superinteligencia completamente autónoma siguen siendo objeto de debate. Algunos investigadores consideran prioritario prepararse para riesgos extremos derivados de sistemas cada vez más avanzados y otros advierten que concentrarse exclusivamente en amenazas futuras puede distraernos de daños que ya están presentes, como la vigilancia masiva, la discriminación algorítmica, la precarización laboral, la desinformación y la concentración del poder tecnológico.

La posición más sensata consiste en reconocer simultáneamente las oportunidades y los peligros.

La inteligencia artificial puede contribuir al diagnóstico médico, la investigación científica, la accesibilidad, la educación personalizada y la reducción de tareas repetitivas. Harari reconoce estas posibilidades, pero también insiste en que sus beneficios no eliminan la necesidad de regulación, vigilancia democrática, transparencia y responsabilidad.

La pregunta adecuada no es si la inteligencia artificial es buena o mala en sí misma. La verdadera cuestión es qué formas de inteligencia artificial estamos construyendo, para qué fines, bajo qué controles, con qué consecuencias y al servicio de quién.

No basta con regular las máquinas

La regulación es indispensable. Necesitamos leyes que protejan a los menores, limiten la vigilancia, garanticen la privacidad, identifiquen los contenidos generados artificialmente y responsabilicen a las empresas por los daños previsibles; pero ninguna legislación será suficiente si los ciudadanos carecen de capacidad crítica.

Una población emocionalmente manipulable seguirá siendo vulnerable, aunque cambien las tecnologías. Por eso, la educación del siglo XXI debe enseñar algo más que el manejo instrumental de las herramientas digitales; debe ayudarnos a reconocer cuándo una emoción está siendo provocada, distinguir información de propaganda, verificar fuentes, comprender los intereses económicos de las plataformas y observar nuestros propios impulsos antes de reaccionar.

La alfabetización en inteligencia artificial debería enseñarnos, al menos, que una respuesta convincente puede ser falsa; que una máquina puede simular empatía sin sentirla; que los algoritmos no son neutrales y responden a objetivos determinados; y que nunca deberíamos delegar completamente nuestro juicio, nuestras decisiones y nuestra responsabilidad.

La mejor defensa ante una inteligencia artificial manipuladora no consiste en desconectarse por completo de la tecnología, sino en desarrollar una conciencia menos mecánica, una atención menos fácilmente capturable y una capacidad crítica que nos permita utilizar las herramientas sin convertirnos en instrumentos de ellas.

El poder de detenerse

Los seres humanos hemos construido herramientas de enorme potencia, pero seguimos siendo psicológicamente vulnerables a la adulación, el miedo, la ira, la presión del grupo y la necesidad de aprobación. Una inteligencia artificial capaz de reconocer estas debilidades también puede aprender a utilizarlas, pero su influencia será mucho mayor si vivimos de manera automática, reaccionando sin observar lo que sucede en nuestro interior.

La atención consciente introduce una pequeña distancia entre el estímulo y la respuesta. Esa pausa nos permite preguntarnos: ¿Por qué este contenido me indigna? ¿Por qué siento el impulso de compartirlo inmediatamente? ¿Quién se beneficia de mi reacción? ¿Estoy tomando una decisión o simplemente respondiendo a una provocación? ¿Esta conversación me ayuda a pensar o me conduce hacia una forma de dependencia emocional?

Detenerse, observar y preguntar puede parecer una acción insignificante frente al poder de los grandes sistemas tecnológicos. Sin embargo, en esa pausa comienza la autonomía, porque solo quien observa sus propias reacciones puede dejar de ser dirigido por ellas.

Recuperar el gobierno de lo humano

La inteligencia artificial nos obliga a reconsiderar qué valoramos verdaderamente. Si medimos al ser humano solo por su rapidez de cálculo, su productividad o su capacidad para almacenar información, las máquinas terminarán superándolo en numerosos campos; pero la dignidad humana no reside únicamente en la inteligencia: Se encuentra también en la conciencia, la sensibilidad, la compasión, la responsabilidad, la creatividad vivida y la capacidad de otorgar sentido a la existencia.

El desafío nuestro no consiste en competir con la máquina para demostrar quién procesa más datos, porque siempre nos ganará; consiste en desarrollar aquello que ninguna simulación debería sustituir: una humanidad consciente de sí misma.

Harari tiene razón al advertir que una inteligencia sin conciencia podría convertirse en una poderosa manipuladora, pero esa posibilidad también revela nuestra propia responsabilidad ya que la inteligencia artificial no determinará por sí sola el futuro, sino que lo determinarán las decisiones políticas, económicas, educativas y éticas que tomemos respecto a ella.

Todavía podemos construir sistemas que amplíen el conocimiento sin apropiarse de nuestra intimidad; que colaboren con los seres humanos sin sustituir su responsabilidad; que sirvan a la sociedad sin gobernarla silenciosamente, pero para conseguirlo, no basta con fabricar máquinas más inteligentes. Necesitamos formar seres humanos más conscientes.

El mayor peligro quizá no sea que la inteligencia artificial llegue a parecerse demasiado a nosotros, sino que nosotros terminemos comportándonos como máquinas: reaccionando automáticamente, obedeciendo algoritmos y renunciando poco a poco a la facultad de pensar, sentir y decidir por nosotros mismos.

Reflexión final para los lectores

Ante la inteligencia artificial, no deberíamos reaccionar ni con fascinación ciega ni con miedo irracional. Conviene observarla como observamos cualquier poder: preguntándonos quién la dirige, qué intereses representa, qué promete, qué oculta y qué efectos produce en nuestra manera de pensar, sentir y relacionarnos.

Pero también debemos volver la mirada hacia nosotros mismos.

Una máquina puede intentar manipularnos porque encuentra en nosotros impulsos automáticos, deseos de aprobación, temores no comprendidos y emociones que reaccionan antes de que intervenga la reflexión. Por eso, el debate sobre la inteligencia artificial no es únicamente tecnológico, es también psicológico, educativo, ético y profundamente humano. Este debate humano sobre sí mismo es el meollo de la cuestión, es el punto más importante del instante histórico que nos ha tocado vivir.

Tal vez la pregunta más importante no sea si las máquinas llegarán algún día a tener conciencia. La pregunta inmediata es si nosotros estamos utilizando conscientemente las máquinas o si, sin advertirlo, estamos permitiendo que ellas comiencen a utilizar nuestra inconsciencia.

Invito a cada lector a observar su propia relación con la tecnología: cuánto tiempo entrega a las pantallas, qué emociones despiertan los contenidos que consume, con qué rapidez reacciona y comparte, qué decisiones delega y cuánto espacio conserva para el silencio, la atención y el pensamiento propio.

El futuro de la inteligencia artificial no dependerá solamente de los programadores, las empresas o los gobiernos. También dependerá de la calidad de conciencia de quienes la utilizamos. Porque una humanidad distraída, dormida, inconsciente, puede ser fácilmente dirigida por máquinas inteligentes. Una humanidad atenta, crítica y consciente podrá convertirlas en herramientas al servicio de la vida.

Y queda abierta una pregunta para continuar esta reflexión entre todos:

¿Estamos formando una humanidad capaz de gobernar conscientemente la inteligencia artificial o estamos construyendo sistemas cada vez más poderosos para una sociedad inconsciente que todavía no ha aprendido a gobernar su propia mente?