INTELIGENCIA ARTIFICIAL Y CONCIENCIA HUMANA
Por Jorge Eduardo Medina Barranco
Breña Baja, S/C Tenerife, España
El 26 de agosto de 2026, El País, España, publicó un artículo titulado: Carmody Grey, la filósofa que dijo no a Anthropic: “Cada vez estamos más solos y somos más tontos” que plantea un debate plenamente actual sobre la forma en que estamos incorporando la IA a la vida cotidiana.
El artículo de Carmody Grey merece ser leído con atención, no porque debamos aceptar automáticamente todas sus conclusiones, sino porque plantea algunas de las preguntas que probablemente acompañarán a las generaciones actuales durante muchos años.
Grey, filósofa y teóloga británica, rechazó una invitación de Anthropic —empresa creadora de Claude— para participar en una iniciativa destinada a incorporar las llamadas «tradiciones de sabiduría» a la formación moral de sistemas de inteligencia artificial. Su negativa no significó un rechazo al diálogo con las empresas tecnológicas: propuso, de hecho, mantener una conversación pública y transparente en la BBC. Su objeción principal era que la discusión se desarrollara a puerta cerrada, en el terreno de la empresa y bajo las preguntas previamente establecidas por ella.
Esta distinción resulta particularmente importante. Uno de los grandes aprendizajes del pensamiento crítico consiste precisamente en comprender que quien formula las preguntas puede determinar buena parte de las respuestas posibles.
Podemos pasar horas preguntándonos si una inteligencia artificial llegará a tener conciencia, personalidad, sentimientos o capacidad de sufrimiento. Son preguntas interesantes y legítimas. Pero mientras discutimos sobre ellas quizá estemos dejando en segundo plano otras cuestiones mucho más inmediatas:
¿Quién controla estas tecnologías? ¿Quién obtiene beneficios de ellas? ¿Qué trabajos transforman o eliminan? ¿Qué efectos producen sobre nuestra capacidad de pensar? ¿Qué ocurre con nuestros datos? ¿Cómo afectan las relaciones humanas? ¿Qué consecuencias ambientales tienen? ¿Quién responde cuando una decisión automatizada perjudica a una persona?
Grey resume esta necesidad de cambiar de perspectiva con una afirmación fundamental: la IA no debería ocupar el centro de la conversación; el ser humano debería ocuparlo. Su preocupación es que el debate tecnológico termine siendo formulado casi exclusivamente desde los intereses y categorías de las propias empresas que desarrollan esos productos.
Una advertencia que no debe convertirse en miedo
Hay, sin embargo, que leer también críticamente a Carmody Grey. Cuando afirma que «probablemente nos haga más solos y más tontos», utiliza deliberadamente una expresión provocadora. No significa que utilizar inteligencia artificial convierta necesariamente a una persona en menos inteligente, ni que estas tecnologías conduzcan inevitablemente al aislamiento, la IA puede ayudar a investigar, traducir, programar, organizar información, mejorar la accesibilidad, enseñar y facilitar tareas que antes requerían muchas horas.
El problema comienza cuando una herramienta que podría ampliar nuestras capacidades empieza a sustituirlas. Grey utiliza una analogía sencilla: si dispusiéramos de un robot que nos evitara levantarnos, caminar o realizar cualquier esfuerzo físico, terminaríamos perdiendo capacidades por falta de uso. Según ella, determinados usos rutinarios de los chatbots podrían producir algo semejante en nuestra actividad intelectual y relacional.
¿Cómo enseñar a utilizar la IA?
También deberíamos preguntarnos: ¿Qué capacidades humanas debemos evitar que la IA atrofie por falta de ejercicio?
Los costes invisibles de la comodidad
Quizá una de las ideas más sugerentes de Grey sea la de los costes de oportunidad. Cada vez que una tecnología hace algo por nosotros, debemos preguntarnos no solamente qué hemos ganado, sino también qué hemos dejado de hacer.
Cuando conversamos durante horas con un sistema artificial: ¿con quién dejamos de conversar? Cuando pedimos un resumen inmediato: ¿Qué libro dejamos de leer? Cuando solicitamos una respuesta antes de pensar: ¿Qué esfuerzo intelectual dejamos de realizar? Cuando buscamos constantemente estímulos digitales: ¿Qué capacidad de silencio, atención y contemplación dejamos de desarrollar?
Grey formula precisamente este tipo de preguntas y sostiene que la vida humana adquiere sentido fundamentalmente mediante relaciones: con otras personas, con nosotros mismos, con la naturaleza y, para quienes poseen una dimensión religiosa o espiritual, con aquello que consideran sagrado.
No es necesario compartir completamente su interpretación religiosa para reconocer la profundidad del problema. La tecnología puede conectarnos extraordinariamente y, paradójicamente, aumentar nuestra soledad si sustituimos la presencia por la conexión, la amistad por la interacción y la comprensión por la respuesta instantánea.
Aquí aparece quizá la enseñanza más importante para nosotros: No podemos vivir este momento histórico como simples espectadores. La inteligencia artificial está comenzando a modificar la educación, el trabajo, la información, la economía, la ciencia, el arte, la política y nuestras relaciones personales, y no se trata de una posibilidad futura, ¡ya está ocurriendo!
Por eso necesitamos informarnos, pero estar informado no significa acumular noticias, significa aprender a comprenderlas. Necesitamos distinguir entre información empresarial, publicidad, investigación científica, opinión periodística, pensamiento filosófico y especulación; necesitamos escuchar tanto a quienes desarrollan estas tecnologías como a quienes advierten de sus riesgos. Y después debemos formar nuestro propio juicio.
Grey plantea precisamente que las humanidades deberían conservar independencia frente al poder tecnológico y ayudar a formular preguntas que no estén determinadas únicamente por los intereses comerciales. Para ella, el debate debe incluir dignidad humana, sufrimiento, vulnerabilidad, planeta, responsabilidad y sentido de la vida. Esta posición merece atención porque el pensamiento crítico comienza precisamente cuando dejamos de preguntar únicamente:
«¿Qué dice esta tecnología que puede hacer?» y comenzamos a preguntar: «¿Qué está haciendo realmente con nosotros?»
Información, pensamiento crítico y conciencia
Existe todavía un nivel más profundo, podemos estar perfectamente informados sobre inteligencia artificial y continuar viviendo de manera completamente automática, podemos conocer las últimas novedades tecnológicas y, al mismo tiempo, ser incapaces de observar cómo reaccionamos ante ellas. Por eso la información necesita pensamiento crítico, y el pensamiento crítico necesita conciencia.
La información nos dice qué está ocurriendo y el pensamiento crítico pregunta por qué ocurre, quién lo afirma, qué evidencias existen, qué intereses intervienen y qué consecuencias puede tener.
La conciencia añade una pregunta todavía más personal: ¿Qué está produciendo todo esto en mí? ¿Estoy utilizando esta herramienta o estoy empezando a depender de ella? ¿Amplía mis capacidades o sustituye el esfuerzo que necesito realizar? ¿Me permite disponer de más tiempo para vivir conscientemente o simplemente llena ese tiempo con nuevas distracciones? ¿Me ayuda a relacionarme mejor con los demás o me permite evitarlos? ¿Me ayuda a pensar o me proporciona argumentos que repito sin haber comprendido?
Estas preguntas no pueden responderlas Silicon Valley, Anthropic, Google, OpenAI ni ninguna otra empresa. Nos corresponde responderlas a nosotros.
Cada generación ha debido aprender a convivir con transformaciones que alteraron profundamente su mundo: la imprenta cambió la transmisión del conocimiento, la Revolución Industrial modificó el trabajo, la electricidad transformó las ciudades, la radio y la televisión cambiaron la comunicación colectiva, Internet convirtió el planeta en una gigantesca red informacional. Ahora nos corresponde vivir el desarrollo de sistemas capaces no solo de almacenar y transmitir información, sino también de producir lenguaje, imágenes, argumentos y decisiones.
No elegimos el momento histórico en el que nacemos, pero sí podemos elegir con qué grado de conciencia lo vivimos; cerrar los ojos ante la inteligencia artificial sería irresponsable, convertirla en objeto de miedo también lo sería, y aceptarla acríticamente porque representa «el progreso» sería igualmente irresponsable e ingenuo. Necesitamos conocerla, experimentarla, estudiarla, cuestionarla y establecer límites cuando sea necesario.
Sobre todo, necesitamos evitar que nuestra fascinación por la inteligencia de las máquinas nos haga olvidar una tarea mucho más antigua y difícil: desarrollar nuestra propia inteligencia, nuestra capacidad crítica, nuestra sensibilidad y nuestra conciencia. Quizá esa sea la reflexión más valiosa que deja el artículo de Carmody Grey, que no debemos preguntarnos solamente cuánto más inteligentes llegarán a ser las máquinas, sino que también deberíamos preguntarnos:
¿Qué clase de seres humanos queremos llegar a ser nosotros mientras las máquinas se vuelven cada vez más inteligentes?
Su artículo es provocador, invita a la reflexión y al menos, me señala la concepción de la IA en dos direcciones. Una en cuanto a la herramienta en sí, de su alcance y qué tanta dependencia se establece con el algoritmo. La segunda tiene que ver con eso que usted nos advierte, quién está detrás al final de la cadena de este producto. Su invitación a tener una mirada más amplia y profunda acerca del tema me sugiere una pausa, sin miedo a considerar su uso y en especial respecto a mi evolución personal, con conciencia y claro, con una mirada crítica. Con respecto a su pregunta final: ¿Qué clase de seres humanos queremos llegar a ser nosotros mientras las máquinas se vuelven cada vez más inteligentes?, diría que se vuelven más sofisticadas y su respuesta más elaborada al punto que podría confundir de si estamos frente a una máquina de avanzada tecnología o viviendo la ficción de la presencia de una inteligencia al otro lado de la pantalla. Francisco.
ResponderBorrarEstimado Francisco, muchas gracias por tu comentario, tan sereno como lúcido. Creo que has señalado dos aspectos esenciales del problema que conviene mantener siempre juntos.
BorrarPor una parte, está la IA como herramienta: extraordinariamente poderosa, cada vez más sofisticada y capaz de producir respuestas que pueden resultar convincentes, útiles e incluso sorprendentes. Pero, como bien adviertes, el problema no termina en la herramienta. También debemos preguntarnos quién la diseña, quién establece sus objetivos, con qué datos se alimenta, qué intereses económicos, sociales o culturales intervienen y, finalmente, qué relación psicológica establecemos nosotros con ella.
Me parece especialmente importante tu observación final. Yo, a propósito, deje caer lo de “más inteligentes” para buscar diálogo con lectores, sabiendo lo que tu precisas: que las máquinas no se están volviendo “más inteligentes” en el sentido humano de la palabra, sino extraordinariamente más sofisticadas en su capacidad para procesar información, reconocer patrones y producir lenguaje. Y precisamente ahí aparece uno de los grandes desafíos de nuestro tiempo: pueden llegar a producir una apariencia de comprensión tan convincente que olvidemos que estamos interactuando con un sistema tecnológico y comencemos a atribuirle conciencia, intención, sabiduría o criterio propio.
Por eso me gusta mucho que introduzcas la idea de una “pausa”. No una pausa nacida del miedo ni del rechazo a la tecnología, sino de la conciencia. Detenernos interiormente para preguntarnos: ¿estoy utilizando esta herramienta o poco a poco estoy delegando en ella capacidades que debería continuar desarrollando por mí mismo?, ¿me ayuda a pensar mejor o empieza a pensar en mi lugar?, ¿amplía mi autonomía o crea una nueva dependencia?
Tal vez por ahí pasa una parte importante de aquella pregunta final del artículo. Mientras las máquinas se vuelven cada vez más capaces, nosotros tendremos que decidir si también queremos volvernos seres humanos más conscientes, más críticos, más responsables y con mayor capacidad de discernimiento.
La verdadera cuestión quizá no es competir con la máquina en rapidez, memoria o procesamiento de información porque en esos terrenos creo que siempre perderíamos el reto. El desafío profundamente humano es otro: aprender a comprender, discernir, amar, asumir responsabilidad por nuestros actos y conocernos a nosotros mismos.
Gracias, Francisco, porque su reflexión amplía precisamente ese diálogo que el artículo pretendía provocar. Y, además, me da pie para un próximo tema del blog.