Resistir el apocalipsis de las máquinasIain McGilchrist es un psiquiatra británico, filósofo y neurocientífico que escribió el libro El maestro y su emisario: El cerebro dividido y la creación del mundo occidental. Es miembro emérito del All Souls College de Oxford; antiguo miembro asociado del Green Templeton College de Oxford; consultor emérito de los hospitales Maudsley y Bethlem Royal, en el sur de Londres; antiguo investigador en Neuroimagen de la Universidad Johns Hopkins de Baltimore; y antiguo miembro del Instituto de Estudios Avanzados de Stellenbosch. En 2021, McGilchrist publicó un libro sobre neurociencia, epistemología y metafísica titulado The Matter with Things.
Este ensayo fue originalmente una conferencia pronunciada en la Cumbre Mundial sobre IA de 2022 en Ámsterdam.
Por Iain McGilchrist
No hay vuelta de hoja: nos estamos haciendo infelices. Somos más ricos que nunca, pero la riqueza -y el poder, el único motivo para tenerla- no hace feliz a la gente. Pregúntele a un psiquiatra. O fíjese en el rostro de Vladimir Putin, que, por desgracia, tiene poder de vida y muerte sobre millones de personas. No, por muy ricos que seamos, también estamos más ansiosos, deprimidos, solos, aislados que nunca y sin rumbo . ¿Por qué? Yo sugiero que es porque ya no tenemos ni la más remota idea de qué es la vida humana. De hecho, en cierto sentido, ya no vivimos en un mundo, sino que existimos en un simulacro creado por nosotros mismos.
Dejando de lado los matices y condensando tres décadas de investigación y una gran cantidad de pruebas en una frase: ahora estamos hipnotizados por la parte menos inteligente del cerebro humano. Por razones de supervivencia, un hemisferio del cerebro, el izquierdo, ha evolucionado a lo largo de millones de años para favorecer la manipulación (agarrar, obtener y controlar), mientras que el otro, el derecho, se ha encargado de comprender el panorama general. Estos objetivos son tan contradictorios que, en los seres humanos, los hemisferios están en gran medida aislados el uno del otro. Nuestra aparente capacidad actual para escuchar solo lo que proviene del hemisferio izquierdo no se debe a que el cerebro haya cambiado radicalmente en los últimos dos siglos, aunque es cierto que siempre está evolucionando. Es más bien así: compras una radio y pronto encuentras un par de emisoras que merecen la pena escuchar. Al cabo de un tiempo, te das cuenta de que solo escuchas una. No es la radio la que ha cambiado, eres tú. En el caso del cerebro, no importaría tanto si nos hubiéramos decidido por el canal inteligente, pero no lo hicimos. Nos decidimos por aquel cuyo valor no tiene nada que ver con la verdad, ni con el coraje, la magnanimidad o la generosidad, sino solo con la codicia, el afán de poseer y el obtener. La manipulación.
Y no, la diferencia entre los hemisferios no es un mito que haya sido desmentido, como he explicado ampliamente en otra parte. Lo que hay que desmentir es el viejo mito de la psicología popular según el cual el hemisferio izquierdo «se encarga» de la razón y el lenguaje, y es aburrido pero al menos fiable, como un contable un poco soso, mientras que el hemisferio derecho «se encarga» de las emociones y las imágenes y tiende a ser voluble y frívolo. Todo esto es erróneo. Ahora sabemos que cada hemisferio participa en todo y que, para que conste, el hemisferio izquierdo es menos estable emocionalmente, así como menos inteligente -me refiero a cognitivamente, así como emocional y socialmente- que el derecho. El hemisferio derecho es una guía muy superior de la realidad; los delirios y las alucinaciones son mucho más frecuentes, más graves y más persistentes después de un daño en el hemisferio derecho que después de un daño en el izquierdo. Sin el hemisferio derecho en el que apoyarse, el hemisferio izquierdo está perdido. Niega los hechos más obvios, miente e inventa cosas cuando no sabe de qué está hablando. Y es implacablemente y vacuamente alegre ante el desastre.
Podrías decir: «¿Y qué? No me importa dónde se desarrollen las cosas en mi cerebro». Importa porque cada hemisferio tiene una visión diferente del mundo, y sus visiones no son estrictamente compatibles. Por lo tanto, cuando reflexionamos, filosofamos o discurrimos públicamente, nos vemos obligados, sin saberlo, a favorecer una «visión» u otra.
¿Cómo son estas dos visiones hemisféricas del mundo? Quizás las reconozcas por experiencia. El hemisferio izquierdo, utilizando una atención estrecha a un detalle tras otro, ve lo que es familiar, cierto, estático, explícito, abstracto, descontextualizado, incorpóreo, categorizado, de naturaleza general y reducido a sus partes. Todo es predecible y controlado. Se trata de un universo inanimado, el sueño de cualquier burócrata. Es como un mapa en relación con el mundo cartografiado: útil en la medida en que omite casi todo. Y su único valor reside en su utilidad.
El hemisferio izquierdo percibe todo como una representación. «Representar» significa literalmente presentar algo de nuevo, cuando ya no está presente, sino muerto y desaparecido. Por el contrario, el hemisferio derecho no ve la representación, sino la presencia viva. Al prestar una atención amplia, abierta, sostenida y vigilante al mundo, ve lo que es fresco, único, nunca completamente conocido, nunca definitivamente cierto, pero lleno de potencial. Entiende todo lo que es y debe permanecer implícito: el humor, la poesía, el arte, la narrativa, la música, lo sagrado, en definitiva, todo lo que amamos; entiende que nada es estático e inmutable, que todo fluye y está interconectado. Este es un mundo libre, un universo animado... y la pesadilla de cualquier burócrata. Tiene toda la riqueza y complejidad de ese mundo que el hemisferio izquierdo simplemente cartografió.
Cada una de estas dos formas de ver el mundo es vital para nuestra supervivencia. Debemos simplificar y distanciarnos para manipular las cosas, ocuparnos de las necesidades de la vida y construir una civilización. Pero para vivir en esa civilización, también debemos pertenecer al mundo viviente. Esta división de la atención nos beneficia cuando utilizamos ambos hemisferios. Pero es una desventaja, de hecho una catástrofe, cuando solo utilizamos uno.
Como expliqué en El maestro y su emisario, dos veces en la historia de Occidente -en la antigua Grecia y luego en Roma- una civilización comenzó con una fructífera armonía entre el hemisferio izquierdo y el derecho, pero al extralimitarse, se inclinó hacia la visión del mundo del hemisferio izquierdo y luego colapsó. Ahora se está siguiendo la misma trayectoria por tercera vez. Tras el milagroso estallido de creatividad en las artes, la ciencia, la sociedad y la filosofía que llamamos Renacimiento, nuestra civilización, desde la Ilustración, se ha ido desplazando cada vez más hacia la izquierda, embriagada por la creencia de que lo sabe todo y puede arreglarlo todo. Somos como sonámbulos que caminan hacia el abismo.
Existe un fenómeno en psicología llamado efecto Dunning-Kruger, según el cual cuanto menos sabes, más crees que sabes, y viceversa. El hemisferio izquierdo no sabe lo que no sabe, por lo que cree que lo sabe todo. El hemisferio derecho, que comprende mucho más, es consciente de esas vastas incógnitas.
Cuando funcionamos bien, el hemisferio derecho comprueba con la experiencia la teoría del hemisferio izquierdo sobre la realidad. Pero la visión del hemisferio izquierdo de una construcción geométrica bidimensional, mecánica y sin vida se ha exteriorizado a nuestro alrededor hasta tal punto que, cuando el hemisferio derecho comprueba la experiencia, descubre que el hemisferio izquierdo ya ha colonizado la realidad, al menos para aquellos de nosotros que llevamos una vida urbana occidental moderna. Encuentra un simulacro perfecto del mundo según el hemisferio izquierdo.
Las cosas que solían alertarnos sobre la insuficiencia de nuestras teorías reduccionistas están desapareciendo. Eran: el mundo natural; el sentido de una cultura compartida coherente; el sentido del cuerpo como algo que vivimos, no solo poseemos; el poder del gran arte; y el sentido de algo sagrado que es real pero trasciende el lenguaje cotidiano.
La IA -el procesamiento artificial de la información, por cierto, no la inteligencia artificial- podría considerarse en muchos sentidos como una réplica de las funciones del hemisferio izquierdo a una velocidad aterradora en todo el mundo. El hemisferio izquierdo manipula símbolos o signos para representar aspectos de la experiencia. El hemisferio derecho está en contacto con la experiencia misma, con el cuerpo y las emociones más profundas, con el contexto y el vasto reino de lo implícito. La IA, al igual que el hemisferio izquierdo, carece de una visión global, de otros valores o de la forma en que el contexto -o incluso la escala y el alcance- lo cambia todo.
Pero, se preguntarán, ¿no puede la IA ayudarnos al liberarnos de tareas mundanas y darnos más tiempo libre? Por supuesto, la tecnología de la información ahorra tiempo al hacer las cosas rápidamente. ¿O no? Los jefes ahorran salarios, pero nosotros nos convertimos en sus nuevos esclavos asalariados involuntarios. Mientras tanto, con la automatización de cada vez más procesos que antes requerían sólo una llamada telefónica de cinco minutos, nos vemos envueltos en transacciones comerciales de horas de duración con programas informáticos que nos llevan a bucles cerrados al estilo de Escher, solo para informarnos juguetonamente: «Vaya, algo ha salido mal...». Y si después de esto te quedas al teléfono para poder hablar con una persona real, las personas reales parecen estar cada vez más degradadas por la aplicación de algoritmos similares a los de las máquinas, hasta el punto de que bien podrían ser máquinas. La tecnología de la información, por lo tanto, es muy capaz de empeorar la vida. Esto ya es evidente en el creciente estrés de la vida cotidiana y en los muchos pequeños indicios de que estamos perdiendo nuestra conexión con otros seres humanos. Esta pérdida de conexión se ha hecho mucho más evidente en los últimos cuatro o cinco años, y no solo por culpa de la COVID.
M.C. Escher
A medida que las máquinas desplazan gradualmente a las personas, ¿qué ocurre con el desarrollo humano? ¿Qué sucede cuando la dependencia de las máquinas nos despoja de nuestras habilidades, un proceso que ya está muy avanzado? ¿Y qué ocurre si, por cualquier motivo -como la escasez de recursos, un apagón prolongado, el colapso del orden civil o una guerra- ya no podemos confiar en esas máquinas de forma constante? ¿Cuán resilientes, ingeniosos y hábiles resultaremos ser en comparación con nuestros antepasados? Dejando de lado estas posibilidades alarmantes, pero que no creo que sean meramente alarmistas, consideremos el impacto de la pérdida del contacto diario con los seres humanos a medida que se automatizan cada vez más puestos de trabajo. ¿Qué pasará con aquellos que se queden sin empleo? Algunos pocos inteligentes podrán conseguir trabajo en el sector de las tecnologías de la información, pero el impulso económico es muy simple. Las máquinas son más baratas que las personas, por lo que el objetivo debe ser emplear a menos personas.
¿Y qué hay de nuestra dignidad como individuos libres? ¿Podemos escapar de la terrible perspectiva, ya realidad en China, de que dondequiera que vayamos, lo que compremos, con quien nos vean, cada palabra, cada acción, los pensamientos que expresamos en nuestros rostros, todo sea monitoreado, potencialmente anotado en nuestra contra, y cualquier libertad que nos quede sea restringida en consecuencia? Nos convertimos en no ciudadanos, en no personas. La única respuesta a esto me parece ser una especie de carrera armamentística de IA en la que los supuestos buenos utilizan la IA para adelantarse a la IA de los malos. Pero incluso en este escenario, ¿quiénes son los buenos? ¿El Foro Económico Mundial? El problema de aumentar el alcance del poder humano es que, tarde o temprano, se utilizará con fines malvados. Y una vez que un régimen pernicioso en base a IA alcance un cierto nivel, puede destruir cualquier intento de resistirse a ella, lo que conlleva la perspectiva de un totalitarismo sin fin.
Aparte de esa pesadilla, hay mucho que temer si dejamos las decisiones importantes en manos de la IA. Todas las decisiones que afectan a los seres humanos son decisiones morales. Y la moralidad no es puramente utilitaria; no puede reducirse a un cálculo. Cada situación humana es única, y su singularidad surge de la historia personal, la conciencia, la memoria, la intención, todo lo que no es explícito, todo lo que entendemos por la palabra aparentemente simple «emoción», toda la experiencia y el conocimiento adquiridos y almacenados en el cuerpo, todo lo que nos hace humanos y no máquinas. La bondad requiere mentes virtuosas, no solo seguir las reglas.
Vale la pena señalar que las personas con esquizofrenia muestran un pensamiento y un comportamiento coherentes con el exceso de actividad del hemisferio izquierdo y la hipofunción del hemisferio derecho. Ven un mundo de fragmentos y a menudo imaginan que las personas se han convertido en seres inanimados, similares a máquinas o zombis. Para ellas, nada parece real, y el mundo parece un simulacro, una farsa, una obra de teatro montada para engañarlas: una persona puede parecer una persona, pero extrañamente no lo es. Para mí, la creencia de que las máquinas pueden llegar a ser sensibles es la antítesis de la opinión de que nosotros, los seres sensibles, no somos más que máquinas. El psiquiatra R. D. Laing describió a un paciente esquizoide que veía a su esposa como una máquina:"Ella era «una cosa» porque todo lo que hacía era una respuesta predecible y decidida. Por ejemplo, él le contaba (a eso) un chiste divertido corriente y, cuando ella (eso) se reía, eso indicaba su naturaleza totalmente «condicionada», similar a la de un robot."
La suposición del «condicionamiento» mecanicista refleja lo que apenas es una parodia de una postura científica nada infrecuente. También representa una psicopatología escalofriante. Pero esta mentalidad no difiere mucho de la forma en que podríamos empezar a vernos unos a otros si los procesos mecánicos de la IA se convirtieran en la norma del comportamiento humano. A medida que las máquinas -o eso se afirma- se vuelven más parecidas a los humanos, los humanos se están volviendo sin duda más parecidos a las máquinas, debido a que se ven obligados a interactuar con ellas.
La perspectiva de los ciborgs también es sombría. La mejor manera de destruir la humanidad sería hibridarla con máquinas. No llamo malvados a quienes persiguen este objetivo, puede que simplemente tengan una falta de imaginación o de comprensión. Pero el objetivo en sí mismo es malvado, si es que podemos llamar malvado a algo. Solo puede degradar aún más nuestra idea de para qué sirve la vida humana y nos abre al control totalitario.
Somos como el aprendiz de brujo del cuento, que sabía el hechizo para poner las cosas en marcha, pero no tenía ni idea de cómo detenerlo. El genio de la tecnología de la información y otros métodos avanzados ha salido de la lámpara y no puede volver a meterse en ella (a menos que se produzca un colapso de la civilización, lo cual, me temo, no es nada improbable). Entonces, ¿qué podemos esperar?
Lo que importa para el futuro de la humanidad es la imaginación. El hemisferio izquierdo suele ser un impedimento para la imaginación, y su objetivo es único y simple: el poder. La IA existe para hacer que las cosas sucedan, para darnos control; pero solo es buena si avanzamos en sabiduría tan rápido como avanzamos en conocimientos técnicos. De lo contrario, nuestro «progreso» es como poner ametralladoras en manos de niños pequeños.
Sin embargo, si se emplea con prudencia, la IA tiene el potencial de ser una gran ayuda para nosotros. Por encima de todo, puede ayudarnos a reparar el daño causado por la industrialización, la destrucción del mundo viviente. Podría ayudarnos a idear formas de limitar y tal vez revertir la contaminación de los mares, o formas menos destructivas de generar energía. (Quizás nuestra dependencia de la energía sea parte del problema, y deberíamos aspirar a utilizar menos energía en el futuro). Y aunque como médico creo en el tratamiento de las enfermedades, también reconozco que todos moriremos algún día por alguna causa. Debemos centrarnos en la calidad de la vida, más que en su duración. Una vez más, creo que la IA puede ayudarnos abordando problemas técnicos específicos, al tiempo que se mantiene lo más alejada posible de nuestra vida cotidiana.
Para aprovechar al máximo estas nuevas tecnologías, tendremos que comprender una paradoja: para tener éxito con la IA, cuyo objetivo es darnos control, debemos renunciar al control, al menos en gran medida. En otras palabras, debemos abandonar los mecanismos del hemisferio izquierdo: la burocracia, la microgestión y la asfixia de los sistemas. Debemos trabajar con la naturaleza, no contra ella. Un jardinero no puede crear una planta ni hacerla crecer; un jardinero solo puede permitir y animar a la planta a hacer lo que hace, o bien ahogarla y estrangularla.
Los seres humanos, del mismo modo, solo podemos ver obstaculizado nuestro crecimiento por presiones externas. Necesitamos espontaneidad, apertura al riesgo y confianza en nuestra intuición para ejercer la imaginación y la creatividad, y para estar vivos y verdaderamente presentes.
Por lo tanto, si queremos confiar el futuro a buenos jardineros en lugar de manipuladores, necesitaremos personas con inteligencia y perspicacia, y tendremos que darles tiempo. Dejen de presionarlos. Dejen de preguntarles cuántos artículos han publicado recientemente. O cuánto les falta para obtener una patente. Es cierto que si confían, a veces se sentirán decepcionados, pero la mayoría de las veces serán generosamente recompensados. Por el contrario, si los supervisan y controlan, nunca obtendrán más que mediocridad. Y en este momento no podemos permitirnos la mediocridad.
Lo que hace que la vida merezca la pena es lo que solo puede llamarse resonancia: el encuentro con otros seres vivos, con el mundo natural y con los mayores productos del alma humana; algunos dirían que con el cosmos en general o con Dios. Solo al encontrarnos con lo incontrolable experimentamos el mundo en su profundidad y complejidad y nos sentimos plenamente vivos. La resonancia que disfrutamos en una relación real con otro ser sensible no es posible donde no hay libertad, espontaneidad ni vida.
Si no queremos seguir disminuyendo como seres humanos, debemos mantener el control sobre las máquinas, no caer bajo su control. No estoy hablando de un futuro apocalíptico; estoy hablando del apocalipsis actual. Ya estamos renunciando con calma y en silencio a nuestra libertad, nuestra privacidad, nuestra dignidad, nuestro tiempo, nuestros valores y nuestro talento en favor de las máquinas. Las máquinas nos prestan un gran servicio cuando nos liberan de las tareas pesadas, pero debemos dejar los asuntos humanos en manos de los humanos. Si no lo hacemos, estaremos firmando nuestra propia sentencia de muerte.
Fuente: First Things
Iain McGilchrist es un psiquiatra británico, filósofo y neurocientífico que escribió el libro El maestro y su emisario: El cerebro dividido y la creación del mundo occidental. Es miembro emérito del All Souls College de Oxford; antiguo miembro asociado del Green Templeton College de Oxford; consultor emérito de los hospitales Maudsley y Bethlem Royal, en el sur de Londres; antiguo investigador en Neuroimagen de la Universidad Johns Hopkins de Baltimore; y antiguo miembro del Instituto de Estudios Avanzados de Stellenbosch. En 2021, McGilchrist publicó un libro sobre neurociencia, epistemología y metafísica titulado The Matter with Things.
Este ensayo fue originalmente una conferencia pronunciada en la Cumbre Mundial sobre IA de 2022 en Ámsterdam.
Por Iain McGilchrist
No hay vuelta de hoja: nos estamos haciendo infelices. Somos más ricos que nunca, pero la riqueza -y el poder, el único motivo para tenerla- no hace feliz a la gente. Pregúntele a un psiquiatra. O fíjese en el rostro de Vladimir Putin, que, por desgracia, tiene poder de vida y muerte sobre millones de personas. No, por muy ricos que seamos, también estamos más ansiosos, deprimidos, solos, aislados que nunca y sin rumbo . ¿Por qué? Yo sugiero que es porque ya no tenemos ni la más remota idea de qué es la vida humana. De hecho, en cierto sentido, ya no vivimos en un mundo, sino que existimos en un simulacro creado por nosotros mismos.
Dejando de lado los matices y condensando tres décadas de investigación y una gran cantidad de pruebas en una frase: ahora estamos hipnotizados por la parte menos inteligente del cerebro humano. Por razones de supervivencia, un hemisferio del cerebro, el izquierdo, ha evolucionado a lo largo de millones de años para favorecer la manipulación (agarrar, obtener y controlar), mientras que el otro, el derecho, se ha encargado de comprender el panorama general. Estos objetivos son tan contradictorios que, en los seres humanos, los hemisferios están en gran medida aislados el uno del otro. Nuestra aparente capacidad actual para escuchar solo lo que proviene del hemisferio izquierdo no se debe a que el cerebro haya cambiado radicalmente en los últimos dos siglos, aunque es cierto que siempre está evolucionando. Es más bien así: compras una radio y pronto encuentras un par de emisoras que merecen la pena escuchar. Al cabo de un tiempo, te das cuenta de que solo escuchas una. No es la radio la que ha cambiado, eres tú. En el caso del cerebro, no importaría tanto si nos hubiéramos decidido por el canal inteligente, pero no lo hicimos. Nos decidimos por aquel cuyo valor no tiene nada que ver con la verdad, ni con el coraje, la magnanimidad o la generosidad, sino solo con la codicia, el afán de poseer y el obtener. La manipulación.
Y no, la diferencia entre los hemisferios no es un mito que haya sido desmentido, como he explicado ampliamente en otra parte. Lo que hay que desmentir es el viejo mito de la psicología popular según el cual el hemisferio izquierdo «se encarga» de la razón y el lenguaje, y es aburrido pero al menos fiable, como un contable un poco soso, mientras que el hemisferio derecho «se encarga» de las emociones y las imágenes y tiende a ser voluble y frívolo. Todo esto es erróneo. Ahora sabemos que cada hemisferio participa en todo y que, para que conste, el hemisferio izquierdo es menos estable emocionalmente, así como menos inteligente -me refiero a cognitivamente, así como emocional y socialmente- que el derecho. El hemisferio derecho es una guía muy superior de la realidad; los delirios y las alucinaciones son mucho más frecuentes, más graves y más persistentes después de un daño en el hemisferio derecho que después de un daño en el izquierdo. Sin el hemisferio derecho en el que apoyarse, el hemisferio izquierdo está perdido. Niega los hechos más obvios, miente e inventa cosas cuando no sabe de qué está hablando. Y es implacablemente y vacuamente alegre ante el desastre.
Podrías decir: «¿Y qué? No me importa dónde se desarrollen las cosas en mi cerebro». Importa porque cada hemisferio tiene una visión diferente del mundo, y sus visiones no son estrictamente compatibles. Por lo tanto, cuando reflexionamos, filosofamos o discurrimos públicamente, nos vemos obligados, sin saberlo, a favorecer una «visión» u otra.
¿Cómo son estas dos visiones hemisféricas del mundo? Quizás las reconozcas por experiencia. El hemisferio izquierdo, utilizando una atención estrecha a un detalle tras otro, ve lo que es familiar, cierto, estático, explícito, abstracto, descontextualizado, incorpóreo, categorizado, de naturaleza general y reducido a sus partes. Todo es predecible y controlado. Se trata de un universo inanimado, el sueño de cualquier burócrata. Es como un mapa en relación con el mundo cartografiado: útil en la medida en que omite casi todo. Y su único valor reside en su utilidad.
El hemisferio izquierdo percibe todo como una representación. «Representar» significa literalmente presentar algo de nuevo, cuando ya no está presente, sino muerto y desaparecido. Por el contrario, el hemisferio derecho no ve la representación, sino la presencia viva. Al prestar una atención amplia, abierta, sostenida y vigilante al mundo, ve lo que es fresco, único, nunca completamente conocido, nunca definitivamente cierto, pero lleno de potencial. Entiende todo lo que es y debe permanecer implícito: el humor, la poesía, el arte, la narrativa, la música, lo sagrado, en definitiva, todo lo que amamos; entiende que nada es estático e inmutable, que todo fluye y está interconectado. Este es un mundo libre, un universo animado... y la pesadilla de cualquier burócrata. Tiene toda la riqueza y complejidad de ese mundo que el hemisferio izquierdo simplemente cartografió.
Cada una de estas dos formas de ver el mundo es vital para nuestra supervivencia. Debemos simplificar y distanciarnos para manipular las cosas, ocuparnos de las necesidades de la vida y construir una civilización. Pero para vivir en esa civilización, también debemos pertenecer al mundo viviente. Esta división de la atención nos beneficia cuando utilizamos ambos hemisferios. Pero es una desventaja, de hecho una catástrofe, cuando solo utilizamos uno.
Como expliqué en El maestro y su emisario, dos veces en la historia de Occidente -en la antigua Grecia y luego en Roma- una civilización comenzó con una fructífera armonía entre el hemisferio izquierdo y el derecho, pero al extralimitarse, se inclinó hacia la visión del mundo del hemisferio izquierdo y luego colapsó. Ahora se está siguiendo la misma trayectoria por tercera vez. Tras el milagroso estallido de creatividad en las artes, la ciencia, la sociedad y la filosofía que llamamos Renacimiento, nuestra civilización, desde la Ilustración, se ha ido desplazando cada vez más hacia la izquierda, embriagada por la creencia de que lo sabe todo y puede arreglarlo todo. Somos como sonámbulos que caminan hacia el abismo.
Existe un fenómeno en psicología llamado efecto Dunning-Kruger, según el cual cuanto menos sabes, más crees que sabes, y viceversa. El hemisferio izquierdo no sabe lo que no sabe, por lo que cree que lo sabe todo. El hemisferio derecho, que comprende mucho más, es consciente de esas vastas incógnitas.
Cuando funcionamos bien, el hemisferio derecho comprueba con la experiencia la teoría del hemisferio izquierdo sobre la realidad. Pero la visión del hemisferio izquierdo de una construcción geométrica bidimensional, mecánica y sin vida se ha exteriorizado a nuestro alrededor hasta tal punto que, cuando el hemisferio derecho comprueba la experiencia, descubre que el hemisferio izquierdo ya ha colonizado la realidad, al menos para aquellos de nosotros que llevamos una vida urbana occidental moderna. Encuentra un simulacro perfecto del mundo según el hemisferio izquierdo.
Las cosas que solían alertarnos sobre la insuficiencia de nuestras teorías reduccionistas están desapareciendo. Eran: el mundo natural; el sentido de una cultura compartida coherente; el sentido del cuerpo como algo que vivimos, no solo poseemos; el poder del gran arte; y el sentido de algo sagrado que es real pero trasciende el lenguaje cotidiano.
La IA -el procesamiento artificial de la información, por cierto, no la inteligencia artificial- podría considerarse en muchos sentidos como una réplica de las funciones del hemisferio izquierdo a una velocidad aterradora en todo el mundo. El hemisferio izquierdo manipula símbolos o signos para representar aspectos de la experiencia. El hemisferio derecho está en contacto con la experiencia misma, con el cuerpo y las emociones más profundas, con el contexto y el vasto reino de lo implícito. La IA, al igual que el hemisferio izquierdo, carece de una visión global, de otros valores o de la forma en que el contexto -o incluso la escala y el alcance- lo cambia todo.
Pero, se preguntarán, ¿no puede la IA ayudarnos al liberarnos de tareas mundanas y darnos más tiempo libre? Por supuesto, la tecnología de la información ahorra tiempo al hacer las cosas rápidamente. ¿O no? Los jefes ahorran salarios, pero nosotros nos convertimos en sus nuevos esclavos asalariados involuntarios. Mientras tanto, con la automatización de cada vez más procesos que antes requerían sólo una llamada telefónica de cinco minutos, nos vemos envueltos en transacciones comerciales de horas de duración con programas informáticos que nos llevan a bucles cerrados al estilo de Escher, solo para informarnos juguetonamente: «Vaya, algo ha salido mal...». Y si después de esto te quedas al teléfono para poder hablar con una persona real, las personas reales parecen estar cada vez más degradadas por la aplicación de algoritmos similares a los de las máquinas, hasta el punto de que bien podrían ser máquinas. La tecnología de la información, por lo tanto, es muy capaz de empeorar la vida. Esto ya es evidente en el creciente estrés de la vida cotidiana y en los muchos pequeños indicios de que estamos perdiendo nuestra conexión con otros seres humanos. Esta pérdida de conexión se ha hecho mucho más evidente en los últimos cuatro o cinco años, y no solo por culpa de la COVID.
M.C. Escher
A medida que las máquinas desplazan gradualmente a las personas, ¿qué ocurre con el desarrollo humano? ¿Qué sucede cuando la dependencia de las máquinas nos despoja de nuestras habilidades, un proceso que ya está muy avanzado? ¿Y qué ocurre si, por cualquier motivo -como la escasez de recursos, un apagón prolongado, el colapso del orden civil o una guerra- ya no podemos confiar en esas máquinas de forma constante? ¿Cuán resilientes, ingeniosos y hábiles resultaremos ser en comparación con nuestros antepasados? Dejando de lado estas posibilidades alarmantes, pero que no creo que sean meramente alarmistas, consideremos el impacto de la pérdida del contacto diario con los seres humanos a medida que se automatizan cada vez más puestos de trabajo. ¿Qué pasará con aquellos que se queden sin empleo? Algunos pocos inteligentes podrán conseguir trabajo en el sector de las tecnologías de la información, pero el impulso económico es muy simple. Las máquinas son más baratas que las personas, por lo que el objetivo debe ser emplear a menos personas.
¿Y qué hay de nuestra dignidad como individuos libres? ¿Podemos escapar de la terrible perspectiva, ya realidad en China, de que dondequiera que vayamos, lo que compremos, con quien nos vean, cada palabra, cada acción, los pensamientos que expresamos en nuestros rostros, todo sea monitoreado, potencialmente anotado en nuestra contra, y cualquier libertad que nos quede sea restringida en consecuencia? Nos convertimos en no ciudadanos, en no personas. La única respuesta a esto me parece ser una especie de carrera armamentística de IA en la que los supuestos buenos utilizan la IA para adelantarse a la IA de los malos. Pero incluso en este escenario, ¿quiénes son los buenos? ¿El Foro Económico Mundial? El problema de aumentar el alcance del poder humano es que, tarde o temprano, se utilizará con fines malvados. Y una vez que un régimen pernicioso en base a IA alcance un cierto nivel, puede destruir cualquier intento de resistirse a ella, lo que conlleva la perspectiva de un totalitarismo sin fin.
Aparte de esa pesadilla, hay mucho que temer si dejamos las decisiones importantes en manos de la IA. Todas las decisiones que afectan a los seres humanos son decisiones morales. Y la moralidad no es puramente utilitaria; no puede reducirse a un cálculo. Cada situación humana es única, y su singularidad surge de la historia personal, la conciencia, la memoria, la intención, todo lo que no es explícito, todo lo que entendemos por la palabra aparentemente simple «emoción», toda la experiencia y el conocimiento adquiridos y almacenados en el cuerpo, todo lo que nos hace humanos y no máquinas. La bondad requiere mentes virtuosas, no solo seguir las reglas.
Vale la pena señalar que las personas con esquizofrenia muestran un pensamiento y un comportamiento coherentes con el exceso de actividad del hemisferio izquierdo y la hipofunción del hemisferio derecho. Ven un mundo de fragmentos y a menudo imaginan que las personas se han convertido en seres inanimados, similares a máquinas o zombis. Para ellas, nada parece real, y el mundo parece un simulacro, una farsa, una obra de teatro montada para engañarlas: una persona puede parecer una persona, pero extrañamente no lo es. Para mí, la creencia de que las máquinas pueden llegar a ser sensibles es la antítesis de la opinión de que nosotros, los seres sensibles, no somos más que máquinas. El psiquiatra R. D. Laing describió a un paciente esquizoide que veía a su esposa como una máquina:"Ella era «una cosa» porque todo lo que hacía era una respuesta predecible y decidida. Por ejemplo, él le contaba (a eso) un chiste divertido corriente y, cuando ella (eso) se reía, eso indicaba su naturaleza totalmente «condicionada», similar a la de un robot."
La suposición del «condicionamiento» mecanicista refleja lo que apenas es una parodia de una postura científica nada infrecuente. También representa una psicopatología escalofriante. Pero esta mentalidad no difiere mucho de la forma en que podríamos empezar a vernos unos a otros si los procesos mecánicos de la IA se convirtieran en la norma del comportamiento humano. A medida que las máquinas -o eso se afirma- se vuelven más parecidas a los humanos, los humanos se están volviendo sin duda más parecidos a las máquinas, debido a que se ven obligados a interactuar con ellas.
La perspectiva de los ciborgs también es sombría. La mejor manera de destruir la humanidad sería hibridarla con máquinas. No llamo malvados a quienes persiguen este objetivo, puede que simplemente tengan una falta de imaginación o de comprensión. Pero el objetivo en sí mismo es malvado, si es que podemos llamar malvado a algo. Solo puede degradar aún más nuestra idea de para qué sirve la vida humana y nos abre al control totalitario.
Somos como el aprendiz de brujo del cuento, que sabía el hechizo para poner las cosas en marcha, pero no tenía ni idea de cómo detenerlo. El genio de la tecnología de la información y otros métodos avanzados ha salido de la lámpara y no puede volver a meterse en ella (a menos que se produzca un colapso de la civilización, lo cual, me temo, no es nada improbable). Entonces, ¿qué podemos esperar?
Lo que importa para el futuro de la humanidad es la imaginación. El hemisferio izquierdo suele ser un impedimento para la imaginación, y su objetivo es único y simple: el poder. La IA existe para hacer que las cosas sucedan, para darnos control; pero solo es buena si avanzamos en sabiduría tan rápido como avanzamos en conocimientos técnicos. De lo contrario, nuestro «progreso» es como poner ametralladoras en manos de niños pequeños.
Sin embargo, si se emplea con prudencia, la IA tiene el potencial de ser una gran ayuda para nosotros. Por encima de todo, puede ayudarnos a reparar el daño causado por la industrialización, la destrucción del mundo viviente. Podría ayudarnos a idear formas de limitar y tal vez revertir la contaminación de los mares, o formas menos destructivas de generar energía. (Quizás nuestra dependencia de la energía sea parte del problema, y deberíamos aspirar a utilizar menos energía en el futuro). Y aunque como médico creo en el tratamiento de las enfermedades, también reconozco que todos moriremos algún día por alguna causa. Debemos centrarnos en la calidad de la vida, más que en su duración. Una vez más, creo que la IA puede ayudarnos abordando problemas técnicos específicos, al tiempo que se mantiene lo más alejada posible de nuestra vida cotidiana.
Para aprovechar al máximo estas nuevas tecnologías, tendremos que comprender una paradoja: para tener éxito con la IA, cuyo objetivo es darnos control, debemos renunciar al control, al menos en gran medida. En otras palabras, debemos abandonar los mecanismos del hemisferio izquierdo: la burocracia, la microgestión y la asfixia de los sistemas. Debemos trabajar con la naturaleza, no contra ella. Un jardinero no puede crear una planta ni hacerla crecer; un jardinero solo puede permitir y animar a la planta a hacer lo que hace, o bien ahogarla y estrangularla.
Los seres humanos, del mismo modo, solo podemos ver obstaculizado nuestro crecimiento por presiones externas. Necesitamos espontaneidad, apertura al riesgo y confianza en nuestra intuición para ejercer la imaginación y la creatividad, y para estar vivos y verdaderamente presentes.
Por lo tanto, si queremos confiar el futuro a buenos jardineros en lugar de manipuladores, necesitaremos personas con inteligencia y perspicacia, y tendremos que darles tiempo. Dejen de presionarlos. Dejen de preguntarles cuántos artículos han publicado recientemente. O cuánto les falta para obtener una patente. Es cierto que si confían, a veces se sentirán decepcionados, pero la mayoría de las veces serán generosamente recompensados. Por el contrario, si los supervisan y controlan, nunca obtendrán más que mediocridad. Y en este momento no podemos permitirnos la mediocridad.
Lo que hace que la vida merezca la pena es lo que solo puede llamarse resonancia: el encuentro con otros seres vivos, con el mundo natural y con los mayores productos del alma humana; algunos dirían que con el cosmos en general o con Dios. Solo al encontrarnos con lo incontrolable experimentamos el mundo en su profundidad y complejidad y nos sentimos plenamente vivos. La resonancia que disfrutamos en una relación real con otro ser sensible no es posible donde no hay libertad, espontaneidad ni vida.
Si no queremos seguir disminuyendo como seres humanos, debemos mantener el control sobre las máquinas, no caer bajo su control. No estoy hablando de un futuro apocalíptico; estoy hablando del apocalipsis actual. Ya estamos renunciando con calma y en silencio a nuestra libertad, nuestra privacidad, nuestra dignidad, nuestro tiempo, nuestros valores y nuestro talento en favor de las máquinas. Las máquinas nos prestan un gran servicio cuando nos liberan de las tareas pesadas, pero debemos dejar los asuntos humanos en manos de los humanos. Si no lo hacemos, estaremos firmando nuestra propia sentencia de muerte.
Fuente: First Things
