Un teléfono móvil con IA en Babilonia
Zaratustra en la era de la inteligencia artificial: estamos perdiendo la carrera
La tecnología avanza más rápido que nuestra capacidad para controlar las pulsiones de quienes la utilizan
Hace poco una noticia llamó especialmente mi atención: la inteligencia artificial ya ha sido utilizada para diseñar genomas completos de virus funcionales.
Conviene aclarar inmediatamente el alcance de la noticia. No se trató de crear un virus destinado a infectar seres humanos, sino bacteriófagos, virus que infectan bacterias. Estamos todavía muy lejos de poder concluir que cualquier individuo, simplemente utilizando una inteligencia artificial, pueda crear un agente biológico capaz de provocar una catástrofe.
Pero quizás lo verdaderamente importante de la noticia no sea lo que hoy puede hacerse.
Es la dirección en la que estamos avanzando.
Porque inmediatamente surge una pregunta inquietante: ¿qué ocurrirá si tecnologías capaces de producir daños extraordinarios terminan siendo accesibles a individuos o pequeños grupos?
Y desde la perspectiva que vengo desarrollando en este blog aparece otra pregunta todavía más importante:
¿Está progresando nuestra capacidad para controlar nuestras pulsiones a la misma velocidad que nuestra capacidad tecnológica para satisfacerlas?
Me temo que no.
Un arma moderna en una civilización antigua
Propongo un experimento mental.
Imaginemos un pueblo de la Antigüedad que descubre que una civilización vecina posee tierras, riquezas y recursos que desea. Supongamos ahora que ponemos en sus manos un arma extraordinaria: algo equivalente a un virus que pudiera ser utilizado deliberadamente para destruir aquella civilización y permitir posteriormente apropiarse de sus recursos.
¿Qué probabilidades habría de que lo utilizara?
Probablemente muchas.
La historia antigua está repleta de conquistas, saqueos, exterminios y esclavización de poblaciones derrotadas. No porque aquellos seres humanos pertenecieran a otra especie, sino porque sus pulsiones operaban dentro de culturas e instituciones que imponían límites muy diferentes de los actuales.
Ahora traslademos la pregunta al presente.
¿Qué ha cambiado?
Muchísimo.
Han cambiado algunas de nuestras culturas. Han cambiado nuestras instituciones. Han aparecido derechos humanos, democracias, Estados de derecho, sistemas internacionales de cooperación y una consideración por la vida humana incomparablemente mayor que la existente durante buena parte de nuestra historia.
Pero aquí aparece una primera aclaración fundamental:
ese progreso cultural no se produjo de manera uniforme en toda la humanidad.
Y hay algo más que probablemente haya cambiado todavía menos:
el Homo sapiens.
Y, dentro de él, Zaratustra.
La ambición, el deseo de superioridad, la codicia, la envidia, el resentimiento, el rechazo al sentimiento de inferioridad, la necesidad de reconocimiento y la búsqueda de poder continúan acompañándonos.
La diferencia fundamental es que durante miles de años su capacidad destructiva estuvo limitada por las herramientas disponibles.
Ahora esas herramientas están cambiando a una velocidad extraordinaria.
Tres velocidades diferentes
Aquí aparece, a mi entender, uno de los grandes problemas de nuestro tiempo.
Zaratustra cambia a velocidad evolutiva.
La cultura cambia fundamentalmente a lo largo de generaciones.
Las instituciones y las políticas pueden reaccionar algo más rápidamente.
Pero la tecnología puede transformarse radicalmente en apenas unos años.
La inteligencia artificial está acelerando todavía más ese proceso.
Por eso podemos encontrarnos ante una paradoja: la humanidad puede continuar progresando culturalmente y, sin embargo, volverse simultáneamente más peligrosa.
No porque la cultura necesariamente retroceda.
Sino porque estamos aumentando nuestro poder mucho más rápidamente que nuestra capacidad para controlar las pulsiones de quien lo ejerce.
Pero existe un segundo problema que vuelve esta situación todavía más preocupante.
No solamente esas velocidades son diferentes.
El progreso tecnológico y el progreso cultural tampoco se han distribuido de la misma manera por el planeta.
La tecnología se globalizó mucho más rápido que la cultura
Un teléfono inteligente funciona prácticamente igual en Suiza, Irán, Nigeria, Afganistán, Haití o Argentina.
Internet también.
Y cada vez más, la inteligencia artificial.
La tecnología puede atravesar fronteras en meses o incluso instantáneamente.
La cultura no.
Construir sociedades con elevados niveles de confianza interpersonal, respeto por las instituciones impersonales, tolerancia hacia el adversario, aceptación de límites al poder, responsabilidad individual y consideración por personas ajenas al propio grupo puede requerir generaciones.
Suiza no se convirtió en Suiza descargando una aplicación.
Detrás de determinadas conductas que hoy nos parecen naturales existen siglos de evolución cultural, construcción institucional, aprendizaje colectivo y políticas que fueron modificando gradualmente comportamientos.
Y aquí aparece una diferencia que considero fundamental.
No todos los habitantes del planeta viven dentro de culturas con el mismo grado de integración cívica.
En partes de Europa occidental, los países nórdicos, Suiza, Japón y algunas otras sociedades, las instituciones y la cultura consiguieron internalizar límites extraordinariamente importantes sobre determinadas pulsiones humanas.
Eso no significa que Zaratustra haya desaparecido.
El ciudadano suizo continúa sintiendo ambición, envidia, deseo de reconocimiento, competencia y resentimiento.
Pero una parte importante del trabajo de contención ya no necesita realizarlo un policía.
Lo realiza su propia cultura.
La institución, después de generaciones, termina parcialmente instalada dentro del individuo.
Ése es uno de los mayores logros de la civilización.
Pero sería un error extraordinario suponer que ese proceso ocurrió con igual intensidad en todas partes.
En amplias regiones de África, Asia, Oriente Medio y también Latinoamérica encontramos sociedades donde las lealtades familiares, tribales, religiosas, étnicas, partidarias o personales continúan teniendo un peso mucho mayor frente a instituciones impersonales.
No significa que sus habitantes sean biológicamente diferentes.
Mucho menos inferiores.
Significa que Zaratustra opera dentro de entornos culturales diferentes.
Y eso importa muchísimo.
De Babilonia a Suiza
Podríamos exagerar deliberadamente la comparación para hacer visible el problema.
En determinados aspectos culturales, algunas sociedades contemporáneas están más cerca de aquellas civilizaciones antiguas que de la integración cívica alcanzada por sociedades como Suiza.
No literalmente.
Vivimos todos en el siglo XXI.
Utilizamos teléfonos móviles, automóviles, antibióticos, aviones, satélites e internet.
Precisamente ése es el problema.
Nuestra tecnología pertenece al mismo siglo. Nuestras culturas no necesariamente han recorrido la misma distancia.
Un ingeniero puede diseñar un dron sofisticadísimo mientras continúa organizando su identidad fundamental alrededor de una pertenencia tribal.
Un científico puede dominar física nuclear y simultáneamente vivir dentro de una cultura política profundamente autoritaria.
Una organización puede utilizar comunicaciones satelitales, criptografía, drones e inteligencia artificial mientras interpreta el mundo mediante categorías identitarias y agravios transmitidos durante generaciones.
No existe contradicción alguna.
Porque desarrollo tecnológico y desarrollo cultural son fenómenos diferentes.
Ésta era precisamente la intuición que intentaba expresar años atrás con la imagen de Un teléfono móvil en Babilonia en un post que lleva ése título.
Podemos llevar el teléfono móvil a Babilonia muchísimo más rápidamente de lo que podemos convertir Babilonia en Suiza.
Y ahora el problema adquiere una dimensión nueva.
Porque el próximo "teléfono móvil" puede no limitarse a permitirnos comunicarnos.
Puede incorporar una inteligencia capaz de multiplicar extraordinariamente nuestras capacidades.
Zaratustra encuentra diferentes obstáculos
Esto permite comprender mejor qué significa hablar de culturas con diferente grado de integración cívica.
No significa que unas poblaciones posean Zaratustra y otras no.
Zaratustra es universal.
La diferencia está en los obstáculos que encuentra.
En una cultura de elevada integración cívica, determinadas conductas pueden resultar psicológicamente inadmisibles incluso cuando beneficiarían al individuo.
En otra cultura, la lealtad hacia la familia, el clan, la religión, la etnia o la nación puede imponerse con mayor facilidad sobre principios universales.
Entonces una misma pulsión encuentra caminos diferentes.
El problema no es solamente cuánto resentimiento existe.
Importa también qué permite hacer con él la cultura.
Y existen imágenes contemporáneas que permiten comprenderlo.
Cuando Abdelbaset al-Megrahi, condenado por el atentado contra el vuelo Pan Am 103 sobre Lockerbie que causó 270 muertes, regresó a Libia en 2009 tras ser liberado por razones médicas, fue recibido por una multitud que lo vitoreó.
Naturalmente, esa multitud no representaba a todos los libios.
Pero la imagen resulta significativa.
Una conducta que desde determinada cultura podía representar fundamentalmente el asesinato indiscriminado de civiles podía quedar subordinada, para quienes lo recibían como héroe, a otra categoría:
era uno de los nuestros frente a ellos.
Zaratustra dispone allí de un camino que una cultura de integración cívica intenta precisamente cerrar: permitir que la pertenencia al propio grupo reduzca el valor moral del individuo perteneciente al grupo contrario.
Irán y la modernidad tecnológica sin modernidad equivalente en otros ámbitos
Irán proporciona otro ejemplo especialmente interesante.
Es un país capaz de formar excelentes ingenieros y científicos, desarrollar misiles, drones, tecnología nuclear y sofisticadas capacidades militares.
Simultáneamente, su gobierno mantiene desde hace décadas relaciones de apoyo con organizaciones armadas como Hezbollah y Hamas.
Conviene ser precisos: que Irán financie, arme o entrene a determinados grupos no significa que controle necesariamente cada una de sus decisiones.
Pero el fenómeno general está suficientemente documentado.
Y desde la perspectiva de Zaratustra plantea una paradoja extraordinariamente importante.
Una sociedad puede alcanzar una enorme sofisticación tecnológica sin desarrollar paralelamente instituciones y una cultura política equivalentes a las de las democracias liberales más integradas.
No hay ninguna ley histórica que obligue a ambas cosas a avanzar juntas.
Podemos fabricar drones del siglo XXI y mantener rivalidades políticas organizadas alrededor de agravios históricos, identidades religiosas, aspiraciones hegemónicas y enfrentamientos transmitidos durante generaciones.
Otra vez:
un teléfono móvil en Babilonia.
No porque Irán sea Babilonia.
Sino porque la metáfora describe el desacople.
La tecnología puede saltarse siglos.
La cultura no necesariamente.
El verdadero problema de la democratización tecnológica
Durante buena parte de la historia existía una enorme distancia entre querer producir un daño gigantesco y poder producirlo.
Un individuo podía odiar a otro pueblo, pero para destruirlo necesitaba convencer a miles de personas, formar un ejército, disponer de recursos, conseguir dirigentes, armas y organización.
Incluso actualmente las armas nucleares presentan enormes barreras de acceso.
Hace falta un Estado, científicos, infraestructura industrial, materiales extremadamente controlados y enormes cantidades de dinero.
El propio esfuerzo que países como Irán han necesitado realizar para desarrollar capacidades nucleares demuestra la magnitud de esas barreras.
Pero ¿qué ocurriría si algunas tecnologías futuras redujeran progresivamente esa distancia?
¿Qué sucedería si capacidades que hoy requieren Estados terminaran necesitando organizaciones pequeñas?
¿Y si posteriormente algunas requirieran solamente unos pocos individuos?
Ese es el verdadero interrogante.
Y ahora debemos agregar algo que vuelve el problema mucho más serio:
esas capacidades podrían difundirse por sociedades que no han experimentado el mismo grado de progreso cultural.
La tecnología avanzada puede globalizarse.
La cultura que permite utilizarla responsablemente no necesariamente lo hace.
No necesitamos que la mayoría sea peligrosa
Existe además una asimetría que merece ser considerada.
Para beneficiarnos de una tecnología extraordinaria puede bastar con que unas pocas personas excepcionalmente capacitadas consigan desarrollarla.
Pero si esa tecnología posee capacidad destructiva y se vuelve fácilmente accesible, para estar completamente seguros necesitaríamos algo mucho más difícil:
que prácticamente nadie quisiera utilizarla destructivamente.
No importa que el 99,99 % de la humanidad jamás pensara en hacerlo.
En una población de miles de millones de personas, una fracción diminuta continúa representando un número enorme de individuos.
Por eso el problema tecnológico del futuro puede no depender de la conducta promedio de la humanidad.
Puede depender de la excepción.
Del individuo profundamente resentido.
Del fanático.
Del dirigente cuya ambición no encuentra suficientes límites.
Del pequeño grupo convencido de poseer una justificación moral para producir un daño enorme.
Y aquí aparece otra característica del Homo sapiens que hace el problema todavía más complejo.
La razón como abogada del instinto
Solemos imaginar la relación entre razón e instinto aproximadamente de esta manera:
pulsión → razón → control de la pulsión.
Pero muchas veces ocurre algo muy diferente:
pulsión → conclusión deseada → razón → justificación.
La razón no derrota al instinto.
Trabaja para él.
El individuo dominado por el resentimiento rara vez se dice:
"Quiero perjudicarlos porque su éxito me hace sentir inferior."
Construye una explicación.
Ellos nos humillaron.
Ellos nos robaron.
Ellos representan el mal.
Nosotros defendemos la justicia.
Nuestra causa es moralmente superior.
Naturalmente, algunas de esas afirmaciones pueden ser verdaderas. Pueden existir injusticias, invasiones, explotación, discriminación o agravios históricos completamente reales.
El problema comienza cuando esos hechos dejan de ser elementos que analizamos racionalmente y se convierten en materiales seleccionados por nuestra razón para justificar una conclusión emocionalmente decidida de antemano.
Entonces aparece una dificultad enorme:
Argumentar racionalmente contra una racionalización puede resultar extraordinariamente poco eficaz.
Porque estamos intentando destruir mediante argumentos algo cuya verdadera causa no son los argumentos.
Podemos refutar una justificación.
Pero si permanece intacta la pulsión que necesitaba esa justificación, nuestra extraordinaria inteligencia puede simplemente construir otra.
La razón se convierte así en abogada defensora de Zaratustra.
Putin: cuando Zaratustra acelera y frena al mismo tiempo
Vladimir Putin constituye un ejemplo interesante, siempre que diferenciemos hechos de hipótesis psicológicas que no podemos demostrar.
No podemos saber qué ocurre realmente en su intimidad.
Pero podemos formular una hipótesis compatible con este marco.
Putin puede interpretar su proyecto histórico como la recuperación de la grandeza rusa, la protección de Rusia frente a Occidente o la corrección de injusticias históricas.
Quizás crea sinceramente buena parte de ello.
Pero cabe preguntarse si debajo de esas construcciones racionales existe también algo mucho más elemental:
ambición, necesidad de trascendencia, búsqueda de superioridad, rechazo a la pérdida de estatus y deseo de quedar registrado en la historia como quien devolvió a Rusia su grandeza.
No podemos demostrarlo.
Pero desde la perspectiva de Zaratustra es una hipótesis que merece ser considerada.
Y aquí importa relativamente poco lo que un dirigente declara públicamente.
La pregunta psicológicamente interesante es:
¿qué se dice a sí mismo?
Porque Zaratustra necesita justificarse también ante nuestra propia conciencia.
Podemos realizar acciones profundamente impulsadas por nuestras pulsiones mientras estamos sinceramente convencidos de que obedecemos exclusivamente a razones nobles.
Pero Putin sirve simultáneamente para mostrar el fenómeno contrario.
¿Por qué un dirigente que dispone de miles de armas nucleares no las utiliza?
Quizás no sea fundamentalmente porque la razón pura le indique que hacerlo sería moralmente incorrecto.
Existe otro mecanismo muchísimo más primitivo y extraordinariamente poderoso:
el miedo.
Autopreservación.
La certeza de que determinadas acciones pueden provocar una respuesta capaz de destruir aquello que pretende conservar.
Aquí una pulsión contiene a otra.
Zaratustra acelera y Zaratustra frena.
La razón realiza el cálculo.
El miedo proporciona una poderosa motivación para obedecerlo.
Corea del Norte: Zaratustra contra Zaratustra
Corea del Norte proporciona otro ejemplo.
Tenemos un régimen extremadamente autoritario, fuertemente militarizado y poseedor de armas nucleares.
Y, sin embargo, esas armas no han producido hasta ahora una guerra nuclear.
Una explicación posible es precisamente que el régimen tiene muchísimo que perder.
Su dirigencia desea fundamentalmente conservar su poder y sobrevivir.
La utilización de armas nucleares contra otra potencia podría destruir aquello que más valora.
Nuevamente:
una pulsión contiene a otra.
La disuasión nuclear contiene una ironía extraordinaria.
Quizás uno de los mayores peligros creados por nuestra racionalidad tecnológica esté siendo controlado, en último término, mediante una de nuestras pulsiones más primitivas:
el miedo a morir.
¿Puede ayudarnos la distancia?
Corea del Norte introduce además otra cuestión.
Su relativo aislamiento reduce algunas oportunidades de interacción y, por lo tanto, algunas oportunidades de fricción.
Dos individuos que se detestan pero nunca se encuentran tienen menos oportunidades de enfrentarse que dos individuos obligados permanentemente a convivir.
Pero trasladar literalmente ese aislamiento al mundo contemporáneo resulta prácticamente imposible.
Internet, televisión, redes sociales, comercio, migraciones, viajes y comunicaciones instantáneas han convertido al planeta en un espacio profundamente interconectado.
El aislamiento verdadero es prácticamente una utopía.
Por eso quizás resulte más útil hablar de distancia prudencial.
No significa cortar relaciones.
Significa comprender que determinadas interacciones pueden estimular cooperación mientras otras pueden estimular comparación, humillación, resentimiento y conflicto.
Una política exterior basada en la prudencia adaptativa debería intentar aumentar las primeras y reducir las segundas.
El mundo islámico: una aclaración necesaria
Existe finalmente un ejemplo especialmente delicado.
Muchos conflictos contemporáneos involucran de alguna manera a sociedades o movimientos pertenecientes al mundo musulmán.
Sería extraordinariamente simplista concluir:
Islam → violencia.
No es ésa la hipótesis que estoy proponiendo.
Existen cientos de millones de musulmanes que viven pacíficamente y sociedades musulmanas enormemente diferentes entre sí.
Desde la perspectiva de Zaratustra, la religión no necesariamente constituye la pulsión.
Puede constituir, en determinados individuos y circunstancias, la narrativa mediante la cual una pulsión encuentra expresión y justificación.
El mismo mecanismo puede utilizar nacionalismo, raza, clase social, ideología política o cualquier otra identidad colectiva.
Lo interesante es preguntarnos qué ocurre cuando una población experimenta simultáneamente pobreza relativa, comparación permanente con sociedades mucho más prósperas, recuerdos de dominación extranjera, derrotas militares, sensación de humillación y dirigentes o movimientos capaces de proporcionar una explicación sencilla de esa situación.
Zaratustra dispone entonces de abundante combustible.
El sentimiento de inferioridad puede transformarse en resentimiento.
El resentimiento puede transformarse en odio.
Y la razón puede construir posteriormente una estructura ideológica que convierta ese odio en una causa moralmente legítima.
Esto no significa que todo conflicto protagonizado por una sociedad musulmana pueda explicarse así.
Significa algo mucho más general:
sería imprudente diseñar políticas hacia cualquier sociedad sin preguntarnos cómo reaccionarán sus pulsiones dentro de su cultura particular.
Una política exterior racional no debería preguntarse solamente:
"¿Es justa esta decisión?"
También debería preguntarse:
"¿Qué reacción humana probablemente provocará?"
Trabajar sobre Zaratustra
Llegamos entonces al problema que considero más difícil.
Habitualmente pensamos que frente a una tecnología peligrosa debemos construir instituciones capaces de controlarla.
Naturalmente debemos hacerlo.
Pero existe una dificultad.
Las instituciones necesitan tiempo.
Las leyes necesitan tiempo.
Los acuerdos internacionales necesitan tiempo.
La cultura necesita todavía más tiempo.
Mientras tanto, la tecnología continúa avanzando.
Puede que nuestras instituciones simplemente no lleguen siempre a tiempo.
Entonces quizás necesitemos trabajar simultáneamente sobre el otro extremo del problema.
No solamente:
¿Cómo impedimos que alguien consiga el arma?
También:
¿Cómo reducimos la probabilidad de que alguien quiera utilizarla?
Eso significa comprender mucho mejor los mecanismos que convierten inferioridad en resentimiento, resentimiento en odio y odio en voluntad destructiva.
Significa diseñar políticas nacionales e internacionales teniendo presente a Zaratustra.
A veces eso implicará cooperación.
Otras veces comercio.
Otras, integración.
En determinadas circunstancias, disuasión.
Y en otras quizás distancia prudencial.
No existe una fórmula universal porque las culturas son diferentes y las circunstancias también.
Precisamente por eso necesitamos prudencia adaptativa.
No deberíamos organizar nuestras relaciones suponiendo que el Homo sapiens reaccionará como racionalmente debería reaccionar.
Debemos intentar prever cómo probablemente reaccionará el Homo sapiens que realmente existe.
Estamos perdiendo dos carreras
Quizás, después de todo lo anterior, decir que estamos perdiendo una carrera sea insuficiente.
Estamos corriendo dos.
La primera es entre tecnología y cultura.
Nuestra capacidad tecnológica aumenta extraordinariamente rápido mientras nuestra capacidad cultural para controlar las pulsiones humanas necesita generaciones.
Pero existe una segunda:
la carrera entre la difusión mundial de la tecnología y la difusión mundial de la cultura necesaria para gobernarla.
Y posiblemente sea todavía más preocupante.
Una sociedad puede tardar siglos en construir elevados niveles de integración cívica.
Una inteligencia artificial puede atravesar la frontera de esa sociedad en segundos.
Por eso el progreso cultural de Suiza no protege automáticamente al resto del planeta.
Y el progreso tecnológico producido por las sociedades más avanzadas tampoco permanece dentro de ellas.
Estamos creando capacidades potencialmente universales dentro de una humanidad culturalmente extraordinariamente heterogénea.
Un teléfono móvil en Babilonia
Hace años utilicé esa imagen para describir el contraste entre nuestro extraordinario progreso tecnológico y nuestro mucho más modesto progreso político y social.
Hoy aquella metáfora adquiere para mí un significado bastante más inquietante.
El teléfono móvil llegó a Babilonia mucho antes de que Babilonia pudiera convertirse en Suiza.
Hasta ahora eso podía resultar simplemente paradójico.
Pero el teléfono móvil está convirtiéndose en algo diferente.
Dentro de él comienza a existir una inteligencia capaz de enseñarnos, razonar con nosotros, ayudarnos a investigar y multiplicar nuestras capacidades intelectuales.
Y probablemente estamos apenas en el comienzo.
No sabemos si algún día un pequeño grupo podrá utilizar inteligencia artificial y biotecnología para crear un arma capaz de producir una catástrofe.
Actualmente existen enormes barreras técnicas que lo dificultan.
Pero tampoco sabemos cuánto durarán.
Por eso quizás el mayor peligro de la inteligencia artificial no sea que algún día adquiera nuestras peores pulsiones.
Quizás sea exactamente el contrario:
que una inteligencia que no las posee termine poniendo capacidades extraordinarias al servicio de seres humanos que nunca dejaron de poseerlas.
Durante siglos conseguimos protegernos parcialmente de Zaratustra construyendo culturas, instituciones y políticas que limitaron su capacidad de acción.
Pero esas barreras no tienen la misma fortaleza en todas partes.
Y la tecnología podría estar reduciendo algunas de ellas en todas partes.
Por eso comprender a Zaratustra deja de ser solamente un ejercicio intelectual.
Si alguna vez individuos dominados por resentimiento, odio, fanatismo o ambición llegan a disponer de capacidades destructivas que hoy sólo poseen los Estados, comprender qué activa esas pulsiones y qué puede contenerlas podría convertirse en algo bastante más importante.
Podría convertirse en una cuestión de supervivencia.
Porque el problema nunca fue simplemente que el Homo sapiens fuera irracional.
El problema es mucho más inquietante:
somos animales capaces de poner una inteligencia extraordinaria al servicio de nuestras irracionalidades.
Y ahora estamos construyendo inteligencias todavía más extraordinarias.
Comentarios
Publicar un comentario