En la época del Imperio Romano, la vida cívica estaba dividida entre las facciones Azul y Verde. Los Azules y los Verdes se mataban entre si en duelos, en emboscadas, en batallas entre grupos, y en disturbios. Procopio dijo lo siguiente acerca de las facciones que estaban en guerra: “Y así crece entre ellos una hostilidad contra sus semejantes que no tiene causa, y en ningún instante se interrumpe o desaparece, ya que no respeta ni a los lazos matrimoniales ni a las relaciones ni a las amistades, y se da el mismo caso incluso aunque aquellos que difieren respecto a los colores sean hermanos o cualquier otra parte de la familia.” Edward Gibbon escribió: “El apoyo de una facción se convirtió en algo necesario para todo candidato a tener un honor civil o eclesiástico.”
¿Quiénes eran los Azules y los Verdes? Eran hinchas deportivos – los partisanos de los equipos azul y verde de carreras de carros.
Imagínense una sociedad del futuro que escapa a una vasta red subterránea de cavernas, y que sella las entradas. No especificaremos si huyeron de una enfermedad, una guerra o la radiación; supondremos que los primeros Subterranenses lograron hacer crecer comida, encontrar agua, reciclar el aire, hacer luz, y sobrevivir, y que sus descendientes eventualmente crearon ciudades. Respecto al mundo exterior, solo quedan leyendas escritas en retazos de papel; y uno de esos retazos de papel describe el cielo, un vasto espacio abierto lleno de aire sobre un gran suelo sin límites. El cielo es de color cerúleo, y contiene extraños objetos flotantes como enormes mechones de blanco algodón. Pero el significado de la palabra “cerúleo” es controvertido; algunos dicen que se refiere al color conocido como “azul”, y otros que se refiere al color conocido como “verde”.
En los primeros días de la sociedad subterránea, los Azules y los Verdes luchaban violenta y abiertamente; pero hoy, prevalece una tregua – una paz nacida de una creciente sensación de futilidad. Las convenciones sociales han cambiado; hay una gran y próspera clase media que ha crecido bajo la protección de una efectiva fuerza policial y no están acostumbrados a la violencia. Las escuelas imparten cierto sentido de perspectiva histórica; cuanto duraron las batallas entre los Azules y los Verdes, cuantos murieron, y lo poco que cambió como resultado de ellas. Las mentes se han abierto a la extraña y nueva filosofía de que las personas son personas, ya sean Azules o Verdes.
El conflicto no se ha desvanecido. La sociedad aún está dividida en líneas Azules y Verdes, y existe una posición “Azul” y “Verde” en casi cualquier cuestión contemporánea de importancia política o cultural. Los Azules defienden impuestos sobre las ganancias individuales, y los Verdes impuestos en las ventas de mercancías; los Azules defienden leyes matrimoniales más estrictas, mientras que los Verdes desean que sea más fácil obtener divorcios; los Azules obtienen su apoyo del corazón de las áreas metropolitanas, mientras que los más alejados granjeros y vendedores de agua tienden a ser Verdes; los Azules creen que la Tierra es una enorme roca esférica en el centro del universo, los Verdes que es una enorme roca plana que da vueltas alrededor de otro objeto llamado un Sol. No todos los ciudadanos Azules o Verdes adoptan la posición “Azul” o “Verde” en cada tema, pero es raro encontrarse con un mercader de la ciudad que creyera que el cielo es azul, y que aun así defendiera un impuesto individual o leyes matrimoniales más permisivas.
El Submundo está todavía polarizado; la paz es insegura. Unos cuantos creen genuinamente que los Azules y los Verdes deberían ser amigos, y ahora es normal que un Verde acudiera a una tienda Azul, o que un Azul visitara una taberna Verde. De una tregua originalmente nacida del agotamiento, esta creciendo silenciosamente un espíritu de tolerancia, e incluso de amistad.
Un día, el Submundo es sacudido por un terremoto menor. Un grupo de seis turistas es atrapado por el estremecimiento cuando visitaban las ruinas de unas viviendas antiguas de las cavernas superiores. Sienten el ligero movimiento de las rocas bajo sus pies, y una de los turistas tropieza y se magulla su tobillo. El grupo decide volver, temiendo más terremotos. En el camino de regreso, una persona huele un extraño olor en el aire, un aroma que viene de un pasaje que no ha sido usado desde hace mucho tiempo. Ignorando las bienintencionadas advertencias de sus compañeros de viaje, la persona pide prestada una lámpara a motor y empieza a atravesar el pasaje. El corredor de piedra empieza a subir… y a subir… y termina finalmente en un hoyo tallado fuera del mundo, un lugar donde toda la piedra se acaba. La distancia, una distancia eterna, se alarga hasta el infinito; un espacio que es tan grande como para albergar mil ciudades. Por encima, inimaginablemente lejano, y demasiado brillante como para verse directamente, una ardiente chispa emite luz sobre todo el espacio visible, el filamento desnudo de una enorme bombilla. En el aire, colgando sin apoyo alguno, hay incomprensibles mechones de algodón azul. Y el vasto techo que brilla fuera… su color… es…
Y aquí es donde la historia se divide dependiendo de cual de los miembros del grupo de turistas decidió seguir el corredor que llevaba a la superficie.
Aditya la Azul se quedó en pie bajo el infinito azul, y sonrió lentamente. No era una sonrisa agradable. Había odio, y orgullo herido; recordaba todas las discusiones que había tenido con los Verdes, cada rivalidad, cada ascenso disputado. “Siempre has tenido razón,” le susurró el cielo, “y ahora podrás demostrarlo.” Por un instante Aditya se quedó allí, absorbiendo el mensaje, glorificándose en el, y entonces se volvió por el corredor de piedra para contárselo al mundo. Mientras que Aditya caminaba, cerró su mano hasta formar un puño apretado. “La tregua,” dijo, “se ha terminado.”
Barron el Verde contempló sin poder comprender el caos de colores durante largos segundos. La comprensión, cuando llegó, fue como un puñetazo devastador que golpeó la base de su estómago. Empezaron a brotar lágrimas de sus ojos. Barron pensó en la Masacre de Catia, donde un ejército Azul masacró a todos los ciudadanos de una ciudad Verde, incluso a los niños; pensó en el antiguo general Azul, Annas Rell, quien declaró que los Verdes eran “un foso infecto, una pestilencia que debe ser limpiada”; pensó en los destellos de odio que había visto en los ojos Azules y algo en su interior se rompió en pedazos. “¿Como es posible que estés de su parte?” Preguntó Barron al cielo, y entonces empezó a sollozar; porque sabía, estando bajo la malévola mirada azul, que el universo siempre había sido un sitio lleno de maldad.
Charles el Azul consideró el techo azul, atónito. Como profesor de un colegio mixto, Charles había enfatizado cuidadosamente que los puntos de vista Azul y Verde eran igualmente válidos y que merecían ser tolerados: El cielo era una construcción metafísica, y cerúleo un color que podía ser visto de más de un modo. Brevemente, Charles se preguntó si un Verde, de pie en este lugar, podría ver un cielo verde encima de él o si quizás el cielo sería verde mañana a esta hora; pero no podía apostar la supervivencia continuada de la civilización a ello. Esto era solamente un fenómeno natural, que no tenía que ver nada con la filosofía moral o con la sociedad… pero era posible malinterpretarlo, temía Charles. Charles suspiró, y volvió por el corredor. Mañana volvería solo para bloquear el pasaje.
Daria, una vez Verde, intentó respirar entre las cenizas de su mundo. No retrocederé, se dijo Daria. No apartaré la mirada. Había sido Verde toda su vida, y ahora debía ser Azul. Sus amigos, su familia, la rechazarían. Di la verdad, aunque tu voz flaquee, le dijo una vez su padre; pero su padre ahora estaba muerto, y su madre nunca lo entendería. Daria sostuvo la mirada tranquila del cielo azul, intentando aceptarlo, y finalmente su respiración se tranquilizó. Había estado equivocada, se dijo tristemente a si misma; no es tan complicado, después de todo. Haría nuevos amigos, y quizás su familia llegaría a perdonarla… o, se preguntó con un atisbo de esperanza, ¿subirían para pasar esta misma prueba, quedarse de pie bajo este mismo cielo? “El cielo es azul,” dijo Daria experimentalmente, y no le ocurrió nada funesto; pero no podía obligarse a sonreír. Daria la Azul exhaló tristemente, y volvió al mundo, preguntándose que es lo que iba a decir.
Eddin, un Verde, contempló el cielo y empezó a reírse cínicamente. Al fin el rumbo de la historia del mundo había quedado al descubierto; incluso el mismo no se podía creer que habían sido tan idiotas. “Estúpidos,” dijo Eddin, “estúpidos, estúpidos, y siempre había estado exactamente aquí.” Odios, asesinatos, guerras, y todo este tiempo había sido una cosa de un lugar, sobre lo que alguien había escrito como si escribiera sobre cualquier otra cosa. Nada de poesía, nada de belleza, y nada que a ninguna persona cuerda le pudiera importar, solo era una cosa sin sentido que había sido inflada desproporcionadamente. Eddin se apoyó cansado en la entrada de la cueva, intentando pensar en una forma de impedir que esta información destrozara el mundo, y preguntándose si no se lo merecían.
Ferris jadeó involuntariamente, paralizado por pura maravilla y deleite. Los ojos de Ferris fueron hambrientos de un lado a otro, atracándose con todos los detalles uno tras otro, antes de pasar al siguiente; el cielo azul, las nubes blancas, el exterior vasto y desconocido, lleno de lugares y cosas (¿Y gente?) que ningún Subterraniense había visto jamás. “Ah, así que era de ese color,” se dijo Ferris, y siguió explorando.
Se reconoce ampliamente que la buena ciencia requiere algún tipo de humildad. Qué tipo de humildad se debe usar es algo más controvertido.
Consideren al creacionista que dice «¿Pero quién puede saber si la evolución es correcta o no? Es sólo una teoría. Deberías ser más humilde y abierto de miras.» ¿Es esto humildad? El creacionismo utiliza una inseguridad muy selectiva, negándose a integrar enormes factores de evidencias a favor de una conclusión que le parece incómoda. Yo diría que tanto si se llama a esto «humildad» como si no, es un paso en falso en el baile.
¿Y qué hay del ingeniero quien humildemente diseña mecanismos a prueba de fallos en la maquinaria, aunque está completamente seguro de que la maquinaria no puede fallar? Eso me parece un buen tipo de humildad. Históricamente, no son desconocidos casos en los que un ingeniero estaba completamente seguro de que una nueva máquina no podía fallar, y después ésta falló.
¿Y qué hay del estudiante que vuelve a comprobar las respuestas de su examen de mates? De nuevo lo clasificaría como buena humildad.
¿Y qué hay del estudiante que dice, «Bueno, por muchas veces que lo compruebe, nunca voy a estar seguro de que mis respuestas van a ser correctas,» y por tanto no las comprueba ni una vez? Incluso si esta elección proviene de una emoción similar a la sentida por el estudiante anterior, parece menos sensata.
Se sugiere a alguien que estudie más, el estudiante responde: «No, eso no me va a servir: No soy tan listo como tu; no, alguien tan tonto como yo no puede esperar hacerlo mejor.» Eso es modestia social, y no humildad. Se usa para regular el estatus dentro de la tribu, en vez de procesos científicos. Si se pide a alguien que «sea más humilde», por defecto asociará las palabras con la modestia social – que es un concepto intuitivo, usado diariamente, y relevante desde tiempos antiguos. La humildad científica es una invención más reciente y enrarecida, y no es inherentemente social. La humildad científica es algo que se puede utilizar incluso si uno está solo en un traje espacial, a años luz de la Tierra y sin ser visto por nadie. O incluso si se le garantizara que nunca nadie fuera a volver a criticarle jamás, sin importar lo que dijera o pensara. Aun así, se debería volver a revisar los cálculos si se es sensato.
El estudiante dice: «Pero he visto a otros estudiantes volver a revisar sus cálculos, y siguen teniendo errores. ¿Qué pasaría si, por el problema de la inducción, nos encontramos con que esta vez 2 + 2 = 5? No importa lo que haga, nunca estaré seguro de mi mismo.» Parece muy profundo, y muy modesto. Pero no es casualidad que el estudiante quiere entregar el examen rápidamente, para volver a casa y poder jugar a los videojuegos.
El final de una era en la física no siempre se anuncia con truenos y trompetas; muchas veces comienza en un pequeño, diminuto error… Pero al tener los físicos esa arrogante idea de que sus modelos deberían funcionar siempre, no sólo la mayor parte del tiempo, ellos persiguen los pequeños errores. Normalmente, el pequeño error desaparece la mayor parte de las veces. Raramente, el error se expande hasta el punto en el que destroza completamente la teoría. Por tanto está escrito: «Si no buscas la perfección te detendrás antes de dar tus primeros pasos.»
¡Pero piensen en la audacia social de intentar tener razón siempre! Sospecho seriamente que si la Ciencia proclamara que la teoría de la evolución no fuera cierta solo la mayor parte de las veces pero no todas las veces – o si la Ciencia admitiera que quizás en algunos días la Tierra es plana, pero quien sabe – entonces los científicos tendrían mejores reputaciones sociales. La Ciencia se vería entonces como algo menos polémico, ya que no se tendría que discutir con la gente que dice que la Tierra es plana – habiendo razones para el acuerdo mutuo. Cuando se discute mucho, es vista por la gente como una persona polémica. Si se niega repetidamente a ceder, es incluso peor. Considérenlo como una cuestión de estatus tribal: los científicos ciertamente han alcanzado un estatus mayor a cambio de herramientas socialmente útiles como las medicinas o los teléfonos móviles. Pero el estatus social no justifica su insistencia de que solo las ideas científicas como la evolución deben ser enseñadas en las escuelas públicas. Los sacerdotes también tienen un alto estatus social, después de todo. Los científicos se están sobrepasando – ¡Han alcanzado algo de estatus, y ahora se creen los jefes de toda la tribu! Deberían ser más humildes, y ceder un poco.
Muchas personas parecen tener opiniones bastante difusas sobre la «humildad racionalista». Es peligroso tener un principio preceptivo que solo comprendes vagamente; la imagen mental que se tiene puede tener muchos grados de libertad que puede ser adaptada para justificar casi cualquier acción. Cuando la gente tiene modelos mentales imprecisos que pueden utilizarse para afirmar cualquier cosa, normalmente terminan creyendo lo que desde un principio deseaban creer. Eso es tan conveniente que la gente es reacia a desprenderse de la imprecisión. Pero el fin de nuestra ética es el de persuadirnos, no el de ser persuadidos por nosotros.
La «Humildad» es una virtud que frecuentemente está mal comprendida. Eso no quiere decir que debamos descartar el concepto de humildad, sino que debemos tener cuidado a la hora de utilizarlo. Puede ayudar examinar las acciones recomendadas por una línea «humilde» de pensamientos, y preguntar: «¿Hacer las cosas de esta manera te hace más fuerte, o más débil?» Si piensas en el problema de inducción aplicado a un puente que necesita mantenerse en pie, puede parecer razonable concluir que nada es seguro sin importar las precauciones utilizadas; pero si se consideran las diferencias existentes en el mundo real entre añadir algunos cables adicionales, y encogerse de hombros, parece bastante claro cual es la opción que hace que el puente sea más fuerte.
La gran mayoría de llamamientos que he presenciado a la «humildad racionalista» son excusas para encogerse de hombros. La persona que compra un billete de lotería, diciendo, «Pero no sabes con seguridad que voy a perder». La persona que no cree en la evolución, diciendo, «Pero no puedes demostrar que sea cierta.» La persona que se niega a afrontar un problema difícil, diciendo «Probablemente sea demasiado difícil de resolver.» El problema está en el escepticismo motivado, alias sesgo de disconformidad – afirmaciones con mucho mayor escrutinio que no queremos creer. La humildad, en su forma más frecuentemente malentendida, es una excusa general para no creer en algo; ya que, después de todo, no puedes estar seguro. ¡Cuidado con las excusas completamente generales!
Un problema posterior es que es demasiado fácil profesar humildad. Dennett, en «Breaking the Spell», indica que mientras que muchas afirmaciones religiosas son muy difíciles de creer, es más fácil para la gente creer que deberían creerlas. Dennett define esto como «creer en la creencia». ¿Que significaría realmente asumir, creer realmente, que tres es igual a uno? Es mucho más fácil creer que se debería, de algún modo, creer que tres es igual a uno, y dar esta respuesta en los momentos adecuados en la iglesia. Dennett propone que la mayor parte de las «creencias religiosas» deberían estudiarse como «profesiones religiosas» – lo que la gente cree que debería creer y lo que saben que deben decir.
Es demasiado fácil enfrentarse a cualquier argumento en contra diciendo, «Bueno, por supuesto que puedo estar equivocado.» Entonces, habiendo hecho la obligada reverencia en la dirección a la Modestia, habiendo rendido la adecuada pleitesía, se puede seguir el camino sin haber cambiado nada.
La tentación está en conseguir siempre la mayor cantidad de puntos con el menor esfuerzo. La tentación está en integrar todas las noticias recibidas de forma de que nos permite cambiar nuestras creencias y, por encima de todo, nuestras acciones, lo menos posible. John Kenneth Galbraith dijo: «Enfrentados a la decisión entre cambiar la propia mente y probar que no es necesario hacerlo, la mayor parte de la gente escoge buscar las pruebas.» Y cuanto mas inconveniente sea cambiar nuestra propia mente, más esfuerzo hace la gente en encontrar las pruebas.
Pero, ya sabes, si se va a terminar haciendo lo mismo de todos modos, entonces no hay motivos para gastar tanto esfuerzo racionalizándolo. Muchas veces me he encontrado con gente que se encuentra con nueva información, aceptándola en apariencia, y entonces explicando cuidadosamente las razones por las que van a seguir haciendo exactamente lo mismo que pensaban hacer antes, pero con una justificación diferente. El fin de pensar es para dar forma a nuestros planes; si se van a conservar los mismos planes de todos modos, ¿por qué hacer todo ese esfuerzo para justificarlo? Cuando uno se encuentra con nueva información, lo difícil es actualizar, reaccionar, en vez de dejar que la información desaparezca en un agujero negro. Y la humildad, adecuadamente malentendida, es un maravilloso agujero negro – lo único que se debe hacer es admitir que uno puede estar equivocado. Así está escrito: «Ser humilde es realizar acciones específicas anticipando que puedas estar equivocado. Confesar la posibilidad de que cometas errores y no hacer nada no es ser humilde, es jactancia de la propia modestia.»
(Continuación del artículo anterior: «¿Por qué la verdad? Y…»)
Un sesgo es un tipo específico de obstáculo en nuestra meta de alcanzar la verdad – Su papel como «obstáculo» brota de esta meta de la verdad – pero hay muchos más obstáculos que no son «sesgos».
Si empezamos preguntando directamente «¿Qué es un sesgo?», la pregunta se realiza en el orden equivocado. Como dice el refrán, «Hay cuarenta tipos de locura, pero solo un tipo de sentido común.» La verdad es un objetivo de tamaño reducido, una pequeña región a alcanzar en el espacio de configuraciones. «Me quiere, no me quiere» puede ser una pregunta binaria, pero E=MC^2 es un punto diminuto en el espacio de todas las ecuaciones, como tener el cupón premiado en el espacio de todos los billetes de lotería. El error no es una condición excepcional; es el éxito lo que es tan improbable a priori que necesita una explicación.
No puede empezarse a hablar de un deber moral de «reducir los sesgos», porque los sesgos sean malos y malignos y Eso No Se Hace. Ese es el tipo de pensamiento que alguien puede terminar teniendo si adquirió el deber deontológico de la «racionalidad» mediante osmosis social, lo que hace que la gente intente utilizar técnicas sin apreciar las razones por las que son necesarias. (Lo que es malo y maligno y Eso No Se Hace, conforme a Surely You’re Joking, Mr. Feynman, que leí de niño.)
En vez de eso, queremos llegar a la verdad, por cualquier motivo, y nos encontramos con distintos obstáculos que se interponen en el camino a nuestra meta. Estos obstáculos no son demasiado diferentes entre sí – por ejemplo, existen obstáculos que tienen que ver con no tener suficiente potencia de computación disponible, o que la información es costosa. Parece que un gran número de obstáculos tienen cierta característica en común – agrupados en una región del espacio de obstáculos-a-la-verdad – y esa región se ha etiquetado como «sesgos».
¿Qué es un sesgo? ¿Podemos mirar a la agrupación empírica y encontrar una prueba compacta para designar a sus miembros? Quizás podamos averiguar que no podemos dar una explicación mejor que señalar a algunos ejemplos extensos, y esperar que el oyente lo comprenda. Si uno es un científico que acabas de comenzar a investigar el fuego, puede ser mucho más sensato señalar a una fogata y decir «El fuego es esa cosa brillante y anaranjada de allí,» en vez de decir «Defino el fuego como una transmutación alquímica de substancias que liberan flogisto.» Como dije en La Verdad Simple, no se debe ignorar algo simplemente porque no se pueda definir. No puedo citar las ecuaciones de la Relatividad General de memoria, pero sin embargo si me fuera más alla de un precipicio, me caería. Y podemos decir lo mismo de los sesgos – no nos afectarán menos si resulta que no podemos definir de forma compacta que es un «sesgo». Podemos señalar a las falacias conjuntivas, al exceso de confianza, a la disponibilidad y representabilidad de los heurísticos, al sesgo de la tasa base, y decir «Cosas como ésas.»
Una vez dicho todo eso, parece que podemos etiquetar como «sesgo» todos los obstáculos a la verdad que se producen, no por el coste de la información, ni limitada por el poder de computación, sino por la forma de nuestra propia maquinaria mental. Por ejemplo, el mecanismo que está optimizado evolutivamente para propósitos que se oponen activamente a la precisión epistémica; por ejemplo, el mecanismo usado para vencer discusiones con contextos políticos adaptativos. O la presión selectiva opuesta a la precisión epistémica; por ejemplo, creer en lo que los demás creen para llevarte bien con ellos socialmente. O, en el clásico sesgo heurístico, el mecanismo funciona utilizando un algoritmo identificable que produce resultados útiles, pero también errores sistemáticos: la misma heurística de disponibilidad no es un sesgo, pero da pie a sesgos identificables y completamente descriptibles. Cuando nuestro cerebro hace algo mal, y tras muchas investigaciones y/o pensamientos profundos, alguien identifica el problema de forma que el Sistema 2 pueda comprender, y entonces llamamos a eso «sesgo». Incluso si no podemos hacer las cosas mejor por saberlo, es un fallo que aparece, de forma identificable, en una clase particular de mecanismos cognitivos – no por no tener mecanismos insuficientes, sino por la forma de esos mismos mecanismos.
Los «sesgos» se distinguen de los errores que aparecen en los contenidos cognitivos, como las creencias adoptadas, o de los deberes morales adoptados. Los llamamos «errores» en vez de «sesgos», y son mucho más fáciles de corregir, una vez que nos hemos dado cuenta por nosotros mismos. (Aunque el origen del error, o el origen del origen del error, puede ser en última instancia algún tipo de sesgo.)
Los «sesgos» se distinguen de los errores que aparecen por daños en los cerebros humanos individuales, o por elementos culturales absorbidos; los sesgos aparecen de los mecanismos que son universalmente humanos.
Platón no tenía «sesgos» al ignorar la Relatividad General – no tenía forma de reunir esa información, su ignorancia no era resultado de la forma de su maquinaria mental. Pero si Platón creía que los filósofos serían reyes mejores era porque el mismo era un filósofo – y esta creencia, por su parte, se originó de un instinto político adaptativo universal para la auto-promoción, y no porque el papá de Platón le dijera que todos tenían el deber moral de promover su propia profesión a puestos gubernamentales, o porque Platón esnifara demasiado pegamento de niño – entonces eso era un sesgo, tanto si Platón estaba advertido de ello como si no.
Los sesgos pueden no ser fáciles de corregir. Pueden incluso no ser corregibles. Pero cuando examinamos nuestra propia maquinaria mental y vemos un caso real de una clase identificable de error; y cuando el problema parece venir de la forma evolucionada de la maquinaria, en vez de no tener la suficiente maquinaria, o malos contenidos específicos; entonces llamamos a eso un sesgo.
Personalmente, veo nuestra búsqueda en términos de adquirir habilidades personales de racionalidad, en mejorar nuestra técnica para encontrar verdades. El desafió estriba en conseguir la meta positiva de la verdad, no evitar la meta negativa de los fallos. El espacio de fallos es amplio, infinitos errores de infinita variedad. Es difícil describir un espacio así de grande. «Lo que es verdadero sobre una manzana puede no ser cierto para otra manzana; así, más se puede decir de una única manzana que de todas las manzanas del mundo.» El espacio de éxito es mucho más reducido, por tanto se pueden decir más cosas de el.
Aunque no soy contrario (como acabáis de ver) a hablar sobre definiciones, debemos recordar que ese no es nuestro objetivo principal. Estamos aquí para seguir la gran búsqueda humana de la verdad: ya que necesitamos desesperadamente el conocimiento, y además de eso, somos curiosos. Esforcémonos con ese fin para superar cualquier obstáculo que se interponga en nuestro camino, tanto como si los llamamos «sesgos» como si no.
Algunos de los comentarios en este blog han tocado la cuestión de por qué debemos de buscar la verdad. (Por suerte no muchos han preguntado qué es la verdad.) La forma de nuestra motivación para configurar nuestros pensamientos a la racionalidad, que determina si una configuración dada es «buena» o «mala», viene de cualquiera que sea la razón por la cual queríamos encontrar la verdad en primer lugar.
Está escrito: «La primera virtud es la curiosidad.» La curiosidad es una razón para buscar la verdad, y puede que no sea la única, pero tiene una pureza especial y admirable. Si tu motivo es la curiosidad, tu asignarás prioridad a las preguntas de acuerdo a como las preguntas, por si mismas, cosquillean tu sentido personal de la estética. Un reto más difícil, con una mayor probabilidad de fracaso, puede valer mas esfuerzo que uno simple, sólo porque es más divertido.
Algunas personas, sospecho yo, pueden objetar que la curiosidad es una emoción y por lo tanto «no racional». Yo etiqueto una emoción como «no racional» si se basa en creencias erróneas, o, mejor dicho, sobre una conducta epistémica irracional: «Si el hierro se acerca a tu cara, y tu crees que está caliente, y esta frió, el Camino se opone a tu miedo. Si el hierro se acerca a tu cara, y crees que está frió, y esta caliente, el Camino se opone tu calma.» A la inversa, pues, una emoción que es evocada por creencias correctas o pensamiento epistémicamente racional es una «emoción racional»; y esto tiene la ventaja de permitirnos considerar la tranquilidad como un estado emocional, en lugar de un defecto privilegiado. Cuando la gente piensa en la «emoción» y la «racionalidad» como opuestas, yo sospecho que realmente están pensando sobre el Sistema 1 y el Sistema 2 – rápidos juicios de percepción versus lentos juicios deliberados. Los juicios deliberados no son siempre verdad, y los juicios de percepción no son siempre falsos; así que es muy importante distinguir esa dicótoma de la «racionalidad». Ambos sistemas pueden servir el objetivo de la verdad, o derrotarlo, según cómo sean utilizados.
Además de pura curiosidad emocional, ¿que otros motivos hay para desear la verdad? Bueno, puede que desees lograr alguna meta específica en el mundo real, como construir un avión, y por lo tanto necesitas saber alguna verdad específica acerca de la aerodinámica. O más prosaicamente, deseas leche de chocolate, y por lo tanto quieres saber si la tienda de comestibles local tiene leche de chocolate, para que puedas elegir si ir caminando ahí o a algún otro lugar. Si esta es la razón por la que quieres la verdad, entonces la prioridad que asignes a tus preguntas reflejaran la utilidad esperada de su información – que tanto las posibles respuestas influirán tus decisiones, que tanto tus decisiones importan, y que tanto esperas encontrar una respuesta que cambie tu decisión de su defecto.
El buscar la verdad sólo por su valor instrumental puede parecer impuro – ¿no deberíamos desear de la verdad por sí misma? – pero tales investigaciones son extremadamente importantes porque crean un criterio externo de comprobación: si tu avión cae del cielo, o si se llegas a la tienda y no encuentras leche de chocolate, es un indicio de que hiciste algo mal. Obtienes información sobre cuales modos de pensamiento funcionan, y cuales no lo hacen. La curiosidad pura es una cosa maravillosa, pero puede no permanecer demasiado tiempo verificando sus respuestas, una vez que el misterio atractivo se ha ido. La curiosidad, como una emoción humana, ha existido desde mucho antes de que los antiguos Griegos. Pero lo que estableció la humanidad firmemente en el camino de la Ciencia fue el notar que ciertos modos de pensar descubrían creencias que nos permitían manipular al mundo. En cuanto a la curiosidad pura va, inventar cuentos de fogata sobre dioses y héroes satisfacía ese deseo igual de bien, y nadie se dio cuenta de que algo estaba mal con eso.
¿Hay motivos para la buscar la verdad además de la curiosidad y el pragmatismo? La tercera razón en la que puedo pensar es la moralidad: Tú crees que el buscar la verdad es noble e importante y que vale la pena. Aunque ese ideal también atribuye un valor intrínseco a la verdad, es un estado de mente muy diferente de la curiosidad. El estar curioso sobre lo que está detrás de la cortina no se siente igual que creer que tienes un deber moral de buscar allí. En el segundo estado mental, eres mucho más propenso a creer que alguien más debería mirar detrás de la cortina, también, o castigarlos si deliberadamente cierran los ojos. Por esta razón, también etiquetaría como «moralidad» la creencia que buscar la verdad es pragmáticamente importante para la sociedad, y por lo tanto corresponde como un deber de todos. Tus prioridades, bajo esta motivación, serán determinadas por tus ideales sobre que verdades son más importantes (no más útiles o más intrigantes); o tus ideales morales acerca de cuándo, bajo qué circunstancias, el deber de buscar la verdad es más fuerte.
Tiendo a sospechar de la moralidad como una motivación para la racionalidad, no porque rechace el ideal moral, pero sino porque invita ciertos tipos de problemas. Es demasiado fácil adquirir, como deberes morales aprendidos, modos de pensar que son terribles pasos en falso en la danza. Considera al Señor Spock de Star Trek, un arquetipo ingenuo de la racionalidad. El estado emocional de Spock siempre esta puesto en «calma», incluso cuando tremendamente inadecuado. A menudo da muchas cifras significativas para probabilidades que están completamente mal calibradas. (Por ejemplo: «Capitán, si usted dirige a la Enterprise directamente hacia ese agujero negro, nuestra probabilidad de sobrevivir es sólo 2.234%» Sin embargo, nueve de cada diez veces la Enterprise no se destruida. ¿Qué clase de tonto trágico da cuatro cifras significativas para una figura que está mal por dos órdenes de magnitud?) Sin embargo, esta imagen popular es como muchas personas conciben de el deber de ser «racional» – no debe entonces de extrañar que no lo abrasen de todo corazón. El hacer la racionalidad un deber moral es el darle todos los terribles grados de libertad de una arbitraria costumbre tribal. La gente llega a la respuesta equivocada, y luego protestan con indignación que actuaron con propiedad, en lugar de aprender de su error.
Y sin embargo si vamos a mejorar nuestras racionales, ir más allá de los estándares de rendimiento establecidos por cazadores-recolectores, necesitaremos creencias intencionales sobre cómo pensar con propiedad. Cuando escribimos nuevos programas mentales para nosotros mismos, empiezan en el Sistema 2, el sistema intencional, y son sólo poco a poco – o nunca – entrenados en el circuito neural que subyace el Sistema 1. Así que si hay ciertos tipos de pensamiento que encontramos que queremos evitar – como, por ejemplo, los sesgos – terminara eso siendo representado, dentro del sistema 2, como un mandato de no pensar en esa manera; un deber declarado de evitar.
Si queremos la verdad, podemos obtenerla de forma más eficaz al pensar de ciertas maneras, en lugar de otras; y estas son las técnicas de la racionalidad. Algunas de las técnicas de racionalidad involucran la superación de una cierta clase de obstáculos, los sesgos…
(Continuado en la siguiente entrada: «¿Qué es un sesgo, una vez más?»)
Suelo utilizar la metáfora que la racionalidad es el arte marcial de la mente. No se necesitan grandes músculos abultados para aprender las artes marciales; las personas atléticas tienden a ser más propensas a aprender estas artes, pero esto puede ser más que otra cosa una cuestión de placer. Algunos seres humanos son más rápidos o mas fuertes que otros; pero un arte marcial no ejercita la variación entre los humanos. Un arte marcial ejercita sólo los músculos — si tienes la maquinaria compleja de una mano (universal entre los humanos), con tendones y músculos en los lugares apropiados, entonces puedes aprender a cerrar el puño.
¿Cómo se puede ejercitar una variación? ¿Qué significa formar dos desviaciones estándar de músculo? Es igualmente poco claro lo que significaría formar un CI de 132.
Pero si tienes un cerebro, con regiones corticales y subcorticales en los lugares adecuados, es posible que puedas aprender a utilizarlo correctamente. Si eres un principiante rápido, es posible aprender más rápido – pero el arte de la racionalidad no trata de eso; trata de la formación de esta maquinaria cerebral que todos tenemos en común.
Por desgracia, nuestras mentes responden menos fácilmente a nuestra voluntad que nuestras manos. Los músculos son sujetos de control neural evolutivamente antiguos, mientras que la refectividad cognitiva es una innovación relativamente reciente. No debería sorprendernos que los músculos sean más fáciles de usar que los cerebros. Pero no es prudente descuidar este último tipo de formación a causa de su más grande dificultad. No fue por músculos más grandes que la especie humana se elevó a la prominencia en la Tierra.
Si vives en una zona urbana, es probable que no tienes que caminar muy lejos para encontrar un dojo de artes marciales. ¿Por qué no hay dojos que enseñen la racionalidad? Una de las razones, quizás, es que es más difícil verificar la habilidad. Para subir un nivel en Tae Kwon Do, puede que debas romper un bordo de un ancho determinado. Si tienes éxito, todos los espectadores pueden ver y aplaudir. Si fallas, el maestro puede ver cómo formas el puño, y comprobar si lo formas correctamente. Si no, el maestro extiende la mano y cierra el puño correctamente, para que puedas observar cómo hacerlo. Dentro de las escuelas de artes marciales, las técnicas de músculo se han rafinado y elaborado a través de generaciones. Las técnicas de racionalidad son más difíciles de transmitir, hasta a los estudiantes más dispuestos. También es difícil dar impresionantes exhibiciones públicas de racionalidad. Esto puede explicar en parte por qué no hay dojos de racionalidad hasta ahora.
Muy recientemente — sólo en las últimas décadas — la especie humana ha adquirido una gran cantidad de nuevos conocimentos acerca de la racionalidad humana. El ejemplo más destacado sería el programa de heurísticas y sesgos cognitivos en la psicología experimental. También existe la sistematización bayesiana de la teoría de la probabilidad y de la estadística; la psicología evolutiva; la psicología social. Investigaciones experimentales de la psicología humana empírica y teoría de la probabilidad para interpretar lo que dicen nuestros experimentos; y teoría evolutiva para explicar las conclusiones. Estos campos de estudio nos dan nuevas lentes de enfoque con las que observar el paisaje de nuestras propias mentes. Con su ayuda, podemos ser capaces de ver más claramente los músculos de nuestros cerebros, los dedos del pensamiento, a medida que se mueven. Tenemos un vocabulario compartido para describir problemas y soluciones. La humanidad por fin puede estar lista para sintetizar el arte marcial de la mente: para refinar, compartir, sistematizar y transmitir las técnicas de la racionalidad personal.
Cualquiera que sea la comprensión que tengo yo de la racionalidad, la he adquirido lidiando con el desafío de la Inteligencia General Artificial (esfuerzo que, para tener éxito, requeriría un dominio suficiente de la racionalidad para construir un racionalista completo y funcionante de palillos de dientes y bandas de caucho). En la mayoría de formas, el problema de IA es enormemente más exigente que el arte personal de la racionalidad, pero en ciertos aspectos es efectivamente más fácil. En el arte marcial de la mente, necesitamos desarrollar la habilidad de procedimiento de tirar, en tiempo real, de las palancas correctas en los momento correctos en una máquina de pensar grande y preexistente cuyas entrañas no son modificables por el usuario final. Algunas partes de esta maquinaria han sido optimizadas por presiones de selección evolutivas que están directamente en contra de nuestros objetivos declarados. A nivel de deliberación decidimos que queremos buscar sólo la verdad; pero nuestros cerebros tienen mecanismos innatos para racionalizar las falsedades. Podemos tratar de compensar lo que elegimos a considerar como defectos de la máquina, pero en realidad no podemos reconfigurar los circuitos neuronales. Tampoco puede un artista marcial blindar sus huesos en titanio — no hoy, por lo menos.
Tratar de sintetizar un arte personal de la racionalidad, utilizando la ciencia de la racionalidad, puede resultar incómodo: uno se imagina tratar de inventar un arte marcial con una teoría abstracta de la física, la teoría de juegos, y la anatomía humana. Pero los humanos no somos ciegos respecto a la reflexión: tenemos un instinto introspectivo. El ojo interior no es incapaz de ver, pero ve borrosamente, con distorsiones sistemáticas. Necesitamos, entonces, aplicar la ciencia a nuestras intuiciones, utilizar los conocimientos abstractos para corregir nuestros movimientos mentales y aumentar nuestras habilidades metacognitivas. No estamos escribiendo un programa informático para hacer ejecutar movimientos de artes marciales a una marioneta de hilo; son nuestros propios miembros mentales que debemos mover. Por lo tanto, debemos conectar la teoría a la práctica. Tenemos que llegar a ver lo que significa esta ciencia para nosotros, para nuestra vida interna diaria.
Y sobre todo debemos hallar la manera de comunicar esta habilidad, lo que podría ser más que una cuestión de enunciados declarativos. Los artistas marciales luchan entre sí, ejecutan movimientos estándares, y son observados en todos momentos por sus maestros. Los estudiantes de cálculo infinitesimal hacen sus tareas, y comprueban sus soluciones. Los corredores olímpicos tratan continuamente de batir sus mejores tiempos anteriores, según lo medido por un cronómetro. Cómo comunicar las técnicas de la racionalidad, o medirlas, es probablemente el mayor problema abierto que se interpone entre la humanidad y eventuales dojos de racionalidad — o al menos es la parte del problema que más me desconcierta. Mientras tanto, doy conferencias. Entonces, ¿alguien tiene ideas?
Las «Secuencias» de Less Wrong 