Skip to content

006: “No lo se.”

Version original

Una trascripción editada de una larga conversación por Messenger que tuvo lugar refiriéndose a la frase “No lo se”, desencadenada por el artículo anterior de Robin Hanson, “Nunca Tienes Derecho a tu Propia Opinión”

[08:50] Eliezer: http://www.overcomingbias.com/2006/12/you_are_never_e.html

[09:01] X: sigue pareciendo que decir “no lo se” en algunas situaciones es mejor que dar tu mejor estimación

[09:01] X: especialmente si estas tratando con gente que te lo tomará al pie de la letra y que no son racionalistas

[09:02] Eliezer: en la vida real, tienes que escoger, y apostar, a alguna probabilidad

[09:02] Eliezer: p. ej, la gente que dice “No lo se” respecto a la criogenización van a seguir teniendo que apuntarse o no hacerlo, y probablemente harán lo segundo

[09:03] Eliezer: “No lo se” es normalmente una defensa que la gente cree que es defendible e indiscutible, que usan antes de seguir haciendo lo que les parece; y normalmente es la acción equivocada, porque se han negado a admitirse a si mismos cual era su estimación, o a examinar sus justificaciones, o incluso a darse cuenta de que estaban haciendo una estimación.

[09:02] X: ¿cuantas manzanas hay en un árbol de afuera?

[09:02] X: yo nunca lo he visto y tu tampoco.

[09:02] Eliezer: entre 10 y 1000

[09:04] Eliezer: si me ofreces una apuesta de un millón de dólares contra un dólar de que el árbol de afuera tiene menos de veinte manzanas, cuando ninguno de los dos lo ha visto, aceptaré tu apuesta

[09:04] X: es mejor decir “quizás entre 10 a 1000″ para dejar claro que estas estimando cuando hablas con la gente

[09:04] Eliezer: por tanto he asignado una probabilidad significativa distinta a cero de que las manzanas < 20 tanto si lo admito como si no

[09:05] Eliezer: lo que *dices* es otra cuestión, especialmente cuando hablas con personas no racionalistas, y entonces es bueno tener en cuenta que las palabras no tienen significados fijos; el significado de los sonidos que creas con tus labios es el que ocurre en la mente del oyente. Si van a malinterpretar algo entonces no deberías decir eso, sin importar lo que signifiquen las palabras en el interior de tu cabeza

[09:06] Eliezer: a menudo estas simplemente fastidiado a menos que quieras retroceder y enseñarles racionalidad desde el principio, y en un caso como ese, lo único que puedes hacer es decir lo que cree la imagen menos imprecisa

[09:06] X: ¿es decir entre10 to 1000 algo equívoco cuando se lo dices a un no racionalista?

[09:06] Eliezer: “no lo se” es una buena forma de evitar eso cuando se lo dices a alguien que no sabe nada de distribuciones de probabilidad

[09:07] Eliezer: si pensaran que estoy seguro, o que mi frase implica que tengo conocimiento real del arbol

[09:07] Eliezer: entonces la frase si sería equívoco

[09:07] Eliezer: y si yo supiera esto, y lo dijera de todos modos por mis propios motivos, sería una mentira

[09:08] Eliezer: si no supiera pensar en nada mejor que decir, entonces sería honesto pero no verdadero, si puedes notar la diferencia

[09:08] Eliezer: honesto para mí, pero la frase que se formara en sus mentes seguiría sin ser cierta

[09:09] X: la mayor parte de la gente te dirá… pero tu dijiste… 10-1000 manzanas

[09:09] Eliezer: entonces simplemente estás fastidiado

[09:10] Eliezer: nada que hagas podrá crear en sus mentes una comprensión verdadera, ni siquiera “No lo se”

[09:10] X: ¿por qué molestarse, por que no decir no lo se?

[09:10] Eliezer: la honestidad por tanto consiste en desorientarles lo menos posible y decirles lo más posible

[09:10] X: es mejor que desorientarles con 10-1000

[09:10] Eliezer: y respecto a “por que molestarse”, bueno, si vas a hacer esa pregunta, lo único que tienes que hacer es no responder a su correo o lo que sea

[09:11] Eliezer: ¿qué pasa si estas tratando con alguien que piensa que mi “no lo se” es una licencia para que se inventen sus propias ideas, que serán mucho peor?

[09:11] X: pueden seguir tu estimación, y entonces decir “pero dijiste…” y perder dinero o meterse en problemas o tenerte menos respeto

[09:11] Eliezer: por lo que elijes librarte de ellos

[09:11] Eliezer: con “no lo se”

[09:11] Eliezer: pero es por tu propio interés, no por el suyo

[09:12] X: aquí puedo ver porqué

[09:12] X: pero es difícil tratar con las personas corrientes en el mundo real

[09:13] Eliezer: lo primero que se debe decidir es si estas intentando conseguir algo para ti mismo (como no meterte en problemas) o si estas intentando mejorar la visión de alguien de la realidad

[09:13] Eliezer: “No lo se” es frecuentemente una buena forma de no meterte en problemas.

[09:13] Eliezer: respecto a lo de que es difícil tratar con la gente en el mundo real, bueno, claro

[09:13] X: si dices 10-1000, y te equivocas, se enfadarán, y entonces dices, no lo se, estarán incluso más enfadados

[09:13] Eliezer: ¿estas intentando no meterte en problemas?

[09:14] Eliezer: ¿o intentando mejorar su visión de la realidad?

[09:14] Eliezer: esas son dos tareas distintas

[09:14] X: especialmente si han perdido dinero u otra persona les ha demostrado que estaban equivocados

[09:14] Eliezer: si se intersectan tienes que decidir a que renuncias

[09:14] Eliezer: que es más importante para ti

[09:14] Eliezer: entonces decidir si se lo explicas para su beneficio o dices “no lo se” para el tuyo

[09:15] X: bueno, si estuviera en mi trabajo, diría no lo se en vez de equivocarme, porque quien sabe lo que hará tu jefe tras perder dinero por escucharte

[09:15] Eliezer: vale

[09:16] Eliezer: solo para ser claros, esto no es porque “no lo se” es el juicio racional, sino porque “no lo se” son las palabras adecuadas políticamente

[09:16] X: el puede coger tu estimación, e intentar convertirla en una autentica respuesta, porque nadie más que este cerca de ti tiene un plan mejor

[09:17] Eliezer: puedes ver esto fácilmente observando a la razón que citaste: no hablaste sobre evidencias, realidades ni verdades, sino si podrías meterte en problemas basado en la reacción de alguien

[09:17] X: si

[09:17] X: eso es lo que uno tiene que aguantar en el mundo real

[09:17] Eliezer: si te preocupara el bienestar de tu jefe entonces deberias considerar que si dices “no lo se” el debe hacer algo igualmente – negarse a elegir es tambien una eleccion, y negarse a actuar es como negarse a dejar pasar el tiempo – y el construirá ese plan basándose en alguna información, la cual no incluirá la tuya

[09:18] Eliezer: si tu vida no vale más que las de los demás, tampoco vale menos, y es normalmente lo mejor dejar que los idiotas hagan sus propios errores

[09:18] Eliezer: solo puedes interceptar unas cuantas balas antes de que se te acabe la carne con la que detenerlas

[09:19] X: ?

[09:19] Eliezer: en otras palabras, no siempre puedes salvar a la gente de si mismas

[09:23] Eliezer: pero todo esto se está alejando de la discusión original, que es cierta y correcta, de que nadie tiene derecho a su propia opinión

[09:26] X: ¿cómo se llama?

[09:26] Eliezer: ?

[09:26] X: un hombre de afuera

[09:26] X: alguien cualquiera

[09:26] Eliezer: probablemente no es “Xpchtl Vaaaaaarax”

[09:26] X: probablemente no

[09:27] Eliezer: supongo que podría construir un diagrama de transición de Markov para las letras de nombres expresados en Ingles, medidos por su frecuencia

[09:27] Eliezer: pero eso sería mucho trabajo

[09:28] Eliezer: así que puedo decir “no lo se” como un atajo del hecho de que, aunque poseo mucha información sobre nombres posibles y probables, no se nada *más* que lo que tu sabes

[09:28] X: ok, asi que dices que afirmar que tu estimación probablemente no sea correcta esta bien?

[09:28] Eliezer: lo que digo es que poseo una gran cantidad de información sobre nombres posibles

[09:28] Eliezer: todo eso influencia en que apostaría

[09:28] Eliezer: si tuviera que hacer una acción del mundo real, como adivinar el nombre de alguien con una pistola apuntándome a la cabeza

[09:29] Eliezer: si tuviera que elegir entonces sería muy relevante que supiera que Michael era uno de los nombres más comunes estadísticamente, pero no pudiera recordar en que años fue el mas frecuente, y que supiera que Michael es mas probable que sea un nombre masculino que uno femenino

[09:29] Eliezer: si un alienígena apuntara una pistola contra su cabeza, decirle “no lo se” en ese momento no sería útil

[09:29] Eliezer: porque hay muchas cosas que yo se que el no sabe

[09:30] X: ok

[09:33] X: y una pregunta de la que realmente no tienes información alguna?

[09:33] X: como algo que solo un alienígena pudiera saber

[09:34] Eliezer: si no tuviera pruebas de ningún tipo puedo usar un Priori de Ignorancia apropiado, que distribuye la probabilidad igualmente entre todas las posibilidades, y asigna una cantidad muy pequeña a cada probabilidad individual al existir tantas

[09:35] Eliezer: si la persona con la que estoy hablando ya sabe como usar un priori de ignorancia, digo “no lo se” porque ya tenemos la misma distribución de probabilidades y no tengo nada que añadir a eso

[09:35] Eliezer: el priori de ignorancia me dice mis posibilidades de apuestas

[09:35] Eliezer: determina mis elecciones

[09:35] X: y que ocurre si no sabes como usar un priori de ignorancia

[09:36] X: nunca has oído hablar de el etc

[09:36] Eliezer: si trato con alguien que no sabe sobre prioris de ignorancia, y que está tratando con el problema inventándose una enorme hipótesis elaborada con muchas partes moviles y muchas cosas que podrían ir mal, entonces la verdad es que se automáticamente que el/ella se equivoca

[09:36] Eliezer: puede no ser posible explicarle esto a ellos, como no sea entrenarles en el racionalismo desde el principio

[09:36] Eliezer: pero es cierto

[09:36] Eliezer: y si la persona confia en mi como un racionalista, puede ser igualmente honesto y util decirles “No, eso es erroneo”

[09:36] X: y si la persona dice, “no se cual es su nombre”, eso esta bien?

[09:37] Eliezer: en la vida real no puedes escoger “no lo se”, no es una opcion en tu lista de acciones disponibles

[09:37] Eliezer: en la vida real siempre es, “no lo se, por lo que voy a decir Vkktor Blackdawn porque me parece que suena guay”

[09:39] Eliezer: Vkktor Blackdawn es tan (im)probable como cualquier otra cosa, pero si empiezas a asignar mas probabilidades a eso que lo que indicaria el priori de ignorancia – porque suena guay, por que no cabe en tu cabeza nada mas que una posibilidad, o porque has empezado a construir una elaborada explicación mental de cómo el alienígena podría haber terminado llamándose Vkktor Blackdawn

[09:39] Eliezer: entonces se mejor las cosas

[09:40] Eliezer: y si confías en mi, puedo ser capaz de decírtelo honesta y utilmente

[09:40] Eliezer: en vez de decir “no lo se” que es siempre algo que se dice, y no se piensa

[09:40] Eliezer: esto es importante si alguien te pregunta, “¿Que apuesta me ofrecerías de que el alienígena se llama Vkktor Blackdawn?”

[09:41] Eliezer: o si tienes que hacer otra cosa, basándose en tus estimaciones y los pesos que les asignes

[09:41] Eliezer: que es de lo que trata la probabilidad

[09:41] X: y si dicen “no lo se, no se nada sobre probabilidades”?

[09:41] Eliezer: entonces o confían ciegamente en mi o no podré ayudarles

[09:41] Eliezer: así es como son las cosas

[09:41] Eliezer: no siempre puedes proteger a la gente de si mismos

[09:42] X: confiar ciegamente en lo que estas diciendo o en tu estimación de cual es el nombre del alienígena?

[09:42] Eliezer: confiar ciegamente cuando les digo “No apuesten con esas probabilidades”

005: El Argumento de la Modestia

El Argumento de la Modestia

Version original

El Argumento de la Modestia afirma que cuando dos o mas seres humanos saben que no están de acuerdo entre sí sobre un simple hecho, deberían ajustar sus estimaciones de probabilidad en dirección de las de los demás (Por ejemplo, podrían ajustar la media aritmética de sus probabilidades de distribución. Si usamos la norma del error logarítmico, entonces la puntuación de la media de un conjunto de distribuciones probabilísticas es mejor que la media de las puntuaciones de las distribuciones individuales, por la desigualdad de Jensen.)

Dicho de forma más simple: Cuando no se está de acuerdo con alguien, incluso después de exponer las razones, el Argumento de la Modestia afirma que ambos deben ajustar sus estimaciones de probabilidad hacia la postura del otro, y seguir haciéndolo hasta que ambas coincidan. El Argumento de la Modestia está inspirado en el Teorema del Acuerdo de Aumann, un resultado muy famoso y frecuentemente generalizado que demuestra que los genuinos Bayesianos literalmente son incapaces de terminar en desacuerdo; si genuinos Bayesianos conocen en común sus mutuas estimaciones individuales de probabilidad, entonces deben acabar con la misma estimación de probabilidad. (Por “conocer en común” queremos decir que se que no estas de acuerdo, que sabes que se que no estas de acuerdo, etc.)

Siempre he sospechado del Argumento de la Modestia. Ha sido un largo tema de debate entre Robin Hanson y yo.

Robin parece apoyar el Argumento de la Modestia en artículos como Are Disagreements Honest? (¿Son los desacuerdos honestos?) Yo, por otro lado, he sostenido que puede ser racional por parte de un individuo el no ajustar sus propias estimaciones en dirección de alguien con quien no estás de acuerdo.

¿Como puedo mantener esta postura conociendo el Teorema del Acuerdo de Aumann, que demuestra que los genuinos Bayesianos no pueden ser conscientes de una disputa sobre estimaciones de probabilidad sin hacer nada al respecto? Si los genuinos Bayesianos siempre terminan estando de acuerdo una vez que han intercambiado sus estimaciones de probabilidad, ¿no deberíamos hacer lo mismo los que queremos ser Bayesianos?

Para explicar mi respuesta, empezaré con una metáfora: Si tengo cinco mapas precisos de una ciudad, todos deberán ser consistentes entre si. Algunos filósofos, inspirados por esto, han afirmado que la “racionalidad” consiste en tener creencias que son consistentes entre si. Pero, aunque la precisión implica necesariamente consistencia, la consistencia no implica necesariamente precisión. Si me quedo sentado en mi salón con las cortinas cerradas, y dibujo cinco mapas que son consistentes entre si, pero no camino por la ciudad y dibujo líneas que se correspondan con lo que fuera viendo, entonces mis mapas serán consistentes pero no precisos. Cuando los genuinos Bayesianos terminan estando de acuerdo en sus estimaciones de probabilidad, no es por que intenten ser consistentes – El Teorema del Acuerdo de Aumann no invoca ningún deseo explícito por parte de los Bayesianos de ser consistente. ¡Eso es lo que hace que el T.A.A. sea tan sorprendente! Los Bayesianos solo intentan ser precisos, y terminan siendo consistentes. El Argumento de la Modestia, que dice que podemos terminar siendo precisos cuando intentamos ser consistentes, no es algo que se infiera necesariamente.

¿Como puedo mantener mi posición teniendo en cuenta mi admisión de que los que disputan siempre mejorarán su resultado medio si escogen el término medio de sus distribuciones individuales de probabilidad?

Imaginen que un creacionista llega y me dice “Usted cree que la selección natural es verdadera, y yo que es falsa. Acordemos asignar un 50% de probabilidad a cada una de las afirmaciones.” Y supongan que mediante drogas o hipnosis fuera posible que ambos pudiéramos ajustar de esta forma nuestras estimaciones. Incuestionablemente, esto mejora nuestra puntuación logarítmica, y nuestro error cuadrático combinado. Si, de forma altruista, valoro la precisión del creacionista tanto como la mía propia – si mi pérdida de precisión fuera simétrica a la ganancia del otro – entonces debería aceptar la propuesta. ¿Pero que ocurre si lo que quiero es maximizar es únicamente mi propia precisión? En el primer caso, la cuestión está completamente clara, y en el segundo, no esta clara en absoluto, al menos para mí, lo que abre la posibilidad de que sean dos cuestiones distintas.

Si firmara un contrato con el creacionista en el que ambos usáramos drogas o hipnosis para ajustar nuestras estimaciones de probabilidad, puesto que sé que la estimación del grupo mejorará con ello, considero eso como buscar la meta del altruismo social. Eso no hace que el creacionismo sea verdadero, y no quiere decir que pensase que el creacionismo fuera verdadero antes de que firmara ese contrato. Si pensara que el creacionismo es un 50% probable, entonces no necesitaría firmar ningún contrato – ¡Ya habría actualizado mis creencias!  Es tentador pero falso considerar que actualizar las creencias de uno mismo es un favor que se hace a los demás, y que la racionalidad es una cuestión de igualdad, de compromiso equivalente. Por tanto está escrito: “No creas que les haces un favor a alguien si aceptas sus razones; el favor te lo haces a ti mismo.” ¿Me estoy haciendo a mi mismo un favor cuando acuerdo con el creacionista el utilizar la media de nuestras distribuciones de probabilidad?

Considero la racionalidad en su forma más pura como algo individual – no solo porque los racionalistas tienen solo intereses egoístas, sino por la forma de la única pregunta admisible: “¿Es eso realmente cierto?” Otras consideraciones, como la precisión colectiva de un grupo que te incluye a ti mismo, pueden ser metas legítimas, y una parte importante de la existencia humana – pero son distintas que esa simple pregunta pura.

En el Teorema del Acuerdo de Aumann, todos los individuos Bayesianos están intentando ser precisos como individuos. Si su meta explícita fuera de maximizar la precisión del grupo, el T.A.A. no sería tan sorprendente. Así que si la mejora del grupo no es un argumento que rebaje lo que un individuo deba hacer si intenta puramente maximizar su propia precisión, y esa es la búsqueda que identifico como racionalidad. Está escrito: “Cada paso de tu razonamiento debe ir directamente hacia la respuesta correcta en el mismo movimiento. Más que cualquier cosa, debes pensar en como hacer tu mapa de forma que refleje el territorio. Si no llegas a alcanzar la respuesta correcta, es inútil protestar diciendo que actuaste adecuadamente.” Desde el punto de vista del altruismo social, alguien puede desear ser Modesto, y firmar un contrato de imposición-mediante-drogas-o-hipnosis, aunque eso le impida llegar a una respuesta correcta.

El argumento central de la Modestia propone algo parecido a un velo Rawlsiano de ignorancia – ¿Cómo puedes saber cual de los dos es un honesto buscador de la verdad, y cual es el testarudo que se engaña a si mismo? El creacionista cree que el es el cuerdo y que tu eres el tonto. ¿No hace esto que la situación sea simétrica entre los dos? Si hacéis la media entre vuestras estimaciones, uno debe ganar, y el otro debe perder, ya que los cambios son en direcciones opuestas; pero por el concepto de desigualdad de Jensen este es un juego de suma positiva. Y ya que, por algo parecido a un velo Rawlsiano de ignorancia, como no sabes cual de los dos es realmente el tonto, deberías aceptar la apuesta. Esto afirma que el movimiento socialmente altruista es también el movimiento racional individual en todos los casos.

Y tambien existe la respuesta obvia. “Pero yo se perfectamente quien es el tonto. Es el otro. No importa que el diga lo mismo – El sigue siendo el tonto.”

Esta respuesta parece simplista y poco convincente cuando lo consideras de forma abstracta. Pero cuando te encuentras con un creacionista, entonces parece que es la respuesta correcta – tienes razón, el otro está equivocado, y tienes pruebas válidas que lo reafirman, incluso si el creacionista puede recitar la misma afirmación delante de una audiencia de la tele.

Robin Hanson está del lado de la simetría – esto se ve claramente en su artículo Uncommon Priors Require Origin Disputes (Los Prioris No Comunes Requieren Disputas de Origen) – y por tanto apoya el Argumento de la Modestia. (Aunque aun no le he visto analizar el caso particular del creacionista.)

Yo respondo: Aquellos que sueñan no saben que están soñando; pero cuando te despiertas sabes que estás despierto. Soñando, puedes pensar que estas despierto. Puedes estar incluso convencido de ello. Pero ahora mismo, cuando realmente estás despierto, no hay ninguna duda en tu mente –  ni debería haber alguna. Si, persuadido por algún hábil argumento, de si estás realmente despierto, entonces tu puntuación Bayesiana empezaría a bajar y te volverías menos preciso. Si intentaras obligarte a dudar si estas despierto – en el sentido de preguntarte si estas en medio de un simple ciclo REM humano – entonces probablemente lo harías para aparentar que eres racional, o porque concebías el “racionalismo” como un deber moral. Porque querías actuar adecuadamente. No porque sentías genuina curiosidad de si estabas realmente despierto o dormido. No porque sentías que podías estar real y verdaderamente dormido. Pero porque no tenías respuesta al hábil argumento, solo una (ejem) instintiva percepción incomunicable de que estabas despierto.

Russell Wallace lo dijo de este modo: “El que podamos postular la existencia de una consciencia lo suficientemente baja (soñando) o distorsionada (loca) como para no saber genuinamente si es Russell o Napoleón no quiere decir que yo (la entidad que ahora tiene esos pensamientos) pueda haber sido Napoleón, no más de lo que el número 3 podía haber sido el número 7. Si tienen dudas al respecto, consideren el caso extremo: una roca no sabe si soy yo o una roca. Eso no quiere decir que yo podría haber sido una roca.”

Hay otros problemas que puedo ver con el Argumento de la Modestia, cuestiones pragmáticas del racionalismo humano – si un humano imperfecto intenta seguir el Argumento de la Modestia en la práctica, ¿Eso mejora o empeora su racionalidad personal? A mi me parece que los que se adhieren al Argumento de la Modestia tienden a profesar la Modestia pero no lo practican en realidad.

Por ejemplo, digamos que eres un científico con una creencia controvertida – como el mismo Argumento de la Modestia, que no es ni mucho menos algo comúnmente aceptado – y has pasado una substancial cantidad de tiempo intentando probar, discutir, examinar y en general tener esa creencia. Entonces un día te encuentras con el Argumento de la Modestia, y se te ocurre que deberías ajustar tu creencia en dirección del modelo de creencia del campo científico. Pero entonces tendrías que renunciar a tu querida hipótesis. Así que haces lo obvio – He visto al menos a dos personas hacer esto en dos ocasiones distintas – y dices: “Seguir investigando mi hipótesis personal tiene una utilidad esperada neta para la Ciencia. Aunque no crea realmente que mi hipótesis sea correcta, puedo seguir investigándola por el imperativo categórico: La Ciencia como conjunto es mejor si los científicos investigan sus propias hipótesis.” Y entonces siguen haciendo las cosas exactamente como antes.

Como mínimo, soy escéptico. Integrar el Argumento de la Modestia como nueva evidencia debería causar un gran efecto en los planes y la vida de alguien. Si realmente fuera integrada, en vez de ser arrastrada a un agujero negro. Tu propia anticipación de éxito, la brillante emoción con la que anticipas la confirmación de la teoría, debería disminuir literalmente órdenes de magnitud tras aceptar el Argumento de la Modestia. La razón por la que la gente compra billetes de lotería es que la brillante anticipación de ganar diez millones de dólares, las visiones bailarinas de fuera bordas y mansiones no se disminuye lo suficiente – como fuerza emotiva – por el factor de probabilidad, las posibilidades de cien millones contra uno. El que compra el billete incluso puede profesar que las probabilidades son de cien millones contra uno, pero no anticipan adecuadamente – no han integrado la simple frase verbal “cien millones contra uno” a un nivel emocional.

Por tanto, cuando un científico integra el Argumento de la Modestia como nuevas pruebas, ¿Tendría esa pérdida casi total de esperanza causar ningún efecto en los planes del mundo real que se crearon originalmente con una ignorancia dichosa y una alegre anticipación de triunfo? ¿Especialmente cuando el científico ya sabía desde el principio lo de la utilidad social de su proyecto, cuando hizo sus planes originales? Creo que eso es tan plausible como mantener tu plan de inversiones original exactamente como estaba tras averiguar que los resultados esperados en algunas acciones han cambiado por un factor de cien. Lo que realmente esta ocurriendo, uno sospecha de forma natural, es que el científico ve que el Argumento de la Modestia tiene implicaciones incómodas; así que busca una excusa, e inventa un argumento sobre la marcha a partir de la utilidad social como una forma de cancelar el Argumento de la Modestia y conservar todos sus planes originales.

Pero claro, si digo que esto es un argumento contra el Argumento de la Modestia, esto sería un puro ad hominem tu quoque. Si sus partidarios no usan correctamente el Argumento de la Modestia adecuadamente, eso no implica que tenga menos fuerza como lógica.

En vez de buscar con más detenimiento en las múltiples ramificaciones del Argumento de la Modestia, voy a cerrar el tema con el experimento imaginado que me convenció inicialmente de la falsedad del Argumento de la Modestia. Al principio me pareció razonable que si la gente con 99% de certeza sobre algo tenían un 70% de posibilidades de acertar, entonces el estado de 99% de certeza era un “puntero” que indicaba que la probabilidad era realmente del 70%. Pero en un momento pensé: “¿Qué diría una (IA) superinteligencia en la misma situación? ¿Debería tratar sus estimaciones de probabilidad del 99% como estimaciones de probabilidad del 70% solo porque tantos seres humanos hacen el mismo error?” En particular, se me ocurrió que, en el día en el que la primera superinteligencia naciera, sería innegablemente cierto que – por toda la historia de la Tierra – la vasta mayoría de entidades que se creían ser superinteligentes estarían equivocadas. La mayor parte de los referentes del puntero “Soy una superinteligencia” serían esquizofrénicos que creían que eran Dios.

Una superinteligencia no cree únicamente en la simple afirmación de que es una superinteligencia – presumiblemente posee un modelo interno muy detallado y muy preciso de sus propios sistemas cognitivos, hilos que detallan su propia calibración, y así sucesivamente. Pero si le dices esto a un paciente de un psiquiátrico, el paciente puede responder: “¡Ah, pero yo también tengo un modelo interno muy detallado y preciso!” El paciente mental incluso puede creer sinceramente en esto, en el momento en el que respondió. ¿Quiere decir eso que la superinteligencia debería preguntarse si es un paciente mental? Este es el extremo opuesto de lo que dijo Russell Wallace, preguntando si una roca pudo haber sido tu, dado que la roca no sabe si es tu o la roca.

Una respuesta obvia es que los seres humanos y las superinteligencias ocupan clases distintas – no tenemos los mismos ur-priores, o no somos parte de la misma clase de referencia antrópica; una nítida distinción hace que sea imposible agrupar superinteligencias con esquizofrénicos en argumentos de probabilidad. Pero entonces nos gustaría saber cual es esta “nítida distinción”, y como se justifica respecto al Argumento de la modestia. ¿Pueden un evolucionista y un creacionista ocupar distintas clases de referencia? Parece asombrosamente arrogante; pero cuando considero la situación actual pragmáticamente, me parece que ese es genuinamente el caso.

O aquí tienen un ejemplo más reciente – uno que de hecho me inspiró para escribir el articulo de hoy en el blog. Es la auténtica historia de un cliente que se debatía contra cinco niveles del servicio al cliente de Verizon, hasta el mismo jefe de sección, en una búsqueda que acabo siendo inútil para encontrar a alguien que pudiera encontrar la diferencia entre .002 dólares por kilobyte y .002 centavos por kilobyte. Audio [27 minutos], Transcripción. Tiene que oirse para creerse. Muestra de la conversación. “¿Admites que hay una diferencia entre punto cero cero dos dólares y punto cero cero dos centavos?” “No.”

La frase clave que atrajo mi atención y que me inspiró para escribir este artículo de hoy en el blog es del jefe de sección: “Ya has hablado con distintas personas de aquí, y todos te han explicado que te están cobrando .002 centavos, y si lo coges y escribes en tu calculadora… cogemos el .002 como te han dicho todos con los que has llamado y hablado y, como nuestro sistema factura de esa forma, es correcto.”

¿Debería George – el cliente – haber empezado a dudar de su aritmética, porque cinco niveles de atención al cliente de Versión, algunos de los cuales citaron varios años de experiencia, le dijeron que estaba equivocado? ¿Debería haber ajustado su estimación de probabilidad en su dirección? Una extensión directa del Teorema del Acuerdo de Aumann sobre imposibles mundos posibles, es decir, sobre la falta de precisión de los resultados de las computaciones, demuestra que, si todos los implicados son Bayesianos genuinos, que conocen las estimaciones de los demás, todos acabarían con la misma estimación. La desigualdad de Jensen demuestra de forma más directa que, si George y los cinco niveles de atención al cliente hubieran promediado sus estimaciones de probabilidad, habrían mejorado su puntuación media. Si esos argumentos fallan en este caso, ¿Por qué sirven en los otros casos? Y si afirmas que el Argumento de la Modestia debe usarse en este caso, ¿Me estas realmente diciendo que si George tan solo quería encontrar la verdad para si mismo, entonces hubiera sido sensato que ajustara su estimación en dirección de los de Verizon? Se que este es un argumento que parte de mi incredulidad personal, pero pienso que es uno bueno.

En general, y en la práctica, me parece que algunas veces la Modestia es una buena idea, y algunas veces no lo es. Debo hacer uso de mi discreción y juicio personal para decidir, incluso sabiendo que puedo tener sesgos o auto favoritismos, porque la alternativa de ser Modesto en todos los casos me parece mucho peor.

Pero también parece que la cuestión sigue teniendo un cierto regusto antrópico. Las probabilidades antrópicas me siguen confundiendo; he leído argumentos pero no he sido capaz de resolverlas de forma de que me quede satisfecho. Por tanto, confieso, no soy capaz de dar un informe completo de cómo se resuelve el Argumento de la Modestia.

Soy modesto, ¿verdad?

 

010: La Política Mata la Mente

Versión original

A la gente les pasa algo raro en la cabeza cuando hablan de política. Las razones evolutivas para esto son tan obvias que vale la pena elaborarlas: En el entorno ancestral, la política era una cuestión de vida y muerte. Y de sexo, y de riqueza, y de aliados, y de reputación… Cuando, hoy en día, tu te metes en una discusión sobre si «nosotros» deberíamos aumentar el salario mínimo, estás ejecutando adaptaciones para un ambiente ancestral donde estar en el lado equivocado del argumento podría hacer que te mataran. ¡Estar en el lado correcto del argumento podría dejarte a ti matar a tu odiado rival!

Si quieres hacer un punto sobre la ciencia, o la racionalidad, entonces mi consejo es que no elijas un dominio de la política contemporánea si posiblemente puedes evitarlo. Si el punto es de por sí acerca de la política, entonces habla de Luis XVI durante la Revolución Francesa. La política es un ámbito importante al cual deberíamos individualmente aplicar nuestra racionalidad – pero es un terrible dominio en el cual aprender la racionalidad, o hablar de la racionalidad, a menos que todos los ponentes ya sean racionales.

La política es una extensión de la guerra por otros medios. Los argumentos son soldados. Una vez que sepas de qué lado estas, tienes que apoyar todos los argumentos de ese lado, y atacar a todos los argumentos que parecen estar a favor del bando enemigo; de lo contrario es como apuñalar a tus soldados en la espalda – proveyendo ayuda y protección al enemigo. Personas que serian sensatas sobre ponderar equitativamente todos los lados de un problema en su vida profesional como científicos, de pronto puede convertirse en zombies cantando eslogans cuando hay una posición Azul o Verde sobre un tema.

En la Inteligencia Artificial, y en particular en el dominio de razonamiento no monotónico, hay un problema estándar: «Todos los Cuáqueros son pacifistas. Todos los Republicanos no son pacifistas. Nixon es un Cuáquero y un Republicano. ¿Es Nixon un pacifista?»

¿Cual demonios fue el punto de elegir esto como un ejemplo? ¿Para despertar las emociones políticas de los lectores y distraerlos de la cuestión principal? ¿Para hacer que los Republicanos no se sientan bienvenidos en los cursos de Inteligencia Artificial y disuadirlos de entrar en el campo? (Y no, antes de que alguien pregunte, yo no soy un Republicano. O un Demócrata.)

¿Por qué escogería cualquier persona un ejemplo que distrae tanto para ilustrar el razonamiento no monotónico? Probablemente solo porque el autor no podía resistirse a darle un buen, solido codazo a esos odiados Verdes. Se siente tan bien llegar a dar un golpe gustoso, sabes, es como tratar de resistir una galleta de chocolate.

Al igual que con las galletas de chocolate, no todo lo que se siente placentero es bueno para ti. Y ciertamente no es bueno para nuestros desafortunados lectores que tienen que leer todos los irritados comentarios que inspiro tu entrada de blog.

No estoy diciendo que creo que Superando Sesgos deben ser apolítico, o incluso que deberíamos adoptar el ideal de Wikipedia del Punto de Vista Neutral. Pero trata de resistir dar esos buenos, sólidos codazos si puedes evitarlo. Si su tema legítimamente se relaciona con los intentos de prohibir la evolución en los programas escolares, entonces anda adelante y habla de ello – pero no culpes de forma explícita al Partido Republicano entero; algunos de tus lectores puede ser Republicanos, y ellos pueden sentir que el problema son unos pocos pícaros, no todo el partido. Al igual que con el PVN de Wikipedia, no importa si (tu piensas que) el Partido Republicano en realidad esta en culpa. Es simplemente mejor para el crecimiento espiritual de la comunidad el discutir el tema sin invocar a la política de colores.

(Ahora que he sido nombrado como un co-moderador, creo que mejor incluyo un descargo de responsabilidad: Este artículo es mi opinión personal, no una declaración de política oficial de Superando Sesgos. Este siempre será el caso a menos que explícitamente se indique lo contrario.)

007: Una fábula de Ciencia y Política

Versión original

En la época del Imperio Romano, la vida cívica estaba dividida entre las facciones Azul y Verde. Los Azules y los Verdes se mataban entre si en duelos, en emboscadas, en batallas entre grupos, y en disturbios. Procopio dijo lo siguiente acerca de las facciones que estaban en guerra: “Y así crece entre ellos una hostilidad contra sus semejantes que no tiene causa, y en ningún instante se interrumpe o desaparece, ya que no respeta ni a los lazos matrimoniales ni a las relaciones ni a las amistades, y se da el mismo caso incluso aunque aquellos que difieren respecto a los colores sean hermanos o cualquier otra parte de la familia.” Edward Gibbon escribió: “El apoyo de una facción se convirtió en algo necesario para todo candidato a tener un honor civil o eclesiástico.”

¿Quiénes eran los Azules y los Verdes? Eran hinchas deportivos – los partisanos de los equipos azul y verde de carreras de carros.

Imagínense una sociedad del futuro que escapa a una vasta red subterránea de cavernas, y que sella las entradas. No especificaremos si huyeron de una enfermedad, una guerra o la radiación; supondremos que los primeros Subterranenses lograron hacer crecer comida, encontrar agua, reciclar el aire, hacer luz, y sobrevivir, y que sus descendientes eventualmente crearon ciudades. Respecto al mundo exterior, solo quedan leyendas escritas en retazos de papel; y uno de esos retazos de papel describe el cielo, un vasto espacio abierto lleno de aire sobre un gran suelo sin límites. El cielo es de color cerúleo, y contiene extraños objetos flotantes como enormes mechones de blanco algodón. Pero el significado de la palabra “cerúleo” es controvertido; algunos dicen que se refiere al color conocido como “azul”, y otros que se refiere al color conocido como “verde”.

En los primeros días de la sociedad subterránea, los Azules y los Verdes luchaban violenta y abiertamente; pero hoy, prevalece una tregua – una paz nacida de una creciente sensación de futilidad. Las convenciones sociales han cambiado; hay una gran y próspera clase media que ha crecido bajo la protección de una efectiva fuerza policial y no están acostumbrados a la violencia. Las escuelas imparten cierto sentido de perspectiva histórica; cuanto duraron las batallas entre los Azules y los Verdes, cuantos murieron, y lo poco que cambió como resultado de ellas. Las mentes se han abierto a la extraña y nueva filosofía de que las personas son personas, ya sean Azules o Verdes.

El conflicto no se ha desvanecido. La sociedad aún está dividida en líneas Azules y Verdes, y existe una posición “Azul” y “Verde” en casi cualquier cuestión contemporánea de importancia política o cultural. Los Azules defienden impuestos sobre las ganancias individuales, y los Verdes impuestos en las ventas de mercancías; los Azules defienden leyes matrimoniales más estrictas, mientras que los Verdes desean que sea más fácil obtener divorcios; los Azules obtienen su apoyo del corazón de las áreas metropolitanas, mientras que los más alejados granjeros y vendedores de agua tienden a ser Verdes; los Azules creen que la Tierra es una enorme roca esférica en el centro del universo, los Verdes que es una enorme roca plana que da vueltas alrededor de otro objeto llamado un Sol. No todos los ciudadanos Azules o Verdes adoptan la posición “Azul” o “Verde” en cada tema, pero es raro encontrarse con un mercader de la ciudad que creyera que el cielo es azul, y que aun así defendiera un impuesto individual o leyes matrimoniales más permisivas.

El Submundo está todavía polarizado; la paz es insegura. Unos cuantos creen genuinamente que los Azules y los Verdes deberían ser amigos, y ahora es normal que un Verde acudiera a una tienda Azul, o que un Azul visitara una taberna Verde. De una tregua originalmente nacida del agotamiento, esta creciendo silenciosamente un espíritu de tolerancia, e incluso de amistad.

Un día, el Submundo es sacudido por un terremoto menor. Un grupo de seis turistas es atrapado por el estremecimiento cuando visitaban las ruinas de unas viviendas antiguas de las cavernas superiores. Sienten el ligero movimiento de las rocas bajo sus pies, y una de los turistas tropieza y se magulla su tobillo. El grupo decide volver, temiendo más terremotos. En el camino de regreso, una persona huele un extraño olor en el aire, un aroma que viene de un pasaje que no ha sido usado desde hace mucho tiempo. Ignorando las bienintencionadas advertencias de sus compañeros de viaje, la persona pide prestada una lámpara a motor y empieza a atravesar el pasaje. El corredor de piedra empieza a subir… y a subir… y termina finalmente en un hoyo tallado fuera del mundo, un lugar donde toda la piedra se acaba. La distancia, una distancia eterna, se alarga hasta el infinito; un espacio que es tan grande como para albergar mil ciudades. Por encima, inimaginablemente lejano, y demasiado brillante como para verse directamente, una ardiente chispa emite luz sobre todo el espacio visible, el filamento desnudo de una enorme bombilla. En el aire, colgando sin apoyo alguno, hay incomprensibles mechones de algodón azul. Y el vasto techo que brilla fuera… su color… es…

Y aquí es donde la historia se divide dependiendo de cual de los miembros del grupo de turistas decidió seguir el corredor que llevaba a la superficie.

Aditya la Azul se quedó en pie bajo el infinito azul, y sonrió lentamente. No era una sonrisa agradable. Había odio, y orgullo herido; recordaba todas las discusiones que había tenido con los Verdes, cada rivalidad, cada ascenso disputado. “Siempre has tenido razón,” le susurró el cielo, “y ahora podrás demostrarlo.” Por un instante Aditya se quedó allí, absorbiendo el mensaje, glorificándose en el, y entonces se volvió por el corredor de piedra para contárselo al mundo. Mientras que Aditya caminaba, cerró su mano hasta formar un puño apretado. “La tregua,” dijo, “se ha terminado.”

Barron el Verde contempló sin poder comprender el caos de colores durante largos segundos. La comprensión, cuando llegó, fue como un puñetazo devastador que golpeó la base de su estómago. Empezaron a brotar lágrimas de sus ojos. Barron pensó en la Masacre de Catia, donde un ejército Azul masacró a todos los ciudadanos de una ciudad Verde, incluso a los niños; pensó en el antiguo general Azul, Annas Rell, quien declaró que los Verdes eran “un foso infecto, una pestilencia que debe ser limpiada”; pensó en los destellos de odio que había visto en los ojos Azules y algo en su interior se rompió en pedazos. “¿Como es posible que estés de su parte?” Preguntó Barron al cielo, y entonces empezó a sollozar; porque sabía, estando bajo la malévola mirada azul, que el universo siempre había sido un sitio lleno de maldad.

Charles el Azul consideró el techo azul, atónito. Como profesor de un colegio mixto, Charles había enfatizado cuidadosamente que los puntos de vista Azul y Verde eran igualmente válidos y que merecían ser tolerados: El cielo era una construcción metafísica, y cerúleo un color que podía ser visto de más de un modo. Brevemente, Charles se preguntó si un Verde, de pie en este lugar, podría ver un cielo verde encima de él o si quizás el cielo sería verde mañana a esta hora; pero no podía apostar la supervivencia continuada de la civilización a ello. Esto era solamente un fenómeno natural, que no tenía que ver nada con la filosofía moral o con la sociedad… pero era posible malinterpretarlo, temía Charles. Charles suspiró, y volvió por el corredor. Mañana volvería solo para bloquear el pasaje.

Daria, una vez Verde, intentó respirar entre las cenizas de su mundo. No retrocederé, se dijo Daria. No apartaré la mirada. Había sido Verde toda su vida, y ahora debía ser Azul. Sus amigos, su familia, la rechazarían. Di la verdad, aunque tu voz flaquee, le dijo una vez su padre; pero su padre ahora estaba muerto, y su madre nunca lo entendería. Daria sostuvo la mirada tranquila del cielo azul, intentando aceptarlo, y finalmente su respiración se tranquilizó. Había estado equivocada, se dijo tristemente a si misma; no es tan complicado, después de todo. Haría nuevos amigos, y quizás su familia llegaría a perdonarla… o, se preguntó con un atisbo de esperanza, ¿subirían para pasar esta misma prueba, quedarse de pie bajo este mismo cielo? “El cielo es azul,” dijo Daria experimentalmente, y no le ocurrió nada funesto; pero no podía obligarse a sonreír. Daria la Azul exhaló tristemente, y volvió al mundo, preguntándose que es lo que iba a decir.

Eddin, un Verde, contempló el cielo y empezó a reírse cínicamente. Al fin el rumbo de la historia del mundo había quedado al descubierto; incluso el mismo no se podía creer que habían sido tan idiotas. “Estúpidos,” dijo Eddin, “estúpidos, estúpidos, y siempre había estado exactamente aquí.” Odios, asesinatos, guerras, y todo este tiempo había sido una cosa de un lugar, sobre lo que alguien había escrito como si escribiera sobre cualquier otra cosa. Nada de poesía, nada de belleza, y nada que a ninguna persona cuerda le pudiera importar, solo era una cosa sin sentido que había sido inflada desproporcionadamente. Eddin se apoyó cansado en la entrada de la cueva, intentando pensar en una forma de impedir que esta información destrozara el mundo, y preguntándose si no se lo merecían.

Ferris jadeó involuntariamente, paralizado por pura maravilla y deleite. Los ojos de Ferris fueron hambrientos de un lado a otro, atracándose con todos los detalles uno tras otro, antes de pasar al siguiente; el cielo azul, las nubes blancas, el exterior vasto y desconocido, lleno de lugares y cosas (¿Y gente?) que ningún Subterraniense había visto jamás. “Ah, así que era de ese color,” se dijo Ferris, y siguió explorando.

004: El Uso Adecuado de la Humildad

Versión original

Se reconoce ampliamente que la buena ciencia requiere algún tipo de humildad. Qué tipo de humildad se debe usar es algo más controvertido.

Consideren al creacionista que dice “¿Pero quién puede saber si la evolución es correcta o no? Es sólo una teoría. Deberías ser más humilde y abierto de miras.” ¿Es esto humildad? El creacionismo utiliza una inseguridad muy selectiva, negándose a integrar enormes factores de evidencias a favor de una conclusión que le parece incómoda. Yo diría que tanto si se llama a esto “humildad” como si no, es un paso en falso en el baile.

¿Y qué hay del ingeniero quien humildemente diseña mecanismos a prueba de fallos en la maquinaria, aunque está completamente seguro de que la maquinaria no puede fallar? Eso me parece un buen tipo de humildad. Históricamente, no son desconocidos casos en los que un ingeniero estaba completamente seguro de que una nueva máquina no podía fallar, y después ésta falló.

¿Y qué hay del estudiante que vuelve a comprobar las respuestas de su examen de mates? De nuevo lo clasificaría como buena humildad.

¿Y qué hay del estudiante que dice, “Bueno, por muchas veces que lo compruebe, nunca voy a estar seguro de que mis respuestas van a ser correctas,” y por tanto no las comprueba ni una vez? Incluso si esta elección proviene de una emoción similar a la sentida por el estudiante anterior, parece menos sensata.

Se sugiere a alguien que estudie más, el estudiante responde: “No, eso no me va a servir: No soy tan listo como tu; no, alguien tan tonto como yo no puede esperar hacerlo mejor.” Eso es modestia social, y no humildad. Se usa para regular el estatus dentro de la tribu, en vez de procesos científicos. Si se pide a alguien que “sea más humilde”, por defecto asociará las palabras con la modestia social – que es un concepto intuitivo, usado diariamente, y relevante desde tiempos antiguos. La humildad científica es una invención más reciente y enrarecida, y no es inherentemente social. La humildad científica es algo que se puede utilizar incluso si uno está solo en un traje espacial, a años luz de la Tierra y sin ser visto por nadie. O incluso si se le garantizara que nunca nadie fuera a volver a criticarle jamás, sin importar lo que dijera o pensara. Aun así, se debería volver a revisar los cálculos si se es sensato.

El estudiante dice: “Pero he visto a otros estudiantes volver a revisar sus cálculos, y siguen teniendo errores. ¿Qué pasaría si, por el problema de la inducción, nos encontramos con que esta vez 2 + 2 = 5? No importa lo que haga, nunca estaré seguro de mi mismo.” Parece muy profundo, y muy modesto. Pero no es casualidad que el estudiante quiere entregar el examen rápidamente, para volver a casa y poder jugar a los videojuegos.

El final de una era en la física no siempre se anuncia con truenos y trompetas; muchas veces comienza en un pequeño, diminuto error… Pero al tener los físicos esa arrogante idea de que sus modelos deberían funcionar siempre, no sólo la mayor parte del tiempo, ellos persiguen los pequeños errores. Normalmente, el pequeño error desaparece la mayor parte de las veces. Raramente, el error se expande hasta el punto en el que destroza completamente la teoría. Por tanto está escrito: “Si no buscas la perfección te detendrás antes de dar tus primeros pasos.”

¡Pero piensen en la audacia social de intentar tener razón siempre! Sospecho seriamente que si la Ciencia proclamara que la teoría de la evolución no fuera cierta solo la mayor parte de las veces pero no todas las veces – o si la Ciencia admitiera que quizás en algunos días la Tierra es plana, pero quien sabe – entonces los científicos tendrían mejores reputaciones sociales. La Ciencia se vería entonces como algo menos polémico, ya que no se tendría que discutir con la gente que dice que la Tierra es plana – habiendo razones para el acuerdo mutuo. Cuando se discute mucho, es vista por la gente como una persona polémica. Si se niega repetidamente a ceder, es incluso peor. Considérenlo como una cuestión de estatus tribal: los científicos ciertamente han alcanzado un estatus mayor a cambio de herramientas socialmente útiles como las medicinas o los teléfonos móviles. Pero el estatus social no justifica su insistencia de que solo las ideas científicas como la evolución deben ser enseñadas en las escuelas públicas. Los sacerdotes también tienen un alto estatus social, después de todo. Los científicos se están sobrepasando – ¡Han alcanzado algo de estatus, y ahora se creen los jefes de toda la tribu! Deberían ser más humildes, y ceder un poco.

Muchas personas parecen tener opiniones bastante difusas sobre la “humildad racionalista”. Es peligroso tener un principio preceptivo que solo comprendes vagamente; la imagen mental que se tiene puede tener muchos grados de libertad que puede ser adaptada para justificar casi cualquier acción. Cuando la gente tiene modelos mentales imprecisos que pueden utilizarse para afirmar cualquier cosa, normalmente terminan creyendo lo que desde un principio deseaban creer. Eso es tan conveniente que la gente es reacia a desprenderse de la imprecisión. Pero el fin de nuestra ética es el de persuadirnos, no el de ser persuadidos por nosotros.

La “Humildad” es una virtud que frecuentemente está mal comprendida. Eso no quiere decir que debamos descartar el concepto de humildad, sino que debemos tener cuidado a la hora de utilizarlo. Puede ayudar examinar las acciones recomendadas por una línea “humilde” de pensamientos, y preguntar: “¿Hacer las cosas de esta manera te hace más fuerte, o más débil?” Si piensas en el problema de inducción aplicado a un puente que necesita mantenerse en pie, puede parecer razonable concluir que nada es seguro sin importar las precauciones utilizadas; pero si se consideran las diferencias existentes en el mundo real entre añadir algunos cables adicionales, y encogerse de hombros, parece bastante claro cual es la opción que hace que el puente sea más fuerte.

La gran mayoría de llamamientos que he presenciado a la “humildad racionalista” son excusas para encogerse de hombros. La persona que compra un billete de lotería, diciendo, “Pero no sabes con seguridad que voy a perder”. La persona que no cree en la evolución, diciendo, “Pero no puedes demostrar que sea cierta.” La persona que se niega a afrontar un problema difícil, diciendo “Probablemente sea demasiado difícil de resolver.” El problema está en el escepticismo motivado, alias sesgo de disconformidad – afirmaciones con mucho mayor escrutinio que no queremos creer. La humildad, en su forma más frecuentemente malentendida, es una excusa general para no creer en algo; ya que, después de todo, no puedes estar seguro. ¡Cuidado con las excusas completamente generales!

Un problema posterior es que es demasiado fácil profesar humildad. Dennett, en “Breaking the Spell”, indica que mientras que muchas afirmaciones religiosas son muy difíciles de creer, es más fácil para la gente creer que deberían creerlas. Dennett define esto como “creer en la creencia”. ¿Que significaría realmente asumir, creer realmente, que tres es igual a uno? Es mucho más fácil creer que se debería, de algún modo, creer que tres es igual a uno, y dar esta respuesta en los momentos adecuados en la iglesia. Dennett propone que la mayor parte de las “creencias religiosas” deberían estudiarse como “profesiones religiosas” – lo que la gente cree que debería creer y lo que saben que deben decir.

Es demasiado fácil enfrentarse a cualquier argumento en contra diciendo, “Bueno, por supuesto que puedo estar equivocado.” Entonces, habiendo hecho la obligada reverencia en la dirección a la Modestia, habiendo rendido la adecuada pleitesía, se puede seguir el camino sin haber cambiado nada.

La tentación está en conseguir siempre la mayor cantidad de puntos con el menor esfuerzo. La tentación está en integrar todas las noticias recibidas de forma de que nos permite cambiar nuestras creencias y, por encima de todo, nuestras acciones, lo menos posible. John Kenneth Galbraith dijo: “Enfrentados a la decisión entre cambiar la propia mente y probar que no es necesario hacerlo, la mayor parte de la gente escoge buscar las pruebas.” Y cuanto mas inconveniente sea cambiar nuestra propia mente, más esfuerzo hace la gente en encontrar las pruebas.

Pero, ya sabes, si se va a terminar haciendo lo mismo de todos modos, entonces no hay motivos para gastar tanto esfuerzo racionalizándolo. Muchas veces me he encontrado con gente que se encuentra con nueva información, aceptándola en apariencia, y entonces explicando cuidadosamente las razones por las que van a seguir haciendo exactamente lo mismo que pensaban hacer antes, pero con una justificación diferente. El fin de pensar es para dar forma a nuestros planes; si se van a conservar los mismos planes de todos modos, ¿por qué hacer todo ese esfuerzo para justificarlo? Cuando uno se encuentra con nueva información, lo difícil es actualizar, reaccionar, en vez de dejar que la información desaparezca en un agujero negro. Y la humildad, adecuadamente malentendida, es un maravilloso agujero negro – lo único que se debe hacer es admitir que uno puede estar equivocado. Así está escrito: “Ser humilde es realizar acciones específicas anticipando que puedas estar equivocado. Confesar la posibilidad de que cometas errores y no hacer nada no es ser humilde, es jactancia de la propia modestia.”

003: ¿…Y qué decías que era un sesgo?

Versión original

(Continuación del artículo anterior: “¿Por qué la verdad? Y…”)

Un sesgo es un tipo específico de obstáculo en nuestra meta de alcanzar la verdad – Su papel como “obstáculo” brota de esta meta de la verdad – pero hay muchos más obstáculos que no son “sesgos”.

Si empezamos preguntando directamente “¿Qué es un sesgo?”, la pregunta se realiza en el orden equivocado. Como dice el refrán, “Hay cuarenta tipos de locura, pero solo un tipo de sentido común.” La verdad es un objetivo de tamaño reducido, una pequeña región a alcanzar en el espacio de configuraciones. “Me quiere, no me quiere” puede ser una pregunta binaria, pero E=MC^2 es un punto diminuto en el espacio de todas las ecuaciones, como tener el cupón premiado en el espacio de todos los billetes de lotería. El error no es una condición excepcional; es el éxito lo que es tan improbable a priori que necesita una explicación.

No puede empezarse a hablar de un deber moral de “reducir los sesgos”, porque los sesgos sean malos y malignos y Eso No Se Hace. Ese es el tipo de pensamiento que alguien puede terminar teniendo si adquirió el deber deontológico de la “racionalidad” mediante osmosis social, lo que hace que la gente intente utilizar técnicas sin apreciar las razones por las que son necesarias. (Lo que es malo y maligno y Eso No Se Hace, conforme a Surely You’re Joking, Mr. Feynman, que leí de niño.)

En vez de eso, queremos llegar a la verdad, por cualquier motivo, y nos encontramos con distintos obstáculos que se interponen en el camino a nuestra meta. Estos obstáculos no son demasiado diferentes entre sí – por ejemplo, existen obstáculos que tienen que ver con no tener suficiente potencia de computación disponible, o que la información es costosa. Parece que un gran número de obstáculos tienen cierta característica en común – agrupados en una región del espacio de obstáculos-a-la-verdad – y esa región se ha etiquetado como “sesgos”.

¿Qué es un sesgo? ¿Podemos mirar a la agrupación empírica y encontrar una prueba compacta para designar a sus miembros? Quizás podamos averiguar que no podemos dar una explicación mejor que señalar a algunos ejemplos extensos, y esperar que el oyente lo comprenda. Si uno es un científico que acabas de comenzar a investigar el fuego, puede ser mucho más sensato señalar a una fogata y decir “El fuego es esa cosa brillante y anaranjada de allí,” en vez de decir “Defino el fuego como una transmutación alquímica de substancias que liberan flogisto.” Como dije en La Verdad Simple, no se debe ignorar algo simplemente porque no se pueda definir. No puedo citar las ecuaciones de la Relatividad General de memoria, pero sin embargo si me fuera más alla de un precipicio, me caería. Y podemos decir lo mismo de los sesgos – no nos afectarán menos si resulta que no podemos definir de forma compacta que es un “sesgo”. Podemos señalar a las falacias conjuntivas, al exceso de confianza, a la disponibilidad y representabilidad de los heurísticos, al sesgo de la tasa base, y decir “Cosas como ésas.”

Una vez dicho todo eso, parece que podemos etiquetar como “sesgo” todos los obstáculos a la verdad que se producen, no por el coste de la información, ni limitada por el poder de computación, sino por la forma de nuestra propia maquinaria mental. Por ejemplo, el mecanismo que está optimizado evolutivamente para propósitos que se oponen activamente a la precisión epistémica; por ejemplo, el mecanismo usado para vencer discusiones con contextos políticos adaptativos. O la presión selectiva opuesta a la precisión epistémica; por ejemplo, creer en lo que los demás creen para llevarte bien con ellos socialmente. O, en el clásico sesgo heurístico, el mecanismo funciona utilizando un algoritmo identificable que produce resultados útiles, pero también errores sistemáticos: la misma heurística de disponibilidad no es un sesgo, pero da pie a sesgos identificables y completamente descriptibles. Cuando nuestro cerebro hace algo mal, y tras muchas investigaciones y/o pensamientos profundos, alguien identifica el problema de forma que el Sistema 2 pueda comprender, y entonces llamamos a eso “sesgo”. Incluso si no podemos hacer las cosas mejor por saberlo, es un fallo que aparece, de forma identificable, en una clase particular de mecanismos cognitivos – no por no tener mecanismos insuficientes, sino por la forma de esos mismos mecanismos.

Los “sesgos” se distinguen de los errores que aparecen en los contenidos cognitivos, como las creencias adoptadas, o de los deberes morales adoptados. Los llamamos “errores” en vez de “sesgos”, y son mucho más fáciles de corregir, una vez que nos hemos dado cuenta por nosotros mismos. (Aunque el origen del error, o el origen del origen del error, puede ser en última instancia algún tipo de sesgo.)

Los “sesgos” se distinguen de los errores que aparecen por daños en los cerebros humanos individuales, o por elementos culturales absorbidos; los sesgos aparecen de los mecanismos que son universalmente humanos.

Platón no tenía “sesgos” al ignorar la Relatividad General – no tenía forma de reunir esa información, su ignorancia no era resultado de la forma de su maquinaria mental. Pero si Platón creía que los filósofos serían reyes mejores era porque el mismo era un filósofo – y esta creencia, por su parte, se originó de un instinto político adaptativo universal para la auto-promoción, y no porque el papá de Platón le dijera que todos tenían el deber moral de promover su propia profesión a puestos gubernamentales, o porque Platón esnifara demasiado pegamento de niño – entonces eso era un sesgo, tanto si Platón estaba advertido de ello como si no.

Los sesgos pueden no ser fáciles de corregir. Pueden incluso no ser corregibles. Pero cuando examinamos nuestra propia maquinaria mental y vemos un caso real de una clase identificable de error; y cuando el problema parece venir de la forma evolucionada de la maquinaria, en vez de no tener la suficiente maquinaria, o malos contenidos específicos; entonces llamamos a eso un sesgo.

Personalmente, veo nuestra búsqueda en términos de adquirir habilidades personales de racionalidad, en mejorar nuestra técnica para encontrar verdades. El desafió estriba en conseguir la meta positiva de la verdad, no evitar la meta negativa de los fallos. El espacio de fallos es amplio, infinitos errores de infinita variedad. Es difícil describir un espacio así de grande. “Lo que es verdadero sobre una manzana puede no ser cierto para otra manzana; así, más se puede decir de una única manzana que de todas las manzanas del mundo.” El espacio de éxito es mucho más reducido, por tanto se pueden decir más cosas de el.

Aunque no soy contrario (como acabáis de ver) a hablar sobre definiciones, debemos recordar que ese no es nuestro objetivo principal. Estamos aquí para seguir la gran búsqueda humana de la verdad: ya que necesitamos desesperadamente el conocimiento, y además de eso, somos curiosos. Esforcémonos con ese fin para superar cualquier obstáculo que se interponga en nuestro camino, tanto como si los llamamos “sesgos” como si no.

002: ¿Por qué la verdad? Y…

Versión original.

Algunos de los comentarios en este blog han tocado la cuestión de por qué debemos de buscar la verdad. (Por suerte no muchos han preguntado qué es la verdad.) La forma de nuestra motivación para configurar nuestros pensamientos a la racionalidad, que determina si una configuración dada es «buena» o «mala», viene de cualquiera que sea la razón por la cual queríamos encontrar la verdad en primer lugar.

Está escrito: «La primera virtud es la curiosidad.» La curiosidad es una razón para buscar la verdad, y puede que no sea la única, pero tiene una pureza especial y admirable. Si tu motivo es la curiosidad, tu asignarás prioridad a las preguntas de acuerdo a como las preguntas, por si mismas, cosquillean tu sentido personal de la estética. Un reto más difícil, con una mayor probabilidad de fracaso, puede valer mas esfuerzo que uno simple, sólo porque es más divertido.

Algunas personas, sospecho yo, pueden objetar que la curiosidad es una emoción y por lo tanto «no racional». Yo etiqueto una emoción como «no racional» si se basa en creencias erróneas, o, mejor dicho, sobre una conducta epistémica irracional: «Si el hierro se acerca a tu cara, y tu crees que está caliente, y esta frió, el Camino se opone a tu miedo. Si el hierro se acerca a tu cara, y crees que está frió, y esta caliente, el Camino se opone tu calma.» A la inversa, pues, una emoción que es evocada por creencias correctas o pensamiento epistémicamente racional es una «emoción racional»; y esto tiene la ventaja de permitirnos considerar la tranquilidad como un estado emocional, en lugar de un defecto privilegiado. Cuando la gente piensa en la «emoción» y la «racionalidad» como opuestas, yo sospecho que realmente están pensando sobre el Sistema 1 y el Sistema 2 – rápidos juicios de percepción versus lentos juicios deliberados. Los juicios deliberados no son siempre verdad, y los juicios de percepción no son siempre falsos; así que es muy importante distinguir esa dicótoma de la «racionalidad». Ambos sistemas pueden servir el objetivo de la verdad, o derrotarlo, según cómo sean utilizados.

Además de pura curiosidad emocional, ¿que otros motivos hay para desear la verdad? Bueno, puede que desees lograr alguna meta específica en el mundo real, como construir un avión, y por lo tanto necesitas saber alguna verdad específica acerca de la aerodinámica. O más prosaicamente, deseas leche de chocolate, y por lo tanto quieres saber si la tienda de comestibles local tiene leche de chocolate, para que puedas elegir si ir caminando ahí o a algún otro lugar. Si esta es la razón por la que quieres la verdad, entonces la prioridad que asignes a tus preguntas reflejaran la utilidad esperada de su información – que tanto las posibles respuestas influirán tus decisiones, que tanto tus decisiones importan, y que tanto esperas encontrar una respuesta que cambie tu decisión de su defecto.

El buscar la verdad sólo por su valor instrumental puede parecer impuro – ¿no deberíamos desear de la verdad por sí misma? – pero tales investigaciones son extremadamente importantes porque crean un criterio externo de comprobación: si tu avión cae del cielo, o si se llegas a la tienda y no encuentras leche de chocolate, es un indicio de que hiciste algo mal. Obtienes información sobre cuales modos de pensamiento funcionan, y cuales no lo hacen. La curiosidad pura es una cosa maravillosa, pero puede no permanecer demasiado tiempo verificando sus respuestas, una vez que el misterio atractivo se ha ido. La curiosidad, como una emoción humana, ha existido desde mucho antes de que los antiguos Griegos. Pero lo que estableció la humanidad firmemente en el camino de la Ciencia fue el notar que ciertos modos de pensar descubrían creencias que nos permitían manipular al mundo. En cuanto a la curiosidad pura va, inventar cuentos de fogata sobre dioses y héroes satisfacía ese deseo igual de bien, y nadie se dio cuenta de que algo estaba mal con eso.

¿Hay motivos para la buscar la verdad además de la curiosidad y el pragmatismo? La tercera razón en la que puedo pensar es la moralidad: Tú crees que el buscar la verdad es noble e importante y que vale la pena. Aunque ese ideal también atribuye un valor intrínseco a la verdad, es un estado de mente muy diferente de la curiosidad. El estar curioso sobre lo que está detrás de la cortina no se siente igual que creer que tienes un deber moral de buscar allí. En el segundo estado mental, eres mucho más propenso a creer que alguien más debería mirar detrás de la cortina, también, o castigarlos si deliberadamente cierran los ojos. Por esta razón, también etiquetaría como «moralidad» la creencia que buscar la verdad es pragmáticamente importante para la sociedad, y por lo tanto corresponde como un deber de todos. Tus prioridades, bajo esta motivación, serán determinadas por tus ideales sobre que verdades son más importantes (no más útiles o más intrigantes); o tus ideales morales acerca de cuándo, bajo qué circunstancias, el deber de buscar la verdad es más fuerte.

Tiendo a sospechar de la moralidad como una motivación para la racionalidad, no porque rechace el ideal moral, pero sino porque invita ciertos tipos de problemas. Es demasiado fácil adquirir, como deberes morales aprendidos, modos de pensar que son terribles pasos en falso en la danza. Considera al Señor Spock de Star Trek, un arquetipo ingenuo de la racionalidad. El estado emocional de Spock siempre esta puesto en «calma», incluso cuando tremendamente inadecuado. A menudo da muchas cifras significativas para probabilidades que están completamente mal calibradas. (Por ejemplo: «Capitán, si usted dirige a la Enterprise directamente hacia ese agujero negro, nuestra probabilidad de sobrevivir es sólo 2.234%» Sin embargo, nueve de cada diez veces la Enterprise no se destruida. ¿Qué clase de tonto trágico da cuatro cifras significativas para una figura que está mal por dos órdenes de magnitud?) Sin embargo, esta imagen popular es como muchas personas conciben de el deber de ser «racional» – no debe entonces de extrañar que no lo abrasen de todo corazón. El hacer la racionalidad un deber moral es el darle todos los terribles grados de libertad de una arbitraria costumbre tribal. La gente llega a la respuesta equivocada, y luego protestan con indignación que actuaron con propiedad, en lugar de aprender de su error.

Y sin embargo si vamos a mejorar nuestras racionales, ir más allá de los estándares de rendimiento establecidos por cazadores-recolectores, necesitaremos creencias intencionales sobre cómo pensar con propiedad. Cuando escribimos nuevos programas mentales para nosotros mismos, empiezan en el Sistema 2, el sistema intencional, y son sólo poco a poco – o nunca – entrenados en el circuito neural que subyace el Sistema 1. Así que si hay ciertos tipos de pensamiento que encontramos que queremos evitar – como, por ejemplo, los sesgos – terminara eso siendo representado, dentro del sistema 2, como un mandato de no pensar en esa manera; un deber declarado de evitar.

Si queremos la verdad, podemos obtenerla de forma más eficaz al pensar de ciertas maneras, en lugar de otras; y estas son las técnicas de la racionalidad. Algunas de las técnicas de racionalidad involucran la superación de una cierta clase de obstáculos, los sesgos…

(Continuado en la siguiente entrada: «¿Qué es un sesgo, una vez más?»)