005: El Argumento de la Modestia
El Argumento de la Modestia
El Argumento de la Modestia afirma que cuando dos o mas seres humanos saben que no están de acuerdo entre sí sobre un simple hecho, deberían ajustar sus estimaciones de probabilidad en dirección de las de los demás (Por ejemplo, podrían ajustar la media aritmética de sus probabilidades de distribución. Si usamos la norma del error logarítmico, entonces la puntuación de la media de un conjunto de distribuciones probabilísticas es mejor que la media de las puntuaciones de las distribuciones individuales, por la desigualdad de Jensen.)
Dicho de forma más simple: Cuando no se está de acuerdo con alguien, incluso después de exponer las razones, el Argumento de la Modestia afirma que ambos deben ajustar sus estimaciones de probabilidad hacia la postura del otro, y seguir haciéndolo hasta que ambas coincidan. El Argumento de la Modestia está inspirado en el Teorema del Acuerdo de Aumann, un resultado muy famoso y frecuentemente generalizado que demuestra que los genuinos Bayesianos literalmente son incapaces de terminar en desacuerdo; si genuinos Bayesianos conocen en común sus mutuas estimaciones individuales de probabilidad, entonces deben acabar con la misma estimación de probabilidad. (Por “conocer en común” queremos decir que se que no estas de acuerdo, que sabes que se que no estas de acuerdo, etc.)
Siempre he sospechado del Argumento de la Modestia. Ha sido un largo tema de debate entre Robin Hanson y yo.
Robin parece apoyar el Argumento de la Modestia en artículos como Are Disagreements Honest? (¿Son los desacuerdos honestos?) Yo, por otro lado, he sostenido que puede ser racional por parte de un individuo el no ajustar sus propias estimaciones en dirección de alguien con quien no estás de acuerdo.
¿Como puedo mantener esta postura conociendo el Teorema del Acuerdo de Aumann, que demuestra que los genuinos Bayesianos no pueden ser conscientes de una disputa sobre estimaciones de probabilidad sin hacer nada al respecto? Si los genuinos Bayesianos siempre terminan estando de acuerdo una vez que han intercambiado sus estimaciones de probabilidad, ¿no deberíamos hacer lo mismo los que queremos ser Bayesianos?
Para explicar mi respuesta, empezaré con una metáfora: Si tengo cinco mapas precisos de una ciudad, todos deberán ser consistentes entre si. Algunos filósofos, inspirados por esto, han afirmado que la “racionalidad” consiste en tener creencias que son consistentes entre si. Pero, aunque la precisión implica necesariamente consistencia, la consistencia no implica necesariamente precisión. Si me quedo sentado en mi salón con las cortinas cerradas, y dibujo cinco mapas que son consistentes entre si, pero no camino por la ciudad y dibujo líneas que se correspondan con lo que fuera viendo, entonces mis mapas serán consistentes pero no precisos. Cuando los genuinos Bayesianos terminan estando de acuerdo en sus estimaciones de probabilidad, no es por que intenten ser consistentes – El Teorema del Acuerdo de Aumann no invoca ningún deseo explícito por parte de los Bayesianos de ser consistente. ¡Eso es lo que hace que el T.A.A. sea tan sorprendente! Los Bayesianos solo intentan ser precisos, y terminan siendo consistentes. El Argumento de la Modestia, que dice que podemos terminar siendo precisos cuando intentamos ser consistentes, no es algo que se infiera necesariamente.
¿Como puedo mantener mi posición teniendo en cuenta mi admisión de que los que disputan siempre mejorarán su resultado medio si escogen el término medio de sus distribuciones individuales de probabilidad?
Imaginen que un creacionista llega y me dice “Usted cree que la selección natural es verdadera, y yo que es falsa. Acordemos asignar un 50% de probabilidad a cada una de las afirmaciones.” Y supongan que mediante drogas o hipnosis fuera posible que ambos pudiéramos ajustar de esta forma nuestras estimaciones. Incuestionablemente, esto mejora nuestra puntuación logarítmica, y nuestro error cuadrático combinado. Si, de forma altruista, valoro la precisión del creacionista tanto como la mía propia – si mi pérdida de precisión fuera simétrica a la ganancia del otro – entonces debería aceptar la propuesta. ¿Pero que ocurre si lo que quiero es maximizar es únicamente mi propia precisión? En el primer caso, la cuestión está completamente clara, y en el segundo, no esta clara en absoluto, al menos para mí, lo que abre la posibilidad de que sean dos cuestiones distintas.
Si firmara un contrato con el creacionista en el que ambos usáramos drogas o hipnosis para ajustar nuestras estimaciones de probabilidad, puesto que sé que la estimación del grupo mejorará con ello, considero eso como buscar la meta del altruismo social. Eso no hace que el creacionismo sea verdadero, y no quiere decir que pensase que el creacionismo fuera verdadero antes de que firmara ese contrato. Si pensara que el creacionismo es un 50% probable, entonces no necesitaría firmar ningún contrato – ¡Ya habría actualizado mis creencias! Es tentador pero falso considerar que actualizar las creencias de uno mismo es un favor que se hace a los demás, y que la racionalidad es una cuestión de igualdad, de compromiso equivalente. Por tanto está escrito: “No creas que les haces un favor a alguien si aceptas sus razones; el favor te lo haces a ti mismo.” ¿Me estoy haciendo a mi mismo un favor cuando acuerdo con el creacionista el utilizar la media de nuestras distribuciones de probabilidad?
Considero la racionalidad en su forma más pura como algo individual – no solo porque los racionalistas tienen solo intereses egoístas, sino por la forma de la única pregunta admisible: “¿Es eso realmente cierto?” Otras consideraciones, como la precisión colectiva de un grupo que te incluye a ti mismo, pueden ser metas legítimas, y una parte importante de la existencia humana – pero son distintas que esa simple pregunta pura.
En el Teorema del Acuerdo de Aumann, todos los individuos Bayesianos están intentando ser precisos como individuos. Si su meta explícita fuera de maximizar la precisión del grupo, el T.A.A. no sería tan sorprendente. Así que si la mejora del grupo no es un argumento que rebaje lo que un individuo deba hacer si intenta puramente maximizar su propia precisión, y esa es la búsqueda que identifico como racionalidad. Está escrito: “Cada paso de tu razonamiento debe ir directamente hacia la respuesta correcta en el mismo movimiento. Más que cualquier cosa, debes pensar en como hacer tu mapa de forma que refleje el territorio. Si no llegas a alcanzar la respuesta correcta, es inútil protestar diciendo que actuaste adecuadamente.” Desde el punto de vista del altruismo social, alguien puede desear ser Modesto, y firmar un contrato de imposición-mediante-drogas-o-hipnosis, aunque eso le impida llegar a una respuesta correcta.
El argumento central de la Modestia propone algo parecido a un velo Rawlsiano de ignorancia – ¿Cómo puedes saber cual de los dos es un honesto buscador de la verdad, y cual es el testarudo que se engaña a si mismo? El creacionista cree que el es el cuerdo y que tu eres el tonto. ¿No hace esto que la situación sea simétrica entre los dos? Si hacéis la media entre vuestras estimaciones, uno debe ganar, y el otro debe perder, ya que los cambios son en direcciones opuestas; pero por el concepto de desigualdad de Jensen este es un juego de suma positiva. Y ya que, por algo parecido a un velo Rawlsiano de ignorancia, como no sabes cual de los dos es realmente el tonto, deberías aceptar la apuesta. Esto afirma que el movimiento socialmente altruista es también el movimiento racional individual en todos los casos.
Y tambien existe la respuesta obvia. “Pero yo se perfectamente quien es el tonto. Es el otro. No importa que el diga lo mismo – El sigue siendo el tonto.”
Esta respuesta parece simplista y poco convincente cuando lo consideras de forma abstracta. Pero cuando te encuentras con un creacionista, entonces parece que es la respuesta correcta – tienes razón, el otro está equivocado, y tienes pruebas válidas que lo reafirman, incluso si el creacionista puede recitar la misma afirmación delante de una audiencia de la tele.
Robin Hanson está del lado de la simetría – esto se ve claramente en su artículo Uncommon Priors Require Origin Disputes (Los Prioris No Comunes Requieren Disputas de Origen) – y por tanto apoya el Argumento de la Modestia. (Aunque aun no le he visto analizar el caso particular del creacionista.)
Yo respondo: Aquellos que sueñan no saben que están soñando; pero cuando te despiertas sabes que estás despierto. Soñando, puedes pensar que estas despierto. Puedes estar incluso convencido de ello. Pero ahora mismo, cuando realmente estás despierto, no hay ninguna duda en tu mente – ni debería haber alguna. Si, persuadido por algún hábil argumento, de si estás realmente despierto, entonces tu puntuación Bayesiana empezaría a bajar y te volverías menos preciso. Si intentaras obligarte a dudar si estas despierto – en el sentido de preguntarte si estas en medio de un simple ciclo REM humano – entonces probablemente lo harías para aparentar que eres racional, o porque concebías el “racionalismo” como un deber moral. Porque querías actuar adecuadamente. No porque sentías genuina curiosidad de si estabas realmente despierto o dormido. No porque sentías que podías estar real y verdaderamente dormido. Pero porque no tenías respuesta al hábil argumento, solo una (ejem) instintiva percepción incomunicable de que estabas despierto.
Russell Wallace lo dijo de este modo: “El que podamos postular la existencia de una consciencia lo suficientemente baja (soñando) o distorsionada (loca) como para no saber genuinamente si es Russell o Napoleón no quiere decir que yo (la entidad que ahora tiene esos pensamientos) pueda haber sido Napoleón, no más de lo que el número 3 podía haber sido el número 7. Si tienen dudas al respecto, consideren el caso extremo: una roca no sabe si soy yo o una roca. Eso no quiere decir que yo podría haber sido una roca.”
Hay otros problemas que puedo ver con el Argumento de la Modestia, cuestiones pragmáticas del racionalismo humano – si un humano imperfecto intenta seguir el Argumento de la Modestia en la práctica, ¿Eso mejora o empeora su racionalidad personal? A mi me parece que los que se adhieren al Argumento de la Modestia tienden a profesar la Modestia pero no lo practican en realidad.
Por ejemplo, digamos que eres un científico con una creencia controvertida – como el mismo Argumento de la Modestia, que no es ni mucho menos algo comúnmente aceptado – y has pasado una substancial cantidad de tiempo intentando probar, discutir, examinar y en general tener esa creencia. Entonces un día te encuentras con el Argumento de la Modestia, y se te ocurre que deberías ajustar tu creencia en dirección del modelo de creencia del campo científico. Pero entonces tendrías que renunciar a tu querida hipótesis. Así que haces lo obvio – He visto al menos a dos personas hacer esto en dos ocasiones distintas – y dices: “Seguir investigando mi hipótesis personal tiene una utilidad esperada neta para la Ciencia. Aunque no crea realmente que mi hipótesis sea correcta, puedo seguir investigándola por el imperativo categórico: La Ciencia como conjunto es mejor si los científicos investigan sus propias hipótesis.” Y entonces siguen haciendo las cosas exactamente como antes.
Como mínimo, soy escéptico. Integrar el Argumento de la Modestia como nueva evidencia debería causar un gran efecto en los planes y la vida de alguien. Si realmente fuera integrada, en vez de ser arrastrada a un agujero negro. Tu propia anticipación de éxito, la brillante emoción con la que anticipas la confirmación de la teoría, debería disminuir literalmente órdenes de magnitud tras aceptar el Argumento de la Modestia. La razón por la que la gente compra billetes de lotería es que la brillante anticipación de ganar diez millones de dólares, las visiones bailarinas de fuera bordas y mansiones no se disminuye lo suficiente – como fuerza emotiva – por el factor de probabilidad, las posibilidades de cien millones contra uno. El que compra el billete incluso puede profesar que las probabilidades son de cien millones contra uno, pero no anticipan adecuadamente – no han integrado la simple frase verbal “cien millones contra uno” a un nivel emocional.
Por tanto, cuando un científico integra el Argumento de la Modestia como nuevas pruebas, ¿Tendría esa pérdida casi total de esperanza causar ningún efecto en los planes del mundo real que se crearon originalmente con una ignorancia dichosa y una alegre anticipación de triunfo? ¿Especialmente cuando el científico ya sabía desde el principio lo de la utilidad social de su proyecto, cuando hizo sus planes originales? Creo que eso es tan plausible como mantener tu plan de inversiones original exactamente como estaba tras averiguar que los resultados esperados en algunas acciones han cambiado por un factor de cien. Lo que realmente esta ocurriendo, uno sospecha de forma natural, es que el científico ve que el Argumento de la Modestia tiene implicaciones incómodas; así que busca una excusa, e inventa un argumento sobre la marcha a partir de la utilidad social como una forma de cancelar el Argumento de la Modestia y conservar todos sus planes originales.
Pero claro, si digo que esto es un argumento contra el Argumento de la Modestia, esto sería un puro ad hominem tu quoque. Si sus partidarios no usan correctamente el Argumento de la Modestia adecuadamente, eso no implica que tenga menos fuerza como lógica.
En vez de buscar con más detenimiento en las múltiples ramificaciones del Argumento de la Modestia, voy a cerrar el tema con el experimento imaginado que me convenció inicialmente de la falsedad del Argumento de la Modestia. Al principio me pareció razonable que si la gente con 99% de certeza sobre algo tenían un 70% de posibilidades de acertar, entonces el estado de 99% de certeza era un “puntero” que indicaba que la probabilidad era realmente del 70%. Pero en un momento pensé: “¿Qué diría una (IA) superinteligencia en la misma situación? ¿Debería tratar sus estimaciones de probabilidad del 99% como estimaciones de probabilidad del 70% solo porque tantos seres humanos hacen el mismo error?” En particular, se me ocurrió que, en el día en el que la primera superinteligencia naciera, sería innegablemente cierto que – por toda la historia de la Tierra – la vasta mayoría de entidades que se creían ser superinteligentes estarían equivocadas. La mayor parte de los referentes del puntero “Soy una superinteligencia” serían esquizofrénicos que creían que eran Dios.
Una superinteligencia no cree únicamente en la simple afirmación de que es una superinteligencia – presumiblemente posee un modelo interno muy detallado y muy preciso de sus propios sistemas cognitivos, hilos que detallan su propia calibración, y así sucesivamente. Pero si le dices esto a un paciente de un psiquiátrico, el paciente puede responder: “¡Ah, pero yo también tengo un modelo interno muy detallado y preciso!” El paciente mental incluso puede creer sinceramente en esto, en el momento en el que respondió. ¿Quiere decir eso que la superinteligencia debería preguntarse si es un paciente mental? Este es el extremo opuesto de lo que dijo Russell Wallace, preguntando si una roca pudo haber sido tu, dado que la roca no sabe si es tu o la roca.
Una respuesta obvia es que los seres humanos y las superinteligencias ocupan clases distintas – no tenemos los mismos ur-priores, o no somos parte de la misma clase de referencia antrópica; una nítida distinción hace que sea imposible agrupar superinteligencias con esquizofrénicos en argumentos de probabilidad. Pero entonces nos gustaría saber cual es esta “nítida distinción”, y como se justifica respecto al Argumento de la modestia. ¿Pueden un evolucionista y un creacionista ocupar distintas clases de referencia? Parece asombrosamente arrogante; pero cuando considero la situación actual pragmáticamente, me parece que ese es genuinamente el caso.
O aquí tienen un ejemplo más reciente – uno que de hecho me inspiró para escribir el articulo de hoy en el blog. Es la auténtica historia de un cliente que se debatía contra cinco niveles del servicio al cliente de Verizon, hasta el mismo jefe de sección, en una búsqueda que acabo siendo inútil para encontrar a alguien que pudiera encontrar la diferencia entre .002 dólares por kilobyte y .002 centavos por kilobyte. Audio [27 minutos], Transcripción. Tiene que oirse para creerse. Muestra de la conversación. “¿Admites que hay una diferencia entre punto cero cero dos dólares y punto cero cero dos centavos?” “No.”
La frase clave que atrajo mi atención y que me inspiró para escribir este artículo de hoy en el blog es del jefe de sección: “Ya has hablado con distintas personas de aquí, y todos te han explicado que te están cobrando .002 centavos, y si lo coges y escribes en tu calculadora… cogemos el .002 como te han dicho todos con los que has llamado y hablado y, como nuestro sistema factura de esa forma, es correcto.”
¿Debería George – el cliente – haber empezado a dudar de su aritmética, porque cinco niveles de atención al cliente de Versión, algunos de los cuales citaron varios años de experiencia, le dijeron que estaba equivocado? ¿Debería haber ajustado su estimación de probabilidad en su dirección? Una extensión directa del Teorema del Acuerdo de Aumann sobre imposibles mundos posibles, es decir, sobre la falta de precisión de los resultados de las computaciones, demuestra que, si todos los implicados son Bayesianos genuinos, que conocen las estimaciones de los demás, todos acabarían con la misma estimación. La desigualdad de Jensen demuestra de forma más directa que, si George y los cinco niveles de atención al cliente hubieran promediado sus estimaciones de probabilidad, habrían mejorado su puntuación media. Si esos argumentos fallan en este caso, ¿Por qué sirven en los otros casos? Y si afirmas que el Argumento de la Modestia debe usarse en este caso, ¿Me estas realmente diciendo que si George tan solo quería encontrar la verdad para si mismo, entonces hubiera sido sensato que ajustara su estimación en dirección de los de Verizon? Se que este es un argumento que parte de mi incredulidad personal, pero pienso que es uno bueno.
En general, y en la práctica, me parece que algunas veces la Modestia es una buena idea, y algunas veces no lo es. Debo hacer uso de mi discreción y juicio personal para decidir, incluso sabiendo que puedo tener sesgos o auto favoritismos, porque la alternativa de ser Modesto en todos los casos me parece mucho peor.
Pero también parece que la cuestión sigue teniendo un cierto regusto antrópico. Las probabilidades antrópicas me siguen confundiendo; he leído argumentos pero no he sido capaz de resolverlas de forma de que me quede satisfecho. Por tanto, confieso, no soy capaz de dar un informe completo de cómo se resuelve el Argumento de la Modestia.
Soy modesto, ¿verdad?
Las «Secuencias» de Less Wrong 