Same evidence, different attentionLa misma evidencia, distinta atención

How the model worksCómo funciona el modelo

This is a small version of the model in my paper “The Bayesian and the Im­mu­nol­o­gist” and my talk “Selective Conditionalization: Belief Perseverance from a Bayesian Framework” (RatioLog, 2025). Belief change has two stages: attention selects which of the available evidence gets processed, and then the agent updates on what was selected. The update is always Bayesian. The policies differ only in what they attend to.

Es una versión pequeña del modelo de mi artículo “The Bayesian and the Im­mu­nol­o­gist” y de mi ponencia “Selective Conditionalization: Belief Perseverance from a Bayesian Framework” (RatioLog, 2025). El cambio de creencias tiene dos etapas: la atención selecciona qué parte de la evidencia disponible se procesa, y luego el agente actualiza sobre lo seleccionado. La actualización siempre es bayesiana. Las políticas solo difieren en aquello a lo que se atiende.

Credences and updatingGrados de creencia y actualización

Each agent’s credences are a stochastic truth table over four sentences: S, H, V and P. Each of the 16 rows gets a number; none is negative, and together they add up to 1. The controls change the table only in ways that keep it a probability function. Updating is conditionalization on $E$, the conjunction of the evidence the agent attends to: the rows where $E$ is false drop to 0, and the rest are rescaled to add up to 1.

Los grados de creencia de cada agente son una tabla de verdad estocástica sobre cuatro oraciones: S, H, V y P. Cada una de las 16 filas recibe un número; ninguno es negativo y juntos suman 1. Los controles solo cambian la tabla de maneras que la mantienen como una función de probabilidad. Actualizar es condicionalizar sobre $E$, la conjunción de la evidencia a la que el agente atiende: las filas en que $E$ es falsa pasan a 0 y el resto se reescala para sumar 1.

AttentionAtención

${\mathrm{\Gamma }}_t$ is the evidence on the table. An attention policy gives each piece of it a salience between 0 and 1. The agent attends to the evidence at the top of the ranking, provided its salience is above the threshold $a$. Even with $a=0$, then, an agent ignores evidence whose salience is 0.

${\mathrm{\Gamma }}_t$ es la evidencia sobre la mesa. Una política atencional le asigna a cada pieza una saliencia entre 0 y 1. El agente atiende a la evidencia que encabeza el orden, siempre que su saliencia supere el umbral $a$. Así, incluso con $a=0$, un agente ignora la evidencia cuya saliencia es 0.

Dogmatic attentionAtención dogmática

A dogmatic agent is biased towards keeping doxastic change small, to protect their core beliefs $C_t$, the beliefs they care about (chosen above: P, their side on S, or both; $c$ is how many there are). $D_t$ is how much a piece of evidence would lower the agent’s credence in a core belief, and evidence loses salience in proportion to it; evidence that leaves it untouched or raises it keeps salience 1. This puts the “psychological immune system” that Man­del­baum proposes at the level of attention instead of updating.

Un agente dogmático tiende a mantener pequeño el cambio doxástico, para proteger sus creencias nucleares $C_t$, las creencias que le importan (elegidas arriba: P, su postura sobre S, o ambas; $c$ es cuántas son). $D_t$ es cuánto bajaría una pieza de evidencia el grado de creencia del agente en una creencia nuclear, y la evidencia pierde saliencia en proporción a eso; la que no la toca o la eleva conserva saliencia 1. Así, el “sistema inmune psicológico” que propone Man­del­baum opera en la atención y no en la actualización.

Enthusiastic attentionAtención entusiasta

An enthusiastic agent wants to learn as much as possible about the questions they care about. As in the dogmatic policy, those questions are represented by the core beliefs $C_t$, so the two policies differ only in what they do with them: the dogmatic agent avoids the evidence that would lower them, and the enthusiastic agent seeks the evidence that bears most on them. The policy is inspired by Jessie Munton’s norm on attention, to attend to maximally task-relevant information, without her second variable, the effort it takes to access the evidence. Following Branden Fitelson’s two-dimensional theory of argument strength, relevance is measured with the likelihood-ratio measure $R$, first proposed by Kemeny and Oppenheim as a measure of factual support. $R(X,E)$ is 1 when $E$ entails $X$, −1 when $E$ entails $\neg X$, and 0 when $E$ is irrelevant to $X$.

Un agente entusiasta quiere aprender lo más posible sobre las preguntas que le importan. Como en la política dogmática, esas preguntas se representan con las creencias nucleares $C_t$, así que las dos políticas solo difieren en qué hacen con ellas: el agente dogmático evita la evidencia que las bajaría y el entusiasta busca la evidencia que más incide en ellas. La política se inspira en la norma de Jessie Munton sobre la atención, atender a la información más relevante para la tarea, sin su segunda variable, el esfuerzo que cuesta acceder a la evidencia. Siguiendo la teoría bidimensional de la fuerza argumentativa de Branden Fitelson, la relevancia se mide con la medida de razón de verosimilitudes $R$, propuesta primero por Kemeny y Oppenheim como medida de apoyo fáctico. $R(X,E)$ vale 1 cuando $E$ implica $X$, −1 cuando $E$ implica $\neg X$ y 0 cuando $E$ es irrelevante para $X$.

A limit of enthusiastic attentionUn límite de la atención entusiasta

Since $|R|$ ranks evidence by how extreme its likelihood ratio is, enthusiastic attention has a limit. Suppose an agent cares only about S, and the evidence on the table is two pieces that are independent given S and given not-S. Then the piece the agent attends to points the same way as the two pieces together: it moves the agent in the same direction as updating on all the evidence, further when the two pieces disagree and less far when they agree. So two such agents can polarize through attention only if all the evidence would also push them apart. Attention can widen that split but cannot create it. With three or more pieces of evidence, or with pieces that are correlated given S, it can. That is why, in the enthusiastic scenario, H and V are correlated given S: there, attending to all the evidence would bring Anaí and Dai to the same credence. Dogmatic attention has no such limit, as the first scenario shows.

Como $|R|$ ordena la evidencia según qué tan extrema es su razón de verosimilitudes, la atención entusiasta tiene un límite. Supongamos que a un agente solo le importa S y que la evidencia sobre la mesa son dos piezas independientes dado S y dado no-S. Entonces la pieza a la que el agente atiende apunta en la misma dirección que las dos juntas: lo mueve en la misma dirección que actualizar con toda la evidencia, más lejos cuando las dos piezas discrepan y menos cuando coinciden. Así, dos agentes como estos solo pueden polarizarse por la atención si toda la evidencia también los separaría. La atención puede ampliar esa separación, pero no crearla. Con tres o más piezas de evidencia, o con piezas correlacionadas dado S, sí puede. Por eso, en el escenario entusiasta, H y V están correlacionadas dado S: ahí, atender a toda la evidencia llevaría a Anaí y a Dai al mismo grado de creencia. La atención dogmática no tiene este límite, como muestra el primer escenario.

Full beliefsCreencias plenas

Beliefs follow the Lockean thesis: an agent believes $X$ when their credence in $X$ is at least $l$, a threshold between 0.5 (excluded) and 1. On the scale above, the shaded ends are the credences high enough to believe S or to believe not-S.

Las creencias siguen la tesis lockeana: un agente cree $X$ cuando su grado de creencia en $X$ es al menos $l$, un umbral mayor que 0.5 y no mayor que 1. En la escala de arriba, los extremos sombreados son los grados de creencia suficientes para creer S o para creer no-S.

About the scenariosSobre los escenarios

The first scenario uses the numbers of the “Ideology clash” example in my paper. The paper gives each agent’s credences conditional on H and on V, but not on both together; here Anaí’s credence in S given H ∧ V is 0.70 and Dai’s is 0.22. Of all the truth tables that agree with these numbers, the scenario uses the most spread-out one (the one with maximum entropy). The other two scenarios were built the same way.

El primer escenario usa los números del ejemplo “Ideology clash” de mi artículo. El artículo da los grados de creencia de cada agente condicionales a H y a V, pero no a ambas juntas; aquí el grado de creencia de Anaí en S dado H ∧ V es 0.70 y el de Dai, 0.22. De todas las tablas de verdad que concuerdan con esos números, el escenario usa la más repartida (la de máxima entropía). Los otros dos escenarios se construyeron de la misma manera.