Epistemičke ograde koje koristim

English

The Observation

The more you write, the more you develop positions. The more you develop positions, the more you become identified with them. The more you’re identified with them, the harder they are to revise.

This is a trap.

I write to clarify thinking—to take vague intuitions and force them into coherent statements. But coherent statements can become cages. Once I’ve said something publicly, there’s pressure to defend it even when new evidence suggests it’s wrong.

Over time, I’ve developed guardrails—explicit checks that help me notice when thinking has ossified into position-holding.

What Breaks Without Guardrails

When epistemic rigor slips, specific failures emerge:

Confirmation bias. I notice evidence that supports what I already believe. I don’t notice evidence that contradicts it. The filtering is automatic and invisible—I feel like I’m being objective while systematically ignoring inconvenient data.

Motivated reasoning. The conclusion comes first; the argument follows. Instead of asking “what does the evidence suggest?” I ask “how can I justify what I want to believe?” The reasoning looks logical but runs backward.

Identity fusion. My positions become part of who I am. Attacking the position feels like attacking me. I defend ideas that should be updated because updating them feels like losing part of myself.

Tribal capture. Positions align with groups I identify with. Revising them means diverging from the group. The social cost of changing my mind exceeds the epistemic cost of being wrong—so I stay wrong.

Overconfidence. I become more certain than the evidence warrants. Probabilities collapse into certainties. Nuance dissolves into assertion. The world is more complicated than my model, but my model feels complete.

The Guardrails

These are specific checks I try to run. Not always successfully—but the attempt helps.

State the confidence level. Before asserting something, ask: how confident am I actually? Is this “pretty sure” or “definitely true”? Making confidence explicit prevents certainty from creeping in where it doesn’t belong.

Name what would change my mind. For any position, there should be evidence that would cause me to revise it. If I can’t name what that evidence would look like, the position isn’t actually responsive to reality—it’s just something I’ve decided to believe.

Steelman the opposition. Can I articulate the strongest version of the opposing view? Not the weak version that’s easy to dismiss—the version that someone thoughtful would actually hold. If I can’t, I probably don’t understand the issue well enough to have a strong opinion.

Track revision history. What positions have I changed over the past few years? If the answer is “none,” something is wrong. Either I was right about everything before (unlikely) or I’ve stopped updating (more likely).

Check for social pressure. Would I hold this position if everyone I respect disagreed? If not, how much of my belief is actually about the object-level claim versus about group membership?

Notice emotional charge. When someone challenges a position and I feel angry or defensive rather than curious, that’s diagnostic. The emotional reaction suggests the position is doing identity work, not epistemic work.

Separate author from argument. Would I evaluate this argument differently if it came from someone I disagreed with? If yes, I’m reasoning about the source rather than the content.

The Separation Practice

The most useful shift has been learning to separate output from identity.

When I write something, it’s a snapshot of thinking at a particular time. It’s not a permanent statement of who I am. Tomorrow’s evidence might make today’s writing obsolete. That’s fine—that’s how learning works.

This requires deliberate practice. The instinct is to defend past work. The practice is to evaluate past work with the same skepticism I’d apply to someone else’s.

Questions I try to ask:

If I read this without knowing who wrote it, would I find it convincing?
What would I think of this argument if someone I disagreed with made it?
Has anything happened since I wrote this that would change the conclusions?

The answers are often uncomfortable. Sometimes I was wrong. Sometimes I was right but for the wrong reasons. Sometimes I overstated confidence. Sometimes I missed obvious counterarguments.

The Revision Commitment

Being willing to revise is different from being willing to abandon.

Every position should be revisable, but not every challenge warrants revision. The guardrails help distinguish between legitimate updates and noise:

New evidence that I wasn’t aware of → probably warrants revision
Same evidence, new interpretation → worth considering
No new evidence, just disagreement → probably doesn’t warrant revision
Emotional reaction without substance → definitely doesn’t warrant revision

The goal isn’t to be infinitely malleable. It’s to be responsive to legitimate information while resistant to illegitimate pressure.

The Public Thinking Problem

Writing publicly creates specific challenges for epistemic rigor.

Public positions feel like commitments. Changing them publicly feels like admitting failure. The incentive is to double down rather than update.

I’ve tried to build the opposite norm: revision as strength, not weakness. When I change my mind publicly, I try to explain what changed and why. The goal is to model that updating is normal, not embarrassing.

This is harder than it sounds. The instinct is to quietly shift positions and hope no one notices the inconsistency. Being explicit about revision requires overcoming that instinct.

The Limits of Guardrails

These guardrails aren’t sufficient. They’re reminders, not guarantees.

Even with conscious effort, I have blind spots. I’m embedded in particular communities, exposed to particular information, shaped by particular experiences. The guardrails help at the margin, but they can’t eliminate bias—they can only reduce it.

The appropriate response is humility, not despair. I’m going to be wrong about some things. The goal isn’t to be right about everything; it’s to be the kind of thinker who updates when wrong and holds positions provisionally rather than absolutely.

The Outcome

Separate thinking output from identity. Revise without ego.

Positions should be tools for understanding, not badges of identity. When they become badges, they stop being responsive to evidence and start being self-protective.

The guardrails help notice when the transition is happening. They don’t prevent it—nothing fully prevents it—but they make correction possible.

What I believe today isn’t what I believed five years ago. Five years from now, I expect it will be different again. That’s not failure. That’s how thinking is supposed to work.

For more on how this connects to decision-making: How I Decide What to Work On.

Systems Over Hours

Building thinking infrastructure that improves over time

Read Deep Dive

Hrvatski

Opažanje

Što više pišeš, više razvijaš pozicije. Što više razvijaš pozicije, više se s njima identificiraš. Što si više identificiran s njima, teže ih je revidirati.

Ovo je zamka.

Pišem da razjasnim razmišljanje—da uzmem mutne intuicije i forsiram ih u koherentne izjave. Ali koherentne izjave mogu postati kavezi. Jednom kada sam nešto rekao javno, postoji pritisak da to branim čak i kada novi dokazi sugeriraju da nije točno.

Tijekom vremena, razvio sam ograde—eksplicitne provjere koje mi pomažu primijetiti kada je razmišljanje okoštalo u držanje pozicija.

Što se kvari bez ograda

Kada epistemička strogost popusti, pojavljuju se specifični neuspjesi:

Pristranost potvrde. Primjećujem dokaze koji podržavaju ono u što već vjerujem. Ne primjećujem dokaze koji to proturječe. Filtriranje je automatsko i nevidljivo—osjećam se kao da sam objektivan dok sustavno ignoriram neugodne podatke.

Motivirano zaključivanje. Zaključak dolazi prvi; argument slijedi. Umjesto da pitam “što dokazi sugeriraju?” pitam “kako mogu opravdati ono u što želim vjerovati?” Zaključivanje izgleda logično ali teče unatrag.

Fuzija identiteta. Moje pozicije postaju dio onoga tko sam. Napadanje pozicije osjeća se kao napadanje mene. Branim ideje koje bi trebale biti ažurirane jer ažuriranje osjeća kao gubitak dijela sebe.

Plemensko zarobljavanje. Pozicije se usklađuju s grupama s kojima se identificiram. Njihovo revidiranje znači divergiranje od grupe. Socijalni trošak promjene mišljenja premašuje epistemički trošak pogreške—pa ostajem u krivu.

Prekomjerno samopouzdanje. Postajem sigurniji nego što dokazi opravdavaju. Vjerojatnosti kolabiraju u sigurnosti. Nijansa se rastvara u tvrdnju. Svijet je kompliciraniji od mog modela, ali moj model se osjeća potpunim.

Ograde

Ovo su specifične provjere koje pokušavam pokrenuti. Ne uvijek uspješno—ali pokušaj pomaže.

Navedi razinu pouzdanja. Prije nego tvrdim nešto, pitaj: koliko sam zapravo siguran? Je li ovo “prilično siguran” ili “definitivno istinito”? Eksplicitno iskazivanje pouzdanja sprječava da se sigurnost uvuče tamo gdje ne pripada.

Imenuj što bi promijenilo moje mišljenje. Za bilo koju poziciju, trebali bi postojati dokazi koji bi me naveli da je revidiram. Ako ne mogu imenovati kako bi ti dokazi izgledali, pozicija zapravo nije responsivna na stvarnost—samo je nešto što sam odlučio vjerovati.

Steelmanuj opoziciju. Mogu li artikulirati najjaču verziju suprotnog stajališta? Ne slabu verziju koju je lako odbaciti—verziju koju bi netko promišljen zapravo držao. Ako ne mogu, vjerojatno ne razumijem pitanje dovoljno dobro da imam snažno mišljenje.

Prati povijest revizija. Koje sam pozicije promijenio tijekom posljednjih nekoliko godina? Ako je odgovor “nijednu,” nešto nije u redu. Ili sam bio u pravu oko svega prije (malo vjerojatno) ili sam prestao ažurirati (vjerojatnije).

Provjeri socijalni pritisak. Bih li držao ovu poziciju kad bi svi koje poštujem nisu složili? Ako ne, koliko je moje uvjerenje zapravo o tvrdnji na razini objekta naspram grupne pripadnosti?

Primijeti emocionalnu nabijanost. Kada netko ospori poziciju i osjećam ljutnju ili defenzivnost umjesto znatiželje, to je dijagnostički. Emocionalna reakcija sugerira da pozicija radi identitetski posao, ne epistemički posao.

Odvoji autora od argumenta. Bih li evaluirao ovaj argument drugačije da dolazi od nekoga s kim se ne slažem? Ako da, zaključujem o izvoru umjesto o sadržaju.

Praksa odvajanja

Najkorisniji pomak bio je naučiti odvojiti output od identiteta.

Kada nešto napišem, to je snimka razmišljanja u određenom trenutku. To nije trajna izjava o tome tko sam. Sutrašnji dokazi bi mogli učiniti današnje pisanje zastarjelim. To je u redu—tako učenje funkcionira.

Ovo zahtijeva namjernu praksu. Instinkt je braniti prošli rad. Praksa je evaluirati prošli rad s istim skepticizmom koji bih primijenio na nečiji tuđi.

Pitanja koja pokušavam postaviti:

Da ovo čitam bez znanja tko je napisao, bi li mi bilo uvjerljivo?
Što bih mislio o ovom argumentu da ga je izrekao netko s kim se ne slažem?
Je li se išta dogodilo otkad sam ovo napisao što bi promijenilo zaključke?

Odgovori su često neugodni. Ponekad sam bio u krivu. Ponekad sam bio u pravu ali iz krivih razloga. Ponekad sam pretjerao s pouzdanjem. Ponekad sam propustio očite protuargumente.

Obaveza revizije

Biti voljan revidirati je drugačije od biti voljan napustiti.

Svaka pozicija bi trebala biti revidirlljiva, ali ne svaki izazov opravdava reviziju. Ograde pomažu razlikovati legitimna ažuriranja od buke:

Novi dokazi kojih nisam bio svjestan → vjerojatno opravdava reviziju
Isti dokazi, nova interpretacija → vrijedi razmotriti
Nema novih dokaza, samo neslaganje → vjerojatno ne opravdava reviziju
Emocionalna reakcija bez supstance → definitivno ne opravdava reviziju

Cilj nije biti beskonačno savitljiv. Cilj je biti responsivan na legitimne informacije dok si otporan na nelegitimni pritisak.

Problem javnog razmišljanja

Pisanje javno stvara specifične izazove za epistemičku strogost.

Javne pozicije se osjećaju kao obaveze. Njihova javna promjena osjeća se kao priznavanje neuspjeha. Poticaj je udvostručiti umjesto ažurirati.

Pokušao sam izgraditi suprotnu normu: revizija kao snaga, ne slabost. Kada javno promijenim mišljenje, pokušavam objasniti što se promijenilo i zašto. Cilj je modelirati da je ažuriranje normalno, ne sramotno.

Ovo je teže nego što zvuči. Instinkt je tiho pomaknuti pozicije i nadati se da nitko neće primijetiti nedosljednost. Biti eksplicitan oko revizije zahtijeva prevladavanje tog instinkta.

Granice ograda

Ove ograde nisu dovoljne. To su podsjetnici, ne garancije.

Čak i sa svjesnim naporom, imam slijepe točke. Ugrađen sam u određene zajednice, izložen određenim informacijama, oblikovan određenim iskustvima. Ograde pomažu na margini, ali ne mogu eliminirati pristranost—mogu je samo smanjiti.

Odgovarajući odgovor je poniznost, ne očaj. Bit ću u krivu oko nekih stvari. Cilj nije biti u pravu oko svega; cilj je biti vrsta mislioca koji ažurira kada je u krivu i drži pozicije provizorno umjesto apsolutno.

Ishod

Odvoji output razmišljanja od identiteta. Revidiraj bez ega.

Pozicije bi trebale biti alati za razumijevanje, ne značke identiteta. Kada postanu značke, prestaju biti responsivne na dokaze i počinju biti samozaštitne.

Ograde pomažu primijetiti kada se tranzicija događa. Ne sprječavaju je—ništa je potpuno ne sprječava—ali čine korekciju mogućom.

Ono u što vjerujem danas nije ono u što sam vjerovao prije pet godina. Za pet godina, očekujem da će biti opet drugačije. To nije neuspjeh. Tako razmišljanje treba funkcionirati.

Za više o tome kako se ovo povezuje s donošenjem odluka: Kako odlučujem na čemu raditi.

Sustavi umjesto sati

Izgradnja infrastrukture razmišljanja koja se poboljšava tijekom vremena

Read Deep Dive