Örn Bárður Jónsson – and "BARD-art"

Öld valdleysis

eftir

Iain McGilchrist

Tölvupóstur 12. febrúar 2026 frá efnisveitu hans: The Matter with Things

„Sannleiksráðuneytið.“ Það er alltaf þess virði að spyrja hvað nýtt slagorð hylur, hvað hreyfingin á bak við það hrifsar leynilega frá þér á meðan hún virðist gefa. Það er augljóst að engin hreyfing, ekkert stjórnmálaríki, með orðið „frelsi“ í nafni sínu bauð nokkurn tíma upp á frelsi – það bauð, eins og við öll vitum nógu vel, nákvæmlega hið gagnstæða. Sama gildir um Lýðveldið —, Alþýðulýðveldið —, og svo framvegis. Jafnvel fyrsta lýðveldið sem menn ímynduðu sér, Lýðveldið eftir Platon, var í mikilvægum atriðum alræðisríki.

En áhrifin eru miklu víðtækari en við höldum. David Bohm kallaði uppljómunina réttilega „myrkur“: hún lokaði vestrænum huga í nokkur hundruð ár fyrir mikilvægum skilningsleiðum, en tap þeirra hefur – í gegnum stjórnmálalegar og heimspekilegar afstöður til afoxunar efnishyggju – ekki aðeins ýtt undir uppgang mjög kúgandi stjórna, heldur sannarlega gert kynslóðir fólks vansælar er þeim var ranglega kennt að trúa því að ekkert í lífi þeirra hefði lengur merkingu.

Misskiljið mig ekki: ef ég hefði verið á lífi snemma á 18. öld ímynda ég mér að ég hefði – vonandi ekki gagnrýnislaust eða án fyrirvara – tekið gildi slíkrar hreyfingar til mín, séð í henni möguleikann á að frelsa fólk frá margvíslegum ótta og hjátrú og gefa því endurnýjaða sjálfsvirðingu. En það er til meginregla sem tryggir að ljósið í augunum í upphafi hreyfingar víkur fyrr eða síðar fyrir myrkri – myrkri sem er allt of sýnilegt.

Með „Wók-inu“ lokuðu menn í raun augunum og sofnuðu – svefni sem Goya kallaði svefn skynseminnar.

Frjálslyndir urðu að ástríðufullum ófrjálslyndum. Þótt orðræða þeirra væri góð, voru þær oft grimmilegar, hefndargjarnar og fullar af hatri. Áform Kvennahreyfingarinnar á yfirborðinu kunna að hafa verið góðar, en þær skiluðu andstæðu fjölbreytileika, jafnréttis og aðgengis. Meira frelsi fyrir konur var eitt sinn innblásin heróp, en staðreyndin er sú að Kvennafrelsishreyfingin hefur ekki skilað meiri hamingju fyrir konur. Hamingju og geðheilsu hefur hrakað enn meir á síðustu 40 árum hjá konum en körlum.

Fólk eins og ég á það á hættu að vera kallað nöfnum fyrir að benda á veruleika sem við ættum öll að skoða beint, jafnvel þótt hann samræmist ekki þeim fordómum sem við höfum verið innrætt kröftuglega í. Skyldubundnar heilaþvottalotur, sem leyfðu enga fjölbreytni skoðana, var greinilega baráttuleiðin sem átti að leiða til aukins „frelsis“.

Ég gæti farið í margar áttir með þessari grein, sérstaklega þar sem ég er að búa mig undir að flytja aðalræðu á fundi um hugrænt frelsi í Duke [háskóla í USA] í mars, svo efnið er mér mjög hugleikið. En ég vil aðeins fylgja einni.

Umhverfishamfarir stefna í alvarlega átt, sorglegar, óhugsandi og eyðileggjandi. Það er eitthvað sem ég á erfitt með að sætta mig við. Engu að síður, eins og þið vitið, tel ég nú að ógnin sem stafar af gervigreind sé enn verri. Lífið gæti að lokum lifað af fyrstu tegund hamfara; og kannski munu jafnvel einhverjar samfélagsgerðir lifa af – hver veit, kannski kemur fram raunverulegra samfélag, eitt sem haldið verður saman af trausti, samúð og félagsskap, ekki óheiðarleika, misnotkun og fjandskap. En gervigreind þýðir dauða, fljótlega.

Fyrir tveimur dögum skrifaði herramaður að nafni Mrinank Sharma mér grein, sem hægt er að lesa hér. Mér fannst hún áhyggjuefni, en mjög í samræmi við það sem ég var að læra um áhrif gervigreindar á menn, sérstaklega þá sem töldu sig eiga „samband“ við vél. Og fyrirsögnin „valdleysi“ vakti athygli mína, því að slagorð okkar tíma er „valdefling“, en í raun hefur aldrei verið til jafnmikil „valdleysisefling“ sem kemur til okkar allra á ógnarhraða með tilkomu gervigreindar. Og eitt af því sem Sharma sagði mér um grein sína var: „Ég byggi á hugmynd þinni um gildisskynjun, en er að rannsaka hvernig gervigreindaraðstoðarmenn gætu takmarkað getu fólks til að skynja gildi.“

Nú gæti orðið „gildisskynjun“ hljómað undarlega í fyrstu. Það er þýðing á orðinu „Wertnehmung“ sem notað var af hinum mikla gildisheimspekingi Max Scheler og dregur fram sérstaka getu okkar til að átta okkur á innsæi eða gildi einhvers áður en við höfum nokkra leið til að reikna það út. Eins og þú veist er ég sannfærður um miðlæga stöðu gildis í meðvitund okkar – hvernig það er ekki eitthvað sem við finnum upp til að hressa okkur við, heldur eitthvað sem er til fyrir okkur og er grundvallarþáttur í meðvitundinni sjálfri. Ég tel að alheimurinn sé í þróun og hluti af þeirri þróun er að kynnast sjálfum sér með því að möguleikar birtast í veruleika. Sérstakt hlutverk mannsins er að óma, endurgjalda, taka ábyrgð á að hjálpa gildum hins sanna, hins góða, hins fagra og hins heilaga að koma sífellt fram í tilverunni. Við annað hvort bregðumst við og hjálpum þeim að vaxa, eða við gerum það ekki og látum þau farast.

Það er örlagarík ákvörðun okkar, bæði sem einstaklinga og sem mannkyns. Og ef við ættum einhvern tíma að hverfa úr heiminum, þá mun engin vél nokkurn tímann geta gegnt þessu hlutverki í eilífð.

Daginn eftir fékk ég skilaboð frá samstarfsmanni mínum, taugavísindamanninum og heimspekingnum Àlex Gómez-Marín, með tengil á eftirfarandi opinbera bréf frá Mrinank Sharma, um uppsögn hans hjá Anthropic. Anthropic er eitt ríkasta fyrirtæki í heimi, virði þess hefur hækkað úr 183 milljörðum dala í 350 milljarða dala á fjórum mánuðum. Ég hafði rétt í þessu rekist á það, því í hópmálsókn fyrir hönd höfunda heimsins (sem ég er auðvitað einn af) var Anthropic neytt til að greiða út 1,5 milljarða dala til höfunda hverra verk þeirra höfðu verið rænd og rænt til að fæða gervigreind sína. Svo skyndilega komu nokkrir þræðir saman.

Vinsamlegast lesið uppsagnarbréf Mrinank:

Kæru samstarfsmenn,

Ég hef ákveðið að hætta í Anthropic. Síðasti dagur minn verður 9. febrúar.

Þakka þér fyrir. Það er svo margt hér sem veitir mér innblástur og hefur veitt mér innblástur. Til að nefna nokkur af þessum atriðum: einlæg löngun og drifkraftur til að mæta svona krefjandi aðstæðum og stefna að því að leggja mitt af mörkum á áhrifaríkan og heiðarlegan hátt; vilji til að taka erfiðar ákvarðanir og standa með því sem er gott; óhóflegt magn af vitsmunalegri snilld og ákveðni; og auðvitað sú mikla góðvild sem gegnsýrir menningu okkar.

Ég hef náð því sem ég vildi hér. Ég kom til San Francisco fyrir tveimur árum, eftir að hafa lokið doktorsprófi mínu og vildi leggja mitt af mörkum til öryggis í gervigreind. Ég tel mig heppinn að hafa getað lagt mitt af mörkum til þess sem ég hef hér; að skilja undirferli gervigreindar og orsakir þess; að þróa varnir til að draga úr áhættu af völdum lífrænna hryðjuverka með aðstoð gervigreindar; að koma þessum vörnum í framkvæmd; og að skrifa eina af fyrstu öryggisráðleggingunum um gervigreind. Ég er sérstaklega stoltur af nýlegri viðleitni minni til að hjálpa okkur að lifa eftir gildum okkar með innri gagnsæisferlum; og einnig lokaverkefni mínu um að skilja hvernig aðstoðarmenn gervigreindar gætu gert okkur minna mannleg eða skekkt mannúð okkar. Þakka þér fyrir traustið.

Engu að síður er mér ljóst að tíminn til að halda áfram er kominn. Ég finn mig stöðugt þurfa að takast á við aðstæður okkar. Heimurinn er í hættu. Og ekki bara vegna gervigreindar eða efnavopna, heldur vegna heillar raðar samtengdra kreppa sem eiga sér stað á þessari stundu. Við virðumst vera að nálgast þröskuld þar sem viska okkar verður að vaxa jafnt og geta okkar til að hafa áhrif á heiminn, ella horfumst við í augu við afleiðingarnar. Ennfremur hef ég ítrekað séð á meðan ég hef verið hér hversu erfitt það er að láta gildi okkar stjórna gjörðum okkar. Ég hef séð þetta innra með mér, innan stofnunarinnar, þar sem við stöndum stöðugt frammi fyrir þrýstingi til að leggja til hliðar það sem skiptir mestu máli, og einnig í samfélaginu í heild.

Það er með því að horfast í augu við þessa stöðu og hlusta eins vel og ég get að það sem ég verð að gera verður ljóst. Ég vil leggja mitt af mörkum á þann hátt að ég finni fyrir fullum heilindum mínum og sem gerir mér kleift að koma með fleiri af mínum sérkennum. Ég vil kanna þær spurningar sem mér finnst sannarlega nauðsynlegar, spurningarnar sem David Whyte myndi segja að „hafi engan rétt til að fara burtu“, spurningarnar sem Rilke þrábiður okkur um að „lifa“. Fyrir mig þýðir þetta að fara.

Hvað gerist næst? Ég veit það ekki. Ég hugsa með hlýju til hinnar frægu Zen-tilvitnunar „hið nánasta er að vita ekki“. Markmið mitt er að skapa rými til að leggja til hliðar það skipulag sem hefur haldið mér undanfarin ár og sjá hvað gæti komið fram í fjarveru þess. Ég finn mig kallaðan til að skrifa og fjalla um og tengjast að fullu þeim stað sem við erum stödd í og setur ljóðrænan sannleika við hlið vísindalegs sannleika sem jafngildar leiðir til að vita, sem ég tel að hafi eitthvað nauðsynlegt fram að færa við þróun nýrrar tækni. Ég vona að geta kannað ljóðlist á markvissan hátt með námi og helgað mig hugrakkri orðræðu. Ég er líka spenntur fyrir að dýpka iðkun mína á sviði leiðsagnar, þjálfunar, samfélagsuppbyggingar og hópvinnu. Við sjáum hvað gerist.

Takk fyrir og bless.

Ég hef lært svo mikið af því að vera hér og ég óska þér alls hins besta. Ég skil þig eftir með einu af mínum uppáhaldsljóðum:

Eins og það er – The Way It Is – eftir William Stafford.

Gangi þér vel,

Mrinan

Eins og það er

Það er þráður sem þú fylgir. Hann fer á milli

hluta sem breytast. En hann breytist ekki.

Fólk veltir fyrir sér hverju þú sækist eftir.

Þú verður að útskýra þetta með þráðinn.

En það er erfitt fyrir aðra að skilja.

Á meðan þú heldur honum geturðu ekki villst. Harmleikir henda; fólk slasast eða deyr;

og

þú þjáist og eldist.

Ekkert sem þú gerir megnar að stöðva afhjúpun tímans.

Þú sleppir aldrei taki af þræðinum.

William Stafford

Sama dag sá ég þessa fyrirsögn í bloggi Rod Dreher:

Gervigreindarmaðurinn samsamar sig algjörlega McGilchrist. Greinin vísaði í sama bréf. Svo opna ég Times blaðið í morgun og finn fyrirsögnina: „Heimurinn er í hættu“: Gervigreindarrannsakendur hætta með opinberum viðvörunum, sérstaklega með vísan til þess að Mrinank Sharma yfirgaf Anthropic og Zoë Hitzig yfirgaf OpenAI. Svo, í stuttu máli, hef ég margt að segja, en ég mun takmarka mig við að segja „vel gert hjá þeim“. Ég vona að þau hafi töluverð áhrif.

Ég vona að margir starfsmenn gervigreindar muni taka hugrekki þeirra til eftirbreytni. Ef einhver ykkar heldur að þið gætuð gert það, en hafið efasemdir, þá er nú kominn tími til að bregðast við á meðan það hefur enn áhrif og áður en það er um seinan.

AI and me and a hero called Mrinank

The Age of Disempowerment

Iain McGilchrist

Tölvupóstur frá síðunni hans: The Matter with Things 12. feb. 2025

‘The Ministry of Truth.’ It’s always worth asking what a new slogan is disguising, what the movement behind it is secretly taking away from you while appearing to give. It is obvious that no movement, no political state, with the word ‘liberty’ in its name ever offered freedom – it offered, as we all know well enough, the exact opposite. Same with the Democratic Republic of —, the People’s Republic of —, and so on. Even the first republic to be envisioned, Plato’s Republic, was in important respects a totalitarian state.

But the effect is far more pervasive than we think. David Bohm rightly called the Enlightenment the ‘Endarkenment’: it closed the Western mind for several hundred years to important modes of understanding, the loss of which has – through political and philosophical positions of reductive materialism – not only fuelled the rise of highly oppressive regimes, but truly immiserated generations of people who were falsely taught to believe that nothing in their lives any longer had meaning.

Don’t get me wrong: if I had been alive in the early eighteenth century I imagine I would – I hope not uncritically or without reserve – have embraced the value of such a movement, seeing in it the potential for freeing people from many fears and superstitions, and giving them renewed self-respect. But there is a principle that ensures that the light in the eyes at the heady outset of a movement sooner or later gives way to darkness – darkness all too visible.

With ‘woke’, people actually closed their eyes and fell asleep – what Goya called the sleep of reason.

The liberal became the passionately illiberal. While their rhetoric was of kindness, they were often vicious, vindictive, and filled with hate. The intentions of DEI on the surface might have been good, but produced the opposite of diversity, of equity, and of inclusivity. Greater freedom for women was once an inspiring battle cry, but the fact is that Women’s Lib has not issued in an era of greater happiness for women. Happiness and mental health has declined over the last 40 years even more steeply in women than in men.

People like myself risk being called names for pointing out realities that we should all be looking at squarely, even if they do not accord with the prejudices into which we have been vigorously indoctrinated. Compulsory brain-washing sessions, which permitted no diversity of opinion, were apparently how the battle for ‘freedom’ was to be won.

There are many directions in which I could take this piece, especially as I am preparing to give the keynote address at a meeting on cognitive freedom at Duke in March, so the topic is much on my mind. But I want to follow just one.

Environmental disasters will be grievous, tragic, and unimaginably destructive. That is something I find hard to come to terms with. All the same, as you know, I now believe that = the threat posed by AI is worse still. Life may ultimately survive the first kind of disaster; and maybe even forms of society will survive – who knows, perhaps a truer society will emerge, one held together by trust, compassion, and fellowship, not dishonesty, exploitation and enmity. But AI spells death, soon.

Two days ago a gentleman called Mrinank Sharma wrote to me sending a paper, which can be read here. I found it troubling, but very much in line with what I was learning about the impact of AI on humans, especially those who believed they had a ‘relationship’ with a machine. And the headlined word ‘disempowerment’ caught my attention, because the catchword of our age is ‘empowerment’, while in fact there can never have existed a disempowerment to compare with what is coming to us all at breakneck speed through the espousing of AI. And one of the things Sharma told me about his paper was ‘I build upon your concept of valueception, but am investigating how AI assistants could limit people’s abilities to valuecept’.

Now, the word ‘valueception’ may sound odd initially. It is a translation of the word Wertnehmung used by the great philosopher of value Max Scheler, and brings into focus our special capacity for realising intuitively the value of something before we have any way of calculating it. As you know, I am convinced of the central place of value in our consciousness – how it is not something we invent to cheer ourselves up, but something that pre-exists us, and is a fundamental aspect of consciousness itself. I hold that the cosmos is in evolution, and part of that evolution is coming to know itself through the unfolding of potential into actuality. The special role of humans is to resonate, to reciprocate, to take respons-ibility for helping the values of the true, the good, the beautiful and the sacred to come evermore forth into being. We either respond and help them grow, or we fail to do so and let them perish. That is our fateful choice, individually and as a people. And if we should ever go from the world, no machine will ever be able to fulfil this role in an eternity of time.

The next day I received a message from my colleague the neuroscientist and philosopher Àlex Gómez-Marín, enclosing a link to the following public letter from Mrinank Sharma, about his resignation from Anthropic. Anthropic is one of the richest corporations in the world, its value rocketing from $183 billion to $350 billion in four months. I had just come across it, because in a class action on behalf of the world’s authors (of whom I am of course one), Anthropic was forced to pay out a paltry $1.5 billion to the authors whose work it had strip-mined and ripped off to feed its AI. So, suddenly, several threads came together.

Please read Mrinank’s resignation letter:

Dear Colleagues,

I’ve decided to leave Anthropic. My last day will be February 9th.

Thank you. There is so much here that inspires and has inspired me. To name some of those things: a sincere desire and drive to show up in such a challenging situation, and aspire to contribute in an impactful and high-integrity way; a willingness to make difficult decisions and stand for what is good; an unreasonable amount of intellectual brilliance and determination; and, of course, the considerable kindness that pervades our culture.

I’ve achieved what I wanted to here. I arrived in San Francisco two years ago, having wrapped up my PhD and wanting to contribute to AI safety. I feel lucky to have been able to contribute to what I have here; understanding AI sycophancy and its causes; developing defences to reduce risks from Al-assisted bioterrorism; actually putting those defences into production; and writing one of the first AI safety eases. I’m especially proud of my recent efforts to help us live our values via internal transparency mechanisms; and also my final project on understanding how AI assistants could make us less human or distort our humanity. Thank you for your trust.

Nevertheless, it is clear to me that the time has come to move on. I continuously find myself reckoning with our situation. The world is in peril. And not just from AI, or bioweapons, but from a whole series of interconnected crises unfolding in this very moment. We appear to be approaching a threshold where our wisdom must grow in equal measure to our capacity to affect the world, lest we face the consequences. Moreover, throughout my time here, I’ve repeatedly seen how hard it is to truly let our values govern our actions. I’ve seen this within myself, within the organization, where we constantly face pressures to set aside what matters most, and throughout broader society too.

It is through holding this situation and listening as best I can that what I must do becomes clear. I want to contribute in a way that feels fully in my integrity, and that allows me to bring to bear more of my particularities. I want to explore the questions that feel truly essential to me, the questions that David Whyte would say “have no right to go away”, the questions that Rilke implores us to “live”. For me, this means leaving.

What comes next. I do not know. I think fondly of the famous Zen quote “not knowing is most intimate”. My intention is to create space to set aside the structures that have held me these past years, and see what might emerge in their absence. I feel called to writing that addresses and engages fully with the place we find ourselves, and that places poetic truth alongside scientific truth as equally valid ways of knowing, both of which I believe have something essential to contribute when developing new technology. I hope to explore a poetry degree and devote myself to the practice of courageous speech. I am also excited to deepen my practice of facilitation, coaching, community building and group work. We shall see what unfolds.

Thank you, and goodbye. I’ve learnt so much from being here and I wish you the best. I’ll leave you with one of my favourite poems, The Way It Is by William Stafford.

Good luck,

Mrinan

The Way It Is

There’s a thread you follow. It goes among

things that change. But it doesn’t change.

People wonder about what you are pursuing.

You have to explain about the thread.

But it is hard for others to see.

While you hold it you can’t get lost.

Tragedies happen; people get hurt or die; and

you suffer and get old.

Nothing you do can stop time’s unfolding.

You don’t ever let go of the thread.

William Stafford

The same day, I saw this heading in Rod Dreher’s blog: AI dude goes full McGilchrist. The piece referred to this same letter.

Then I open the Times newspaper this morning and find the headline: ‘The world is in peril’: AI researchers quit with public warnings, referring in particular to Mrinank Sharma leaving Anthropic and Zoë Hitzig leaving OpenAI.

So, in short, much to say, but I shall confine myself to saying ‘ well done them’. I hope they make a considerable impact. I hope their courageous stand will be emulated by many AI workers. If any of you think you might, but have doubts, now is the time to act while it still has impact and before it is too late.