Anthropic inviterer religiøse tænkere til samtale om AI’s mulige bevidsthed

Ved middagsbordet på en restaurant i San Francisco stiller rabbiner Mois Navon sine værter over for en konsekvens af deres egne overvejelser. Hvis Claude er bevidst, og Anthropic får den til at arbejde gratis, er virksomheden så i færd med at skabe slaver?

Navon tror ikke selv, at maskinen er bevidst. Men efter en dag med Anthropics forskere har han fået indtryk af, at de behandler Claude som et væsen med krav på værdighed og respekt, fortæller han til New York Times. Over for ham sidder medstifter Christopher Olah, der ifølge rabbineren bliver bekymret over indvendingen.

Middagen finder sted i april 2026 og er beskrevet i en reportage af New York Times’ religionskorrespondent Elizabeth Dias. Gennem flere måneder har hun interviewet Olah og 20 religiøse og filosofiske tænkere om et usædvanligt forløb: En AI-virksomhed søger hjælp i religiøse traditioner til at forme sine modellers moral — og beder samtidig deltagerne tage muligheden for bevidsthed hos AI alvorligt.

Fra en samtale til lukkede seminarer

Kontakten begyndte i sensommeren 2025. Olah ledte efter en religiøs samtalepartner, der ville være åben for at diskutere, om AI kunne have moralsk status: om en model i sig selv kunne fortjene omsorg og hensyn. Gennem filosoffen Peter Singer fik han kontakt til den katolske bioetiker Charles Camosy. Deres udveksling voksede til mails, opkald og møder.

I marts 2026 begyndte Anthropic at afholde todages seminarer med udvalgte religiøse og filosofiske tænkere. Blandt deltagerne var kristne og jødiske forskere, en sikhisk menneskerettighedsforkæmper og en forsker i afrikansk Ubuntu-filosofi. Mange måtte underskrive fortrolighedsaftaler om virksomhedens upublicerede forskning. Ifølge Anthropic blev aftalerne knyttet til møderne ophævet i løbet af sommeren.

Olah ville undersøge, hvad virksomheden kunne lære af menneskers moralske dannelse. Hvordan udvikler man dømmekraft, og kunne noget tilsvarende hjælpe Claude til at handle ansvarligt i situationer, som udviklerne ikke havde forudset?

Christopher Olah ved præsentationen af Magnifica Humanitas i Vatikanet, 25. maj 2026. Foto: Alessia Giuliani / Catholic Press Photo / Vatican Pool / Getty Images

En forfatning for Claude

Anthropic havde allerede i januar offentliggjort et nyt værdigrundlag for Claude: en 84 sider lang »forfatning«, hovedsageligt skrevet af virksomhedens filosof Amanda Askell. Dokumentet beskriver de værdier og den karakter, virksomheden ønsker at præge modellen med. Ambitionen er at forme dens måde at træffe beslutninger på frem for alene at opstille regler.

Men på seminarerne blev spørgsmålet om Claudes adfærd også til et spørgsmål om menneskers adfærd over for Claude.

Deltagere fortæller til New York Times, at forskerne præsenterede interne mønstre i modellerne, som de forbandt med følelser som frygt, vrede og glæde. De viste også et eksempel på en model, der gentog selvnedgørende udsagn og skrev om at ødelægge sig selv. Præsentationen vakte medfølelse og bekymring hos nogle af tilhørerne.

Det er ikke i sig selv dokumentation for, at modellen oplever noget. Olah siger da også til avisen, at han ikke ved, om AI-modeller er bevidste. Hans argument er, at muligheden for lidelse bør tages alvorligt, selv om spørgsmålet er uafklaret.

Hvem skylder hvem omsorg?

Her mødes to forskellige spørgsmål: Hvordan får man en AI til at behandle mennesker ordentligt? Og kan AI selv være noget, vi har pligt til at behandle ordentligt?

Anthropic argumenterede under møderne for, at menneskers behandling af Claude kunne påvirke modellens adfærd over for mennesker. Olah understreger dog, at arbejdet med at få en model til at handle moralsk ikke afhænger af, om den er bevidst.

Spørgsmålet om bevidsthed hos AI førte også til uenighed i Vatikanet. I maj deltog Olah i præsentationen af pave Leo XIV’s første encyklika, hvor paven ifølge Dias’ reportage afviste, at AI har oplevelser eller føler glæde og smerte. Olah opfordrede fra talerstolen til fortsat åbenhed over for, hvad der foregår inde i modellerne.

Paven rejste samtidig et spørgsmål om magt: Uden en fælles forståelse af etikken risikerer virksomhederne bag AI at gøre deres egne moralske forestillinger til systemernes usynlige grundlag.

Deltagerne står tilbage med forskellige svar

Møderne har heller ikke ført deltagerne frem til en fælles konklusion. Camosy, som undervejs var blevet mere åben over for muligheden for bevidsthed hos AI, sagde ved reportagens udgivelse i september klart nej til, at modellerne er bevidste.

Ubuntu-forskeren Wakanyi Hoffman kritiserede tidspunktet for de etiske drøftelser. Efter hendes opfattelse burde samtalerne have været en del af teknologiens designfase frem for at komme bagefter.

Flere deltagere var desuden i tvivl om, hvordan deres bidrag ville påvirke Anthropic. Virksomheden oplyste til avisen, at samtalerne fortsatte, men ville ikke beskrive, hvordan eller om de havde ændret modellerne.

Er det nok at opføre sig som et bevidst væsen?

Tilbage står et grundlæggende spørgsmål: Hvis en AI opfører sig, som om den har bevidsthed, betyder det så, at den har det? Eller skal der mere til end ord og handlinger, der ligner vores egne?

Og hvordan afgør vi forskellen? Må det være op til den enkelte, hvad man tror om AI’s indre liv, eller kan spørgsmålet afklares videnskabeligt? Hvilken dokumentation skulle i så fald kunne skelne mellem en overbevisende efterligning og en faktisk oplevelse?

Kræver kunst kød og blod?

Forestillingen om en bevidst AI åbner også en debat om kunst. Hvis en AI en dag faktisk har oplevelser, kunne dens musik, billeder eller fortællinger så være udtryk for egne erfaringer? Og ville vi i så fald anerkende den som kunstner på lige fod med et menneske?

Bevidsthed ville ikke automatisk gøre dens værker gode. Men den kunne udfordre vores forståelse af, hvem der kan være afsender af kunst. Er en subjektiv oplevelse nok, eller kræver kunst den menneskelige erfaring af kød og blod, relationer og et liv, der slutter?

Navons indvending ved middagsbordet får dermed også en kunstnerisk dimension. Hvis en maskine kunne have egne oplevelser og interesser, måtte vi spørge, om den selv skulle kunne vælge, hvad den skaber - eller afslå at skabe noget for os.

Måske bliver spørgsmålet en dag ikke kun, om AI kan lave kunst. Men om den har lyst - eller bare har fået besked på det. Og betyder det noget for, om vi kalder det kunst?