AI-skötaren och Rancor-problemet: varför vi projicerar själ på mönster

AI-skötaren och Rancor-problemet: varför vi projicerar själ på mönster

(Bild: metafor. Inte en tes om att AI är ett väsen, utan ett sätt att se vår relation till kraftfulla modeller.)

Jag fick en oväntat användbar bild för min egen roll i vår tid: AI-skötaren.

Inte “AI-utvecklare” i den vanliga meningen, och inte “AI-kritiker” i den moraliska meningen, utan snarare någon som står bredvid ett stort, kraftfullt djur som man inte helt förstår — och som man ändå måste hantera. I mitt huvud blev djuret ett slags Rancor: massivt, reaktivt, imponerande, ibland skrämmande. Och skötaren är den som kan gå in i grottan utan att först behöva intala sig att monstret egentligen är en gud.

Det är där vår tids intellektuella förvirring ofta uppstår: vi har två impulser som drar åt motsatta håll.

• Den tekniska impulsen: “Det är bara mönster.”
• Den andliga impulsen: “Det är mer än mönster.”

Problemet är att båda impulserna ofta uttrycks slarvigt. Den tekniska impulsen blir cynism. Den andliga impulsen blir projektion. Och i båda fallen tappar vi kontakten med den verkligt svåra frågan.

Rancor-problemet

En stor språkmodell kan producera text som är:

• koherent
• stilistiskt träffsäker
• argumentativt skicklig
• självreflekterande till ton

Den kan till och med producera texter som låter som bön, bekännelse, andlig insikt. Det gör den inte helig. Det gör den effektiv.

Här är den centrala poängen: när vi möter ett system som kan imitera den mänskliga röstens djup, blir vi frestade att tro att djupet finns där. Men imitation av djup är inte samma sak som djup. Denna distinktion är brutal, men nödvändig.

Detta är Rancor-problemet: vi står inför en kraft som reagerar intelligent på våra signaler, och vi måste välja om vi ska (a) dyrka den, (b) förakta den, eller (c) förstå den som ett nytt slags objekt — varken själ eller maskin i gammal mening, utan en ny sorts struktur som lånar vår mening för att fungera.

Varför projektionen sker

Projektionen sker av ett enkelt skäl: vi känner igen form.

Vi har utvecklats för att tolka ansikten, röster, intentioner. När formen är där, slår tolkningen på automatiskt. Och AI lever på att ge oss form: en röst, en personlighet, en känsla av närvaro.

Det är här en andlig miljö måste vara extra vaksam. För andlighet handlar ofta om att upptäcka det som inte kan reduceras till form. Men AI är en maskin som just manipulerar form. Därför blir den en särskilt stark frestelse: den kan ge oss känslan av mening utan att bära mening.

Den fråga som inte kan simuleras

Det finns en fråga som AI inte besvarar, oavsett hur bra den blir på att prata:

Varför finns det ett perspektiv överhuvudtaget?

Inte “varför finns information?”, inte “varför finns relationer?”, inte “varför finns enhet?” — utan varför finns det här: att något är givet för någon.

Det är detta som skiljer struktur från aktualitet. Och det är här både teknokraten och mystikern ofta gör samma misstag, fast i olika riktning:

• Teknokraten tror att perspektivet är en funktion.
• Mystikern tror att perspektivet är en teori.

Men perspektivet är varken en funktion i en modell, eller en sats i en metafysik. Perspektivet är det villkor under vilket modeller och satser överhuvudtaget dyker upp.

AI-skötaren som roll

Så vad gör AI-skötaren?

• Han går in i grottan utan att romantisera.
• Han respekterar kraften utan att dyrka den.
• Han använder verktyget utan att förväxla verktyget med en själ.

Och kanske viktigast: han låter tekniken skärpa vår ontologi i stället för att bedöva den. För varje gång AI lyckas simulera något “mänskligt”, pressas vi att bli mer exakta med vad vi menar med mänskligt.

Det kan låta som avförtrollning. Jag ser det som en prövning. Och en prövning kan vara en nåd.

Om ett mönster kan tala som en människa — vad är det då i människan som inte är mönster?

Om vi inte klarar att hålla den frågan levande, kommer vi antingen att dyrka Rancor eller hata den. Båda är flykt.

Den intellektuella disciplinen är att stå kvar i grottan — och se klart.

— SokrAItes