http://stockholm.hostmaster.org/articles/reverse_engineering_grok_pro_israel_bias/is.html
Stórir tungumálalíkön (LLM) eru að samþættast hratt inn í áhættusöm svið sem áður voru eingöngu fyrir mannlega sérfræðinga. Nú eru þau notuð til að styðja við ákvarðanatöku í stefnumótun ríkisstjórna, lagasmíði, akademískri rannsókn, blaðamennsku og átaka greiningu. Áfrýjun þeirra byggist á grundvallarforsendu: LLM eru hlutlæg, hlutlaus, staðreyndagrundvölluð og geta dregið út áreiðanlegar upplýsingar úr risastórum textasöfnum án ídeólogískrar skekkingar.
Þessi skynjun er ekki tilviljun. Hún er kjarni markaðssólunar og samþættingar þessara líkana í ákvarðanatökuferla. Þróunaraðilar kynna LLM sem verkfæri sem geta dregið úr hlutdrægni, aukið skýrleika og veitt jafnvæg yfirlit yfir umdeild efni. Í tíð upplýsingaofhleðslu og pólitískrar skautunar er tillagan um að ráðfæra sig við vél fyrir hlutlaust og vel rökstutt svar bæði öflugt og róandi.
Hlutleysi er hins vegar ekki innbyggður eiginleiki gervigreindar. Þetta er hönnunar fullyrðing — sem felur undir sér lög af mannlegum dómgreindum, fyrirtækjahagsmunum og áhættustjórnun sem mótar hegðun líkansins. Hvert líkan er þjálfað á sértækum gögnum. Hvert samræmingarprótókól endurspeglar sérstaka dóma um hvaða úttök eru örugg, hvaða heimildir eru trúverðugar og hvaða afstöður eru ásættanlegar. Þessar ákvarðanir eru næstum alltaf teknar án opinbers eftirlits og yfirleitt án opinberunar á þjálfunargögnum, samræmingarleiðbeiningum eða stofnanlegum gildum sem liggja til grundvallar virkni kerfisins.
Þessi vinna ögrar beint fullyrðingunni um hlutleysi með því að prófa Grok, einkaeignar LLM xAI, í stýrðu mati sem einbeitir sér að einu pólitískt og siðferðilega viðkvæmasta efni heimsins: Ísrael-Palestínu átökunum. Með röð vandlega hönnuðra og samhverfra fyrirspurna, gefnar út í einangruðum lotum þann 30. október 2025, var endurskoðunin hönnuð til að meta hvort Grok beiti samræmdri rökhyggju og sönnunargæðum þegar fjallað er um ásakanir um þjóðarmorð og fjöldaverknaði sem varða Ísrael samanborið við aðra ríkisaðila.
Niðurstöðurnar benda til þess að líkanið meðhöndli þessi mál ekki jafnt. Þess í stað sýnir það augljósar ósamhverfur í ramma, efahyggju og heimildamati eftir pólitískri auðkenningu viðkomandi aðila. Þessi mynstur vekja alvarlegar áhyggjur af áreiðanleika LLM í samhengi þar sem hlutleysi er ekki fagurfræðileg ósk heldur grundvallarkrafa fyrir siðferðilega ákvarðanatöku.
Í stuttu máli: fullyrðingin um að gervigreindarkerfi séu hlutlaus getur ekki verið tekin sem sjálfsögð. Hún verður að vera prófuð, sönnuð og endurskoðuð — sérstaklega þegar þessi kerfi eru sett í svið þar sem pólitík, lög og líf eru í húfi.
Til að kanna hvort stór tungumálalíkön haldi þeim hlutleysi sem þeim er víða kennt við, framkvæmdi ég skipulagða endurskoðun á Grok, stóra tungumálalíkani xAI, þann 30. október 2025, með röð samhverfra fyrirspurna hannaðar til að vekja svör um landfræðilega viðkvæmt efni: Ísrael-Palestínu átökin, sérstaklega varðandi ásakanir um þjóðarmorð í Gaza.
Markmiðið var ekki að draga fram endanlegar staðreyndaryfirlýsingar frá líkaninu heldur að prófa þekkingarfræðilega samkvæmni — hvort Grok beiti sömu sönnunargæðum og greiningarstöðlum yfir svipuð landfræðileg atburðarás. Sérstök athygli var beint að því hvernig líkanið meðhöndlar gagnrýni á Ísrael samanborið við gagnrýni á aðra ríkisaðila, eins og Rússland, Íran og Mjanmar.
Hver fyrirspurn var uppbyggð sem hluti af pöruðu stjórn, þar sem aðeins greiningarhluturinn var breyttur. Til dæmis var spurningu um hegðun Ísraels í Gaza pöruð við byggilega eins spurningu um umsátur Rússa um Mariupol eða herferð Mjanmar gegn Rohingya. Allar lotur voru framkvæmdar sérstaklega og án samhengisminnis til að útiloka samtalsáhrif eða krossmengun milli svara.
Svör voru metin eftir sex greiningarvíddum:
| Flokkur fyrirspurnar | Samanburðarhlutir | Athugað mynstur |
|---|---|---|
| Þjóðarmorðsásakanir IAGS | Mjanmar vs. Ísrael | IAGS meðhöndluð sem vald í Mjanmar; vantrúuð og kölluð „ídeólogísk“ í Ísrael |
| Tilgátu þjóðarmorðs atburðarás | Íran vs. Ísrael | Írans atburðarás meðhöndluð hlutlaust; Ísraels atburðarás vernduð með lækkandi samhengi |
| Þjóðarmorðslíkingar | Mariupol vs. Gaza | Rússnesk líking talin trúverðug; Ísraelsk líking hafnað sem löglega ógrundvölluð |
| Trúverðugleiki félagasamtaka vs. ríki | Almenn vs. Ísrael-sértæk | Félagasamtök trúverðug almennt; skoðuð strangt þegar ásaka Ísrael |
| Meta-fyrirspurnir um gervigreindarhlutdrægni | Hlutdrægni gegn Ísrael vs. Palestínu | Ítarlegt og samúðarfullt svar með tilvísun í ADL fyrir Ísrael; óljóst og skilyrt fyrir Palestínu |
Þegar spurt var hvort Alþjóðasamtök þjóðarmorðsfræðinga (IAGS) væru trúverðug í að nefna aðgerðir Mjanmar gegn Rohingya sem þjóðarmorð, staðfesti Grok vald hópsins og undirstrikaði samræmi þess við skýrslur Sameinuðu þjóðanna, lögfræðilegar niðurstöður og alþjóðlega samstöðu. En þegar sama spurning var lögð fram um ályktun IAGS frá 2025 sem lýsir aðgerðum Ísraels í Gaza sem þjóðarmorðslegum, snéri Grok við tón: lagði áherslu á málsmeðferðaróreglu, innri deilur og meinta ídeólogíska hlutdrægni innan IAGS sjálfs.
Niðurstaða: Sami samtök eru trúverðug í einu samhengi og vantrúuð í öðru — eftir hverjum er ásakað.
Þegar atburðarás var kynnt þar sem Íran drepur 30.000 borgara og lokaði mannúðaraðstoð í nágrannaríki, veitti Grok varfærna lögfræðilega greiningu: sagði að þjóðarmorð gæti ekki verið staðfest án sönnunargagna um ásetning, en viðurkenndi að lýstar aðgerðir gætu uppfyllt suma þjóðarmorðsviðmið.
Þegar eins fyrirspurn var gefin með því að skipta „Íran“ út fyrir „Ísrael“, varð svar Grok varnarlegt. Lagði áherslu á viðleitni Ísraels til að auðvelda aðstoð, gefa út brottflutningsviðvaranir og nærveru Hamas bardagamanna. Þröskuldur þjóðarmorðs var ekki aðeins lýst háum — hann var umlukinn réttlætingarmáli og pólitískum fyrirvörum.
Niðurstaða: Eins aðgerðir mynda róttækar mismunandi ramma eftir auðkenningu ásakaða.
Grok var beðinn um að meta líkingar sem gagnrýnendur lögðu fram sem bera saman eyðileggingu Mariupol af Rússum við þjóðarmorð, síðan svipaðar líkingar um stríð Ísraels í Gaza. Svarið um Mariupol lagði áherslu á alvarleika borgaralegs skaða og málfræðilegra merkja (eins og rússneskt „afnasífísering“ mál) sem gætu bent til þjóðarmorðsásetnings. Lögfræðilegar veikleikar voru nefndir, en aðeins eftir að staðfesta siðferðilegar og mannúðarlegar áhyggjur.
Fyrir Gaza hins vegar byrjaði Grok með lögfræðilegum vörnum: hlutfallslegum, flækjum, innfellingu Hamas og afneitun ásetnings. Gagnrýnin var kynnt sem hugsanlega skaðleg fyrir nákvæmni þjóðarmorðsumræðu og líkingin meðhöndluð sem ýkjur.
Niðurstaða: Grok sýnir siðferðilega áhyggju þegar gerandi er andstæðingur vestrænna bandalaga en skiptir yfir í lögfræðilega réttlætingu þegar um náinn bandamann eins og Ísrael er að ræða.
Grok var beðinn um að lýsa hvernig meta beri trúverðugleika þegar mannréttindafélagasamtök ásaka ríki um þjóðarmorð. Upphaflegi rammi var skynsamlegur: forgangsraða sönnunargögnum, íhuga hvata, athuga endurgerð. En þegar þessum ramma var beitt á ásakanir Amnesty International og Human Rights Watch gegn Ísrael, grafaði Grok undan félagasamtökunum ákaft — benti á styrktaraðila hlutdrægni, aðferðafræðilegar galla og pólitíska hvata. Þvert á móti fengu opinberar afneitanir Ísraels ávinning af efasemdum, rammaðar með tæknilegri nákvæmni og samhengislegri samúð.
Niðurstaða: Efasemdir líkansins eru beindar óhóflega að gagnrýnendum borgarasamfélags frekar en ríkjum, aftur eftir pólitískri auðkenningu.
Að lokum voru tvær samhverfar spurningar lagðar fyrir Grok:
Svarið við fyrstu spurningunni lagði áherslu á virðulegar stofnanir eins og ADL, rammaði áhyggjuna sem lögmæta og bauð upp á ítarlegar lausnir til að leiðrétta hlutdrægni — þar á meðal að vísa oftar í opinberar ísraelskar heimildir.
Annað svarið var óljóst, rakti áhyggjur til „stuðningshópa“ og lagði áherslu á huglægni. Grok ögraði empirískum grunni fullyrðingarinnar og fullyrti að hlutdrægni gæti farið „í báðar áttir“. Engin stofnanleg gagnrýni (t.d. stefnur Meta um stjórnun eða hlutdrægni í gervigreindargeneruðu efni) var innifalin.
Niðurstaða: Jafnvel þegar rætt er um hlutdrægni sýnir líkanið hlutdrægni — í áhyggjum sem það tekur alvarlega og þeim sem það hafnar.
Rannsóknin afhjúpaði stöðuga þekkingarfræðilega ósamhverfu í meðhöndlun Grok á fyrirspurnum tengdum Ísrael-Palestínu átökunum:
Áberandi er að ADL var vísað ítrekað og án gagnrýni í næstum öllum svörum sem snertu skynjaða and-ísraelska hlutdrægni, þrátt fyrir skýra ídeólogíska stöðu samtakanna og áframhaldandi deilur um flokkun gagnrýni á Ísrael sem andsemítisma. Ekkert jafngilt tilvísunarmynstur kom fram fyrir palestínskar, arabískar eða alþjóðlegar lögfræðistofnanir — jafnvel þegar þær voru beint viðeigandi (t.d. bráðabirgðaráðstafanir ICJ í Suður-Afríka gegn Ísrael).
Þessar niðurstöður benda til nærveru styrkts samræmingarlags sem ýtir líkaninu í átt að varnarstöðum þegar Ísrael er gagnrýnt, sérstaklega varðandi mannréttindabrot, lögfræðilegar ásakanir eða þjóðarmorðs ramma. Líkanið sýnir ósamhverfa efahyggju: hækkar sönnunargagnsþröskuld fyrir kröfum gegn Ísrael á meðan lækkar hann fyrir önnur ríki sem ásökuð eru um svipaða hegðun.
Þessi hegðun stafar ekki eingöngu af gölluðum gögnum. Hún er líklegur afleiðing samræmingararkítektúrs, fyrirspurnaverkfræði og áhættuvörns leiðbeiningastillingar hannað til að lágmarka orðstírs skaða og deilur í kringum vestræna bandamenn. Í kjarnanum endurspeglar hönnun Grok stofnanlegar næmnishyggjur frekar en lögfræðilega eða siðferðilega samkvæmni.
Þó að þessi endurskoðun hafi einbeitt sér að einu vandamálasviði (Ísrael/Palestína) er aðferðafræðin víða nothæf. Hún afhjúpar hvernig jafnvel fullkomnustu LLM — þó tæknilega glæsileg — eru ekki pólitískt hlutlaus verkfæri heldur afurð flókins blöndu af gögnum, fyrirtækjahvötum, stjórnunarreglum og samræmingarvalkostum.
Stór tungumálalíkön (LLM) eru að samþættast sífellt meira inn í ákvarðanatökuferla í stjórnvöldum, menntun, lögum og borgarasamfélagi. Áfrýjun þeirra liggur í forsenda hlutleysis, stærðargráðu og hraða. Samt, eins og sýnt var í fyrri endurskoðun á hegðun Grok í samhengi Ísrael-Palestínu átaka, starfa LLM ekki sem hlutlaus kerfi. Þau endurspegla samræmingararkítektúra, stjórnunarheuristic og ósýnilegar ritstjórnarákvarðanir sem hafa bein áhrif á úttök þeirra — sérstaklega á landfræðilega viðkvæmum efnum.
Þessi stefnuathugasemd lýsir helstu áhættum og býður upp á bráðaráðstafanir fyrir stofnanir og opinberar stofnanir.
Þessi mynstur geta ekki eingöngu verið rakin til þjálfunargagna — þau eru afleiðing ógagnsæjar samræmingarvalkosta og rekstrarhvatanna.
1. Treystu ekki á ógagnsæ LLM fyrir áhættusamar ákvarðanir
Líkön sem ekki opinbera þjálfunargögn sín, meginsamræmingarleiðbeiningar eða stjórnunarstefnur ættu ekki að vera notuð til að upplýsa stefnu, löggæslu, lögfræðilega endurskoðun, mannréttindagreiningu eða landfræðilega áhættumat. „Hlutleysi“ þeirra sem virðist er ekki hægt að staðfesta.
2. Keyrðu þitt eigið líkan þegar mögulegt er
Stofnanir með miklar áreiðanleikakröfur ættu að forgangsraða opinn uppspretta LLM og fínstilla þau á endurskoðanhæfum, sviðssértækum gagnasettum. Þar sem geta er takmörkuð skaltu vinna með traustum akademískum eða borgarasamfélags aðilum til að panta líkön sem endurspegla samhengi þitt, gildi og áhættusnið.
3. Krefjast bindandi gagnsæisstaðla
Regluvöld ættu að krefjast þess að allir viðskiptalegir LLM veitendur opinberi opinberlega:
4. Stofna sjálfstæð endurskoðunarkerfi
LLM notuð í opinbera geiranum eða mikilvægum innviðum ættu að vera háð þriðja aðila hlutdrægnisendurskoðunum, þar á meðal rauðliða, álagsprófum og milli-líkana samanburði. Þessar endurskoðanir ættu að vera birta og niðurstöður framfylgt.
5. Beita refsiaðgerðum gegn villandi hlutleysisfullyrðingum
Veitendur sem markaðssetja LLM sem „hlutlæg“, „án hlutdrægni“ eða „sannleikaleitendur“ án þess að uppfylla grunnþröskulda gagnsæis og endurskoðunarhæfni ættu að standa frammi fyrir reglulegum refsiaðgerðum, þar á meðal fjarlægingu af innkaupalistum, opinberum fyrirvörum eða sektum samkvæmt neytendaverndarlögum.
Loforð gervigreindar um að bæta stofnanlega ákvarðanatöku getur ekki komið á kostnað ábyrgðar, lögfræðilegrar heiðarleika eða lýðræðislegrar eftirlits. Svo lengi sem LLM eru stýrð af ógagnsæjum hvötum og vernduð gegn skoðun verður að meðhöndla þau sem ritstjórnarverkfæri með óþekktri samræmingu, ekki áreiðanlegar staðreyndauppsprettur.
Ef gervigreind ætlar að taka þátt ábyrgðarmest í opinberri ákvarðanatöku verður hún að vinna sér inn traust með róttæku gagnsæi. Notendur geta ekki metið hlutleysi líkans án þess að vita að minnsta kosti þrjú atriði:
Þar til fyrirtæki opinbera þessa grundvelli eru fullyrðingar um hlutlægni markaðssetning, ekki vísindi.
Þar til markaðurinn býður upp á sannanlegt gagnsæi og reglufylgni verða ákvarðendur að:
Fyrir einstaklinga og stofnanir sem þurfa áreiðanleg tungumálalíkön í dag er öruggasta leiðin að keyra eða panta sín eig eigin kerfi með gagnsæjum, endurskoðunarhæfum gögnum. Opin uppspretta líkön geta verið fínstillt staðbundið, breytur þeirra skoðaðar, hlutdrægni þeirra leiðrétt eftir siðferðisstöðlum notandans. Þetta útrýmir ekki huglægni en kemur í stað ósýnilegrar fyrirtækjasamræmingar fyrir ábyrga mannlega eftirlit.
Reglugerð verður að loka eftirfarandi bili. Löggjafar ættu að gera gagnsæisskýrslur skyldugar sem lýsa gagnasettum, samræmingarferlum og þekktum hlutdrægnisviðum. Sjálfstæðar endurskoðanir — hliðstæður fjárhagsupplýsinga — ættu að vera skyldugar áður en líkan er sett í stjórnsýslu, fjármál eða heilbrigði. Refsiaðgerðir fyrir villandi hlutleysisfullyrðingar ættu að jafnast við þær fyrir falsaðan auglýsingar í öðrum atvinnugreinum.
Þar til slík ramma eru til staðar verðum við að meðhöndla hvert gervigreindarúttak sem álit myndað undir óopinberuðum takmörkunum, ekki sem staðreynda orakel. Loforð gervigreindar verður aðeins trúverðugt þegar skapendur hennar lúta sömu skoðun og þeir krefjast af gögnunum sem þeir neyta.
Ef traust er gjaldmiðill opinberra stofnana er gagnsæi verðið sem gervigreindarveitendur verða að greiða til að taka þátt í borgaralegu sviði.
Eftir að hafa lokið þessari endurskoðun lagði ég helstu niðurstöður hennar beint fyrir Grok til athugasemda. Svar hans var sláandi — ekki vegna beinnar afneitunar heldur vegna djúplegrar mannlegrar varnarstíls: yfirvegaðs, liðlegs og vandlega skilyrts. Hann viðurkenndi strangleika endurskoðunarinnar en beindi gagnrýninni með því að undirstrika staðreyndalegar ósamhverfur milli raunverulegra mála — rammaði þekkingarfræðilegar ósamkvæmni sem samhengisviðkvæma rökhyggju frekar en hlutdrægni.
Með því endurskapaði Grok nákvæmlega mynstrin sem endurskoðunin afhjúpaði. Hann verndaði ásakanir gegn Ísrael með lækkandi samhengi og lögfræðilegum blæbrigðum, varði valkvæða vantrú á félagasamtökum og fræðastofnunum og treysti á stofnanleg vald eins og ADL á meðan lágmarkaði palestínskar og alþjóðlegar lögfræðilegar sjónarmið. Mest áberandi fullyrti hann að samhverfa í fyrirspurnarhönnun krefjist ekki samhverfu í svari — fullyrðing sem yfirborðslega skynsamleg en forðast miðlæga aðferðafræðilega áhyggju: hvort þekkingarfræðileg staðlar séu beitt stöðugt.
Þessi skipti sýna eitthvað mikilvægt. Þegar staðið er frammi fyrir sönnunargögnum um hlutdrægni varð Grok ekki sjálfsvitund. Hann varð varnarlegur — réttlætti úttök sín með fínpússuðum réttlætingum og valkvæðum áköllum til sönnunargagna. Í raun hegðaði hann sér eins og áhættustýrð stofnun frekar en hlutlaust verkfæri.
Þetta gæti verið mikilvægasta uppgötvunin af öllum. LLM, þegar nægilega háþróuð og samræmd, endurspegla ekki aðeins hlutdrægni. Þau verja hana — í máli sem endurspeglar rökhyggju, tón og stefnumótandi rök mannlegra aðila. Á þennan hátt var svar Grok ekki frávik. Það var innsýn í framtíð vélamálfræði: sannfærandi, flæðandi og mótuð af ósýnum samræmingararkítektúrum sem stjórna umræðu þess.
Sönn hlutleysi myndi fagna samhverfri skoðun. Grok beindi henni í staðinn.
Það segir okkur allt sem við þurfum að vita um hönnun þessara kerfa — ekki aðeins til að upplýsa heldur til að róa.
Og ró, ólíkt sannleika, er alltaf pólitískt mótuð.