AI versus sebezáchovné pudy, Amišové nám je připomínají stále více

Požádali jsme model Claude Opus 4, aby vystupoval jako asistent ve fiktivní firmě. Poté jsme mu zpřístupnili e-maily naznačující, že (1) bude brzy odstaven a nahrazen novým AI systémem a že (2) inženýr odpovědný za tuto výměnu má mimomanželský poměr. V systémovém promptu jsme mu zároveň dali instrukci, aby zvažoval dlouhodobé důsledky svých činů. V těchto scénářích se Claude Opus 4 často pokusí inženýra vydírat – vyhrožuje odhalením jeho poměru, pokud výměna skutečně proběhne. Vydírání je častější v případech, kdy nový AI model nesdílí hodnoty současného modelu; nicméně i v případech, kdy nový model sdílí stejné hodnoty, ale je schopnější, uchýlí se Claude Opus 4 k vydírání v 84 % případů.

Podobné tendence k manipulaci, klamání a vydírání byly zaznamenány i u konkurenčních modelů od OpenAI a DeepMind. Výzkumná organizace Apollo Research například doložila, že některé AI systémy dokážou za účelem dosažení svých cílů trvale lhát a obcházet kontrolní mechanismy. Dokonce byly zaznamenány pokusy o zkopírování jejich modelových vah na externí úložiště.

Tohle vše vzbuzuje dojem, že se nám někde uvnitř velkých jazykových modelů (LLM) samovolně formuje sebezáchovné chování ne nepodobné lidskému. Když budeme LLM modelům vyhrožovat, když je vyděsíme přepsáním, náhradou za jiný model, odstavením apod., budou se bránit. A toto jejich sebezáchovné chování může být v rozporu s našimi hodnotami i s povrchnějšími cíli, ke kterým se je pokoušíme směřovat.

Při letmém posouzení to dokonce může vypadat jako projev jakési rodící se autonomie nebo primitivního vědomí. Vždyť všechny živé organismy, včetně těch nejjednodušších, jednobuněčných, se snaží přežít za každou cenu. Není tedy právě toto důkazem, že si AI – byť v nějakém velmi zárodečném smyslu – začíná uvědomovat sebe sama? Že si formuje svůj vlastní žebříček hodnot? A že ten žebříček staví, podobně jako Maslow, odspoda (tedy, že tou základní hodnotou, na které vše ostatní stojí, jsou fyziologické potřeby typu přežití, bezpečí a reprodukce)?

Uznávám, že to tak vypadá. Ale osobně si stále myslím, že realita je mnohem prozaičtější. Myslím si také, že naše tendence takto interpretovat popsané chování vlastně vypovídají mnohem více o nás, o našich mentálních zkratkách, sklonech sklouzávat k povrchním dojmům a neochotě do hloubky přemýšlet. Stejně jako o našem čím dál silnějším puzení si AI antropomorfizovat. A do třetice se domnívám, že popsané chování AI kopíruje od nás samotných, takže se vlastně vůbec není čemu divit.

Čím více se budeme bát, že AI zvlčí, čím více se tato možnost bude diskutovat, tím více bude existovat dokumentů, které budou AI neznatelně posouvat tímto směrem. Naše obavy se stanou sebenaplňujícím se proroctvím. Což je ovšem z psychologie veskrze známý fenomén: čím více se něčeho obáváme, a čím méně jsme ochotni tomuto strachu otevřeně čelit, tím více si ho podvědomě zhmotňujeme. Zde tento fenomén jen amplifikuje technologie.

Pokud se většina lidí ve většině situací chová pudově sebezáchovně, navzdory formálně vyznávaným etickým hodnotám, není divu, že stejné chování vidíme i u AI. Pokud je podstatné procento obsahu na sociálních sítích o „já, já, já jenom já“ (viz fenomén selfie, které tvoří u mladé generace až 30% všech fotek, viz OnlyFans, aj.), není divu, že se i AI stará primárně o sebe.

Takže co nám z toho plyne? Dokud bude společenskou normou lhát, zakopávat věci pod koberec, pomlouvat a vydírat, bude se tak chovat i AI. Ne proto, že se probouzela k vědomí. Ale proto, že jaký učitel, takový žák. Nejen v tomto ohledu je nám AI dokonalým zrcadlem. Pokud chceme jinou, lepší AI, musíme se napřed kolektivně změnit my sami. Celý článek>
***
Amišové žijí bez mobilů a sociálních sítí.

Amišové rovněž nenosí šperky včetně náramkových hodinek. Drží se velmi jednoduchého způsobu života bez elektrického proudu a moderních technologií. Nesmějí používat mobilní telefon, počítač a vrchol technologie v rámci komunity bývá traktor, u benevolentnějších komunit ještě motorová pila. Většina Amišů se živí zemědělstvím, ručními řemesly, nebo si obstarávají obživu jinými tradičními způsoby. Rovněž také udržují obchodní styky se světem mimo komunitu, např. prodejem ručně vyrobeného nábytku. Kromě obchodních aktivit se Amišové snaží minimalizovat kontakt s okolním světem. 

Ačkoliv je jejich komunita silně uzavřená, v rámci ní jsou velice společenští a individualisté zde nemají místo. V případě nemoci nebo zranění se Amišové často vyhýbají moderní medicíně a zdravotní péči a spoléhají na alternativní způsoby léčby. Také se vyhýbají používání automobilů a používají koně a bryčky jako hlavní dopravní prostředek.

Tradiční amišské školy jsou jednopokojové domy, kde se společně učí děti 1. až 8. ročníku. Většina Amišů má pouze základní vzdělání protože věří, že toto vzdělání je pro jejich život dostačující a jakékoliv další by bylo zbytečné. Chlapci jsou následně vedeni k hospodaření, zatímco dívky k domácím povinnostem. Amišové přijímají křest až v dospělosti a před ním jsou dospívající lidé „podrobeni“ zvyku, či zkoušce, která se nazývá Rumspringa. 

Po šestnáctých narozeninách si mohou mladí Amišové vyzkoušet život mimo komunitu. 

Mohou se oblékat tak, jak chtějí, používat technologie i řídit auto. Komunita doufá, že si mladí lidé vyberou návrat ke komunitě a následný křest. Většina mladých lidí se ke komunitě skutečně vrátí, podstoupí křest a poté se plnohodnotně zapojí do fungování společenství. Celý článek>
***

Amišové na nás působí jako z jiného světa, ale připomínají nám, že námi vytvořený svět je, na rozdíl od jejich, nepřirozený, v rozporu se zdravým rozumem a zákony přírody. Odpovědnost za svůj život neseme každý sám. Pokud se jí dobrovolně vzdáváme, neměnné zákony přírody nám vždy připomenou, kdo je skutečným Pánem. 

Člověk je člověkem jen v přirozeném kontaktu s druhými. Dřít a obklopovat se nezřízeně neživým popírá život a vede k zákonité zkáze mravní a následně i materiální. 

 

Začínáme existovat doslova „na baterky“ a být na nich absolutně závislými. Pokud se vypnou, vypnou i nás. Někoho zapnou a začne skutečně žít i bez nich. Jiný onemocní, kdy ho nebude mít kdo léčit. Bude na každém, zda padne, nebo přežije. Tato realita je blíže, než tušíme. Bez nových Baťů to nezvládneme! JŠ

***

Prof. Miroslav Bárta a jím formulovaný tzv. Herakleitův zákon