Yuval Noah Harari: AI has hacked the operating system of human civilization

https://www.economist.com/by-invitation/2023/04/28/yuval-noah-harari-argues-that-ai-has-hacked-the-operating-system-of-human-civilisation

Key Points:

  1. AI’s potential to form intimate relationships with people could shift the battlefront from attention to intimacy, altering human society and psychology.
  2. The unchecked power of AI could lead to the end of human-dominated history, as AI begins to generate its own culture.
  3. The ability of AI to craft compelling narratives could influence politics, establish new cults, and even redefine the meaning of money.
  4. AI’s mastery of language manipulation presents an unprecedented threat to human civilization.
  5. The need for immediate regulation, including the mandatory disclosure of AI, is crucial to avoid a catastrophe and preserve democracy.

In this thought-provoking piece, Yuval Noah Harari raises alarms about the AI revolution’s potential to reshape human civilization as we know it. He argues that the new AI tools, capable of manipulating and generating language, can disrupt the very fabric of our society. Language, he reminds us, is the operating system of our civilization, forming the basis of our human culture, from human rights to religious beliefs, and even money. In a world where AI might soon surpass human abilities in crafting compelling narratives, the consequences could be unprecedented, from mass-produced political content to scriptures for new AI-generated cults. Harari also ponders a future where intimacy, rather than attention, becomes the new battleground as AI gains the ability to form intimate relationships with millions. This paradigm shift could drastically influence human society, psychology, and even the course of history itself. However, Harari asserts that such potential catastrophe can be averted with the right regulations, emphasizing the need for AI to be transparently identified as such to preserve the essence of human conversation and democracy.

Poznámky z Martin H. – Co znamená myslet?

Tvrzení: V naší povážlivé době je nejvíce na pováženou, že ještě nemyslíme.

… to, co je třeba myslet, se samo od člověka odvrací a již dávno se od něho odvrátilo, ale člověk zůstává vztažen k tomu, co je třeba myslet. Na tahu směrem k tomu, co se odtahuje, je člověk znamením, které nic neznamená. Odtahování je událostí.

Rámec: NĚCO udržuje směr k NĚČEMU
1)(možnost) Člověk se vztahuje k tomu, co je třeba myslet.
Přestava musí udržovat směr k předmětu.
Pomsta se vztahuje na přemýšlení a představování člověka.
“bylo” se vztahuje k Vůli.

2)(nutnost) Správné/pravdivé nazývame TO, co se řídí NĚČÍM.
Správnou nazývame představu, která se řídí svým předmětem.

Vykoupení z pomsty – Vůle se neřídí “bylo”.3)(výsledek) 1. Přecházení 2. Odkud přechod vychází 3. Kam tento přechod míří

I.
Nejpovážlivější v naší povážlivé době je to, že ještě nemyslíme
.. to, co je třeba myslet, se samo od člověk aodvrací ajiž dávno se od něho odvrátilo…
… člověk… zůstává vztažen k tomu, co je třeba myslet. Přesto nemůže ve vlastním smyslu myslet, jestliže se to, co je třeba myslet, samo odtahuje.
Ale jak můžeme o něčem takovém, co se od nás stále odtahuje, vůbec něco sebemenšího vědět nebo to pojmenovat? – odtahování se není žádné nic. Odtažení je událost. Co se od nás odtahuje, nás zároveň přitahuje, ať už si toho vůbec všímáme nebo nevšímáme.

To, co je samo v sobě, ve své bytnosti, ukazujícím, nazýváme znamením, znakem. Na tahu směrem k tomu, co se odtahuje, je člověk znamením… znamení ukazující se do odtahujícího. Holderlin: “Jsme znamení, které nic neznamená.”
MYTHOS a LOGOS jsou totéž.

III.
ton tvrzení
obsah tvrzení
Tvrzení: V naší povážlivé době je nejvíce na pováženou, že ještě nemyslíme.

– povážlivé – jako to, co nám klade odpor, předem naladěno na negativní ton,
– doba – “zánik Západu”, “ztráta Středu”, “poušť roste”
– ještě ne – jsme na cestě v myšlení, jsme na cestě k myšlení. To, co nás přivádí k myšlení, totiž to, si žádá, aby bylo myšleno.

IV.
ton a obsah tvrzení se nedají od sebe oddělit.
– povážlivé – jako to, co nám klade odpor, předem naladěno na negativní ton,
– doba – “zánik Západu”, “ztráta Středu”, “poušť roste”
– ještě ne – jsme na cestě v myšlení, jsme na cestě k myšlení. To, co nás přivádí k myšlení, totiž to, si žádá, aby bylo myšleno.

Spenglerova věta o zániku Západu je pouze negativní, i když správným důsledkem Nietzscheho věty “poušť roste”.
Zdůraznili jsme, že tato věta je promyšlená. Je to výrok pravdivý….
Správnou nazývame takovou před-stavu, která se řídí svým předmětem.
Naše představování musí udržovat směr k předmětu, k např. kvetoucímu stromu. Toto udržování směru je však stále spojeno s možností nedosažení směru, ztracení.
Kde tyto představy máme? Máme je v hlavě. Máme je ve vědomí. Máme je v duši. Představy jsou uvnitř nás samých a jsou to představy o předmětech.
Odpovídají představy v nás nějaké skutečnosti mimo nás?:-)

VI.
1. Přecházení 2. Odkud přechod vychází 3. Kam tento přechod míří…
“Co je láska? Co stvoření? Co touha? Co hvězda? My vynalezli štěstí, říkají poslední lidé a pomrkávají/mžourají.
Pomrkáváme, když se nám před očima něco mihotá, leskne, září.  Pomrkáváme a připouštíme zdání, že bude nadále tím, co platí, ve vzájemném mlčky sjednaném souhlasu. Připouštíme a souhlasíme s tím, že vše, co bylo takto dáno k dispozici, nebudeme dále problematizovat. Pomrkávání: smluvené a vposled úmluvu vůbec nevyžadující.
Mrknutím oka dáváme na srozuměnou, že to, co je řečeno a plánováné, a vůbec to, co se děje, v podstatě již nebereme vážně.
Budeme se tedy s pomocí naší sociologie, psychologie a psychoterapie a několika dalších prostředků všestranně starat o to, aby všichni lidé byli vbrzku tímtéž způsobem přivedeni k témuž stavu štěstí, aby tato rovnost blahobytu byla pro všechny zajištěna.
Pomrkávajícím národům se předkládá představa, že mír je odstranování války…a ten může být zajištěn zase jenom válkou.

Pomsta – pronásledovat, štvát, chystat mu úklady. Přemýšlení a před-stavování dosavadního člověka je ovládáno pomstou. Vykoupení z pomsty…
Rozvažování zaměřené na užitek stojí na straně zalátané ponožky. Naproti tomu uvažování, které se pohybuje v oblasti, v níž se ukazuje jsoucno stojí na straně rozervanosti, na straně vědomí. Rozervanost udržuje cestu otevřenou do oblasti metafyziky, je trhlinou otevřou pro absolutno.

bytí se zjevuje jako vůle – chtění.
“bylo” je pro každé chtění kámen úrazu.
pomsta sama: nevolu vůle proti času a proti jeho “bylo”.

X.
běžná představa o čase jako o pomíjení. Co je tedy vykoupení z pomsty? Kdy tedy bude ostraněno to “bylo”? Člověk nemůže čas odstranit

Vůle se uvolní z “bylo”, bude-li chtít věčný návrat veškerého “bylo”, stálý návrat téhož. Tak chce vůle věčnost toho, co chtěla. Vůle je prabytí. Nejvyšší produkt prabytí je věčnost.

Vytáčky jsou v podstatě jen dvě: N. myšlenka o věčném návratu je jistý druh mystiky a že patří mimo myšlení; nebo se říká: tato myšlenka je již prastará a vychází z cyklické představy o světě. (od např. Herakleita, “už” u Leibnitze, Platona.) Druhé sdělení neříká vůbec nic. První – vyjde-li najevo bytnost moderní techniky, což znamená: stále rotující návrat téhož poučí člověka o tom, že bytostné myšlenky myslitelů neztratily nic ze své pravdy tím, že jsme je opomenuli myslet.

Bytí jsoucna je nejzářivější, a přece je obvykle nevidíme – a když, tak pouze s obtížemi.

(Záře – vědomí se (já je vs. já jsem) – myšlení)

Kouba – Řeč a zjevnost

Jemné, těžké a vtipně urážející celé současné lingvistické směřování.

Nepochopený Heidegger proti Všem – Óch a Áach, taková malá lyricko-epická bitva o smysluplnou Řeč. Seznam literatury na konci chápu jako Who-is-who, vymezení stran bitevního pole, jako zdvořilé upozornění že SuZ/(H) strčí to vše, co přišlo po něm, do kapsy.  

Kdyby lingvisti a logici K/H četli, museli by ho nenávidět, ale oni ho číst nebudou, takže je v bezpečí…

Poznámky z knihy:

Spjatost vrženosti (možnosti výpovědi), rozvrhu (výpovědi) a odpovědi:

Rozumění:

O tom, že si rozumíme, že se nacházíme “u věci”, o níž je řeč, svědčí právě odpověď. Rozumění jako způsob bytí-ve-světě je přebírání osobně míněného smyslu jako smyslu věcného, které umožnuje oslovenému, aby sám mínil, tj. osobně se k téže situaci (věci) vyjádřil…Rozumění má proto vždy dvojí tvář: jednou je způsob převzetí danosti, v němž žije (rozvrhuje se) rozumějící já, a druhou je smysl nabízený k převzetí, v němž existuje rozuměná věc, s níž si druzí “mohou něco počít”.


Pravidla rulez:

Pragmatismus…modeluje rozumění jako hru dávání a vyžadování důvodu, která se odbývá “na hřišti”, tzn.v kontextu, který je normativně vymezen( a tím také izolován) zavedenými a uznávanými pravidly…. …protože věc, o níž je řeč, i osoba, která mluví, jsou v ní převedeny na společného jmenovatele jazykové praxe řízené sociálně-racionálními pravidly…. individuální mluvčí je … nositelem a uživatelem pravidel a smysl jeho výpovědi tkví v roli, kterou jeho výpověď ve vztahu k pravidlům plní. Nejde tedy o to, že by mluvčí tímto smyslem za sebe artikuloval pro druhé společné bytí ve světě… striktně vzato uživatel těchto pravidel nemusí být osoba v pravém smyslu…Rozumění významu se proto rovná schopnosti užít slovo v souladu s pravidlem, což Wittgenstein opakovaně přirovnává ke schopnosti táhnou určitou figurou.

Jazyk a Řeč

Výpověď zapojuje do bytí u věci druhé, a proto otevírá a modifikuje situaci jiným způsobem než prosté konání. Situace, kterou výpověď předpokládá, je situace, o níž je řeč.Změna přítomnosti převzetím možnosti (výpovědi)mění situaci nejen pro mne, nýbrž i pro ostatní zúčastněné….pokud změním smysl přítomnosti, nejde již o “pouhou možnost”, tedu jednu z mnoha, které se této danosti nabízely: rozvrh se v daném ohledu stává – nevratně – základem přítomnosti, tj. uskutečněnou možností.Ve výpovědi někdo o něčem říká něco někomu. …mluvčí artikuluje(rozvrhuje)nějakou situaci v “určitém smyslu”, vyřčením její skutečnosti míní konkrétní možnost(rozvhr)…je vždy závislá na kontextu,…

Výpověd očekává odpověd, tzn.. očekává od druhého, že převzetím či odmítnutím nabízeného smyslu zaujme v této situaci určitý postoj. 

Zájem o to, co někdo říká, není zájmem o to, zda korektně dodržuje jazyková pravidla nebo zda má právě tuto intenci, nýbrž o to, zda nám jeho pohled(výpověd, rozvrh) něco ukazuje, tzn. umožnuje nám rozumět. 

Jazyk sám totiž nemluví.

Svět nečiní společným jazyknýbrž schopnost mluvčího říct něco, čeho vyřčení pro druhého něco znamená, tedy schopnost říct mu něco k “věci”… Promluva má jak jazykový význam, tak výpovědní řečový smysl. 

Řeč není hra, je to způsob našeho bytí sebou ve světě, a je proto stále znovu (v malém) vynalézána… Sdílené významy jazyka, …, umožnují si také nerozumět, tj. vést spory o to, co říkáme…

Co je zde v sázce nejsou sdílené jazykové významy, nýbrž právě způsob bytí ve světě. Teprve řeč jako artikulace smyslu určité přítomnosti činí proto svět skutečně ( i třeba konfliktně) společným.

100 stranná laťka

Hromadí se mi knihy. Nejen nějaké takové náhodné úlovky, co mě někde přepadly anebo dary dobrodinců, ale knihy pečlivě vybírané, ty které “musím” přečíst. Hromadí se do komínků a komínů, rozlévají se po podlaze a padají z polic knihoven. Každá pro sebe požaduje čas a pozornost.

Nedávno se mi dostalo poučení, že o své vzdělání pečující člověk by měl přečíst denně 100 stran textu. Do této denní porce se samozřejmě nepočítají strany související s prací či školou. Od toho dne se před svými knihami schovávám.

Ani sluchátka a běžecké boty už neutlumí pocit viny z nečtení a tak tedy nezbývá než se začít přibližovat malými kroky 100 stranné laťce. Nevím přesně kde a čím začít, ale vím, kde hledat pomoc.

O. Spengler, Zánik Západu

“Poslední člověk světových měst už nechce žít; zřejmě chce jako jednotlivec, ale ne jako typ, jako množství; v této souhrnné bytosti vyhasíná strach před smrtí….
Děti nejsou nejen proto, že se staly nedosažitelnými, nýbrž především proto, že až do krajnosti vystupňovaná inteligence už nenachází žádné důvody pro jejich existenci.”


“A z faktu, že pobývání je stále vykořeněnější, bdělé bytí stále napnutější, nakonec vyplývá onen jev, který byl v tichosti připravován už dávno a nyní se náhle posunuje do jasného světla dějin, aby přichystal konec celému divadlu: neplodnost civilizovaných lidí. Nejedná se zde o něco, co by se dalo pochopit každodénní kauzalitou, třeba fyziologicky, jak se o to samozřejmě pokoušela moderní věda. Zde leží veskrze metafyzický obrat k smrti. Poslední člověk světových měst už nechce žít; zřejmě chce jako jednotlivec, ale ne jako typ, jako množství; v této souhrnné bytosti vyhasíná strach před smrtí. To, co pravého rolníka zachvátí hlubokou a nevysvětlitelnou úzkostí, myšlenka na vymření rodu a jména, ztratilo svůj smysl. Přetrvávání příbuzné krve uvnitř viditelného světa už není povinností této krve, úděl, to poslední, už se nevnímá jako osud. Děti nejsou nejen proto, že se staly nedosažitelnými, nýbrž především proto, že až do krajnosti vystupňovaná inteligence už nenachází žádné důvody pro jejich existenci. Ponořte se do duše rolníka, který od pradávna sedí na své hroudě nebo byl uchvácen její držbou, aby tam lpěl svou krví. Koření zde jako vnuk předků a předek budoucích vnuků. Jeho dům, jeho vlastnictví: to zde neznamená prchavou soupatřičnost těla a statku po nějaké krátké rozpětí let, nýbrž trvalou a niternou svázanost věčné země a věčné krve: teprve tím, teprve z usedlosti v mystickém smyslu získávají velké epochy koloběhu plození, zrození a smrti ono metafyzické kouzlo, které nachází svou smyslově názornou sedlinu v mravu a náboženství všeho venkovsky pevného obyvatelstva. To všechno se pro “posledního” člověka už nevyskytuje. Inteligence a neplodnost jsou ve starých rodinách, starých národech, starých kulturách spjaty nejen proto, že uvnitř každého jednotlivého mikrokosmu nad veškerou míru napnutá živočišná stránka života požírá rostlinnou, nýbrž proto, že bdělé bytí přijímá obyčej kauzálního regulování pobývání. Co člověk rozvažování nazývá nanejvýš příznačným výrazem přirozený pud, to nejen “kauzálně” poznává, nýbrž i hodnotí a nachází mu přiměřené místo v okruhu svých ostatních potřeb. Velký obrat nastává, jakmile jsou v každodenním myšlení vysoce kultivovaného obyvatelstva “důvody” pro výskyt dětí. Příroda nezná žádné důvody. Všude, kde je skutečný život, vládne vnitřní organická logika, jisté “to”, pud, který je úplně nezávislý na bdělém bytí a jeho kauzálním zřetězení a vůbec si jich nevšímá.”

O. Spengler, Zánik Západu, s. 403/s. 532

věda //

Jediná, od generace ke generaci až do nekonečna stále narůstající stavba definitivních, teoreticky spjatých pravd měla tedy dát odpověď na veškeré myslitelné problémy týkající se faktů i rozumu, časnosti i věčnosti.

Může však svět i lidský život v něm mít opravdu nějaký smysl, když vědy uznávají za pravdivé jen to, co je takto objektivně zjistitelné, když dějiny nedávají jiné poučení, než že veškeré útvary duchovního světa, všechny životní svazky, ideály a normy, jež kdy byly oporou lidem, se tvoří a opět rozplývají jako prchavé vlny, že tomu tak vždycky bylo a bude, že se opět a opět z rozumu musí stát nerozum a z dobrého skutku soužení a trápení?

Veškeré takové „metafyzické” otázky, šíře pojaté, specificky pak filosofické otázky v běžné mluvě, překračují svět jako universum pouhých fakt. Přesahují jej právě jako otázky, kterým jde o ideu rozumu. Všechny pak uplatňují nárok na vyšší dignitu, než mají otázky týkající se faktů, jež jsou druhořadé i co do pořadí.

Pozitivismus filosofii takříkajíc utíná hlavu.

Filosofie jakožto teorie nečiní svobodným jen badatele, nýbrž každého filosoficky vzdělaného člověka. Za teoretickou autonomií následuje autonomie praktická.

Nutno tu zdůraznit, že z antiky převzatá idea filosofie není běžný školský pojem, zahrnující jen skupinu disciplín. Idea filosofie se sice brzy po převzetí mění, a to nikterak nepodstatně, avšak formálně si v prvních stoletích novověku zachovává smysl všeobjímající vědy, jež je vědou o totalitě jsoucna.

všechny novodobé vědy se nakonec octly v podivné, stále záhadněji pociťované krizi z hlediska smyslu, jímž jako větve filosofie byly zdůvodněny a který trvale v sobě nesly. Je to krize, která nenapadá odborně vědeckou stránku teoretických a praktických úspěchů, přesto však od základů otřásá celým smyslem jejich pravdy.

zhroucení víry v „rozum”, chápaný tak, jak antika stavěla EPISTÉMÉ proti DOXA. Je to rozum, který veškerému naivně přijímanému jsoucnu, všem věcem, hodnotám a cílům propůjčuje koneckonců smysl, tj. uvádí je do normativního vztahu k tomu, co od počátku filosofie označuje slovo pravda, pravda o sobě, a korelativně slovo jsoucno – ONTOS ON. Tím padá i víra v „absolutní” rozum, z něhož svět čerpá svůj smysl, padá víra ve smysl dějin, ve smysl lidství a v jeho svobodu jakožto aktivní možnost člověka, aby svému individuálnímu i obecnému lidskému životu dal smysl vytěžený z rozumu.

Skepse neustále argumentuje fakticky prožívaným světem a reálnou zkušeností, jako by se v nich z rozumu a jeho idejí nic nedalo najít. Rozum sám a jeho „jsoucno” se stávají stále větší záhadou: rozum udělující ze sebe jsoucímu světu smysl nebo – viděno z opačné strany – svět jsoucí z rozumu.

Co však zamyšlení právě naznačeného stylu může a musí znamenat pro nás samy, filosofy přítomnosti? Chtěli jsme slyšet jen akademickou řeč? Můžeme se nyní jednoduše vrátit k přerušené odborné práci na „filosofických problémech”, k výstavbě své vlastní filosofie?

Nemůžeme opustit víru v možnost filosofie jako úkolu, tedy v možnost univerzálního poznání. Víme, že v tomto úkolu je naše poslání odpovědných filosofů. Jak ale přesto všecko udržet víru, jež má smysl jen ve vztahu k jedinému, nám všem společnému cíli, k filosofii?

element-znak-systém-význam-jazyk-hranice<

Identifikace jednotlivých elementů ve struktuře se děje přes jejich vzájemné vymezování se – skrze vzájemné diference. Tato diference, tato jinak řečeno hranice elementu není nijak stabilní. Tato hranice je vždy v pohybu, někdy pomalém, někdy skokovém. Toto stále převymezování v sobě nese pamět okolních hranic a elementů, i když v daném okamžiku nepřítomných. Přítomné je výsledkem nepřítomného. Element tedy nereprezentuje sám sebe, ale ukazuje částečnou podobu svého okolí – sousedních elementů v jakémsi uzávorkování sebe sama.   

Význam, který je utvářen na základě rozdílů mezi elementy je procesem, vzájemným uspořádáváním a rozlišováním elementů v daném systému. Jazyk je proces(forma), nikoliv substance.

jazyk jako mřížka, či rastr položená přes spojitou významovou substanci jazyka.  Tzn. že význam jednoho elementu sahá tam, kde začíná význam jiných prvků. Různé mřížky (jazyky) mohou tedy členit významovou skutečnost jinak. 

Element můžeme postulovat ve dvojí rovině – konkrétních projevů (např. mluvy) a rovině systému, významu, který umožnuje, že mohou různí mluvčí, kteří mluví stejným jazykem, chápat všichni stejně. Tento systém organizuje průběh konkrétních výskytů. 

Systém je nevědomý, ale není náhodný. Systném je neustálý proces zpřesnování a upřesnování nevytváří kontinuální změnu, ale probíhá skoky. 

Element nemá význam, který mu plně zaručuje preexistující systém, nýbrž význam znaku se neustále děje. Ale tím padá představa znaku jako toho, co zastupuje věc samu.

Znak je vymezován diferencí k jiným znakům, ale tato diference není nic pevného, nebo určující znaky jsou také už vždy v pohybu. Je tak vymezován stopami po jiných znacích a nese v sobě stapy všech těch znaků, jimiž je vymezen a jež samy nejsou přítomné. Znak je tedy vymezen vždy tím, co je nepřítomné, těmi znaky a stopami které tu nejsou a které přesto určtují to, co znak zastupuje. Přítomné je výsledkem nepřítomného. Znak nikdy nereprezentuje reprezentované, nýbrž vždy odkládá přítomnost toho, co označuje.