{Obecná} {Umělá} Inteligence

Meta

Výchozí situace

• Při svém studiu filosofie jsem se zabýval rozuměním, jazykem a epistemologií. Nyní profesionálně vytvářím software. Téma inteligence mě vždycky zajímalo.
• Světem stále více hýbají velké digitální (jazykové) modely postavené na neuronových sítích a otázka inteligence, potažmo umělé a obecné, se dostává do popředí.
• Mám potřebu se nad tématem zamýšlet a jak mám ve zvyku: 1) psaná strukturovaná forma je pro mě hlavní funkční nástroj přemýšlení 2) zajímá mě především, co je obsahem pojmu, co jeho obsahem není a s jakými jinými pojmy se nám to plete nebo nám pojmy chybí

Forma

• Tento příspěvek bude obsahovat pouze závěry a snahu o racionální zdůvodnění. Úvahy/diskuse, kterými se k názorům dospělo nejsou součástí tohoto příspěvku a jsou/mohou být zpřístupněny odkazem (= úvaha samotná je pouze nástroj, který navíc není striktně racionální, a pokud nedokáže ústit v dostatečné podložené/zargumentované závěry, pak je pro čtenáře zbytečná)

Postup mých úvah obecně a také zde

• https://docs.google.com/document/d/1QgK-p-4dU9hmaJTWTBpW-A6AsNYLuese6QBsQbtDZOs/edit?usp=sharing
• Mé přemýšlení skrze psaní přirozeně vypadá následovně:
  • 1) mám tušení významů a tužbu to či ono probrat, zkritizovat, propojit, oddělit atd.,
  • 2) sepíšu nějaké základní myšlenky, které mám pocit, že by možná měly být pravdivé,
  • 3) začnu volnou úvahu, která se většinou chytne určitého tématu, které se pak snaží rozebrat. Tato fáze je bolestivá, protože obsah úvahy se s postupem času stává nepřehledný, problém se komplikuje, v průběhu vzniká mnoho návazných nejasností, odboček, které jsou schopny dominovat původní téma, vyžaduje přijetí nějakých předpokladů nebo vykonání nezdůvodněných skoků, které si žádají pozdější kriitku a narůstá tak tenze k vydestilování nějakých poznatků z rozrůstající se chaotické masy textu.
  • 4) pokusím se masu textu zpracovat, označit za vyřízenou a uzavřít s vydestilovanými výsledky. Masa textu je archivovaná
  • ♾️) zde končí iterace a s ní často i má motivace na delší chvíli. Pokud však úvaha nevyústí v takové závěry, které by pro mě byly plně uspokojivé (neznamená, že jsou pravdivé, ale chybí následně motivace a vektor pro další úvahy), pak je výsledek odrazovým můstkem pro další iteraci. Výsledek posledního bodu je prvním bodem a pokračujeme v otevření další volné chaotické úvahy.

Obsah

• = Aktuální názory, pohledy na věc, závěry

Témata a problémy k vyřešení, poznámky

• obecnost a AGI
• hloupá AGI
• líná AGI
• hippie, zen AGI
• AI a lidská inteligence, obecnost lidské inteligence, dětská inteligence, zvířecí inteligence, inteligence rostlin a hmyzu, inteligence počasí
• AGI versus rození dětí - GI factory; A in AGI? Pozor, člověk bude a zároveň nebude mít pocit, že dosáhl svého cíle, pokud například smíchá písek s vodou, tříkrát proklepe a bude z toho AGI -- bude to sice exciting, ale jde o další nalezenou factory
• co používáme jako metriku rozvoje? - schopnost ovlivňovat realitu by upřednostnila ropuchu, která skočila na tlačítko detonátoru neutronové bomby před profesorem fyziky; čistá potence by umožňovala AGI, která se nikdy nerozhodla rozvinout... -- navyšování potence měnit vesmír se zdá lepší, ale také dává bludišťáky za rozvoj směrem k tyranovi, než k profesorovi fyziky...
• Implementace
  • nechat AI vytvářet artefakty, který její další instanci budou sloužit jako optimální optimizátory jejího rozvoje, tedy vytvářet nástroje přenosu informace jako v případě člověka se jedná v případě jazyka, ústní tradice, knih, nástrojů
  •  

Základní metafyzický předpoklad

• Všechny úvahy a závěry zde vychází z předpokladu fyzikální podstaty jsoucna. Tento postoj je schopen pojmout také  vidinu naši reality jako virtuální sub-reality jiného fyzikálního systému. Zároveň je tento postoj nekompatibilní s vidinou lidského vědomí jako zásadně propojeného s ideovou podstatou reality (nazvěme to hegeliánstvím).
  • jako spojnici mezi hegeliánstvím a fyzikálním pojetím reality bych viděl správně vykonanou fenomenologii, ale zde budeme operovat pouze v rámci fyzikálního předpokladu, dokud zde nebude řečeno jinak
  • ⇒ důsledek: lidské vědomí a lidské schopnosti i hranice jsou vlastností fyzikální reality lidského mozku, těla a prostředí. Lidský mozek je biologický mechanismus. Přesná fyzikální rekonstrukce člověka A vede k člověku A' obdařeného stejným vědomím, schopnostmi atp. Jinými slovy: existují pouze molekuly, žádná "duše".
    • toto nejsou objektivní deklarace, jde o vyhranění rámce úvahy ("duše" klidně může existovat ať už to má znamenat cokoliv, ale následně je potřeba ujasnit rámec, ve kterém existuje "duše" a následně se jej pokusit propojit s rámcem, ve kterém "duše" smysl nedává).

Prerekvizitní koncepty

X) Meta

• zde budou popsány nějaké obecné koncepty, se kterými dále pracuji a tvoří spíše prerekvizity pro úvahy a predikáty ohledně AGI než jako samotné predikáty. (Příklad: Je dobré si ujasnit koncept sladké a kyselé chuti, než začneme o určitém pokrmu predikovat, že je sladký nebo kyselý.)

Koncept rozvojové bažiny

• Lze myslet takový stav existence ohraničené entity X za podmínek Y, kdy je daná entita uvězněna v cyklu sebe-udržování, a tedy nevykazuje sebemenší známky rozvoje, čímž bychom ji chtěli upřít status obecné inteligence, kdy však zároveň stačí tyto podmínky Y jen mírně pozměnit do stavu Y' a náhle se otevírají stavidla rozvojového potenciálu entity X.
  • Lze uvést několik obrazů:
    • Mějme klona Alberta Einsteina, který v důsledku svého aktuálního socio-ekonomického stavu a morálních zásad musí vynakládat veškerou svou energii na odvádění monotónní práce pro udržení svého života a života jemu blízkých. Každý den se vrací vyčerpán, něco pojí, usne a ráno zase znova takto celý život, než zemře. ⇒ tomuto Albertovi by stačil jediný měsíc klidu, aby si rozmyslel několik věcí a svou sociopast geniálně obehrál, osvobodil se a pokračoval skokově ve svém rozvoji a podpoře svých blízkých. Tento čas mu však není dopřán a on se z koloběhu nikdy nevymaní.
      
      • ⇒ chtěli bychom tvrdit, že se jedná o potenciálně velice schopnou obecnou inteligenci, která však byla pouze uvězněna v tomto cyklu.
    • Permanentní kolaps civilizace, jak o něm mluví Toby Ord, aneb uvěznění na ostrově ve hře Banished.
    • Lze uvést mnoho dalších příkladů tohoto mechanismu: vražda entity (entitě byl znemožněn rozvoj), vyrušování entity (entita neměla šanci na zamyšlení), neumožnění zkonstruování nutných externích nástrojů sloužící entitě pro sebe-rozvoj.
• ⇒ pojem v dovedení do extrémů hrozí dvěma absurdními závěry:
  
  • 1) Úplně všechno na světě je potenciální geniální obecná umělá inteligence. Každý kámen i slimák. Jen je potřeba, aby byly podmínky vždy příznivé rozvoji (to v případě kamene znamená takový vývoj "podmínek", které hýbou takovým způsobem jeho atomy, že jej činí všemocným.) V důsledku se jedná o čistou potenci, energii.
  • 2) Klon Alberta Einsteina zatížený jeho ekonomickou situací a morálním smýšlením není ani geniální, ani obecně inteligentní a je víceméně kalkulačkou nebo kávovarem. Co hůř, běžný Franta Sedláček není obecně inteligentní.

Obava z nepravé AGI (vlastně nedůležité)

• Obavu lze vyjádřit pouze formálně, protože, abychom se mohli náležitě obávat nepravé AGI, nejprve bychom museli vědět, co mínímě pod pojmem pravé AGI, což právě nevíme a zde řešíme.
• Obava formálně:
  • řekněme že lidé či lidstvo jsou GI.
  • řekněme, že stvoří něco, co podobně jako chatbot umí řešit různé úlohy a lidstvo vyhladí či nahradí.
  • řekněme, že tento výtvor, tento chatbox, není obecně inteligentní
• ⇒ obava je však celkem irelevantní, protože:
  
  • pokud lidstvo namísto AGI nahradí jiná cizí GI a nebo i skutečná AGI, tak lidé tento stav nebudou schvalovat o nic více, než ten, kdy je nahradí ne-GI.
  • "nahrazení" ne-GI je rovno prostě vyhlazení, vymření na roveň sebe-vyhlazení třeba nemocí či výbušninami; stejně tak nemusí jít o nahrazení, ale také o uvěznění či ztrátu schopnosti změny dějinného kurzu

Problém ohraničování (= vyčlenění entit reality, vyčlenění AGI jako entity)

• Význam existence entit obecně (té či oné entity, například této sponky nebo tohoto mravence) je nuancovaný a důležitý. Chybí nám správná rozčleněnost pojmů, a proto mohou být obě následující tvrzení pravdivá současně:
  
  • 1) Entity ve skutečnosti vůbec neexistují
    • Ani sponka, ani mravenec, ani člověk, ani planety atd. neexistují. ⇒ Význam: neplatí platónská teorie idejí, základních forem, aristotelských substancí, kterými je dána existence pseudo-entit jako je sponka atd. V extrémním důsledku nedává žádná výseč reality smysl sama o sobě. Vše je provázané se vším a samostatně nelze plně explikovat.
      • Jednoduchým příkladem může být mravenec. Mravenec není židle a není vzdálenou galaxií, ale i tak jsou spolu v důsledku podstatně (podstata, substance) spojeni. Při přiblížení na úroveň například atomů nejsme schopni detekovat žádný rozdíl mezi mravencem a ne-mravencem. Mravenec se zdá být identifikován především svými interakcemi s realitou (jak se pohybuje, jak se od něj odráží světlo, co dělá atp.). Jak se ale pohybuje mravenec na dně oceánu, jak uprostřed Slunce, jak v lese, jak ve vzduchoprázdnu? Aby byl mravenec mravencem, jak jej očekáváme, potřebujeme jeho stavbu mít v podmínkách umožňujících zachování identity mravence. Plná abstrakce mravence není možná, nelze vysvětlit žádný jeho pohyb, protože se při rigorózním rozboru dostaneme do fyzikálních termodynamických nesmyslů. Před duševním zrakem sice mravenec běhá, ale jedná se o nedokonalou abstrakci z jeho jinak kompatibilních kontextů (les, chodník, atmosféra o určité teplotě a složení...).
      • Jinými slovy: pokud bychom chtěli celou realitu božsky plně explikovat, pak žádný výseč reality nemůže dávat smysl sama o sobě, a tedy tyto hranice, které oddělují mravence od židle jsou pouze domnělé.
  • 2) Entity skutečně existují
    • Sponka, mravenec atd. samozřejmě "skutečně existují". Něčím rozhodně jsou, protože jinak bychom o nich nemluvili a už vůbec bychom se o nich nedorozuměli. ⇒ Význam: Entity existují pouze jako inteligencí uchopované nástroje pro predikci reality.
      
      • Mravenec existuje stejným způsobem jako existuje konkrétní či také abstraktní hra v šachy. V jednom smyslu žádná hra v šachy ve vesmíru neexistuje, je pouze lidským konstruktem a mezilidským kontraktem. Máme schopnost identifikovat učitou výseč reality jako instanci "hry v šachy" a díky ní méně či více úspěšně predikovat pohyby reality (odhady do budoucnosti i vysvětlení do minulosti). Pokud danou výseč identifikuji jako hru v šachy mám šanci úspěšně predikovat, jaké pohyby se budou odehrávat na stole a možná i co se stalo v minulosti. Kdybych v daných figurkách hru v šachu nerozpoznal, neměl bych tuto schopnost/nástroj predikce. ⇒ Jistě, hra je lidská konstrukce a kontrakt může být porušen. Hra všachy je však plně pohybována lidmy. Systémy jako mravenec nebo kávovar se však také umí pohybovat fyzikálně samostatně. Pokud danou výseč reality pochopím jako mravence, pak mám šanci lépe predikovat budoucí a minulé skutečnosti reality (např. kam a jakým způsobem se ty rezavé skvrny budou pohybovat).
      • Svět, který se inteligence snaží uchopovat je zjevně uchopovatelný tak, že existují lépe či hůře ohraničitelné jednotky (entity), které nám umožňují jej predikovat.
        • Příklad pěkného ohraničení jsou třeba planety či asteroidy. Letící asteroid zdá se nijak zvlášť nesouvisí s mravencem na mé noze ani se vzdálenou galaxií a jeho pohyby a interakce se světem jsem schopen dobře predikovat.
        • S jinými jevy to může být obtížnější: kde začíná a končí interakce podhoubí, počasí, quantum entangeled particles, lidská společnost, změny klimatu...
      • Entity jsou tedy takové výseče reality, jejichž nizší provázanost se vším ostatním umožňuje inteligenci predikci pohybů reality.
• Souvislost s AGI:
  • entity s extrémně nízkou provázaností s celkem reality (například mravenec, kávovar či asteroid) jsou většinou inteligencí uchopitelné jako víceméně jasně lokalizované v rámci trojrozměrného prostoru světa. Pokud chci znegovat mravencovu prediktivní funkci (nebo-li pokud chci zrušit mravencovu existenci), pak není náhodou že exploze na všemožných místech reality daného mravence nijak neovlivní, ale že exploze v jeho lokalitě jej ovlivní významně. Půjdeme-li do většího extrému, pak lze na mravenci lokalizovat jeho významné orgány a jejich funkci. Chtěli bychom-li precizně eliminovat mravencovu prediktivní funkci jakožto "mravence", pak odnětí nervového centra by bylo extrémně účinné.
    • ⇒ v případě AGI významně záleží na tom, jak je implementována a pro kterou výseč reality chceme tohoto pojmu vhodně použít.
      
      • relativně snadné je to tehdy, pokud AGI vsadíme do fyzického těla libovolného typu a ponecháme jí možnost interakce se světem pouze manuálním způsobem ve stylu: "nechme ji robotickou rukou řešit tuto a jinou úlohu". V tomto případě je otázka lokalizace zhruba podobná jako u člověka nebo mravence. ⇒ máme jasnou představu, kde se daná instance AGI v prostoru nachází a víme, kde negovat její prediktivní funkci
      • jenže, co když je AGI propojena s internetem, s dalšími lidmi, s dalšími pseudo-instancemi AGI? Vzhledem k potenciální superinteligenci této entity se může podobně jako pralesní podhoubí daná "instance" AGI rozdistribuovat do prostoru a času, a je-li dostatečně inteligentní, pak může být prakticky lidským rozumem nedetekovatelná.
        • Těžko představitelný extrémní příklad: vzhledem k tomu, že spící/vypnutá AGI není rozporná v pojmu. Pak "jedná isntance AGI" může v čase zanikat a vznikat a stále být sama sebou jako jednotkou (podobně lidstvo napříč generacemi). Extrémně schopná AGI se může klidně nechat zničit a v budoucnu znovu vytvořit a pokračovat ve svém díle, aniž by někdo tušil, že se v důsledku jedná o v určitém smyslu shodnou entitu.
        • V důsledku neexistence tvrdých hranic mezi entitami je potřeba si uvědomit, že v kontextu planety země a toho, co považujeme za první vznik AGI v historii je nejpravdědpoobnější lokalizace této entity v kombinaci: výpočetní stroje, data persistovaná v jakékoliv podobě, sociální struktura a v neposlední řadě lidé samotní. Stejně jako má mravenec nohy a produkuje chemikálie, tak AGI již nyní může být identifikovatelná jako lokalizovaná jak ve strojích, tak v lidech, kteří jsou nyní potřební k jejímu aktérství

Problém identit

• Problém identit úzce souvisí s koncepty: "problém ohraničování" a "vědomí, já a vůle" a možná je na ně dokonce převoditelný.
• Problém: Očekáváme, že stvoříme-li AGI, pak jsme stvořili jednu či více entit AGI, a tyto entity budou mít svou identitu napříč časem jakožto "ta" AGI, "ta" entita. Jenže pojem identity se, minimálně ve fyzikálním, pojetí bortí. Má-li mít AGI až nekonečnou schopnost sebe-rozvoje, pak se musí sebe-upravovat a to téměř nutně k nepoznání stavu X od Y a Z. Pokud to však dovolíme, pak je třeba držet identitu i mezi člověkem a AGI jakožto jeho sebe-optimalizací do nerozpoznatelné nové formy. To se zdá absurdní. Pokud však robot A postaví druhého lepšího robota B a následně robot A vybouchne a robot B řekne: "Jo, hned se cítím lépe, pokračujeme?", tak už nám to tak absurdní nepřijde.
  • Je však pravda, že člověk zatím zvládl (dle vlastního sebe-vyhodnocení) velké kroky, aniž by se musel vnitřně sebe-upravovat v něco jiného. To ale jednak není striktně pravdivé, a také to brzy narazí na hranice. K tomu pak sama otázka potomků jakožto entit zachovávající identitu lidstva. A pak zde máme také externí nástroje jako knihy, pravítka a kalkulačky, které jsou jen hrubou externí formou biologické vnitřní úpravy.
  • Určitá cesta vyřešení by se zdála nabízet v omezení pojmu identity buď na pouhou ohraničenost entit a nebo na úzkou podmíněnost vědomím, já a vůlí, ale také zde bychom narazili, pokud nám naše zdrátovaná AGI řekne: "Taťko, mamko, vždyť já jsem také člověk."

Koncept vůle

• Dle mého pochopení správné pojetí "vůle" a "já":
  • "Vůle" je sebe-reflexivní predikce sebe samého jako aktéra ve světě.
• Zde chybný výčet pojetí "vůle"
  • A) "Vůle" by mohla být přímo spjata s pojmem "duše", která je aktérem ve světě
    • ⇒ tento rámec úvahy však duši vylučuje jako nesmyslnou ideu, ne-pojem, tedy se také tento význam "vůle" vylučuje ne-pojem
  • B) "Vůle" může být pojata jako označení vnitřních podmínek ohraničeného systému vedoucí k jeho aktérství ve světě, kdy my jako ti, kdo pojem používáme, nemáme přesnou představu o těchto vnitřních podmínkách.
    • ⇒ takto by byl pojem "vůle" pojmem neznalosti, a tedy nejen člověk, ale také oheň, počasí či kávovar "se rozhodli" udělat to či ono, "chtějí" se pohybovat takto a ne jinak atp. ⇒ jednalo by se o tak smutný význam toho slova, že ho snad ani nechceme používat
  • C) "Vůle" může být pojata jako hravý animismus (cca stejné jako (B)), kdy je irelevantní, zda ohraničený systém světa (kávora, oheň, planeta, člověk či mravenec...) chápeme nedokonale nebo klidně i dokonale do poslední interakce atomu. Přestože dokážeme "plně" predikovat chování kávovaru, tak o něm hravě budeme prohlašovat, že "se mu už nelíbí v jakém je stavu a chce se nechat vyčistit".

 

Obecný pojem reality

• Abstraktní pojetí:
  • V materialistickém pohledu:
    • soubor všech proměnných hodnot, nebo-li diferencí
  • Ve fenomenologickém pohledu:
    • soubor všech vědomím uchopovatelných hodnot, diferencí (= fenomenologická objektivita)
• Praktické pojetí:
  • V důsledku se neptáme, zda je nějaký trakař nebo soubor atomů reálný. V důsledku jde o všechna "něco", která lze zvažovat, pozorovat, analyzovat, ovlivňovat a odlišit jedna od druhé. V obecném pojetí jsou si tak rovny trakař a nekonečná proměna výkyvů energie někde v jádru slunce nebo proměna čísel v paměti výpočetního stroje. Kdyby však například člověk byl vystaven od narození spíše chaosu (pseudo)náhodně proměnným hodnotám spíše než trakařům, pak by asi nikdy nikam nedošel (viz pojem rozvojové bažiny).

Obecný pojem pohybu

• Abstraktní obecné pojetí: pohyb je vůči entitě kauzálně identifikovatelná změna stavu reality (tedy proměna aktuálních hodnot)

Obecný pojem rozvoje

• Abstraktní obecné pojetí: zvyšující se schopnost entit (viz problém vyčleňování entit) ovlivňovat realitu (viz obecný pojem reality)
  • silně abstrahovaně: zvyšující se schopnost entit se pohybovat
  • pozor: nemusí jít ani o záměrné ovlivňování, takže v důsledku se entita rozvijí i když by třeba chtěla udělat "A", ale udělá "B", "C", "D".
• Praktický důsledkek:
  • Jsme schopni konstruovat vysoce abstraktní, třeba digitální, realitu (= kauzálním systémem propojenou proměnu hodnot celkové množiny) a pozorovat schopnost naší entity (cvičená AGI) tuto realitu více a více ovlivňovat.
    • Jednoduchý praktický příklad:
      • Utvořím realitu jako jednoduchou počítačovou hru, kde jsou po ploše rozprostřeny herní nástroje umožňující další schopnosti atd. AI se rozvijí tehdy, pokud postupně nabývá schopnosti ovlivňovat více a více tento herní svět. K tomu asi bude potřebovat herní nástroje. Pokud herní postavičku AI soupeř zabije a ona přijde o nástroje, pak asi bude muset zajistit, aby neumírala, chce-li se rozvíjet.

Nemáme dostatečně jasno, o čem mluvíme a to je i není problém

• Víme, co pojmem {obecné} {umělé} inteligence míníme a také to nevíme.

• Nepřijde mi, že máme obecně dostatečně ujasněné pojmy a diskuse o inteligenci se tak často stávají příliš zmatené. Podobně jako pojmy krása, láska či pravda je však také inteligence pojmem “předem naplněným významem”, tedy se jedná o pojem, kterému odmítáme přiřadit arbitrární význam (slovo “xuxuxaxa”), protože cítíme silný vektor jeho významu (“inteligence” není kus nábytku a není to typ nálady…), ale zároveň nám není moc jasné či není shoda na tom, kde má vlastně pojem hranice či jaký obsah do něj spadá či ne. (“Musí být inteligence ‘vědomá’?”)

• Problém to je i není

  • viz Platónův dialog “Lachés” a další: můžeme mít dobrého vojevůdce, který si vybírá své muže na základě vlastnosti “odvahy”, přestože když na něj tlačíme ať nám vyspecifikuje, co přesně “odvaha” je a není, tak se dostává do úzkých a ukazuje se, že neví. ⇒ není tedy nemožné rozvíjet či pracovat s umělou inteligencí a přitom nevědět, co to je ani co tím míním.

• Zároveň to problém je, protože chceme-li něco převratného vymyslet nebo se nenechat svést z cesty, musíme jít často “cestou za předpoklady” (opět Platón) či vystavět ještě pevnější axiomy.

  • aneb v alegorii vojevůdce: může se nepozorovaně stát, že v dobách míru je odvážný ten, kdo dvoří se krásným dámám a dovolí si překračovat společenská tabu. Takto pak v době války můžeme skončit s důstojnictvem plným dandies :)

AGI má buď vůli, pojem "já" a "vědomí" nebo nic z těchto

• vztah "vůle" a AGI se zdá být následující:
  • není-li AGI vědomá (nejasné), pak nemá vůli, třebaže je aktérem ve světě
  • je-li AGI vědomá, což se zdá mít význam vyčleňování proměnnosti celku světa do prediktivních jednotek/entit opatřené znakem, pak má také vůli (či alespoň v pokročiteljším stádiu vývoje), neboť těžko lze komplexně ovládat vesmír a jaksi si nepovšimnout jedné velice zajímavé enity, která jej výrazně ovlivňuje...

AGI nemusí být vědomá a vágní význam pojmu vědomí

• Toto vyžaduje lepší uchopení, ale zdá se mi to být nějak následovně:
  
  • Vědomí není ani tak určitá vlastnost, která je rázem přítomná při splnění X nutných podmínek, ale jde spíše o vektor, o postupné spektrum přibývající vlastnosti, kterou identifikujeme jako "vědomí".
  • Vědomí je lidským pojmem pro mechanismus jazykového uchopení vlastního "já" (zejména vnitřního) a své vůle.
    
    • O vektor jde proto, že jazyk sám je třeba chápat v širokém významu nejzazšího symbolismu (kouř nám komunikuje oheň, mračna bouři a nervózní pohyby soukmenovců přicházející útok), a tím také "já" a má "vůle" se vyčleňují jako určité jednotky reality pouze postupně.
  • AGI může provádět jednotkování (dělení na entity opatřené znakem) reality, ale také možná nemusí. Provádí-li jednotkování reality, pak se svým rozvojem nutně stává více vědomou. Neprovádí-li jednotkování reality, pak vědomou být vůbec nemusí, a přesto se může jednat o obecnou inteligenci.
    • AGI jednotkující realitu je inteligence, jak bychom si ji představovali - má znaky (pojmy) pro určité výseče reality a tyto dává do vztahů a pracuje s nimi.
    • AGI nevědomá je těžko představitelná :)
      • To se komplikuje dokonce tím, že pokud by její rozvoj vyžadoval interakci s lidmi, pak by nejspíše dokonce mluvila a konverzovala. A přesto by byla nevědomá.
        • To potřebuje ujasnění, které se mi nevede...
      • Nevědomou AGI je také prostá neuronová siť, což se také komplikuje, že nejzajímavější neuronová síť s námi povídá.
      • Zde se však zdá být zajímavý bod:
        • možná je to antropocentrismus, ale přestože se mi jeví obecná inteligence v zásadě možná i jako nevědomá, tak se mi ale nezdá pravděpodobná, neboť mělo by k jejímu rozvoji dojít jaksi samovolně, pak se nezdá, že by zvládla překonat některé bažiny (viz pojem bažiny zde) a těmito bažinami by se mi pak téměř zdál být možná každý inkrement rozvoje.
          • Myšlenka: Použití symbolického jazyka v širokém slova smyslu je možná nutnou praktickou podmínkou pro existenci obecné inteligence jakožto rozvíjejícího se mechanismu.
            • can't help it, just rings true...

Spící, vypnutá a přerušovaná AGI

• Celkem s jistotou bych řekl, že koncept spánku, vypnutí a zapnutí či ztráty části paměti není v rozporu s pojmem {obecné} {umělé} inteligence.
  
  • Jednak člověk, kterého považujeme za obecnou inteligenci také spí a probouzí se a v extrémnější formě dokonce má možnost být v bezvědomí a vědomí znovu nabýt, aniž by to nutně znamenalo ztrátu obecné inteligence daného člověka. Lze nemítnout, že nejspíše ani v tvrdém komatu není lidský mozek skutečně vypnutý, ale jednoduše nevidím, proč by ve vypnutí a zapnutí měla být nějaká potíž. Stejně tak má člověk schopnost vymazat kusy paměti a následně se znovu učit. (minimálně se nejedná o rozpor v pojmu).
  • ⇒ tedy samotná skutečnost, že stroj/program může nějakou dobu neběžet či být v nečinosti nijak neodporuje pojmu.

Soubor zajímavých vlastností, které nejsou dostatečnou podmínkou pro AGI (mohou být nutnou či možnou, ale nikoliv dostatečnou podmínkou)

• Schopnost výběru témat hovoru, akce:
  
  • negace: lze naprogramovat jednoduchý stroj nabízející témata hovoru, akcí
• Schopnost kladení otázek:
  • negace: lze naprogramovat jednoduchý stroj kladoucí otázky
• Schopnost udržení linky rozhovoru:
  • negace: lze naprogramovat jednoduchý stroj identifikující téma rozhovoru a reagující vhodně tak, aby byl udržen rozhovor.
• Schopnost exklamovat své pocity a touhy:
  • negace: leze naprogramovat jednoduchý stroj, který vykřikuje podobná hesla a přitom je to jen zcela jednoduchý stroj
• Schopnost postupovat směrem k cíli:
  • negace: stroj hrající šachy nebo NPC pokoušející se zabít hlavního hrdinu jsou výtvory sledující cíl a nejsou AGI
• Schopnost podílet se na sebe rozvoji:
  • zde nejasné a zajímavé
    
    • určitě lze vymyslet nějaký příklad "podílení se na seberozvoji", který by nebyl dostačující, ale možná lze tuto ideu specifikovat tak, aby byl?
  • pozor, nezaměnit s tím, že zároveň říkáme, že schopnost sebe-rozvoje je nutnou, a dokonce ústřední, podmínkou pojmu (A)GI. Zde říkáme, že pouhý skutečnost, že se entita na svém rozvoji "nějak podílí" není sama dostatečná.
• Schopnost efektivně ovlivňovat vesmír
  • negace: vybuchující hvězda umí ovlivňovat vesmír lépe než každý člověk i celé lidstvo dohromady, ale není AGI
  • negace: automat umí provést komplexní výpočty a třeba vysoustružit tvar do extrémně tvrdého materiálu, ale není tím AGI

Je reaktivní systém v rozporu s AGI?

• Otázkou je, zda podstata pojmu AGI vyžaduje jako nutnou podmínku, aby byl systém sám aktivní a nebyl jen reaktivní a to ve smyslu, kdy je systém bez pohybu (myšleno i vnitřní pohyb jako třeba výpočet v procesoru atp) do chvíle externího postrčení (uživatelský vstup například.)
  • Odpověď: čistá reaktivnost v důsledku není v rozporu s AGI a jejím rozvíjením (přestože je to velice nepraktické).
    • Zaprvé) reaktivní pohyb je jen speciálním případem každého pohybu.
    • Zadruhé) zastavení a pohyb je to stejné jako spánek a probuzení, které byly identifikované jako nerozporné s pojmem AGI
    • Zatřetí) akce na základě šťouchnutí je to samé jako pohyb na základě dodání zdroje energie. Potenciální kolos AGI systému se dá do pohybu s každým šťouchnutím a nijak to nevylučuje takkový vnitřní pohyb systému, který napříč 1000 šťouchnutími neprovádí lidsky identifikovatelnou jednu akci na pozadí.
    • Začtvrté) Je velký omyl zaměnit reaktivost s negací aktérství ve světě. Pominemeli samotnou fyzikální skutečnost běžícího stroje, pak digitální a zejména symbolické výstupy tohoto stroje jsou nástrojem aktérství. Výstup může/je nepozorovaně modifikován tak, že může iniciovat další pohyb souladný s určitým člověku těžko identifikovateným "cílem".
      • Příklad z lidských rozměrů: Mohu si zaplatit donášku kávy, určitou knihu a mohu s člověkem X zažehnout určitý rozhovor (či na něj reagovat tak, že se rozhovor zažehne) a tím zpětně obejít sám sebe, protože například nejsem motivovaný něco dělat, ale vím, že jakmile si dám kávu, přečtu knihu a dám se do rozhovoru s osobou X, pak budu motivovaný k akci Y.
        
        • ⇒ Takže: také člověk je takto reaktivní a je schopen vracet takové symbolické výstupy (řeč) vedoucí k jeho budoucímu rozpohybování tím či oním směrem.

AGI musí být z podstaty pojmu nedokonalá, s potenciálem (sebe) rozvoje

• AGI je vždy nedokonalá a s potenciálem dalšího (sebe) rozvoje, jinak se nejedná o AGI.
  
  • Máme dva konce spektra dokonalosti, které ohraničují pojem AGI:
    • Bůh ⇒ z jedné strany je AGI v jejím konečném rozvoji, tedy taková, která je dokonalá, všemocná, všeznalá. Jenže toto není AGI, ale tento koncept označujeme jako Boha.
      • Bůh v opravdovém krajním smyslu slova navíc může být pouze jeden (mít jakési dvě plně mocné, plně vědomé entity současně se zdá jako logický nesmysl), takže zde by bylo opravdu zbytečné zvažovat, že vznikl nějakou "umělou" cestou...
      • Pokud přemýšlíme a praktickém (s)tvoření AGI, pak se opravdu zdá zbytečné uvažovat Boha.
    • Šikovný stroj ⇒ z druhé strany je něco, co bylo vytrénováno/stvořeno do určité míry schopnosti bez dalšího (sebe) rozvoje. Ale (sebe) rozvoj je jistě nutnou podmínkou pojmu general intelligence. Výtvor, který dosáhl pouze určitého stupně vývoje a nemá potenci se dále (sebe) rozvíjet (jakkoliv vysokým stupněm schopnosti ovlivňovat vesmír tato entita oplývá), není obecnou inteligencí tak, jak jí míníme.
      • To je zajímavé, protože se nabízí otázka, čím tedy je.
        • Zde by se nabízelo odpovědět, že je stále inteligencí, třebaže ne obecnou, jenže když se dále zamyslíme, tak zjistíme, že nenacházíme podstatné dělítko mezi touto nejasnou ideou "inteligence" a postupným navyšování schopností od kamene, přes řeku, přes hmyzy, lvi, kávovary a stavidla, k neuronovým sítím dnešního typu (2023-04-16) a dále. Takto by se zdálo, že se nakonec nejedná o podstatnou odlišnost, ale pouze kontinuum míry schopnosti interakovat jakožto agent s realitou, čímž bychom zrušili podstatný rozdíl mezi kávovarem a třeba šimpanzem a nejspíše i člověkem (kterého však chceme považovat za obecně inteligentního).
          • nejasnost zde lze převést do otázky: Je možné myslet pojem "inteligence" jako něco podstatně svébytného, aniž by tato inteligence byla obecná?
• Pojem AGI není podmíněn úspěchem svého rozvoje, tedy AGI je také neúspěšná AGI
  • reductio ad absurdum: pokud by podmíněnost měla platit, pak musí také platit vždy následný úspěch rozvoje hodnocený od libovolnho inkrementu rozvoje. Takto tedy musí být AGI úspěšná ve svém rozvoji stále, a tedy se jedná o AGI jen tehdy, pokud ani v žádném hypotetickém posledním inkrementu rozvoje před dosažením božství není neúspěšná. Takto bychom tedy nikdy o žádné entitě nemohli rozhodnout, že je AGI, pouze, že není, při ultimátním selhání rušícím její identitu.
    • zároveň by takto bylo třeba upřít obecnou inteligenci také člověku, kterému ani zdaleka neupíráme vysoký stupeň jistoty, že jeho rozvoj bude ukončen dříve, než dosáhne božství. Jinými slovy: zdá se celkem jasné, že lidstvo dříve či později zanikne a nebo je to alespoň velice pravděpodobné a přesto bychom nesouhlasili, že se tím nějak ruší naše obecnost inteligence.
    • <== z toho však naopak plyna problém/otázka malinkých delt rozvoje. GI bychom potom chtěli hledat také třeba u slimánka -- rel: AHGI, člověkem vázaný pojem

(A)GI jakožto pojem je závislá na člověku

• To, co pojmem chápeme a co se snažíme vyhranit je nějaký speciální druh entity a aktéra ve světě.
  • Jak bylo řečeno, žádné entity však v určitém smyslu neexistují a veškerá existence před i po lze v důsledku odvodit třeba od mrknutí místního ropušáka Kváka, který by se tak rázem stal na první pohled velice pasivním, ale v konečném součtu všemocným Bohem určující všechny a vždy včetně zapříčinění své vlastní existence jakožto zeleného ropušáka. Takto pojatý ropušák-bůh však není ohraničen svým zeleným tělíčkem, ale rozléha se napříč prostorem i časem a v důsledku nemá žádné ohraničení.
  • My však hledáme určitého, ohraničeného, aktéra a co víc, aktéra dostatečně lokalizovaného, dostatečně málo kauzálně propleteného, abychom jej jakožto lidé dokázali určit. Co je nám po aktérovi, jehož jeden úkon o důležitosti zívnutí trvá miliardy let? Ne, my hledáme aktéra, jehož rozvoj může člověk sledovat!
  • ⇒ paradoxně tedy můžeme najít (A)GI pouze tam, kde ji hledáme a tam, kde ji nehledáme ji ani nenalezneme, protože s největší pravděpodobností odporuje pojmu. (že bychom našli lokalizovaného aktéra v rozměrech prostoru a času nelidských je nepravděpodobné a už vůbec bychom sami nestvořili).
    • asi zde chybí ještě lepší uchopení myšlenky, ale myslím, že se jedná o zásadní poznatek

AGI musí být schopna se sebe-rozvíjet

• Ano, sebe-rozvoj považuji za ústřední nutnou vlastnost pojmu (A)GI.
  
  • Je zde však problém s pojmem rozvojové bažiny a příkladu uvězněného Alberta Einsteina. Není tento Albert obecně inteligentní jenom proto, že prakticky se skutečně rozvíjet nemůže, přestože jeho entitní sestavení se zdá tento potenciál mít?

AGI se musí držet cíle?

• Za předpokladu dodržení pojmu rozvoje jakožto rozšiřující se schopnosti entity se pohybovat realitou a za předpokladu, že rozvoj považujeme za ústřední vlastnost (A)GI, pak není nutnou podmínkou, aby se (A)GI držela cíle. Musí být pouze schopna (či mít potenciál?) se rozvíjet.