Obsah

= Aktuální názory, pohledy na věc, závěry

Témata a problémy k vyřešení, poznámky

obecnost a AGI
hloupá AGI
líná AGI
hippie, zen AGI
AI a lidská inteligence, obecnost lidské inteligence, dětská inteligence, zvířecí inteligence, inteligence rostlin a hmyzu, inteligence počasí
AGI versus rození dětí - GI factory; A in AGI? Pozor, člověk bude a zároveň nebude mít pocit, že dosáhl svého cíle, pokud například smíchá písek s vodou, tříkrát proklepe a bude z toho AGI -- bude to sice exciting, ale jde o další nalezenou factory
co používáme jako metriku rozvoje? - schopnost ovlivňovat realitu by upřednostnila ropuchu, která skočila na tlačítko detonátoru neutronové bomby před profesorem fyziky; čistá potence by umožňovala AGI, která se nikdy nerozhodla rozvinout... -- navyšování potence měnit vesmír se zdá lepší, ale také dává bludišťáky za rozvoj směrem k tyranovi, než k profesorovi fyziky...
Implementace
- nechat AI vytvářet artefakty, který její další instanci budou sloužit jako optimální optimizátory jejího rozvoje, tedy vytvářet nástroje přenosu informace jako v případě člověka se jedná v případě jazyka, ústní tradice, knih, nástrojů

Základní metafyzický předpoklad

Všechny úvahy a závěry zde vychází z předpokladu fyzikální podstaty jsoucna. Tento postoj je schopen pojmout také vidinu naši reality jako virtuální sub-reality jiného fyzikálního systému. Zároveň je tento postoj nekompatibilní s vidinou lidského vědomí jako zásadně propojeného s ideovou podstatou reality (nazvěme to hegeliánstvím).
- jako spojnici mezi hegeliánstvím a fyzikálním pojetím reality bych viděl správně vykonanou fenomenologii, ale zde budeme operovat pouze v rámci fyzikálního předpokladu, dokud zde nebude řečeno jinak
- ⇒ důsledek: lidské vědomí a lidské schopnosti i hranice jsou vlastností fyzikální reality lidského mozku, těla a prostředí. Lidský mozek je biologický mechanismus. Přesná fyzikální rekonstrukce člověka A vede k člověku A' obdařeného stejným vědomím, schopnostmi atp. Jinými slovy: existují pouze molekuly, žádná "duše".
  - toto nejsou objektivní deklarace, jde o vyhranění rámce úvahy ("duše" klidně může existovat ať už to má znamenat cokoliv, ale následně je potřeba ujasnit rámec, ve kterém existuje "duše" a následně se jej pokusit propojit s rámcem, ve kterém "duše" smysl nedává).

Prerekvizitní koncepty

X) Meta

zde budou popsány nějaké obecné koncepty, se kterými dále pracuji a tvoří spíše prerekvizity pro úvahy a predikáty ohledně AGI než jako samotné predikáty. (Příklad: Je dobré si ujasnit koncept sladké a kyselé chuti, než začneme o určitém pokrmu predikovat, že je sladký nebo kyselý.)

Koncept rozvojové bažiny

Lze myslet takový stav existence ohraničené entity X za podmínek Y, kdy je daná entita uvězněna v cyklu sebe-udržování, a tedy nevykazuje sebemenší známky rozvoje, čímž bychom ji chtěli upřít status obecné inteligence, kdy však zároveň stačí tyto podmínky Y jen mírně pozměnit do stavu Y' a náhle se otevírají stavidla rozvojového potenciálu entity X.
- Lze uvést několik obrazů:
  - Mějme klona Alberta Einsteina, který v důsledku svého aktuálního socio-ekonomického stavu a morálních zásad musí vynakládat veškerou svou energii na odvádění monotónní práce pro udržení svého života a života jemu blízkých. Každý den se vrací vyčerpán, něco pojí, usne a ráno zase znova takto celý život, než zemře. ⇒ tomuto Albertovi by stačil jediný měsíc klidu, aby si rozmyslel několik věcí a svou sociopast geniálně obehrál, osvobodil se a pokračoval skokově ve svém rozvoji a podpoře svých blízkých. Tento čas mu však není dopřán a on se z koloběhu nikdy nevymaní.
    - ⇒ chtěli bychom tvrdit, že se jedná o potenciálně velice schopnou obecnou inteligenci, která však byla pouze uvězněna v tomto cyklu.
  - Permanentní kolaps civilizace, jak o něm mluví Toby Ord, aneb uvěznění na ostrově ve hře Banished.
  - Lze uvést mnoho dalších příkladů tohoto mechanismu: vražda entity (entitě byl znemožněn rozvoj), vyrušování entity (entita neměla šanci na zamyšlení), neumožnění zkonstruování nutných externích nástrojů sloužící entitě pro sebe-rozvoj.
⇒ pojem v dovedení do extrémů hrozí dvěma absurdními závěry:
- 1) Úplně všechno na světě je potenciální geniální obecná umělá inteligence. Každý kámen i slimák. Jen je potřeba, aby byly podmínky vždy příznivé rozvoji (to v případě kamene znamená takový vývoj "podmínek", které hýbou takovým způsobem jeho atomy, že jej činí všemocným.) V důsledku se jedná o čistou potenci, energii.
- 2) Klon Alberta Einsteina zatížený jeho ekonomickou situací a morálním smýšlením není ani geniální, ani obecně inteligentní a je víceméně kalkulačkou nebo kávovarem. Co hůř, běžný Franta Sedláček není obecně inteligentní.

Obava z nepravé AGI (vlastně nedůležité)

Obavu lze vyjádřit pouze formálně, protože, abychom se mohli náležitě obávat nepravé AGI, nejprve bychom museli vědět, co mínímě pod pojmem pravé AGI, což právě nevíme a zde řešíme.
Obava formálně:
- řekněme že lidé či lidstvo jsou GI.
- řekněme, že stvoří něco, co podobně jako chatbot umí řešit různé úlohy a lidstvo vyhladí či nahradí.
- řekněme, že tento výtvor, tento chatbox, není obecně inteligentní
⇒ obava je však celkem irelevantní, protože:
- pokud lidstvo namísto AGI nahradí jiná cizí GI a nebo i skutečná AGI, tak lidé tento stav nebudou schvalovat o nic více, než ten, kdy je nahradí ne-GI.
- "nahrazení" ne-GI je rovno prostě vyhlazení, vymření na roveň sebe-vyhlazení třeba nemocí či výbušninami; stejně tak nemusí jít o nahrazení, ale také o uvěznění či ztrátu schopnosti změny dějinného kurzu

Problém ohraničování (= vyčlenění entit reality, vyčlenění AGI jako entity)

Význam existence entit obecně (té či oné entity, například této sponky nebo tohoto mravence) je nuancovaný a důležitý. Chybí nám správná rozčleněnost pojmů, a proto mohou být obě následující tvrzení pravdivá současně:
- 1) Entity ve skutečnosti vůbec neexistují
  - Ani sponka, ani mravenec, ani člověk, ani planety atd. neexistují. ⇒ Význam: neplatí platónská teorie idejí, základních forem, aristotelských substancí, kterými je dána existence pseudo-entit jako je sponka atd. V extrémním důsledku nedává žádná výseč reality smysl sama o sobě. Vše je provázané se vším a samostatně nelze plně explikovat.
    - Jednoduchým příkladem může být mravenec. Mravenec není židle a není vzdálenou galaxií, ale i tak jsou spolu v důsledku podstatně (podstata, substance) spojeni. Při přiblížení na úroveň například atomů nejsme schopni detekovat žádný rozdíl mezi mravencem a ne-mravencem. Mravenec se zdá být identifikován především svými interakcemi s realitou (jak se pohybuje, jak se od něj odráží světlo, co dělá atp.). Jak se ale pohybuje mravenec na dně oceánu, jak uprostřed Slunce, jak v lese, jak ve vzduchoprázdnu? Aby byl mravenec mravencem, jak jej očekáváme, potřebujeme jeho stavbu mít v podmínkách umožňujících zachování identity mravence. Plná abstrakce mravence není možná, nelze vysvětlit žádný jeho pohyb, protože se při rigorózním rozboru dostaneme do fyzikálních termodynamických nesmyslů. Před duševním zrakem sice mravenec běhá, ale jedná se o nedokonalou abstrakci z jeho jinak kompatibilních kontextů (les, chodník, atmosféra o určité teplotě a složení...).
    - Jinými slovy: pokud bychom chtěli celou realitu božsky plně explikovat, pak žádný výseč reality nemůže dávat smysl sama o sobě, a tedy tyto hranice, které oddělují mravence od židle jsou pouze domnělé.
- 2) Entity skutečně existují
  - Sponka, mravenec atd. samozřejmě "skutečně existují". Něčím rozhodně jsou, protože jinak bychom o nich nemluvili a už vůbec bychom se o nich nedorozuměli. ⇒ Význam: Entity existují pouze jako inteligencí uchopované nástroje pro predikci reality.
    - Mravenec existuje stejným způsobem jako existuje konkrétní či také abstraktní hra v šachy. V jednom smyslu žádná hra v šachy ve vesmíru neexistuje, je pouze lidským konstruktem a mezilidským kontraktem. Máme schopnost identifikovat učitou výseč reality jako instanci "hry v šachy" a díky ní méně či více úspěšně predikovat pohyby reality (odhady do budoucnosti i vysvětlení do minulosti). Pokud danou výseč identifikuji jako hru v šachy mám šanci úspěšně predikovat, jaké pohyby se budou odehrávat na stole a možná i co se stalo v minulosti. Kdybych v daných figurkách hru v šachu nerozpoznal, neměl bych tuto schopnost/nástroj predikce. ⇒ Jistě, hra je lidská konstrukce a kontrakt může být porušen. Hra všachy je však plně pohybována lidmy. Systémy jako mravenec nebo kávovar se však také umí pohybovat fyzikálně samostatně. Pokud danou výseč reality pochopím jako mravence, pak mám šanci lépe predikovat budoucí a minulé skutečnosti reality (např. kam a jakým způsobem se ty rezavé skvrny budou pohybovat).
    - Svět, který se inteligence snaží uchopovat je zjevně uchopovatelný tak, že existují lépe či hůře ohraničitelné jednotky (entity), které nám umožňují jej predikovat.
      - Příklad pěkného ohraničení jsou třeba planety či asteroidy. Letící asteroid zdá se nijak zvlášť nesouvisí s mravencem na mé noze ani se vzdálenou galaxií a jeho pohyby a interakce se světem jsem schopen dobře predikovat.
      - S jinými jevy to může být obtížnější: kde začíná a končí interakce podhoubí, počasí, quantum entangeled particles, lidská společnost, změny klimatu...
    - Entity jsou tedy takové výseče reality, jejichž nizší provázanost se vším ostatním umožňuje inteligenci predikci pohybů reality.
Souvislost s AGI:
- entity s extrémně nízkou provázaností s celkem reality (například mravenec, kávovar či asteroid) jsou většinou inteligencí uchopitelné jako víceméně jasně lokalizované v rámci trojrozměrného prostoru světa. Pokud chci znegovat mravencovu prediktivní funkci (nebo-li pokud chci zrušit mravencovu existenci), pak není náhodou že exploze na všemožných místech reality daného mravence nijak neovlivní, ale že exploze v jeho lokalitě jej ovlivní významně. Půjdeme-li do většího extrému, pak lze na mravenci lokalizovat jeho významné orgány a jejich funkci. Chtěli bychom-li precizně eliminovat mravencovu prediktivní funkci jakožto "mravence", pak odnětí nervového centra by bylo extrémně účinné.
  - ⇒ v případě AGI významně záleží na tom, jak je implementována a pro kterou výseč reality chceme tohoto pojmu vhodně použít.
    - relativně snadné je to tehdy, pokud AGI vsadíme do fyzického těla libovolného typu a ponecháme jí možnost interakce se světem pouze manuálním způsobem ve stylu: "nechme ji robotickou rukou řešit tuto a jinou úlohu". V tomto případě je otázka lokalizace zhruba podobná jako u člověka nebo mravence. ⇒ máme jasnou představu, kde se daná instance AGI v prostoru nachází a víme, kde negovat její prediktivní funkci
    - jenže, co když je AGI propojena s internetem, s dalšími lidmi, s dalšími pseudo-instancemi AGI? Vzhledem k potenciální superinteligenci této entity se může podobně jako pralesní podhoubí daná "instance" AGI rozdistribuovat do prostoru a času, a je-li dostatečně inteligentní, pak může být prakticky lidským rozumem nedetekovatelná.
      - Těžko představitelný extrémní příklad: vzhledem k tomu, že spící/vypnutá AGI není rozporná v pojmu. Pak "jedná isntance AGI" může v čase zanikat a vznikat a stále být sama sebou jako jednotkou (podobně lidstvo napříč generacemi). Extrémně schopná AGI se může klidně nechat zničit a v budoucnu znovu vytvořit a pokračovat ve svém díle, aniž by někdo tušil, že se v důsledku jedná o v určitém smyslu shodnou entitu.
      - V důsledku neexistence tvrdých hranic mezi entitami je potřeba si uvědomit, že v kontextu planety země a toho, co považujeme za první vznik AGI v historii je nejpravdědpoobnější lokalizace této entity v kombinaci: výpočetní stroje, data persistovaná v jakékoliv podobě, sociální struktura a v neposlední řadě lidé samotní. Stejně jako má mravenec nohy a produkuje chemikálie, tak AGI již nyní může být identifikovatelná jako lokalizovaná jak ve strojích, tak v lidech, kteří jsou nyní potřební k jejímu aktérství

Problém identit

Problém identit úzce souvisí s koncepty: "problém ohraničování" a "vědomí, já a vůle" a možná je na ně dokonce převoditelný.
Problém: Očekáváme, že stvoříme-li AGI, pak jsme stvořili jednu či více entit AGI, a tyto entity budou mít svou identitu napříč časem jakožto "ta" AGI, "ta" entita. Jenže pojem identity se, minimálně ve fyzikálním, pojetí bortí. Má-li mít AGI až nekonečnou schopnost sebe-rozvoje, pak se musí sebe-upravovat a to téměř nutně k nepoznání stavu X od Y a Z. Pokud to však dovolíme, pak je třeba držet identitu i mezi člověkem a AGI jakožto jeho sebe-optimalizací do nerozpoznatelné nové formy. To se zdá absurdní. Pokud však robot A postaví druhého lepšího robota B a následně robot A vybouchne a robot B řekne: "Jo, hned se cítím lépe, pokračujeme?", tak už nám to tak absurdní nepřijde.
- Je však pravda, že člověk zatím zvládl (dle vlastního sebe-vyhodnocení) velké kroky, aniž by se musel vnitřně sebe-upravovat v něco jiného. To ale jednak není striktně pravdivé, a také to brzy narazí na hranice. K tomu pak sama otázka potomků jakožto entit zachovávající identitu lidstva. A pak zde máme také externí nástroje jako knihy, pravítka a kalkulačky, které jsou jen hrubou externí formou biologické vnitřní úpravy.
- Určitá cesta vyřešení by se zdála nabízet v omezení pojmu identity buď na pouhou ohraničenost entit a nebo na úzkou podmíněnost vědomím, já a vůlí, ale také zde bychom narazili, pokud nám naše zdrátovaná AGI řekne: "Taťko, mamko, vždyť já jsem také člověk."

Koncept vůle

Dle mého pochopení správné pojetí "vůle" a "já":
- "Vůle" je sebe-reflexivní predikce sebe samého jako aktéra ve světě.
Zde chybný výčet pojetí "vůle"
- A) "Vůle" by mohla být přímo spjata s pojmem "duše", která je aktérem ve světě
  - ⇒ tento rámec úvahy však duši vylučuje jako nesmyslnou ideu, ne-pojem, tedy se také tento význam "vůle" vylučuje ne-pojem
- B) "Vůle" může být pojata jako označení vnitřních podmínek ohraničeného systému vedoucí k jeho aktérství ve světě, kdy my jako ti, kdo pojem používáme, nemáme přesnou představu o těchto vnitřních podmínkách.
  - ⇒ takto by byl pojem "vůle" pojmem neznalosti, a tedy nejen člověk, ale také oheň, počasí či kávovar "se rozhodli" udělat to či ono, "chtějí" se pohybovat takto a ne jinak atp. ⇒ jednalo by se o tak smutný význam toho slova, že ho snad ani nechceme používat
- C) "Vůle" může být pojata jako hravý animismus (cca stejné jako (B)), kdy je irelevantní, zda ohraničený systém světa (kávora, oheň, planeta, člověk či mravenec...) chápeme nedokonale nebo klidně i dokonale do poslední interakce atomu. Přestože dokážeme "plně" predikovat chování kávovaru, tak o něm hravě budeme prohlašovat, že "se mu už nelíbí v jakém je stavu a chce se nechat vyčistit".

Obecný pojem reality

Abstraktní pojetí:
- V materialistickém pohledu:
  - soubor všech proměnných hodnot, nebo-li diferencí
- Ve fenomenologickém pohledu:
  - soubor všech vědomím uchopovatelných hodnot, diferencí (= fenomenologická objektivita)
Praktické pojetí:
- V důsledku se neptáme, zda je nějaký trakař nebo soubor atomů reálný. V důsledku jde o všechna "něco", která lze zvažovat, pozorovat, analyzovat, ovlivňovat a odlišit jedna od druhé. V obecném pojetí jsou si tak rovny trakař a nekonečná proměna výkyvů energie někde v jádru slunce nebo proměna čísel v paměti výpočetního stroje. Kdyby však například člověk byl vystaven od narození spíše chaosu (pseudo)náhodně proměnným hodnotám spíše než trakařům, pak by asi nikdy nikam nedošel (viz pojem rozvojové bažiny).

Obecný pojem pohybu

Abstraktní obecné pojetí: pohyb je vůči entitě kauzálně identifikovatelná změna stavu reality (tedy proměna aktuálních hodnot)

Obecný pojem rozvoje

Abstraktní obecné pojetí: zvyšující se schopnost entit (viz problém vyčleňování entit) ovlivňovat realitu (viz obecný pojem reality)
- silně abstrahovaně: zvyšující se schopnost entit se pohybovat
- pozor: nemusí jít ani o záměrné ovlivňování, takže v důsledku se entita rozvijí i když by třeba chtěla udělat "A", ale udělá "B", "C", "D".
Praktický důsledkek:
- Jsme schopni konstruovat vysoce abstraktní, třeba digitální, realitu (= kauzálním systémem propojenou proměnu hodnot celkové množiny) a pozorovat schopnost naší entity (cvičená AGI) tuto realitu více a více ovlivňovat.
  - Jednoduchý praktický příklad:
    - Utvořím realitu jako jednoduchou počítačovou hru, kde jsou po ploše rozprostřeny herní nástroje umožňující další schopnosti atd. AI se rozvijí tehdy, pokud postupně nabývá schopnosti ovlivňovat více a více tento herní svět. K tomu asi bude potřebovat herní nástroje. Pokud herní postavičku AI soupeř zabije a ona přijde o nástroje, pak asi bude muset zajistit, aby neumírala, chce-li se rozvíjet.

Nemáme dostatečně jasno, o čem mluvíme a to je i není problém

Víme, co pojmem {obecné} {umělé} inteligence míníme a také to nevíme.

Čtěte dále

Creation: 2023-04-16 11:20:38 | Authors: Demo

Na co se to koukáte? Je třeba pokusit se to vysvětlit, ehm :)

Zde chci sepisovat (také sám pro sebe) své nálezy toho, čemu říkám "principy". Tento "princip" určitě není nic fyzického a určitě to není něco, co vypovídá o něčem, co je vázáno ani na nějaký čas ani místo. Má to tedy vyjadřovat jakousi podstatně obecnou skutečnost. Jistý si nejsem, ale asi to lze označit za "metafyziku". Zároveň se zdá, že každý takto nalezený "princip", ze své podstaty, nemůže být myšlen bez nějakých jeho negujících variant (pokud s velkou slávou o něčem říkám, že to je, pak musí existovat i smysluplná možnost, že to není). Sám si nejsem jistý, co takov&yacut

Čtěte dále

Creation: 2019-05-07 00:07:49 | Authors: Demo

{Obecná} {Umělá} Inteligence

Meta

Výchozí situace

Forma

Postup mých úvah obecně a také zde