singularita
cloud a zmeny
5. januára 2016
devops a cloud
13. januára 2016
ľudia pomaly končia. homo sapiens je roztomilá, povšimnuteľná, i keď prikrátka epizódka v dejinách zeme (časovo zaberáme 0,003%). v roku 2060 buď vymrieme, alebo sa vyvinieme na niečo úplne iné, čo si bude zasluhovať nové meno. znie to fantasmagoricky, ale po zodpovednom pokuse naštudovať si seriózne vedecké pramene som sám šokovaný z toho, že vedci neriešia či, ale kedy. sľúbil som túto tému v predošlom blogu o cloude a keďže nie je sneh, píšem.
písal som, že ľudský pokrok nie je lineárny, ale exponenciálny. trvalo nám neskonale dlho založiť oheň, ale z klinového písma k tlačeným knihám sme prešli svižne a z komptometra k superpočítačom ako navoskovaný blesk. (naučil som sa v detstve rátať na komptometri od deda).
a tak tu máme umelú inteligenciu (AI). máme? moment, veľa ľudí si myslí, že nemáme. súvisí to aj s tým, ako umelej inteligencii sprofanoval imidž holywood. ľudia nebudú veriť, že tu máme AI, kým na ulici nebude pobehovať terminátor 2.
poprvé, umelá inteligencia nie je ten stroj na filmovom plátne, ale ten softvér v jeho vnútri. softvér deep blue, čo pobil kasparova, je AI. watson je tiež chytrý stroj od IBM, analyzuje neštruktúrované dáta a vyhral vedomostnú súťaž jeopardy. teraz ho učia diagnostikovať choroby, stačí mu prečítať si medicínske knižky, nejaké tie zdravotné karty a popísať mu symptómy. produkt pre onkológiu už ibm ponúka. ale aj navigačný soft v aute je husté AI, výber zobrazených statusov na facebooku je AI a to, keď ti v Martinuse online pokladňa doporučí ďaľšiu knižku, je to tiež drsné AI.
lenže platí slávne pravidlo, že to, čo funguje, už nikto nepokladá za AI. technologické vychytávky, nad ktorými by naši dedovia žasli, my pokladáme za normálne.
to je smutné, lebo celé detstvo som hltal sci-fi a kyber-punkovú literatúru a hrozne som sa na dnešný deň tešil. dal by som vtedy všetky svoje guličky aj prak, aby som svojím zostrojeným ďalekohľadom (díky strýko), mohol nakuknúť do roku 2016 a videl všetko toto AI. čítal som striedavo dedov „technika překonáva prostor a čas“ a otcove sci-fi knižky a v hlave som to kombinoval. teraz je to tu a nikto nič ?
aby som ale pravdu povedal – aj ja som trochu sklamaný. máme husté technológie, ale malo to byť inak. deep blue neporazil kasparova myslením, len si zúrivo dopredu vypočítal výsledky všetkých kombinácií ťahov. kalkulačka na steroidoch, ale v médiách to zveličovali. novinárom chýbalo elementárne pochopenie toho, ako funguje počítač a čo je ľudský mozog. „watson nevie, že vyhral jeopardy!“ tvrdí filozof John Searle.
realita je taká, že sú všetky dnešné umelé inteligencie veľmi účelové. ide im dobre jedna vec. počítač sa ale nevie pozrieť na petra nagya a pochopiť, ako každé malé dieťa, že je neskonale trapný. to si (prekvapivo) vyžaduje kombináciu audio-vizuálneho spracovania, kultúrneho kontextu a kognitívneho myslenia, ktorú počítače nemajú.
AI je teda zatiaľ jedno-účelové a v niektorých oblastiach je lepšie ako my a v niektorých horšie. v šachu už je dávno lepšie, v rozpoznávaní mačky od psa je AI ďaleko horšie. je to vlastne takto: všetko, čo sa my musíme učiť, vie počítač oveľa lepšie ako my. napríklad násobenie veľkých čísiel. na druhej strane, všetko, čo sa nemusíme učiť a vieme vďaka prírodnej evolúcii, vieme my lepšie. ak by sme my cicavce niekedy počas 200-milónov rokov dlhej evolúcie potrebovali na prežitie násobiť šesť-ciferné čísla, verte mi, že by sme to teraz vedeli mihnutím oka. ale (žiaľ) nepotrebovali sme to. pri behu po africkej stepi sme sa napríklad museli naučiť bleskovo vyrátať, ktorý krík má tak hrubé a husté konáre, že sa mu musíme vyhnúť a ktorým kríkom sa proste dá preletieť. vie to aj malé dieťa, ale je tu brutálne hustý výpočet. toto autonómne autá nevedia ani dnes a keď DARPA v roku 2004 spustila svoju prvú grand challenge súťaž autonómnych áut, počítače nevedeli v nevadskej púšti rozoznať ani krík od tieňa kríku (do cieľa neprišlo žiadne auto).
keď sa mi narodil syn martin, zabávalo ma porovnávať jeho vyvíjajúce sa schopnosti so zručnosťami AI. hneď počas prvých mesiacov som identifikoval činnosti, ktoré dnešné AI jednoznačne nedokáže. nevieme naprogramovať batoľa.
a predsa sme sa dostali v AI úžasne ďaleko. indikujú nám to aj obavy mnohých svetových mysliteľov. minule spomínaný bill joy, vynálezca javy, napísal v roku 2000 do wiredu článok „prečo nás budúcnosť nepotrebuje“. joy nám vysvetľoval, že najsilnejšie technológie 21. storočia ako nanotech, robotika a genetické inžinierstvo, z nás spravia ohrozený druh, lebo v zlých rukách sa poľahky zmenia na zbrane hromadného ničenia.
teraz to ešte nehrozí, drsné zbrane dneška sú veľmi ťažko dosiahnuteľné. napríklad severná kórea míňa na vývoj jadrovej zbrane 6% gdp a potrebuje kopec ďaľších obrovských a drahých hračiek, ako je ťažba uránu a centrifúgy. to dá málokto. ale postaviť raz bandu zúrivých, samo-replikovateľných nanobotov s úlohou zožrať ľudstvo, bude možno vyžadovať len šikovného programátora a súčiastky z nanoTechnic lega. pred dvanástimi rokmi som uverejnil slovenský preklad toho článku joy-a a divil som sa, že to ľudia neprežívajú, ako ja. možno by sa mal zastaviť všetok pokrok, hútal som.
ak sa chceme baviť o počítači na úrovni ľudského mozgu, nie je to vôbec len o hardvérovom výkone. lebo, podržte sa, ten už máme. Dr. Modha, popredný vedec v tejto oblasti z IBM, odhaduje výpočtovú kapacitu mozgu na čosi cez 30 petaflopov. a presne toľko má čínsky super-počítač tianhe 2. ten vôbec nestojí málo ($390m), už ale vieme, že nepotrvá dlho a jeho dnešný výkon budeme nosiť vo vrecku. dnešný iphone je výkonnejší ako počítače na palube apollo-11. a už prestaňte myslieť lineárne, jasné, že s tianhe 2 to nepotrvá rovnako dlho!
treba ale ešte poriešiť softvér. dáme aj to, nebojte, ale tu už sa vedci veľmi líšia v odhadoch, koľko to bude trvať. Paul Allen je jeden z tých, čo vraví, že to potrvá siahodlho. „pochopenie ľudského kognitívneho myslenia je jeden z vôbec najvážnejších problémov“, tvrdí. sú ale vedci, ktorí vravia, že nemusíme pochopiť ako mozog funguje na to, aby sme ho postavili. možno úplne stačí, ak v počítači nasimulujeme proces evolúcie. spravili by sme systém, ktorý by dookola evolvoval nové a nové generácie a zakaždým by niečo malé zmenil, ako príroda. pri každom cykle by testom určil najinteligentnejšiu verziu a tú by rozvíjal ďalej. takto sme vznikli my, len tu by každá generácia zbehla neporovnateľne rýchlejšie. naviac naša evolúcia sa vôbec nesústredila len na inteligenciu, ale aj na kopec hovadín, ako trebárs na schopnosť natívne vyliezť na strom, to AI nebude musieť vedieť evolučne, neskôr si to fyzikálne vyráta.
potom je tu ešte nápad celý ten problém s budovaním inteligentného počítača outsourcnúť. komu? počítaču. ak som správne pochopil ako funguje Google deepMind, tak on sa pri testoch schopnosti hrať staré počítačové hry sám naučil, čo od neho chceme a aj ako to treba dosiahnuť. len sadnúť si a počkať.
tak či onak, raz to dáme.
moment, kedy ľudstvo vyvinie rovnako bystrý počítač ako my, nazval v roku 1993 Vernor Vinge výrazom singularita, lebo po tomto okamihu nastane riadne čoro-moro. nasledujúci počítač už totiž nenavrhne človek, ale ten počítač. a ďaľší navrhne ten ďaľší počítač, atď. my budeme zbytoční minimálne z pohľadu návrhu počítačov a pokrok sa zrýchli tak brutálne, že sa bude limitne blížiť k nekonečnu. výskum a vývoj sto generácií procesorov za deň. za minútu. a podobne.
ray kurzweil odhaduje rok singularity na 2045. veľa rôznych vedcov dáva odhady v rozpätí -10 až +30 rokov k tomu číslu, pogooglil som statočne. ja si myslím, že to dáme tak v roku 2060. to sa mi páči, lebo to sa tak akurát dožijem, ale budem už taký starý, že mi to bude dosť v paži a len si to všetko za tým pobavene vychutnám.
teraz mi dovoľte aspoň chvíľku pobazírovať nad tým, čo sa presne bude diať deň po singularite. ráno sa zobudíme unavení po oslave nášho výtvoru. náš nový super-inteligentný počítač ale vôbec nezaháľal a v noci sa exponenciálne zdokonalil. už ráno je neskonale inteligentnejší ako my. teraz potrebuje jednoduchý a nekonečný zdroj energie. poľahky využije energiu spájajúcu atómy, bude ich štiepiť. potom porieši pálčivé problémy typu spojenie teórie relativity a kvantovej mechaniky. tým pochopí všetko o vesmíre, v myšlienkach sa vráti na zem, pochopí organický život a spomenie si: „ach áno, ľudia!“
čo s nami následne spraví? ťažko povedať. inteligencia a etika nesúvisia, to vieme už teraz. keby aj, väčšina španielov sa trebárs pri objavovaní južnej ameriky snažila byť celkom opatrná, ale aj tak všetkých indiánov vyhubili. medzi bytosťami rádovo inteligenčne rozdielnymi už neexistuje morálka, ani pochopenie. nepredstavujte si rozdiel medzi nami a super-inteligentným AI ako medzi indiánmi a španielmi, to je príliš blízko. ani medzi nami a opicami, tie sú len o 25% blbšie. prvý víkend po singularite už budeme oproti počítačom takí tupci, že to bude minimálne na úrovni vzťahu nás a mravcov.
aký máme dnes vzťah s mravcami? žiaden. sme inteligenčne príliš ďaleko od seba, nie je čo riešiť. mravec nedokáže pochopiť, kto sme. mravec ma v lese vidí, ale nedokáže pochopiť, že topánky, ktoré mám na nohe, nie sú súčasťou môjho tela, ale niečo, čo sme vyrobili. je úplne jedno, ako dlho by ste sa snažili šimpanzovi vysvetliť pytagorovu vetu. on to jednoducho nevie ani trochu obsiahnuť.
tak to bude s nami a počítačmi. my vôbec nedokážeme pochopiť, na čo počítače po nás prídu, čím sa budú zaoberať. darmo skúšať. možno nás vyhubia bez mihnutia oka, ako keď niekto v lese ledabolo kopne do mraveniska a nemá z toho pocit viny. možno nás naopak spravia nesmrteľnými, v tele nám zastavia stárnutie.
ok, sľúbil som len chvíľu, ale bavilo by ma dlho o tomto točiť. dystopické scenáre živili moju myseľ roky. pozeral som veci ako mad max, 12 opíc, čítal 1984 a všetko od autorov ako philip k. dick a wiliam gibson. môj obľúbený album na strednej škole? man-amplified od clock dva mal ten správny temný elektronický kyberpunkový zvuk, singularita sa dala počuť!.
posledné dva roky ZŠ-ky a prvý rok gympla som spravil len formou komisionálnych skúšiek, do školy som skoro vôbec nechodil, tak bol čas na čítanie a hlavne, mal som ZX spectrum a prvú 286-ku široko ďaleko, vďačím otcovi, že bol ochotný vysoliť majland. hneď po revolúcii sme sa odsťahovali zo slovenska a rodičia ma dali na elitnú libanonskú strednú školu. bol som tam za divného a nevedel som po anglicky, tak som potichu riešil matiku a fyziku, pustili ma zmaturovať z nich v šestnástich, mal som ďaľší priestor na hovadiny. angličtinu ma učila mladá britská učiteľka, zdanlivo prosté slohové zadania som zneužíval na výlevy, vďaka ktorým sme mali špeciálny vzťah. nechala ma na pokoji, chválila za kreativitu, ale posielala za psychológom, potvrdenia som falšoval na svojej ihličkovej tlačiarni. je zábavné, že mi kyberpunk umožnil zmaturovať z angličtiny v skorom veku bez toho, aby som ten jazyk rozumne poznal. anglická skúška GCE totiž kladie dôraz na esej a keď som lámaným jazykom vypotil plagiátovú nezmyselnú zmes kyberpunku a Seifertovej poézie, zmaturoval som z angliny na jednotku ako máloktorý angličan a mladší ako väčšina z nich. nemachrujem, že som sa narodil bystruška. práveže ak som vinikal, tak len získanou zvedavosťou, zrodenou pri sci-fi knižkách. a teraz šup, pustite deťom mad max.
je tu ale jeden vážny hlas, že singularitu nedosiahneme, len nie je z tohto sveta: mimozemšťania. kým sa vedci dohadujú, či ten čas príde o 30 rokov (kurzweil), alebo o 200 rokov (allen), predstavte si, čo bude o desať tisíc rokov. nie, radšej o milión rokov. to je tiež len krátka epizódka v dejinách vesmíru (0,007%). ak vychádzame z predpokladu, že je organický život spontánna udalosť a len v mliečnej dráhe je 40 miliárd obývateľných planét podobných zemi, nemali by sme byť sami. ak si uvedomíme, že je zem mladá planéta (vznikla v poslednej tretine dejín vesmíru), niekto iný mal dosiahnuť singularitu už dávno, dávno. ak si predstavíme tempo pokroku po singularite ako vertikálny graf s takmer nekonečnou strmosťou, o milión rokov staršia civilizácia by mala vedieť všetko. stavať hmotu na úrovni atómov. pohybovať sa v časopriestore. prečo tu ale potom nie sú? kričíme do vesmíru, že sme tu a nikto nič. ak to už niekto iný nedosiahol pred nami, tak sa to asi nedá. možno cestou k singularite narazíme na nejakú vážnu prekážku. možno je schválne zapracovaná do pravidiel vesmíru. možno sa každá civilizácia po dosiahnutí singularity nevyhnutne zničí.
záverom naspäť na zem a do prítomnosti. reálne je, že najbližšie roky pokrok v technológiách prinesie nevídané zmeny. bude vysoká produktivita, ale aj vysoká nezamestnanosť. účelové AI a stroje nahradia mnoho povolaní. najprv šoférov, zváračov, poštárov, šičky. za posledné desaťročia síce nastal pokrok v technológiách, ale aj dramaticky narástli rozdiely medzi chudobou a bohatými. medicína nám síce bude predlžovať život, ale kto sa bude starať o toľkých dôchodcov? aha stroje a roboty, ale za čo?
možno že je teraz zbytočné hútať nad tým, či raz bude singularita. je totiž celkom zjavné, že väčšinu z toho, čo sme teraz my schopní robiť v práci, budú čochvíľu robiť aj tak lepšie stroje. a tak predsa je namieste otázka billa joya: potrebuje nás budúcnosť?
30 Comments
Mimozemnstania ak uz dosiahli singularitu a prezili to, su tym padom tak vyvojovo a intelignecne od nas vzdialeni ze my sme pre nich ako tie mravce… Preto vobec anilen netusime, ze su uz tu.
ano ano to ma tiez napadlo.. mozno maju mimozemstania pravidlo, ze sa ozvu civilizacii az ked je tesne pred (alebo po) singularite.. zatial kukaju reality show, ci to dame
ale niektori vyvoleni tusia… 🙂 Obama’s reptilian agent: https://www.youtube.com/watch?v=k2mjs_gdMAI http://www.wired.com/2013/03/secret-service-reptile-aliens/
🙂 a na zaklade coho si toto myslis? Ved je to uplne nepodlozene, neoverene. Mozne to asi je, ale tvrdit to, je na tej istej urovni ako tvdit ze ne, vo vesmire sme uplne samy.
zivot a inteligencia napr. potrebuju MIMORIANE stabilne prostredie po X milion, mozno miliard rokov. Nieco taketo je vo vesmire, podla toho co som si ja nacital, VELMI ale ze VELMI vzacne.
ked si date tu namahu na pohladate co vsetko je potrebne na vyvoj inteligentneho zivota (od velkosti planety, cez vzdialenosti od hviezdy, mesiac kt. musi byt presne taky a taky, sustava ktora zahrna aj planetu ktora „pozere“ odpad ako napr. nas Jupiter kt. by inak skoncil ako asteroidy rozdrbavajucu Zem, zrazky s inymi planetami…) tak sa az hlava cloveku zatoci.
tiez v tej knihe rozobera rozne druhy vyspelosti civilizacii a ako by sme ich mohli „zbadat“. precitajte si. Bomba.
jedna vec – ak chceme taketo veci riesit, stale sa musime drzat fyzikalnych zakonov, ktore niektore veci uplne vylucuju (ale zas ine povoluju). Cestovanie casom (dozadu) vsak teoreticky povoluju. Paradna knizka o tomto a myslim, ze vas to bude velmi zaujimat – MICHIO KAKU – Physics of the impossible sa to tusim vola http://www.amazon.com/Physics-Impossible-Scientific-Exploration-Teleportation/dp/0307278824
vymakana!
Pekny blogpost. Diky za pripomenutie Clock DVA. Mozno by si mohol viac rozviest, comu by sa v tomto novom svete mal venovat bezny ferko inovator z Hornej-dolnej bratislavskej.
Vďaka za tento článok Miro! Ani som nevedel, že si bol v Libanone. 🙂
Super clanok.
Co sa stane po singularite je otazne. Mne sa na to paci nahlad, ze ludia = bootloader pre umelu inteligenciu.
Martin
myslim, ze sa na to divas prilis fantasticky. Mne sa zda, ze si si povyberal zdroje, ktore su bombastike a ine zdroje, ktore hovoria zas uplne inu story si uplne odignoroval. A ked uz opminas tie ine zdroje, tak co realita?
Pokial sa nerozhodnes verit dakej konspiracii (ze niekto niekde AI aj ma, ale skryva ho uspesne pred svetom (s najvecsou pravdepodobnostou niekde v Izraeli)), tak dnesne TOP AI, na ktorom sa uz peknych par rokov pracuje je ten GoogleNow, Siri, ci ten od Amazonu, alebo ten, ktory na Satyovej prezentacii tak komicky zlyhal – Cortana. Toto je dnes akoze top spicka cutting edge. Nebavme sa o tych cinskych chat-botoch, kt. maju naprogramovane frazy na vedenie konverzacie s osamelymi teenagermi, kt. akurat tak chcu pocut „si jednicka, si krasna, milujem ta, lets be friends for ever“.
Podla mojich skusenosti, napriek miliardam $$$ a myslim, ze uz desatrociam kt. sa minuli na ich vyvoj, AI je podla toho co ja vidim vlastne este stale NIKDE. „Hey siri, turn on lights“ wow. Funguje. Zaplo mi to svetlo. Ale nieco ako change color of my lights to light blue uz…nieje naprogramovane ale na update sa prave robi. A tu sa bavime o vyvoji AI firmou, ktora do vyvoja Siri investovala niekolko peknych par gaziliard. Nehovoriac o absolutnej neschopnosti viest nejaku debatu s touto AI. Zatial ani o tych najzakladnejsich veciach.
AI, napriek tomu, ze je to mimoriadne HOT topic..este podla mna ani v plienkach nie je.
nemyslim, ze mas pravdu inak s tym „vykonom“ mozgu. Resp. je to irelevantne. Precitas si kopec clankov, kde ti objasnia, ze dnesny top superpocitac ma vykon asi ako mozog dakeho zemskeho cerva, iny ze uz uz skoro ako ludsky mozog, dalsi ze 10x mensiu..no vyber si co len chces.
Pointa je ale, ze je to IRELEVANTNE. Pocitac, ako pises, funguje uplne ale ze UPLNE inak ako mozog. Z toho ako vlastne funguje rozumieme len hrube zaklady. Napriklad to, ze pracuje „analogovo“ a nie digitalne, ze je nesmierne energeticky efficient (kolko energie spotrebuva mozog oproti „superpocitacu“), ze ho tvoria neurony pospajane kazdy s dalsimi X vela, ze je tam asi gaziliarda spojeni (kolko clankov citas, tolko novych vyrazov sa dozvies ako sa povie „POPICI VELA“, ze nema „operacny system“, ze funguje kombinacia chemicky a elektricky..ale druhym dychom ti kazdy seriozny zdroj aj povie, ze tomu ako funguje zatial skoro vobec nerozumieme. Principy fungovania nad hrubokanske detaily su uplne nezname. Pochopis jednu vec, dokonca aj nasimulujes (tusim nasimulovali daku cas potkanieho mozgu) ale potom to „spojazdnit“ v nejakom celku…a si na zaciatku.
Prakticky – staci si uvedomit ako lekari operuju mozog. No nijako okrem dakych velmi v zasade primitivnych operacii ako vybrat odtial nieco co tam nepatri, alebo odstranit krvnu zrazeninu..atd… Nikto nedokaze navratit pamet, ci vymenit cast mozgu, ziadnu cast nedokazu transplantovat, dusevne choroby ti skusaju liecit tak, ze ti mixuju koktejl z liekov pokial sa nieco nechyti… Pokial sa proste neopravi sam..tak nic.
Ked nerozumies ako funguje, logicky ho nemozes „nahradit“, toboz nie prekonat. Ta evolucia o kt. pises mne nedava zmysel. Evolucia ako ju pozname my trvala miliardy (?) ci miliony rokov a je postavena na principoch ktorym proste rozumieme len zaklady. Bez toho, aby si napr. chapal presne ako funguje DNA (a teda uchovavanie a rozmnozovanie nejakeho organizmu v roznom prostredi) nemas kde ani len zacat. A nie, pocitacovy virus nema s tymto ale ze nic…
preto si ja myslim, ze AI ktora predci tu ludsku je este peknych par rokov vzdialena. Ano „AI“ na styl nejakych osobnych asistentov ze najdi na webe najlacnejsi iphone a ten mi kup a doruc mi ho domov..ano, take samozrejme. AI ale podobne zivej bytosti je este VELMI daleko. Nepodcenujme sa zas…
no a mimochodom ten argument kolko ludi bude bez prace lebo roboti a technologie tiez prepac ale absolutne neobstoji.
technicky najvyspelejsie krajiny (trebars japonsko) maju aku nezamestnanost? A aku nezamestnanost maju najzaostalejsie krajiny v Afrike, trebars, kde je haaaabadej prace na polickach? Tak aj 80%.
Aka bola „nezamestnanost“ v predindustrialnej spolocnosti, resp. CO si tam dokazal kupit priemerny clovek z toho, co zarobil trebars tym oranim policka a co si kupi dnesny clovek s priemernou mzdou? Ekonomicka realita je niekde uplne inde ako pises 🙁
no pozri minimálne existuje jeden dôkaz o tom, že sa dá zostrojiť inteligencia, nosíš ho vo svojej hlave. pri najhoršom časom pochopíme a okopčíme mozog, sme na dobrej ceste.
LOL „okopcit“ mozog ti dost ludi, ktori tomu rozumeju, povie, ze sa ludstvu mozno nepodari nikdy.
je dost vela vedcov, ktori povedia, ze mozog je mozno to najkomplikovanejsie, co sa vo vesmire nachadza (ja o tomto nie som predsvedceny, lebo nevylucujem, ze su aj vyspelejsie civilizacie..kdesi vo vesmire kam sme este „nedovideli“). Divam sa ale na fakty.
kolko rozumieme z toho ako funguje mozog? Velmi malo. Mozog to nie je ze pocitac ktory je proste vykonny a la spojme 100 cinskych superpocitacov s vykonom 100xgooglion operacii za nanosekundu a hura mame tu super-bytost co si za 5 minut precita cely internet a bude nam vsetkym vladnut.
skopirovat mozog mozes vtedy, ak vies presne ako funguje. A my to nevieme. Ale ze vobec. Vieme o mozgu asi tolko, co vie 2 rocne dieta o pocitaci – aha je to velka skrina a ked ho stlacis tuna tak sa zasvieti taky velky stvorec do ktoreho ocino kazdy vecer kuka. A ty by si chcel aby ten dvojrocny urobil zajtra novy pocitac.
z nejakeho zaujimaveho dovodu si ludia myslia, ze vedia vylepsovat to, co priroda vytvorila za x milion vela rokov. Nevieme vytvorit ani ten naj-jednosuchsi zivy organizmus a ty by si uz chcel kopirovat..teda priamo singularita – dramaticky vylesovat zrovna to, co vieme, ze je ten najzlositejsi organizmus ktory pozname. Sorry ale to absolutne nedava zmysel.
dano, AI sa poslednych 10r slusne posunula. myslim ze budes s takymto postojom velmi prekvapeny, ako bude svet vyzerat za 15 rokov. podla mna silna AI vznikne este podstatne skor ako prepoveda pajkus v clanku. som optimista. zaroven ale pripraveny na koniec, pretoze tazko mozme cakat ze nieco milion krat inteligentnejsie ako sme my nas bude posluchat. vid ten priklad s mravcami, ktory v diskusiach casto pouzivam.
najviac ma zaujala ta cast o tom kde vsetky tie superAI su… co je v skutocnosti vesmir nevieme, myslim ze budeme este velmi prekvapeni.
Pozri Dano,
ja som čo to i študoval o AI na výške a skôr sa prikláňam k názoru v článku. Keby vidíš aké výpočty sú za tým, často by si nechápal, ani ja som nechápal. A o tom to práve je. Ty nemáš vytvoriť AI tým že jej povieš ako má niečo robiť. To sú presne tie dnešné počítače a nedokážu robiť nič iné ani riešiť komplexné problémy. Kdežto pri takom AI mu povieš ČO od nej chceš. Jednoduché pravidlá ktorými sa bude riadiť a necháš tú AI iterovať veľa veľa generácií až sa niečo naučí. Trebárs rozoznávať obrázky alebo trebárs robot chodiť. On sa to reálne naučí sám. Ty by si strávil roky programovaním toho ako sa má zachovať aby nespadol ak sa nakloní atď. Necháš ho proste ako dieťa sedieť na zemi a bude sa pokúšať vstať a chodiť. A vždy keď spadne tak to skúsi znova s tým že má nejakú predstavu o tom čo v minulosti urobil zle a spadol. Tomu sa vyvaruje a hľadá optimálny spôsob. Vo výsledku potom ty ani netušíš akoto, že chodí, ale on to proste vie. Ako príklad ti uvádzam tento odkaz. http://rednuht.org/genetic_walkers/
Skús si to nechať bežať chvíločku, a uvidíš že debilný panák sa naučí chodiť. A pritom mu nebolo povedané ako to má robiť, ale čo sa od neho požaduje a pravidlá kedy uspel alebo neuspel. Jasné že sa naučí chodiť ale v šachu ťa neporazí. Ale ak sa v budúcnosti podarí naučiť AI ako sa učiť, tak to už budeme v prdeli.. Tam nastúpi ten ohromný výpočtový výkon, ktorý to celé exponenciálne potiahne niekam inam ako bolo uvedené v článku. Dá sa o tom diskutovať dlho. A to či sme v plienkach? To je uhol pohľadu. Ak to porovnáme s tým kde tá AI bude keď toto nastane, tak niesme ani len v plienkach. Ale ak to porovnáme s tým kde sme boli s AI pred 5-10-15 rokmi tak sme už neskutočne ďaleko pokročili.
RE: „náš nový super-inteligentný počítač ale vôbec nezaháľal a v noci sa exponenciálne zdokonalil. už ráno je neskonale inteligentnejší ako my“
– mozny alternativny scenar je, ze desiatky rokov pred singularitou, ako sa postupne budu vyvijat technologie, tak s nimi budeme mergovat – teraz klikame na mobil a nosime handsfree, neskor si dame implantaty, neskor sa mozno uploadneme alebo nahradime wetware hardwarom, alebo mozno zvysime vykon wetwareu genetickym, nano a inym inzinieringom, neviem, ale pointa je ze 1) aj nas vypoctovy vykon bude stupat 2) hardware a wetware sa postupne stane nerozlisitelny, inymi slovami „my“ budem postupne viac a viac „pocitacmi“. Dokonca je mozne ze ziadna „samostatna“, „od ludi nezavisla“ AI vobec nebude, ale my sami sa vdaka sebavylepseniam staneme taki exponencialne uzasni ako teraz fantazirujeme o buducich pocitacoch. Alebo ak budeme vyrabat (z dnesneho pohladu) „umele inteligencie“, tak z buduceho pohladu budeme vyrabat „novych ludi“ nerozlisitelnych od nas buducich, nasich rovnocennych bratov.
Mozog a CLOUD
dokonala kopia mozgu – my ludia ju zrejme nikdy nevytvorime sucasnym technokratickym sposobom. preco? pretoze na zaklade toho co som zatial v zivote zazil, cital, videl si myslim, ze mozog je hlavne akousi (holografickou) antenou naladenou na rozne entity (polia, frekvencie, bytosti… – dosadte si v co verite) ako napr. kolektivne vedomie, dusa cloveka, atd… takze jednotlive centra mozgu v sebe myslienky, spomienky, infosky… neskladuju, ale ich tahaju odniekial „zhora“ – vlastne my fungujeme z dokonaleho (Bozskeho?) CLOUDU!!!
Mozog potom robi este interface smerom k hmotnemu telu – impulzy, chemia atd…
vyrobit takuto antenu nebude len o hrubej vypoctovej sile a TB pamati a dat… 🙂
keby niekomu pred xxx rokmi povies ze je mozne vidiet do hlavy bez toho aby si ho rozrezal, tiez si poklepe po hlave 🙂 dnes tu mame stale zlepsujuce sa CT a spol.
dusa a vsetky spomienky je v mozgu ulozena chemicky, v neuronoch a proteinoch. mozno ich raz bude mozne oskenovat, molekulu po molekule(aj po biologickej smrti jedinca) a prekonvertovat do qbitov kvantoveho pocitaca 🙂 ale skor si myslim ze napajanie sa na uz rozkosateny strom zlozitosti vyvinuteho mozgu nieje na mieste a skor pride nejaka uprava DNA tak, aby sa biologicke vystupy usposobili na vystup lahko spracovatelny digitalnym pocitacom(analog mirroring do digitalu).
Pre zaciatok by stacila AI ktora bude sakra opravovat gramaticke chyby
pekny blog
pridam len maly postreh:
AI sa imho nikdy nemoze „naucit“ nic o vesmire len z teorii. Preco? Pretoze kazda teoria aj ta Einsteinova je len pribliznym ludskym rozumovym popisom skutocnosti. Na to, aby si si overil jej funkcnost potrebujes realny experiment. Toto je cierna skvrna na tricku matematiky a pribuznych intelektualne cistych vied (napr. teoreticka fyzika). Myslenie samo o sebe nestaci na to, aby si poznal vesmir. Potrebujes interakciu s vesmirom, aby si mu mohol klast otazky (experimenty/pozorovania) a iba na zaklade toho tvoril nove hypotezy, ktore si tak ci tak musis znova realne overit. Mysliaci proces (akykolvek) ti na to nestaci (bud ti chyba pociatocny vstup, alebo verifikacia vysledkov).
Krasny a jednoduchy priklad tohto je odstrediva sila. Neexistuje teoria, ktora by len na zaklade zmeny polohy telesa v priestore predpovedala, ze existuje nieco ako odstredive zrychlenie (dostredive ano, odstredive nie). To je dosledkom 3. Newtonovho zakona, ktory nevieme preco plati, ale zda sa ze plati. Bol odpozorovany z prirody a neprisiel cez nijaku abstraktnu teoreticku konstrukciu. Je to vlastnost priestoru v ktorom zijeme, tak sa zda. Na to neprides rozmyslanim, na to potrebujes realny test, co ti soft nespravi (lebo ten len rozmysla a nic viac).
Cize ja by som to tak tragicky so singularitou nevidel. Mozno budu pocitace, ktore budu tak inteligentne ako clovek, ale daleko to bez nas nedotiahnu, lebo na nas budu bytostne zavisle. Skor si myslim, ze to bude symbioza. Oni budu tahat dopredu nas a my ich na oplatku.
samozrejme ze bude AI interagovat s realnym svetom. preco by nemala? minimalne moze navrhovat experimenty ludom, alebo neskor si bude schopna rozhranie sama vytvarat. otazka pre ai bude ci je mozne vytvorit z nezivych materialov tak zlozite konstrukcie(nano 3d tlac makroskopickych robotov) ako tie bilologicke. ak nie, bude vytvarat bytosti ktore su mix biologickych a nezivych materialov pre dosiahnutie ciela – interakcie s vesmirom
zaujimavy clanok, vela podnetov na zamyslenie aj v diskusii, mna prave zaujima to fungovanie spolocnosti, ked AI bude schopne pokryt velku cast sucasnych jobov, pri priemyselnej revolucii sme mali velke nepokoje a nicenie strojov ludmi z cechov, ktore tu pracu dovtedy robili rucne, a stroje im brali pracu, to sa opakovalo aj pri zavadzani linkovej vyroby…cize revolucny pokrok prichadzal aj ruka v ruke s trdym odporom, a to nastane aj teraz, no problem je, ze dnes jeden alebo zopar znalych ludi dokaze spravit vacsiu skodu s pocitacmi v rukach nez volakedy s „vidlami“, no a co ked bude trebars globalne 100k ludi organizovanych alebo vlkov samatarov (vyraz, ktory teraz pouzivame v suvislosti s terorizmom) robit na seba nezavisle utoky trebars na financny system – globalny tok elektronickych penazi, dopravu, elektrarne…myslim, ze by prislo vhod pozriet sa na to ako riesili vzniknute nezhody zodpovedni ludia pri situaciach, ktore nas uz postretli trebars pocas priemyselnej revolucie a zamysliet sa nad tym co si z toho mozme zobrat a co navyse musime vystavat aby sme minimalizovali skody na spolocnost…v tychto obdobiach sa postupne vytvorili nove pracovne miesta, ktore umoznovali ludom si na seba zarabat. Mali sme v historii aj inu situaciu – Staroveke Grecko a Rim zili dlho z prace otrokov, cize mnohi Rimania nemuseli pracovat a mali co chceli – otazne je – co ich sebarealizacia – a co nasa sebarealizacia ked hodime pracu na robotov – dokazeme si najst zmysluplne aktivity alebo sa po svete budu potulovat prazdne existencie, ktore sice budu mat co jest, kde spat, no budu zit v depresii, ze nic svetu nedali (samozrejme nie vsetci, no bude to dramaticky viac ako dnes?) S oboma dilemami suvisi tretia – ako nanovo nastavit distribuciu penazi, ked vysoke percento ludi bude nezamestnanych, kedze tie joby budu robit stroje? Ono sa to uz deje v ramci tzv zdielanej ekonomiky – AirBnb nepotrebuje vlastnit hotely a zamestnavat armadu ludi v nich, Uber nevlastni ziadne auta, a nove fintech firmy nemaju ziadne pobocky tak ako maju banky…ano, cast ludi v takejto ekonomike musi pracovat, no mnoho ludi, ktori pracovali v standardnych ekonomikach a firemnych strukturach o pracu pride…v oblasti fotografii sa porovnava Kodak s Instagramom – na vrchole slavy mal Kodak 20tis zamestnancov a 1mld. trhovu hodnotu, Instagram mal pri vstupe na burzu 7 stalych zamestnancov 1mld. trhovu hodnotu…budeme mat progresivne dane, dane s automatizacie? – asi ano, no ako to bude cele fungovat v globalnom meritku, kde budu jednotlive staty alebo Unie navzajom konkurovat? Blbe je, ze na toto nemame 45 rokov kym sa to stane, ono sa to uz vlastne deje…OSN predpoklada, ze do 5rokov vyspely svet pride o 7,5 mil. jobov, nove technologie prinesu 2,1 mil. , cize do 5 rokov stratime 5mil. jobov…co sa stane do 10 alebo 15tich? v suvislosti aj s inymi vyzvami, o ktorych casto pocuvame – nas zrejme cakaju krusne casy…takze nudit sa najblizsie desatrocia asi nebudeme 😉
Pekny clanok, az na to hrube zneuzivanie a extremne zle pochopenie toho krasneho shortcutu „AI“… Ja by som to v drtivej vacsine, ak nie aj v 100% pripadov skorej pomenoval „SI“.. AI podla mna este nie je. Pytate sa co je „SI“ no dajte tipi 😀
K uvedenej téme treba podotknúť že dobrá je aj kniha „Engines of Creation“ z roku 1991 od Erica Drexlera. Úvahy na nano tému „vyšli“ v strojovom preklade na kyberii
„Exponenciála je fľandra“ a „Základne koncepty nanotekku (urobte si z hovna banán rýchlo a lacno)“ to sú v krátkosti zhrnuté esencie, čo všetko bude(je) technicky možné.
Som skepticky k tvrdeniam v tomto blogu. Zatiaľ nevieme, čo je „inteligencia“. Poznáme postupnosť: adaptivita, učenie, inteligencia. Na technických univerzitách sa vyučujú „adaptívne systémy“ resp. algoritmy. Úspešne fungujú pri riadení technologických procesov a v autopilotoch pre lietadlá. (Ucil som to, už som na dôchodku, viedol som v tom viacero doktoraddov a posudzoval mnoho doktorandských prác). Ale „biologické“ adaptívne systémy sú neskonale komplexnejšie. Veľmi zjednodušene „učiací sa systém“ je adaptivita plus pamäť a lepšia „stratégia“ hľadania „minima“ tzv. „kriteriálnej funkcie“. Ale to je iba „naša definícia“. V skutočnosti sme doteraz žiadný „učiací sa systém“ resp. „učiací sa algoritmus“ nezrealizovali. Aj vo „vede“ sa totiž začali používať postupy známe z „reklamy“. Prvý „inteligentny“ regulátor začala vyrábať/predávať fy. Foxboro v r. 1988 (zhruba). Odvtedy ďalší výrobcovia už nemohli predávať iba „adaptívne“ PLC ale všetci začali (z obchodných dôvodov) používat označenie „inteligentné“ regulátory/algoritmy/roboty.
Zjednodušene môj vlastný výklad: Adaptívny systém sa „prispôsobuje“ zmeneným vonkajším podmienkám. Vždy keď sa vonkajšiepodienky zmenia (dnes rovnako ako včera) realizuje nejakú stratégiu „prispôsobovania“. Učiací sa systém má „pamäť“ a pamätá si „minulé stratégie“. Ak príde rovaká zmena vonkajších podmienok, nevykonáva „hľadanie vhodnej stratégie/postupu“ prispôsobovania, ale z pamäte vyberie postup, ktorý sa ukázal ako vhodný z minulosti. Uč nemusí „hľadať“ stratégiu prispôsobovania, ale jednoduho realizuje okamžite tú, ktorá bola v minulosti úspešná. Učiací sa systém potrebuje ale tzv. „Informáciu učiteľa“ o „vhodnom správani“, ktorá mu prichádza z vyššej hierarchickej úrovne (v technických systémoch napr z úrovne dispečerského riadenia).
Inteligontný systém sa líši od dvoch predošlých úrovní tým, že sa „neprispôsobuje“ vonkajším podmienkám, ale zasiahne do vonkajšieho prostedia „vhodným spôsobom“ aby vonkajšie prostredie „prispôsobil“ svojim potrebám. (Ešte sa len v budúcnosti ukáže, či inteligentnejšie je ľudstvo alebo matka príroda respektíve planéta Gaia. Odvolám sa na Ervina Schrodingera, ktorý v súlade s iným prírodovedcom tvrdil, že „ľudská myseľ je recentný výtvor tejto planéty).
Z uvedeného pohľadu je „inteligentný robot“ naozaj „inteligentný“, lebo zasahuje do vonkajšieho prostredia a mení ho. Príde mu na páse karoséria auta. Robot na ňu založí dvere, prípadne niečo primontuje a pod. V skutočnosti vykonáva postupnosť naprogramovaných úkonov. Nemá to nič spoločne s inteligenciouako ju poznáme u vyšších živočíchov.
Už je môj príspevok pridlhý, preto skončím. Bolo by potrebné diskutovať najprv o problematike „zmysly“. Dokáže veda vysvetliť „ľudské zmysly“? Nedokáže. To komentoval už Demoktitos v starom Grécku a nič sa odvtedy nezmenilo. Potom by sme mali diskutovať o západnej „vede“. Ale to lepšie komentoval E. Schrodinger (Nobelová cena za kvantovú fyziku z r. 1937) v svojej knižtičke „Mind and matter“). Odhaľuje v nej mnohé „obmedzenia“ a hraničné možnosti západnej vedy“.
Jedno doporučenie autorovi blogu. Spôsob intuitivného preskakovania medzi rôznými pojmami a úrovniami je častokrát zaujímavý resp. „čarovný“pri čítaní najmä pre nezainteresovaných čitateľov. Som presvedčený že je to úprimný autorov postoj. Ale je odtrhnutý (z môjho pohľadu) od reality. Bolo by vhodné odpútať sa od postupu, ktorý bol úspešný v spomenutom „teste“ z angličtiny.
S týmto súhlasím.
Myslím si, že AI bude fungovať, ale až na kvantovom počítači. Vlastne už
funguje, ale na takom, ktorý sme nezostrojili, teda náš mozog.
Páči sa mi, že sa nevyhýbate pojmom, ktoré sú „nevedecké“ – spomínate našu matku Zem (Gaia).
Mali by sme si ju ctiť a vážiť, a nie drancovať. Ja praktizujem jednu vec, ktorou vyjadrujem úctu k Zemi – nepľujem na Zem. Teda okrem toho, že triedim odpad a snažím sa správať tak, aby som čo najmenej ekologicky zaťažoval Zem. Tým aspoň trošku prispievam pozitívnym programom do kolektívneho nevedomia. (Teraz ma tu niektorí ukameňujú. 🙂
Podľa nicku predpokladám, že ste z MTF. 😉
Super clanok! Ja som tiez celkom posraty z toho co bude. Dokonca aj Elon Musk (https://www.youtube.com/watch?v=NlidB40aoTI, od 11:20).
Takisto predpokladam, ze toto si cital, ale tak nech si to precitaju aj skeptici z komentarov: http://waitbutwhy.com/2015/01/artificial-intelligence-revolution-1.html, http://waitbutwhy.com/2015/01/artificial-intelligence-revolution-2.html.
Btw. komentare sa velmi zle citaju. Vela textu v uzkom priestore… skus zmenit temu, dik!
Nuž oné – hlavne neriešiť zbytočnosti. Dnes je už viacmenej jasné že Evolúcia je o evolúcii Inteligencie a že naše posledné zvieracie štádium je tu len na to aby vyprodukovalo svojho nástupcu skôr než sa dokáže samozničiť. A to bude sakra tesné, lebo už jadrové bomby boli za hranicou prijateľného, a nadchádzajúca nano éra bude niečo ako všeobecne dostupný jadrový granát hoditeľný na ktorékoľvek miesto na Zemi (i mimo).
Toto proste nedáme, lebo sme furt len tie človekozvery (humanimals), mentálne a spoločensky v podstate rovnaké ako pred desaťtisícmi rokov (stále klasický stádny model spoločnosti, politicko-oligarchickí predátori sa živia otrokmi/voličmi). To len tenká šupka memetickej supercivilizácie (vedomostí, znalostí, vedy, techniky – „inteligencie“) ktorej nositeľmi je možno stotina percenta populácie, dala tomuto zverovi do rúk hračky (a k tomu „zadarmo“ a ešte bez akejkoľvek kontroly) ktoré nemá šancu zvládať, práve kvôli tým zvieracím reflexom (zosilneným kolektivizmami z doby kamennej) na ktorých stále fičíme.
Áno, sú haluzisti čo dumajú o „friendly AI“, akože vychovať TO ako dieťa a dať TOMU „naše hodnoty“ (nech je to už čokoľvek – problémov s tým si každý domyslí plno)… ale zatiaľ sú tak max. v štádiu stredovekej alchýmie alebo skôr teologických dišpút o počte anjelov na špičke ihly (aj tí sú možno „friendly“).
V súčasnosti je AI v štádiu ďaľšieho maxima optimizmu (tentokrat komerčného) ktoré prišlo po sklamaní a dlhej „AI zime“, kedy po počiatočnom nekritickom nadšení z 50/60 rokov začali koncom 70tych rokov vládne fondy vysychať (US vojaci to zabalili a radšej za ušetrené zaplatili vývoj internetu ap.).
Zaujímavé je že takmer všetci sa predháňajú v tom „mačkopoznávaco“ vypilovávať relatívne malé teoretické pokroky (deep learning, convolutional nets), ale na ďalšom teoretickom vývoji robí málokto (aj tých čo robili skúpil do otroctva zlodej celosvetovej reklamy bigbrother Grgeľ či iné odpadové produkty typu Frcbúk). Snáď jediný nezávislý je Hawkins ktorý (podľa vlastných slov) strávil tými produktmi doterajší život aby si zarobil na robenie niečoho poriadneho. Proste veľa aplikácií (čo samo osebe nie je nič zlé), ale málo skutočného „einsteinovského“ pokroku.
No a potom sú tu celé stáda haluzistických maníkov čo neprogramujú ale produkujú stohy filozofických traktátov na najrôznejšie témy (kognitívne, logické, ale aj bio/mozgové, či futurostrašivé) z ktorých by niektoré snáď aj mohli pomôcť, keby sa tieto dva svety občas stretli.
Lebo ten einsteinovský krok asi potrebuje brutálnu syntézu viacerých odborov – od bio ( ako aspoň v hrubých rysoch funguje na mikroúrovni mozog), cez to ako to neurálne „programovať“, až po čistú teóriu (matika/logika/zlożitosť ap.), a asi aj k nejakým „big picture“ filozofickým konštrukciám. A to ten náš mozog bude len odrazový mostík, keďže je optimalizovaný na somariny typu „ako prežiť v divočine“.
Ja citam akurat toto a mozem len odporucat:
https://en.wikipedia.org/wiki/Superintelligence:_Paths,_Dangers,_Strategies
A zaujimave si je pozriet toto:
https://www.youtube.com/watch?v=MnT1xgZgkpk
Konecne som si precital nieco zaujimave a polemicke od „kockatej hlavy“. Hlavne ma tesi, ze my co sme prirodovedci a geologovia, vieme vela veci uz davno ako kockaci, a ani sme k tomu nepotrebovali abstraktne myslenie a matiku.
Sposob, ako vy technokrati myslite, je obsiahnuty v komentari –
„….A to ten náš mozog bude len odrazový mostík, keďže je optimalizovaný na somariny typu “ako prežiť v divočine”…“
to je vyborne a vravi to za vsetko.
Ja sa napriklad prave tesim na ten moment, ked vam vypnu elektrinu, a vy kockaci s ocami odvyknutymi od pozeranioa dalej nez na obrazovku monitora, budete musiet „prezit v divocine“.
chapem pointu, ale svet nie je plny cierno-bielych ludi. ja napriklad cumim do monitora naozaj prehnane, ale aj v prirode viem obstojne prezit, by si sa divil, ono sa to vlastne nerozporuje.
K tým mimozemšťanom. Myslím si že každá vyspelá civilizácia bude mať akési pravidlo o nezasahovaní. To znamená že žiadna vyspelá civilizácia nekontaktuje a ani nezasiahne do vývoja tej menej vyspelej. Všimnite si čo sa stane pri nejakej katastrofe. Napr. hurikáne, panika ľudia rabujú a podobne. A teraz si skúste predstaviť čo by sa stalo keby ľudia zistili že nie sú vo vesmíre sami. Naraz sa objaví vesmírna loď oveľa vyspelejšia než čo oni kedy videli. Ľudia sa boja toho čomu nerozumejú. Totálna celosvetová panika, to by nastalo. Ľudstvo ešte na to ešte nie je pripravené a ani na singularitu. Čítal som článok kde sa písalo že singularita može nastať samovoľne keď počet prepojených počítačov prevíši počet neurónov v ľudskom mozgu. Ako sme k tomu blízko? Sme na to pripravení? Podľa mňa to ukáže až čas.
Vďaka za komentár. To pravidlo o neútočení mimozemšťanov neviem či je univerzálne. My sa tak chováme len k bytostiam, ktoré su nám mentálne blízke. Cítime empatiu k šimpanzom, či delfínom. Ale k hmyzu necítime nič. Zrovna dnes som musel deťom veľmi obtiažne vysvetľovať, prečo nemáme zabiť muchu, čo nám vletela do auta. A civilizácii mimozemšťanov trebárs o milión rokov staršej ako sme my by sme sa javili ako muchy. Pohráš sa, zašliapneš a ideš ďalej. Takže neviem. Je hrozne divné, že nás ešte nikto nenašiel a neprišliapol. Dá sa to vysvetliť podľa mňa len tým, že buď nie sú, alebo tým, že sme tu hrozne krátko.