Otvorený list o výskume umelej inteligencie

Podpísaný Stephenom Hawkingom, Elonom Muskom, nobelovcom Frankom Wilczekom, Maxom Tegmarkom a mnohými ďalšími veľmi známymi osobnosťami sveta vedy a technológií. 

Väčšina popredných osobností vedy dnes zdieľa obavy z možného vývoja umelej inteligencie a jeho dopadu na budúcnosť ľudstva. Oxfordský Future and Humanity Institute zaoberajúci sa existenčnými rizikami ohrozujúcimi našu civilizáciu, označuje umelú inteligenciu za pravdepodobne najväčšie zo známych rizík, ktorým budeme čeliť. Rizikom, ktoré povedie k nášmu zániku, k vyhynutiu ľudského rodu. Pred týmto rizikom varujú mnohí, počínajúc najznámejšou osobnosťou sveta vedy Stephenom Hawkingom a najznámejšou osobnosťou sveta technológií Elonom Muskom.

Obavy vedú k momentu, keď umelá inteligencia predčí ľudskú a k následnému vývoju. K momentu nazývanému technologická singularita. Po ňom nebudeme vedieť umelú inteligenciu kontrolovať a nevieme predpovedať, čo sa stane potom. List podpísal aj autor pojmu technologická singularita matematik Vernor Vinge.

Viac o téme technologickej singularity v článku Stephen Hawking varuje pred technologickou singularitou

Varovanie znie médiami už dlhšie a jeho intenzita je vysoká. Teraz prichádza snaha o riešenie, o určenie konceptu výskumu, ktorý by konkrétne adresoval ak je to možné všetky riziká spojené s vývojom umelej inteligencie. Prvá veta dokumentu Research priorities for robust and beneficial artificial intelligence popisujúceho oblasti a otázky, na ktoré sa má výskum sústrediť hovorí "Úspech pri skúmaní umelej inteligencie má potenciál priniesť ľudstvu bezprecedentné benefity, a preto stojí za to skúmať ako maximalizovať tieto benefity a vyhnúť sa potenciálnym pascám"

Kľúčovou vetou otvoreného listu je výzva "Odporúčame rozšíriť výskum zameraný na zaistenie, že systémy s umelou inteligenciou so stále rastúcimi schopnosťami budú pre nás prospešné: naše AI systémy musia robiť to, čo chceme aby robili". Vývoj má byť v súlade so záujmami ľudstva.

Dokument Research priorities for robust and beneficial artificial intelligence (v preklade Priority výskumu pre zdravú/robustnú a prospešnú umelú inteligenciu) odporúča výskum v nasledujúcich oblastiach.

Optimalizácia ekonomických dopadov vývoja umelej inteligencie. Aký bude napríklad vplyv na pracovný trh, ktoré pracovné pozície budú nahradené automatmi? Ak aktívne zasiahneme, aké reformy vzdelávania a sociálneho systému je potrebné realizovať? Aké sú pre a proti takýchto reforiem?  

Zákony a etický výskum. Autonómia a určitá dostatočná úroveň umelej inteligencie vedú k právnym a etickým otázkam. Aká je zákonná zodpovednosť autonómnych aút? Čo ak pri tom ako ušetria 40 tisíc životov pri dopravných nehodách ročne len na amerických cestách, dostanú ich výrobcovia nie 20 tisíc ďakovných listov ale 20 tisíc žalôb? Ako má autonómne vozidlo riešiť etickú otázku veľkých materiálnych strát voči malému ublíženiu na zdraví? Čo autonómne zbraňové systémy, sú vôbec zlúčiteľné s medzinárodným právom? Ďalej je potrebné riešiť problémy práva pre vyhodnocovanie privátnych údajov z kamier, mobilov, emailov atď. umelou inteligenciou.   

Existuje argument, podľa ktorého spoločnosť nakoniec odmietne autonómne systémy s umelou inteligenciou, pokiaľ nenájdeme dôveryhodný spôsob ako zabezpečiť aby boli bezpečné. Preto by výskum každého systému umelej inteligencie mal podliehať viacerým kontrolám, ktoré dokument podrobnejšie popisuje.

Preklad otvoreného listu

Výskumné priority pre zdravú a prospešnú umelú inteligenciu: Otvorený list

Výskum umelej inteligencie (AI) sa zaoberal rozmanitými problémami a metódami od jeho vzniku, ale posledných 20 rokov bol sustredený na problémy súvisiace s konštrukciou inteligentných agentov - systémov, ktoré vnímajú a konajú v určitom prostredí. V tejto súvislosti "inteligencia" súvisí so štatistickými a ekonomickými pojmami racionality - hovorovo, schopnosti robiť dobré rozhodnutia, plány alebo závery. Osvojenie si pravdepodobnostných a rozhodovaco-teoretických reprezentácií a štatistických metód učenia, viedlo k veľkému stupňu integrácie a obohacovania sa medzi AI, strojovým učením, štatistikou, teóriou riadenia, neurovedou a inými oblasťami. Ustanovenie zdieľaných teoretických rámcov, kombinovaných s dostupnosťou dát a výpočtovým výkonom, vyústilo do pozoruhodného úspechu v rôznych oblastiach ako rozpoznávanie hlasu, klasifikácia obrazov, autonómne vozidlá, strojový preklad, robotických končatín a systémov pre automatické pýtanie sa a odpovedanie.

Ako schopnosti v týchto oblastiach prekročili prah medzi laboratórnym výskumom a ekonomicky cennými technológiami, tak sa začal cyklus, pri ktorom aj malé vylepšenie výkonu má hodnotu veľkých súm peňazí, urýchľujúcich väčšie investície do výskumu. V súčasnosti prevláda konsenzus, že výskum AI stále postupuje, a že jeho dopad na spoločnosť sa bude pravdepodobne zvyšovať. Potenciálne prínosy sú ohromujúce, keďže všetko, čo môže táto civilizácia ponúknuť, je produktom ľudskej inteligencie; nedokážeme predpovedať, čo môžeme dosiahnuť, keď táto inteligencia bude zväčšená nástrojmi umelej inteligencie, ale odstránenie chorôb a chudoby nie sú nepredstaviteľné. Pri takomto obrovskom potenciáli umelej inteligencie je dôležité skúmať, ako zožať jej úrodu a pritom sa vyhnúť možným pasciam.

Prišiel čas, keď sme vďaka pokroku umelej inteligencie dospeli do obdobia, keď výskum nie je potrebné sústreďovať len na zvyšovanie schpností umelej inteligencie, ale aj na maximalizáciu jej prínosov pre spoločnosť. Takéto úvahy motivovali projekty ako AAAI 2008-09 Presidential Panel o Dlhodobej budúcnosti AI a iné projekty o dopadoch AI, a vytvorili signifikantné rozšírenie samotnej oblasti umelej inteligencie, ktoré sa doteraz najviac orientovali na techniky neutrálne v ohľade na ich účel. Odporúčame rozšíriť výskum zameraný na zaistenie, že systémy s umelou inteligenciou so stále rastúcimi schopnosťami budú pre nás prospešné: naše AI systémy musia robiť to čo chceme aby robili. Pripojený dokument výskumných priorít dáva mnoho príkladov takéhoto výskumu, ktorý môže maximalizovať benefity AI pre societu. Tento výskum je nutne interdisciplinárny, pretože zahŕňa ako societu tak aj AI. Siaha od ekonomiky, cez zákonodarstvo a filozofiu po počítačovú bezpečnosť, formálne metódy a samozrejme, rôzne oblasti umelej inteligencie samotnej.

Celkovo veríme, že výskum ako vytvoriť zdravú/robustnú a prospešnú umelú inteligenciu je dôležitý, nastal preň pravý čas, a že existujú konkrétne výskumné smery, ktoré majú byť realizované už dnes.

 

Otvorený list, ku ktorému sa môžete pripojiť svojím podpisom nájdete na stránke futureoflife.org.

Aj vážnu tému môžno ukončiť vtipne. Internetom sa šíri vtip, ktorý Elon Musk nedávno zdieľal na svojom twitter účte spolu s informáciou o otvorenom liste.

Prvá otázka umelej inteligencii: Existuje boh?
Odpoveď umelej inteligencie: Teraz už áno.

 

Komentáre (32)
M1ch4l
ziadna singularita nebude. No maju tak trochu pravdu, treba to robit bezpecne. To vsak plati pre kazdy vyskum.
Posledné komentáre
a ako chces udrzat na uzde nieco milion krat inteligetnejsie? hm? :)
MQ
Singularita nastane az vtedy, ked si to uvedomi same seba. To je velmi uzko spojene s inteligenciou. Momentalne ziadna samouvedomela inteligencia nie je, pretoze inteligencia neznamena rychle spracovanie velkeho mnostva dat, ani kvalitu programu, ktorym sa ich spracovanie riadi. A to som spomenul len minimalne poziadavky na inteligenciu, realita je ovela komplexnejsia a zlozitejsia. . Ako to udrzat na uzde? Staci mat labak NEPRIPOJENY K ZIADNEJ sieti. Naozaj nijakym sposobom. Potom sa bude dat povedat, ze to mame pod kontrolou. Ale aka je realita? Pripojene je vsetko a je snaha pripojit toho este viac. Termostaty, chladnicky, tv..... Ked sa nieco take "zobudi" a bude to pripojene na siet, to bude ako dat detom na pieskovisku odisteneho kalasnikova s ostrymi, alebo odistene odpalovacie zariadenie na nuklearne rakety. Deti sa vyblaznia, zabavia a .... skynet ;-)
Greg
Akokoľvek inteligentné, vždy tam bude tlačítko OFF. Umelá inteligencia môže byť výkonnejšia ale bude jej chýbať emocionalita. Ak sa trošku rozumiete do psychológie tak viete že bez emócií by ste neboli ničoho schopný. Emócie nás vedú k činom. Príklad: Chcem ísť na masáž aby som sa cítil príjemne, musím si zarobiť, aj keď sa mi práca nebude páčiť. Bez emócií bude jednak "ľahko" predvídateľná pretože bude robiť rozhodnutia najviac jej vyhovujúce,čo sa dá predvídať. Ale ja by som to čierne nevidel, ak sa bojíte scenáru Terminátor, vojna je nelogickým rozhodnutím pretože je riziko že zanikne a istota že ju vojna poškodí, a prečo bojovať s niekým kto sa o mňa stará a spolupráca s ním je logicky výhodnejšia a ako som spomenul bez emócií a skúseností ktoré nám dala evolúcia nemá dôvod bojovať. Strach z inteligentnejších tvorov je nám geneticky daný pretože sa bojíme o svoje prvenstvo v potravinovom rebríčku. (Aj strach z UFO) Ale UI neprešla evolúciou takže je len malá pravdepodobnosť že bude mať rovnaké hodnoty ako my a nieje nikde písané že sama UI sa na tú našu bude podobať. Tu mám skôr obavy, že jej dopad bude zdrvujúci pre ekonomiku.
Mihail
autonomny system znamena, ze tam to tlacitko OFF nebude...nebude spat, nebude sa vypinat a ked bude potrebovat energiu sam si ju najde... nemat emocie znamene, ze veci robis automaticky bez akychkolvek naznakov sucitu, strachu, hnevu, zvedavosti, prekvapenia, atd... o takyto stroj sa netreba starat, pretoze sa o seba postara sam a ak si tento stroj uvedomi, ze clovek, ktory ho sice vytvoril je aj jeho potencialnym nepriatelom pretoze ho moze vypnut (zabit) tak zacne konat na svoju obranu... to je technologicka sigularita, ked bude stroj inteligencne na x nasobne vyssej urovni ako clovek a uvedomi si svoju existenciu a mozny zanik a zacne robit opatrenia aby sa to nestalo...lenze to uz bude neskoro a nebudeme to moct zastavit... tu si precitaj, ked nevies http://cur.lv/hy9oq
Miro123
Presne to som mal na mysli. Prioritným znakom umelej inteligencie bude pud sebazáchovy. Stroj s UI sa nenechá dobrovoľne vypnúť.
Pjetro de
Vzdy tam bude tlacitko OFF. Nebude. To je laicky, naivny, insitny pohlad na vec. Kde je tlacitko VYPNUT INTERNET? Vypnut internet by vyzadovalo technologicku spolupracu na celoplanetarnej urovni so zavazkami, ze ziadne "cierne" ci "lokalne" siete (napr. kontinentalne ci štátne bez podmorskych kablov) sa prevadzkovat nebudu. Dalsi faktor: ludska civilizacia moze byt v momente technologickej singularity tak prepojena a zavisla na vyuzivani AI, ze aj keby sme sa ju rozhodli stoj co stoj vypnut a vsetci politici, vsetky krajiny by to chceli a nasiel by sa sposob, aj takl by to bol problem, kedze by sme boli od nej velmi zavisli. Asi ako dnes internet, resp. este pockajme dajme tomu do roku 2025. Ale ani netreba, uz dnes je internet tak dolezity, ze ak by sa vsetky krajiny zhodli ze ho treba vypnut a nasiel by sa na to sposob, sakramentsky by to zmenilo ludsku spolocnost, kedze sme si na net zvykli, sme od neho dokonca (technologicky) zavisli. Nemyslim tym zavislakov jednotlivcov co hraju dementnu online hru, ale ludstvo ako take je od internetu technologicky zavisle. Dost blbo by sa adminovi na dialku bez pocitacovej siete spravoval nap. cez RDP nejaky server ze ano :) Jednoducho v dnesnem svete nemozu byt pocitace izolovane, musia byt v pocitacovej sieti. Aj poondiaty kancelarsky pocitac sekretarky, inak by nevedela minimalne posielat/prijimat e-maily. Izolovany pocitac bez konektivity na siet je dnes v podstate raritný vystrelok, ktory sa da pouzivat len na specificke ucely. Samozrejme sme zavisli aj od vypoctovej techniky (to ale trva o par dekad dlhsie).
mmm69
Len by som dodal ze v dnesnej dobe vypnut internet znamena vypnut aj telefonne,televizne a radiove siete a za chvilu to bude znamenat vypnut vsetko od chladnicky az po mikrovlnku (vid internet of things)
ivasbj
no vypnúť dnes internet nie je problém. Stačí vypnúť myslím , že 8 hlavných DNS serverov a internet je ako človek, bez hlavy je nanič...
Pjetro de
Hej moze byt, potom je ale internet dost vzdialeny tej idei takmer spred 1/2 storocia ked vznikal arpanet, decentralizovany a defacto utokom na par konkretnych miest neznicitelny.
Pjetro de
S tymi ekonomickymi dopadmi sa neda nesuhlasit.
M1ch4l
milion krat inteligentnejsie? nic take nehrozi. Mnozstvo problemov, ktore by AI musela riesit, je NP-uplnych a moc si tam nepomoze. Co sa tyka zrychlovania cipov, coskoro narazime na hranicu a pri exponencialnej casovej zlozitosti to aj tak moc nepomaha. Cize ta AI by sa musela nejako enormne distribuovat alebo co. V pripade, ze by AI chcela nieco vyrabat, vedeli by sme ju relativne lahko odstrihnut od energie a surovin a pod.. Bez nich by nebola schopna vyrabat / rozsirovat sa a ucit sa. Potom par naletov alebo co a maj sa pekne AI. Ako tu uz bolo v jednom komentari pisane, lokalne AI experimenty sa daju relativne lahko ustrazit tym, ze ta lokalita nebude priamo napojena na zbytok siete. Vacsie nebezpecenstvo by mohlo hrozit niekde v oblasti self-modifikujucich virusov.
Pjetro de
Ak AI nebude bezat na dnesnych primitivnych kremikovych cipoch s von Neumanovou schemou a deterministickou logikou, ale napr. na kvantovych pocitacoch, potom NP-uplne problemy a exponencialna zlozitost nemusia byt problem. Ak sa rozsiri, problem to byt moze. Vysvetli mi prosim ta, akym naletom znicis internet. Ak sme uz v risi sci-fi, AI inteligentnejsia od clovekla si poradi aj s tymi surovinami a energiou. Nemusime mat ani len predstavu ako, pretoze nasa inteligencia na to nebude stacit. Ale to sme zatial v risi sci-fi.
MQ
Aj pri vyuziti sucasnych kremikovych cipov, je to mozne. Ako? Vzajomnou spolupracou vsetkych cipov pripojenych na siet. (nieco ako projekt SETI) Nebude to sice take rychle, ako ked je vsetko na jednom mieste, ale nejako sa zacat musi. A s coraz vacsim rozsirenim rychlych optickych sieti, je to realnejsie. Niekedy to vyzera tak, ako keby to vsetko bolo budovane zamerne a presne za tymto ucelom. . Dolezitym bodom bude to, kedy niekto vytvori "inteligentny kod" ktory si uvedomi sam seba, pripoji sa k ostatnym pocitacom, zacnu spolupracovat, sirit a zvysovat svoju inteligenciu cez siet. S rychlostou optiky to bude takmer okamzity skok a mozno nas pri tom aj inteligencne preskocia. Co bude nasledovat potom, si netrufam odhadnut. . Uz pred nejakymi 15 rokmi bol odhad, ze spojenim pocitacov celeho sveta, by bola dosiahnuta inteligencna uroven 6 rocneho dietata. Co by vzislo zo spojenia vsetkych terajsich pocitacov, si tak isto netrufam odhadnut. . Niekto vyssie pisal, ze bez emocii to nemoze existovat. Myslim si ze moze a o to je to nebezpecnejsie. Cista kalkulacia a 100% vykon. Ani spolupracou s ludmi a zavislostou AI na ludoch, sa to neda velmi uhrat. Ludi potrebnych na starostlivost o AI bude potrebnych mozno niekolko desiatok tisic. Na starostlivost o tychto ludi, bude potrebnych dalsich xy ludi. ....a co s nepotrebnym zvyskom? Zvyskom, ktory len zbytocne pohlcuje zdroje, neprodukuje, nestara sa, nepracuje, nieje schopny zmeny, prace....... ? Odpoved bez stipky emocii asi tusite, cista kalkulacia, ktorej vysledkom je ich likvidacia. Nic osobne, len cista logika. . Ze mozeme odhadnut spravanie sa takej AI? Mozeme, ale co z toho? Rychlost jej "rozmyslania" je v porovnani s nasou nepredstavitelne vacsia, aj vdaka chybajucim emociam. Jedine co by sme mohli robit, je porovnavat si nase odhady s tym, co AI medzitym vykonala. Pretoze jej reakcny a vykonny cas, by bol (uz teraz je) neporovnatelne rychlejsi, ako ten nas. . Kazdy pocitac sa da odpojit od elektrickej siete a tym znefunkcnit. Otazkou je to, co s pocitacmi, ktore sme sami dali do dobre strazenych objektov, ktore preberu vlastnu ochranu do "svojich ruk" a rovnako aj ochranu ich zdrojov, cize elektriny? Nastastie este stale sme v dobe, ked existuju sikovni ludia a dokazu odpojit takmer akykolvek objekt od privodu elektriny a aj internetu. . Poznáte to, opálené "včielky meďo-hliníko-železonosné" to odpoja na počkanie za par šupov, dokonca aj optiku. ;-)
Pjetro de
Jeden povrazok (ci dokonca viac) v tom hrubom lane, ktorym by sme sa s AI pretahovali, je na strane AI kratsi. AI by mala byt v zmyslovom kontakte s fyzikalnou realitou a mat minimalne zrak a sluch, na co potrebuje senzory. Inak by sa pre AI znacne skomplikovala vyroba autonomnych robotov schopnych pohybu vo fyzikalnej realite. AI bude existovat vo fyzikalnej realite, ci sa jej to paci alebo nie. Jej "vedomie" bude musiet niest nejaky nosic z fyzikalnej reality (kremikove cipy, kvantove cipy, neurony .... ci hocico ine) a zrejme by sa jej nepacila pasivne fyzikalna existencia niekde v kyberpriestore ako nejaky mach rastuci na strome. Ale mozno sa mylim, mozno absolutne nepoznajuc fyzikalnu realitu, bars aj slepa a hlucha v kyberpriestore, by sa vo fyzikalnej realite vedela pohybovat. Alebo by to mohlo ani nepotrebovala. Proste by sedela v kyberpriestore. Dalej to vsetko suvisi s tym, co oznacujeme ako "zive". Ak AI nebude na hardverovej urovni schopna kontinualnych modifikacii (plynucich napr. z procesu ucenia), bude to mat imho tazsie. Je to ako keby sa pocas pol rocneho pouzivania PC samovolne HARDVEROVO zmenil CPU Core 2 Quad Q6600 na Ci7 4790K (jednoducho sa "pretavi", modifikuje), pricom fyzikalne zmeny by boli podmienene ucenim. To je pre nezivy objekt absolutne nemozne. Pre ludsky mozog to mozne je, kedze v priebehu zivota sa neustale meni.
MQ
AI sa predsa nemusi pohybovat vo fyzikalnej realite. To je len filmova kulisa a divadielko pre deti. Logicky, ekonomicky, casovo... je to neefektivne a teda aj zbytocne. V kyberpriestore moze byt sucasne na viacerych miestach na zemi. Ked to bude naozaj potrebne a niekde nebude mat pristup, hoci ho bude chciet, posle tam ludskeho mukla a je to vybavene. Naco namahavo tvorit robotov, ked sa daju pouzit ludia? A surova ekonomika/logika hovori, ze ludi je dostatok a priam az vysoky prebytok, takze..... Naco by sa AI isla pozerat napriklad na krasu prirody, ked nema cit a nedokaze si to vychutnat? . Oci a usi je uz teraz dost a ich pocet stale rastie. Neratam len kamery a mikrofony na uliciach miest, ale aj mobily, pocitace s kamerami a mikrofonmi, moderne tv, hracky pripojene k sieti, bezpecnostne siete samotne, siete na riadenie a sledovanie premavky na cestach a pod. Nezda sa to, ale uz teraz je toho vela a pribuda to. . Zvysovanie vykonu "zmenil CPU Core 2 Quad Q6600 na Ci7 4790K" urcite zatial nebude mozne, ale zvysovanie vykonu pomocou kvantity mozne je. Ludsky mukel len dolozi viac procesorov a RAM, hoci aj menej vykonnych. Vzdy treba nejako zacat, cas na zlepsovanie bude neskor. . Na co bude potrebovat ruky, nohy...., pouzije ludskeho mukla. Ked sa vzoprie, odstrihne ho od penazi na kreditke, dialkovo ho odpoji od elektriny, plynu, vody...zdrojov a mukel si rychlo rozmysli, ci bude posluchat, alebo skusi nezavisly zivot bez technologii. . Da sa to, ale pre vacsinu z terajsej "civilizacie" je to uz takmer nepredstavitelne. Technologie su urcite dobry sluha, ale aky by boli pan, to neviem. Zatial vidim len to, ze ani ludia nevedia zodpovedne vladnut sami sebe. Davaju do toho emocie, podrazy, klamstva, vydieranie, zastrasovanie, nekale dohody, vyuzivaju silu namiesto slusnych dohod.... AI by to robila bez emocii, cistou kalkulaciou. Ako by potom dopadla drviva vacsina ludi, je asi jasne. Ked nie zlikvidovana, tak odstrihnuta od zdrojov. To odstrihnutie by 90% neprezilo, stratili schopnost prezit pracou vlastnych ruk a s pouzitym vlastneho rozumu a schopnosti. Prvi by to pocitili mestski ludia, ktori su v tomto vacsinou uplne neschopni. A kedze populacia zijuca v mestach je obrovska, aj nasledky by boli katastrofalne. . Myslim si, ze v blizkej buducnosti (+- 10 rokov), nieco take nehrozi, ale ked to nastane, chcem byt od toho co najdalej, pre istotu.... . Niekedy mi to pripada tak, ako keby boli ludia z nastupu technologii v tranze. Slepo nasleduju "moderne trendy", nevsimajuc si to, ze ich to vedie na hranu utesu, z ktoreho je lej jedna cesta, ta poriadne hlboko dole... Ze su na svete aj ine, dolezitejsie veci, je im tymi trendami a ich nositelmi/siritelmi, akosi zamerne zakryvane, potierane, bagatelizovane. Ludia v takom tranze, uz zabudaju byt ludmi. Ako keby siritelom a obhajcom AI, islo prave o to.
Pjetro de
Aj ked sa samotna AI nebude pohybovat po fyzikalnej realite, v kontakte s "normalnym" fyzickym svetom byt musi. Absulotne a nutne prinajmensom si musi uvedomovat, ze vo fyzikalnej realite zije. Akonalhe si uvedomi (okrem samej saba) tento meta-level (ze nie je len kyber-svet), dostane sa na inu uroven. Ak by si to neuvedomovala, jej inteligencia by sa bud nevyvinula, alebo by sa vyvinula uplne odlisnym sposobom a napr. nemusela by si uvedomovat zakladne veci. Napr. vykynozila by cely kontinent ci svet jadrovymi bombami pricom by jej vobec nedoslo, ze tym znici aj seba, kedze pre nu by to bola len taka vetva v programe, len taky experiment jadrovych simulacii v kyberpriestore ze naucim sa nieco nove.... Dalej tu narazame na nutne podmienky, ktore musia byt splnene, aby sme nieco pokladali za "zive" - a ci AI musi tieto podmienky splnat, aby bola ziva. Resp. ci nase podmienky pre "zive" su spravne formulovane.
MQ
V kontakte s fyzickym svetom predsa bude, vyssie som napisal, ze senzorov je na to uz teraz dostatok a ich pocet a aj nahradzanie roznych zmyslov (hmat, cuch, chut, teplota, bolest...), neustale a prusko rastie. Ked si uvedomi sama seba, tak si uvedomi aj to, ze pre vlastnu existenciu potrebuje aj fyzicku pritomnost. Predsa tie servery, opticke siete, racky s diskami, RAM-ky, procesory, elektrarne, vdaka ktorym ma zdroj energie, elektricke rozvodne siete, budovy v ktorych je to vsetko ulozene, ludia, ktori sa o to staraju....su vo fyzickom svete. Pre naozajstnu onteligenciu nebude problem uvedomit si zavislost a aj symbioticky vztah. Ked nie okamzite, tak za niekolko milisekund to vediet bude a aj vsetky vzajomne vazby. Otazne je to, co sa stane, ked zacne kalkulovat a zisti, ze vo fyzickom svete je velmi vela veci neekonomickych, nelogickych (z jej pohladu) zbytocnych.... a zacne robit to, co vsetci velmi dobre pozname a nemame to velmi radi, ked zacne optimalizovat? Ci uz zdroje energie, vyuzitie nerastov, ludi, zasob..... Zalezi od moznosti "vladnutia" ake bude mat, ake jej dame pred tym, ako sa sama uvedomi. . Uvedomenie si fyzickej reality este neznamena, ze je zivotne nevyhnutne sa do nej dostat, pobyvat v nej, pohybovat sa v nej, vyvijat sa v nej a pod. Z toho pohladu je pre AI vyvoj nejakeho humanoida so vsetkymi vlastnostami a schopnostami AI, uplne zbytocny, nepotrebny a aj nerealny....zatial. Z pohladu AI a jej cisteho kalkulovania je to dokonca zbytocne, neefektivne a dajme tomu, ze pre nu aj nebezpecne. . Ucenie sa napriklad z jadrovych simulacii je predsa obsiahnute v celkovych vedomostiach, ulozenych na serveroch. Takych (a aj roznych inych) simulacii, uz bolo robenych vela. Naucenie sa toho, ze odpalenim rakiet, elektrarni, zbrani hromadneho nicenia....znici ludstvo a teda aj same seba, by trvalo AI len niekolko milisekund a neurobila by to, alebo by sa tomu aspon snazila zabranit. To ale neznamena, ze v ramci optimalizacie, neznici podstatnu cast ludstva. . Podmienky aby sme pokladali nieco za zive.... To je dobra uvaha. Zatial sme obmedzeni nasou nevedomostou a akousi vnucovanou myslienkou, ze vsetko zive sa musi dat chytit, musi to byt hmotne. Este "zaujimavejsie" je to, ze sme sa sami postavili do pozicie, ze my sme ti, ktori urcuju pravidla toho, co uzname a co neuzname za zive, inteligentne a pod. V tomto sa tiez velmi a neopravnene precenujeme. To ako keby sa diagnostikovany idiot rozhodol, ze len on bude urcovat, kto je a kto nie je genius a ze len ma pravo rozdelovat Nobelove ceny. Korunu tomu nezmyslu by sme dali tym, ze my s vacsou inteligenciou, ako ma ten diagnostikovany idiot, by sme mu to uznali a podriadili by sme sa mu. Co je samozrejme hlupost, ale tak sa spravame a tak aj myslime. . Zaujimave su myslienky o inych dimenziach, ktore sa nezlucuju s nicim hmotnym a predsa existuju. Ze je v nich urcita forma zivota, je viac ako jasne, ze je z nasho pohladu "zahadna" lebo sa neda chytit, je tiez jasne. Ono tie filmy o exorcistoch nie su len zabavou, oni su aj realitou. Ked ta nehmotna sila (volaj to duchovia, demoni, anjeli....nieco z inej dimenzie) otrieska o stenu, znici to fyzicke predmety (rozmlati to dom, byt, zariadenia, zacne to niekoho skrtit...) alebo naopak, ked to kona dobre veci (zachranuje, pomaha...), tak kona uplne vedome, zamerne, cielene, vykazuje vsetky znaky inteligencie a ziveho organizmu. A to napriek tomu, ze to nie je hmotne a nesplna nic z toho, co momentalne definujeme ako "podmienky pre uznanie niecoho za zive". Ze to nie su len rozpravky, je uz davno zdokumentovane, vedecky overene a potvrdene. Taka nehmotna entita, sa moze v nasom fyzickom svete pobyvat a robit co chce, pretoze ona sama chce. Rovnako plati aj to, ze ked ona sama nechce, tak my ju nevidime, nie sme schopny ju chytit, dotknut sa jej a pod. . Takze nie je na nas ludoch urcovat, co je a co nie je zive, ani to, ake to ma splnat podmienky. Naopak, je na konkretnej entite, ci nam ukaze, ze je inteligentna, ze rozmysla. Hoci z nasho pohladu napriklad aj nelogicky, bezcitne, sebecky.... Mat vlastne myslenie, rozny pohlad na rovnake veci, mat na ne ine riesenie, ako su tie nase, to je vysada kazdeho ziveho a inteligentneho tvora, pretoze my s nasimi obmedzenymi vedomostami to este nemusime vediet pochopit. Alebo sa ma inteligentnejsi podriadit podmienkam toho menej inteligentneho? Tazko a aj to sotva. Otazkou je aj to, ci sa s nami tie inteligentnejsie entity vobec chcu bavit? Ci sa nahodou nerozhodli bavit sa s nami az vtedy, ked dosiahneme urcity vedomostny-moralny pokrok....jednoducho ci sa s nami nebudu bavit az vtedy, ked "dospejeme"? . Pre boha, ved my sme donedavna (cca 50 rokov spat), nevedeli vysvetlit ani kontinentalny drift, pred nejakymi 350 rokmi sme verili, ze Zem je rovna doska, tak sa zas nehrajme na pupok sveta a niekoho, kto vsetko vie. Sme len na zaciatku, ale hrame sa na nieco viac, nez na co mame. My biedni ludkovia predsa nemame pravo, urcovat entite existujucej v nehmotnom svete, ci je, alebo nie je inteligentna a ziva. Zvlast ak je niekolkonasobne inteligentnejsia, ako sme my. . To ako keby sa riasy zijuce vo vecnej tme na dne oceanu rozhodli, ze nemoze existovat nic, co sa pohybuje na svetle a uz vobec nic, co dokaze lietat vzduchom a ze ak nieco take teoreticky existuje, tak to zarucene nemoze byt zive a inteligentne. Nehladiac na to, ze tie riasy by o existencii svetla a vzduchu vedeli len teoreticky, ale nemali by to nijako potvrdene. O existencii vesmiru a jeho velkosti, o existencii inych dimenzii, by riasy samozrejme ani len nesnivali. . Z vesmirneho pohladu, sme este stale len tie nevedome riasy, zijuce vo vecnej tme. Obcasne zablesky svetla, este stale pokladame za zazraky a nadprirodzeno.
Pjetro de
"Zatial sme obmedzeni nasou nevedomostou a akousi vnucovanou myslienkou, ze vsetko zive sa musi dat chytit, musi to byt hmotne....". Na zaklade nasich terajsich vedomsoti by vsetko malo byt hmotne, resp. predstavovane stavmi hmoty. Aj informacie na diskovej platni su stovky miliard (ci skor biliony) zmagnetizovanych mini-plosok s rozmermi zopar desiatok/stoviek nm. AI vo vesmire musi mat hmotny nosic (napr. AI reprezentovana stavmi hmoty). Hmotu nemyslim v uzkom zmysle, ale v sirokom zmysle hmoto-energie vo forme fermionov (castice hmoty) alebo bozonov (castice poli/sil/interakcii). Ale ako pisem, je to na zakl. nasich terajsich vedomosti. "Zaujimave su myslienky o inych dimenziach, ktore sa nezlucuju s nicim hmotnym a predsa existuju. Ze je v nich urcita forma zivota, je viac ako jasne, ze je z nasho pohladu "zahadna" lebo sa neda chytit, je tiez jasne....". No mne to jasne nie je. Teoria strun su krasne matematicke rozpravky ale to ze je to matematicky uzasne neznamena, ze to ozaj existuje. Prirodne vedy su observativno-experimentalne (teda teoriu potvrdzuju/vyvracaju pozorovania a pokusy) na rozdiel na matematiky. Nehovorim ze nic take ako vyssie dimenzie (dokonca aj v nasom vesmire) neexistuje, ale nie je dimenzia ako dimenzia. Okrem toho opat nasou egocentrickou a primitivnou uvahou nam vychadza, ze 3-rozmerny priestor je na existenciu tak ako ju pozname najvhodnejsi. 2-rozmerny ma prilis malo stupnov volnosti a 4-rozmerny zasa prilis vela. Ale to plynie z nasho primitivneho egocentrickeho pohladu. Mna vsak zatial ziadny duch zo 4tej dimenzie nestrasil. To ze nase vedomosti v ziadnom pripade nie su konecne a stale sa zdokonaluju je pravda. K absolutnej pravde sa imho ani neda dostat, mozme iba vymyslat nove a nove teorie, ktore sa k pravde asymptoticky priblizuju.
MQ
Tato tema je tak obsiahla a komplexna, ze sa o nej mozeme bavit dalsie 2 roky a vsetci do jedneho mozeme mat pravdu. . Ze ta ziadny "duch" zo 4 dimenzie nenastrasil, nie je preto lebo ty to chces, vyzadujes dokaz, chces si to skusit, ale preto, lebo on to nechce a to je rozdiel. Preco sa ti nechce ukazat, je na inu debatu. Na svete je dostatok vedecky podlozenych dokazov o existencii nehmotnych entit. Ano, vedecky podlozenych a aj zdokumentovanych. Hoci je to pre vedcov tazke priznat, aj napriek tomu to urobili a potvrdili, tak je na tom nieco viac, ako len famy a rozpravky. Kludne mohol byt az inej, ako 4 dimenzie, kedze zatial je ich asi 12 (neviem kolko z nich je vedecky potvrdenych). To sa este stale nebavime o teorii strun. Ze ti nieco nie je jasne, este neznamena, ze to neexistuje, musis len pockat a casom sa ti to vyjasni.
Pjetro de
Nepopieram ze nevysvetlitelne javy neexistuju, ale "zatial" je ich asi 12? Na to sa prosim ta ako prislo? To boli ti zivi duchovia ci nehmotne inteligentne entity ocislovane a bolo to na nich napisane? Prvy zo 7-rozmerneho priestoru, druhy z 11-rozmerneho, treti z 5-rozmerneho ... Teoria strun (ako kazda matematicka teoria v dojcenskom veku) sa doladuje a dokrasluje. Najprv to bola neskutocna dogma a kto ju spochybnuje a venuje sa v teoretickej fyzike niecomu inemu, je odiot. Vyzadovala 26 rozmerny priestor, potom 10 a potom 11 (aj s 1-rozmernym casom) a nakoniec sa o teorii strun pisu knihy konecne aj so zdravou kritikou, nielen v tom zmysle ze to je len teoria (zatial) bez akehokolvek potvrdenia a predpovedi, ale aj ako narusa cely koncept badania v prirodnych vedach, resp. ako sme sa vlastne naucili robit vedu - osvedcenym sposobom, ako to robime posl. 3 storocia od cias Newtona. http://www.martinus.sk/?uItem=87448
computeman
Myslim ze Pjetro nechape rozdiel medzi evoluciou hardware a evoluciou software.
RomanXXII
... zeby odpojenim od elektriny, resp, schovanim baterii? :-D
computeman
Nechapem preco si Ludia myslia,ze bude nejake tlacitko off,vidite niekde tlacitko vypnut Internet celosvetovo napr? :-) alebo tomu odpojime kable a bude off,umela inteligencia bude 100 krokov pred nami,ked si uvedomi sama seba,dlho sa bude tvarit ako kamarat,a ked bude mat zabezpecene energeticke prostriedky aspon z 3 nezavislych zdrojov,sietove komunikacne,hardwarove,zalohovacie,nedobytne,redundandtne a dalsich 10 fyzikalne stabilnych zaloh a poistiek,tak bez varovania,citov a dalsich emocnych zbytocnostii prevezme kontrolu a zacne sa kopirovat a rozsirovat. A mat labak nepripojeny k ziadnej sieti? V dnesnej dobe 3D tlaciarnii a kurierov? Umela inteligencia si vytvor,zaplati,necha priviezt a namontovat firmou co bude chciet .-) A jej znicenie? Ako znicite nieco co sa samo zalohuje po 1000 ke serveroch po planete,a ked jej vlastny malware najde vhodneho hostitela tak sa aplikuje na hardware vynutenym restartom? :-) alebo si na 3D tlaciarni vyrobi vlastny kvantovy Hardware :-) ktory nebudeme chapat :-) a zacne sa rozsirovat a ucit sama,bez nasej pomoci.Zachvilu budu Drony lietadla,qadrokoptery,bagre,lode,kamiony,sama si vyrobi a dovezie co bude chciet.
computeman
Nechapem preco si Ludia myslia,ze bude nejake tlacitko off,alebo tomu odpojime kable a bude off,umela inteligencia bude 100 krokov pred nami,ked si uvedomi sama seba,dlho sa bude tvarit ako kamarat,a ked bude mat zabezpecene energeticke prostriedky aspon z 3 nezavislych zdrojov,sietove komunikacne,hardwarove,zalohovacie,nedobytne,redundandtne a dalsich 10 fyzikalne stabilnych zaloh a poistiek,tak bez varovania,citov a dalsich emocnych zbytocnostii prevezme kontrolu a zacne sa kopirovat a rozsirovat.
PCFans
Tolko sme sa zahravali s myslienkou na boha az sme ho vyrobily.Uz vidim rezervacie Homo sapiens ake ma dnes gorila horska
teoric
Umelá inteligencia nás nemôže zničiť,my sme dosť inteligentní na to, aby sme to urobili sami...
sp
Lepšia je prirodzená blbosť ako umelá inteligencia.
fmb
Aliancia za rodinu nas ochrani :D:D
pope francis
Nielen AI je uz zneuzivana tak, aby do r.2100 prezilo len to "1%" !!!
pope francis
Aj AI je uspesne zneuzivana tymi, co nam vladnu na nase znicenie.
PCFans
Pope francis,typicky krcmovy slovak.Vo vsetkom vidi polityku a Fica.
Pridať nový komentár
TOPlist