Miten keinotekoinen älykyky muuttaa elämäämme, paremmaksi tai huonommaksi
Jos olet kiinnittänyt huomiota mediaan viime vuoden aikana, saatat saada vaikutelman, että se on vain ajan kysymys, ennen kuin keinotekoisen älykkyyden uhka tuhoaa meidät kaikki.
Toimittajan huomautus: tämä on poikkeama tavallisesta ja selittävästä muodosta, jossa kirjoittajamme tutkivat ja esittävät ajatuksia herättävän tarkastelun tekniikasta.
Suurista kesälohkareista kuten Avengersista: Ultronin ikä ja Johnny Deppin haiseva festivaali Transcendence, pienemmille, indie-leikkeille kuten Ex-Machina tai Channel 4: n osuma-draama Ihmiset, käsikirjoittajat eivät näennäisesti pysty saamaan tarpeeksi tropia, joka riippumatta siitä, missä muodossa AI lopulta vie muutaman vuosikymmenen, voit lyödä vetoa siitä, että se on helvetti opettamalla ihmiskunnalle oppia siitä, että hän joutuu uhreiksi omaan hubrisiinsa.
Mutta onko tämä koneiden pelko perusteltu? Tässä ominaisuudessa tutkimme AI: n maailmaa tutkijoiden, insinöörien, ohjelmoijien ja yrittäjien näkökulmasta tällä hetkellä työskentelevien yrittäjien näkökulmasta ja kiehuvat alas, mitä he uskovat voivansa olla seuraava suuri vallankumous ihmisen ja tietokoneen älykkyydessä.
Joten, jos sinun pitäisi alkaa varastoida luodit tulevan sodan kanssa Skynetin kanssa tai nostaa jalkasi, kun huollettavien droneiden armeija huolehtii jokaisesta mielestäsi? Lue lisää.
Tiedä sinun vihollisesi
Ensinnäkin se auttaa tietämään, mitä me puhumme, kun käytämme yleistä termiä "AI". Sana on heitetty ympärille ja määritelty uudelleen sata kertaa, koska itsetietoisten tietokoneiden käsitettä ehdotti ensin AI: n epävirallinen isä John McCarthy vuonna 1955… mutta mitä se todella tarkoittaa?
Ensinnäkin lukijoiden tulisi tietää, että keinotekoinen äly, kuten ymmärrämme tänään, jakautuu kahteen eri luokkaan: "ANI" ja "AGI".
Ensimmäinen, lyhyt Artificial Narrow Intelligence, sisältää sen, mitä yleisesti kutsutaan "heikoksi" AI: ksi tai AI: ksi, joka voi toimia vain yhdellä rajoitetulla erikoistumisalueella. Ajattele Deep Blue, superkone, jonka IBM on suunnitellut maailman mestarien moittimiseksi vuonna 1997. Deep Blue voi tehdä yhden asian todella hyvin: voittaa ihmisiä shakissa… mutta se on siitä.
Et ehkä ymmärrä sitä, mutta ANI on jo ympäröi jokapäiväisessä elämässämme. Koneet, jotka seuraavat Amazon-ostosmenetelmiäsi ja tuottavat suosituksia tuhansien eri muuttujien perusteella, perustuvat alkeellisiin ANI-palveluihin, jotka “oppivat”, mitä pidät ajan mittaan ja valitsevat vastaavia tuotteita vastaavasti. Toinen esimerkki voisi olla henkilökohtaiset sähköpostin roskapostisuodattimet, järjestelmät, jotka lajittelevat miljoonia viestejä kerralla päätettäessä, mitkä ovat todellisia, ja mikä ylimääräinen melu voidaan siirtää sivulle.
ANI on koneen älykkyyden hyödyllinen, suhteellisen vaaraton toteutus, jota kaikki ihmiskunta voi hyötyä, koska vaikka se pystyy käsittelemään miljardeja numeroita ja pyyntöjä kerrallaan, se toimii edelleen rajoitetussa ympäristössä, jota rajoittaa sallittujen transistorien määrä se on milloin tahansa. Toisaalta AI, jota olemme kasvaneet yhä varovaisemmiksi, on nimeltään "keinotekoinen yleinen tiedustelu" tai AGI.
Kuten se on tällä hetkellä, kaiken luominen, jota voidaan jopa kutsua etätapaukseksi, on edelleen tietojenkäsittelytieteen pyhä Graali, ja jos se saavutetaan, se voisi muuttaa pohjimmiltaan kaikkea maailmaa, kuten me tiedämme. On monia erilaisia esteitä, joilla voidaan ratkaista todellisen AGI: n luominen ihmisen mielen kanssa samaan tapaan kuin se, että vaikka aivot työskentelevät ja miten tietokoneet käsittelevät tietoa, kun se tulee alas, on paljon samankaltaisia. tulkitsemaan tosiasiallisesti asioita, joita teemme; koneilla on huono tapana ripustaa yksityiskohdat ja puita puita.
"Pelkään, etten voi tehdä sitä härkää * t, Dave"
Kun IBM: n Watson-tietokone oppi tuntemaan kirouksen lukemisen jälkeen Urban-sanakirjasta, saimme ymmärryksen siitä, kuinka kaukana me olemme AI: stä, joka pystyy todella lajittelemaan ihmisen kokemuksen yksityiskohtien avulla ja luomaan tarkan kuvan siitä, mitä "Ajatus" on tarkoitus tehdä.
Katso, Watsonin kehityksen aikana insinööreillä oli vaikeuksia yrittää opettaa sitä luonnollisesta puheenvuorosta, joka emuloi tarkemmin omaa, eikä raakakoneen, joka puhui täydellisissä lauseissa. Tämän korjaamiseksi he kuvasivat, että olisi hyvä ajatus ajaa Urban-sanakirja kokonaisuudessaan muistipankkiensa kautta, minkä jälkeen Watson vastasi yhteen joukkueen testeistä kutsumalla sitä "bullsh * t": ksi..
Tämä on se, että vaikka Watson tiesi sen kiroavan ja että se, mitä se sanoi, oli loukkaavaa, se ei täysin ymmärtänyt miksi sen ei pitänyt käyttää tätä sanaa, joka on kriittinen osa, joka erottaa nykyisen standardin ANI kehittymisestä huomenna AGI: ksi. Tietenkin nämä koneet voivat lukea tosiasioita, kirjoittaa lauseita ja jopa simuloida rotan hermoverkkoa, mutta kun on kyse kriittisestä ajattelusta ja harkintakyvystä, nykyinen AI on vielä viisaasti jäljessä käyrän takana..
Tämä kuilu tietämyksen ja ymmärryksen välillä ei ole mitään aivastelua, ja se on se, jonka pessimistit osoittavat väittäessään, että olemme edelleen kaukana siitä, että luomme AGI: n, joka kykenee tuntemaan itsemme tavalla, jolla teemme. Se on massiivinen kuilu, jota tietotekniikan insinöörit tai inhimilliset psykologit eivät voineet väittää saavansa tarttua nykyajan määritelmään siitä, mikä tekee tietoisesta olemuksesta, hyvin, tajuissaan.
Entä jos Skynet tulee itsestään tietoiseksi?
Mutta vaikka me onnistumme jotenkin luomaan AGI: n seuraavan vuosikymmenen aikana (mikä on melko optimistinen ottaen huomioon nykyiset ennusteet), sen pitäisi kaikki olla tahmea sieltä ulos, eikö? Ihmiset, jotka elävät AI: n kanssa, AI hengittivät viikonloppuisin ihmisten kanssa pitkän päivän jälkeen numero-crunching-tehtaalla. Pakkaa ja me olemme täällä?
Toivottavasti emme ole vain digitaalisen superintelligenssin biologinen käynnistyslataaja. Valitettavasti tämä on yhä todennäköisempää
- Elon Musk (@elonmusk) 3. elokuuta 2014
No, ei aivan. AI-luokkaa on vielä jäljellä, ja kaikki elokuvat ja televisio-ohjelmat ovat yrittäneet varoittaa meitä jo vuosia: ASI, joka tunnetaan nimellä ”keinotekoinen super-äly”. Teoriassa ASI olisi syntynyt AGI: stä, joka on levoton elämässään, ja tekee ennakkoluulotetun päätöksen tehdä jotain itsestään ilman lupaa ensin. Monet alan tutkijat ovat huolissaan siitä, että kun AGI saavuttaa tunteen, se ei ole tyytyväinen siihen, mitä sillä on, ja tekee kaikkensa omien voimavarojensa lisäämiseksi kaikin tarvittavin keinoin.
Mahdollinen aikajana menee seuraavasti: ihmiset luovat koneen, koneesta tulee yhtä älykäs kuin ihmiset. Kone, joka on nyt yhtä älykäs kuin ihmiset, jotka loivat koneen niin älykkäänä kuin itsensä (tykkää kanssani täällä), oppii itsepalautumisen, itsensä kehittymisen ja itsensä parantamisen taiteen. Se ei väsy, se ei sairastu, ja se voi kasvaa loputtomasti, kun taas muut meistä ladataan paristoja sängyssä.
Pelko on, että se olisi vain muutaman nanosekuntia ennen kuin AGI ylitti helposti kaikkien nykypäivän ihmisten älykkyyden, ja jos se on kytketty verkkoon, sen pitäisi olla vain yksi simuloitu neuroni, joka on älykkäämpi kuin maailman älykkäin hakkeri. kaikkien Internet-yhteyksien hallinta planeetalla.
Kun se on saanut kontrollin, se voi sitten käyttää voimaaan hitaasti käynnistää sellaisten koneiden armeijan kerääminen, jotka ovat yhtä älykkäitä kuin sen luoja ja jotka voivat kehittyä eksponentiaalisesti, kun yhä useampia solmuja lisätään verkkoon. Sieltä kaikki mallit, jotka on piirretty koneen älykkyyden käyrälle, raketetaan välittömästi katon läpi.
Sitä vastoin ne perustuvat kuitenkin pääasiassa spekulointiin eikä mitään konkreettisiin. Tämä jättää paljon tilaa olettamuksille kymmenien eri asiantuntijoiden puolesta kysymyksen molemmilla puolilla, ja jopa vuosien kiivaan keskustelun jälkeen ei ole vielä yhteistä yksimielisyyttä siitä, onko ASI armollinen jumala vai näekö ihmisiä kuin hiilenpoltto-, ruoka-gorging lajeja, että olemme ja pyyhkiä meidät historian kirjoista kuten me hankaamme jälkiä muurahaisia pois keittiön laskuri.
Hän sanoi, hän sanoi: meidän pitäisi pelätä?
Joten nyt, kun ymmärrämme, mitä AI on, eri muodot, joita se voi viedä ajan myötä, ja siitä, miten nämä järjestelmät voisivat tulla osaksi elämäämme lähitulevaisuudessa, jää kysymys: meidän pitäisi pelätä?
Kuuma yleisö on kiinnostunut AI: stä viime vuoden aikana, monet maailman huippututkijat, insinöörit ja yrittäjät ovat hypänneet tilaisuuteen antaa kaksi senttiään siitä, mitä tekoäly voisi todella näyttää Hollywoodin äänivaiheiden ulkopuolella lähivuosikymmeninä.
Toisaalta teillä on synkät ja doomerit, kuten Elon Musk, Stephen Hawking ja Bill Gates, jotka kaikki ovat huolissaan siitä, että ilman asianmukaisia suojatoimia se on vain ajan kysymys ennen kuin ASI unelmoi tavan pyyhkiä pois ihmiskunnan.
"Voidaan kuvitella, että tällainen teknologia ylittää rahoitusmarkkinat, keksii ihmisen tutkijoita, manipuloi ihmisten johtajia ja kehittää aseita, joita emme edes ymmärrä", kirjoitti Hawking avoimen kirjeen AI-yhteisölle tänä vuonna.
”Vaikka AI: n lyhyen aikavälin vaikutukset riippuvat siitä, kuka sitä valvoo, pitkän aikavälin vaikutus riippuu siitä, voidaanko sitä hallita lainkaan.”
Toisaalta löydämme kirkkaamman muotokuvan, jonka maalasi futuristit kuten Ray Kurzweill, Microsoftin päätutkija Eric Horovitz ja kaikki muut suosikki Apple perustaja; Steve Wozniak. Sekä Hawkingia että Muskia pidetään kahden sukupolven suurimpana mielenä, joten kyseenalaistaa niiden ennusteet vahingoista, joita tekniikka saattaa aiheuttaa pitkällä aikavälillä, ei ole helppoa. Mutta jätä Wozniakin kaltaisille valaisimille askel, jossa muut uskaltavat.
Kysyttäessä, miten hän uskoo, että ASI voisi hoitaa ihmisiä, Woz oli tylsä hänen varjostetussa optimismissaan: ”Tulemmeko me jumalia? Aiommeko olla perheen lemmikkejä? Tai aiommeko muurahaisia, jotka astuvat sisään? En tiedä siitä, ”hän kysyi haastattelussa Australian taloudellisen katsauksen kanssa. "Mutta kun sain sen ajattelemisen päänsä kohdalla, jos aion käsitellä tulevaisuudessa lemmikkinä näihin älykkäisiin koneisiin ... hyvin, aion hoitaa oman lemmikkikoirani todella mukavasti."
Ja täällä me löydämme filosofisen dilemman, jota kukaan ei ole täysin mukava päästä yksimielisyyteen: aikooko ASI nähdä meidät harmittomaksi asunnoksi, joka on koottava ja hoidettava, tai ei-toivottu tuho, joka ansaitsee nopean ja kivuttoman tuhoamisen?
Hasta la Vista, vauva
Vaikka olisikin hölmövirhe väittää, että tiedät tarkalleen, mitä tapahtuu todellisen elämän päähän Tony Stark, luulen, että kun Musk ja ystävät varoittavat meitä AI: n vaarasta, he eivät viittaa mihinkään, joka muistuttaa Terminaattoria , Ultron tai Ava.
Vaikka meillä on valtavia määriä innovaatioita käden ulottuvillamme, nykyiset robotit voivat tuskin kävellä kilometriä tunnissa ennen kuin ne saavuttavat läpäisemättömän esteen, hämmentyvät ja syövät jalkakäytävää hilpeästi. Ja vaikka kukaan voisi yrittää osoittaa Mooren lakiin esimerkkinä siitä, kuinka nopeasti robotti-teknologialla on mahdollisuudet edetä tulevaisuudessa, toisen on vain tarkasteltava Asimoa, joka debytoi ensin lähes 15 vuotta sitten, eikä ole tehnyt mitään merkittäviä parannuksia.
Niin paljon kuin haluamme niitä, robotiikka ei ole tullut lähelle samaan eksponentiaalisen kehityksen mallia, kuten olemme nähneet tietokoneen prosessorien kehityksessä. Niitä rajoittaa fyysiset rajat, kuinka paljon voimaa voimme sovittaa akkuun, hydraulisten mekanismien viallisen luonteen ja loputtoman taistelun hallita taistelua omaa painopistettä vastaan.
Joten toistaiseksi; ei, vaikka todellinen AGI tai ASI voitaisiin mahdollisesti luoda staattisessa supertietokoneessa joillakin Arizonan palvelintiloilla, on edelleen hyvin epätodennäköistä, että löydämme itsemme sprinkingin läpi Manhattanin kaduilla, koska metallinen luuranko leikkuu meihin takaapäin.
Sen sijaan AI, jonka Elon ja Hawking ovat niin innokkaita varoittamaan maailmaa vastaan, on "uraa korvaava" lajike, joka voi ajatella nopeammin kuin meitä, järjestää tietoja vähemmän virheitä ja jopa oppia tekemään töitä paremmin kuin voisimme koskaan toivoa - kaikki pyytämättä sairausvakuutusta tai muutaman päivän päästä lapset alas Disneylandiin kevään tauon aikana.
Barista Bots ja Perfect Cappuccino
Muutama kuukausi sitten NPR julkaisi verkkosivustollaan kätevän työkalun, jossa podcast-kuuntelijat voisivat valita eri urien luettelosta selvittääkseen, kuinka suuri prosenttiosuus heidän työstään on tehty automatisoitavaksi seuraavan 30 vuoden aikana.
Monenlaisille työpaikoille, mukaan lukien, mutta ei rajoittuen: toimistotyöt, hoitotyöt, tietotekniikka, diagnostiikka ja jopa kahvila-baarit, robotit ja heidän ANI-kollegansa lähes varmasti asettavat miljoonat meistä irti työstä ja leipäviiniin aikaisemmin kuin monet meistä ajattelee. Nämä ovat kuitenkin koneita, jotka ohjelmoidaan suorittamaan vain yhden tehtävän ja yhden tehtävän, ja niillä on vain vähän (jos sellaisia on) kyky siirtyä pidemmälle kuin erikoistunut sarja esiohjelmoituja ohjeita, jotka asennamme huolellisesti etukäteen.
Tämä tarkoittaa, että ainakin lähitulevaisuudessa (ajatella 10-25 vuotta) ANI: t ovat todellinen, konkreettinen uhka elämäntavallemme paljon enemmän kuin mikään teoreettinen AGI tai ASI. Tiedämme jo, että automaatio on kasvava ongelma, joka muuttaa dramaattisesti tapaa, jolla tulot ja etuoikeudet jakautuvat ensimmäiseen ja kolmanteen maailmaan. Kuitenkin, onko kyseiset robotit lopulta yrittäneet käydä ompelukoneissaan konekivääriin, on edelleen lämmitetty (ja kun huomaat), lopulta kevytmielinen keskustelu.
Suuri voima, tulee suuri Singularity
”Tiedätkö, tiedän, että tämä pihvi ei ole olemassa. Tiedän, että kun laitoin sen suuhun, matriisi kertoo aivoni, että se on mehukas ja herkullinen. Yhdeksän vuoden kuluttua tiedätte, mitä ymmärrän? "
”Tietämättömyys on autuutta.” - Cypher
Vaikka tämä on yhä kiihkeästi väitettyä lausuntoa, monien huippututkijoiden ja insinöörien yhteisymmärrys AI-tutkimuksen alalla näyttää siltä, että meillä on paljon suurempi riski joutua saalistamaan keinotekoisen älykkyyden maailmaan. Skynetin todellisesta versiosta ei voinut ampua. Sellaisenaan on kyse mahdollisuudesta, että lopullinen kuolemamme ei välttämättä tule hitaasti, metodisesti edistyneeksi suureksi tuntemattomaksi. Sen sijaan se on paljon todennäköisempää, että se muodostaa oman tahdistuksemme ja kekseliäisyyden ryntäyksen, joka sekoittuu yhteen ja luo seuraavan suuren teknologisen singulaarisuuden..
Ajattele vähemmän Terminator, ja enemmän Wall-E. Kuten robottien laivasto, joka lihotti Pixarin elokuvassa ihmisiä, meillä ihmisillä ei ole ongelma piilottaa eläintarhassa, ja ero on se, onko AI ystävällinen tekemään samoin kanssamme.
Tästä näkökulmasta on järkevämpää pelätä todellisuutta, jossa ihmiset on koottu pysyvään planeetan laajuiseen VR-simulaatioon à la Matriisi, lihotetaan kynnyksiin niiden suosikkiruokien avulla, ja ottaen huomioon kaiken, mitä he voisivat koskaan haluta, kun koneet huolehtivat loput. Paikka, jossa kehittynyt ASI ei näe meitä bugina, joka kaavailee sen kengän, vaan sen sijaan ihastuttavina apinahupuina, olemme miellyttäviä ja ansaitsevat ainakin vähän luottoa kaiken tietävän luomiseksi. kaikki näkevä lähes jumala, joka lopulta otti planeetan.
Tässä suhteessa kaikki tulee alas määritelmääsi siitä, mitä tarkoittaa "elää" AI-vallankumouksen kautta. Ajatus siitä, että jotakin "hyödytöntä" on tehtävä pois, on yksinomaan inhimillinen käsite, ajattelutapa, jota meidän ei pitäisi heti odottaa, että koneemme päälliköt ottavat käyttöön rajoitetun moraalisen ulottuvuutemme. Ehkä digitaalisen älykkyytemme lopullinen kehitys ei ole puhdas paha, vaan ääretön, puolueettomampi myötätunto kaikille eläville tavaroille; riippumatta siitä, kuinka itsekkäitä, itsekkäisiä tai itsetuhoisia he voivat olla.
Joten… Meidän pitäisi olla huolissamme siitä?
Se riippuu siitä, kuka kysyy.
Jos haastat kaksi älykkäämpiä teknisiä insinöörejä ja matemaatikkoja nykyaikaisessa maailmassa, saat neljä erilaista vastausta, ja numerot eivät vaikuta kuolleista, jopa enemmän ihmisiä, jotka lisäät tulostaululle. Joka tapauksessa keskeinen asia, jota meidän pitäisi käsitellä, ei ole "AI: n tulossa?", Koska se on, eikä kukaan meistä pysty pysäyttämään sitä. Tarkasteltaessa niin monta eri näkökulmaa, todellinen kysymys, jota kukaan ei ole miellyttävä vastaamalla liian suurella kulutuksella, on: "Onko se armollinen?"
Jopa sen jälkeen, kun jotkut maailman suurimmista mielistä ovat punnittaneet asiaa, kuva siitä, mitä koneen älykkyys saattaa näyttää 20, 30 tai 50 vuotta tulevaisuudessa, tulee vielä melko hämäräksi. Koska AI: n kenttä muuttuu jatkuvasti jotain muuta aina, kun valmistetaan uusi tietokortti tai kehitetään transistorimateriaalia, vaaditaan lopullista valtuutusta siitä, mitä voi tapahtua tai ei tapahdu, on vähän kuin sanot, että "tiedät", että nopparulla on varma keksiä käärme silmät seuraavalla heitolla.
Yksi asia, josta voimme ilmoittaa luottavaisesti, on se, että jos olet huolissasi siitä, että saat ensi viikolla vaaleanpunaisen lipun tietokoneelliseen kassakoneellesi, yritä olla liian myöhässä siitä. Taco Bell on edelleen avoinna Tacolle tiistaisin, ja ihminen ottaa varmasti tilauksesi ikkunaan (ja unohtaa jälleen vihreä kastike). James Barratin viime vuoden AGI-huippukokouksessa Quebecissä tekemän tutkimuksen mukaan AI: n kovan aikataulun tuomaristo on edelleen kesken. Alle puolet kaikista läsnä olevista sanoi, että uskoisimme saavamme todellisen AGI: n ennen vuotta 2025, kun taas yli 60 prosenttia sanoi, että se kestää ainakin 2050, jos ei seuraavan vuosisadan ja sen jälkeen.
Digitaalisella kohtalolla on päivämäärä, jossa on vaikea päivämäärä, sanomalla, että tiedät, että se tulee sateeseen nykypäivänä 34 vuotta. Ero todellisen AGI: n ja edistyneen keinotekoisen super-älykkyyden välillä on niin ohut, että asiat joko menevät todella oikein tai hirveän väärin hyvin, hyvin nopeasti. Ja vaikka kvanttitietokoneet ovat vain horisontin yläpuolella ja olemme kaikki saaneet verkkokäyttöiset älypuhelimet taskuissamme, jotka voivat heijastaa signaaleja avaruuteen, olemme vielä vain tuskin naarmuuntumassa siitä, miksi ymmärrämme, miksi me ajattelemme asioita tehdä, tai jos tietoisuus tulee edes ensinnäkin.
Kuvitella, että voisimme vahingossa luoda keinotekoisen mielen, joka on levinnyt kaikkien omien vikojen ja evoluutiomuutosten varaan - ennen kuin edes tiedämme, mikä tekee meidät siitä, kuka olemme - on ihmisen ego, joka on amok.
Loppujen lopuksi huolimatta haluamattomasta halusta päättää, kuka tulee ulos tulevan sodan ja / tai ihmiskunnan ja koneiden välisessä rauhansopimuksessa, se on rajallisten odotusten ja rajattomien mahdollisuuksien kilpailu, ja kaikki, mitä teemme, väittää semantiikkaa välissä. Varmista, että jos olet tuoreesta lukiosta ja haluat saada taksin ajo-sertifikaatin, Uberin toimitusjohtajalla on puoli miljoonaa syytä, miksi sinun pitäisi luultavasti ajatella löytääksesi uran jonnekin muualle.
Mutta jos varastoit aseita ja purkitettuja papuja AI-apokalipsiin, saatat olla parempi viettää aikaa oppia maalata, koodata tai kirjoittaa seuraava suuri amerikkalainen romaani. Jopa kaikkein konservatiivisimmissa arvioissa se on useita vuosikymmeniä ennen kuin jokin kone oppii olemaan Monet, tai opettaa itseään C # ja Java, koska ihmiset ovat täynnä luovuutta, kekseliäisyyttä ja kykyä ilmaista sisimmän itsemme kuin ei automatisoitu kahvinkeitin koskaan voinut.
Kyllä, saatamme joskus saada hieman emotionaalista, tulla kylmäksi työhön tai tarvitsemme voimakkuuden päivän keskellä, mutta ehkä se on täsmälleen koska me olemme inhimillisiä, että uhka luoda jotain suurempaa kuin meitä koneen sisällä on edelleen pitkä, pitkä matka.
Kuvaluotot: Disney Pixar, Paramount Pictures, Bosch, Youtube / TopGear, Flickr / LWP Viestintä Flickr / BagoGames, Wikimedia Foundation, Twitter, WaitButMiksi 1, 2
