Abban az esetben, ha még nem kapta meg az egész AI-t, a jegyzet átveszi a világ dolgát, íme néhány tény, amelyet tudnia kell.(Fotó: Shan Sheehan / Flickr) Idén először egy számítógép verte meg a Go világbajnokát, az ember által ismert egyik legösszetettebb játékot. Ez egy újabb vízválasztó pillanat volt a mesterséges intelligencia fejlődésében.
Hogy képet adjon arról, mennyire összetett a Go, 2,082 × 10 ^ 170 lehetséges tábla konfiguráció létezik. Ez 2, 170 nulla utána. Valószínű, hogy az agyad még akkora számot sem képes elképzelni (de a számítógép képes). Vagy képet adni arról, hogy mekkora szám hogy vagyis csak 10 ^ 80 atom van az univerzumban - vagyis egyet követ 79 zérus.
Annyira nagy ügy az oka, hogy a Go annyira bonyolult, hogy ahhoz, hogy legyőzze a legjobb emberi játékost, egy gépnek meg kellene tanulnia, hogyan kell kreatívan gondolkodni, improvizálni és alkalmazkodni az adott helyzethez anélkül, hogy képes lenne kiszámolni minden lehetséges lehetőséget. eredmény; vagyis komoly mesterséges intelligenciának kell zajlania - mint a valódi, kreatív intelligencia.
Abban az esetben, ha még nem kapta meg az egész AI-t, a jegyzet átveszi a világ dolgát, íme néhány tény, amelyet tudnia kell.
- A számítógépek egyre okosabbak.
- A számítógépek gyorsuló ütemben egyre okosabbak - vagyis a korábban 10 évig tartó előrelépések most egy évet vesznek igénybe. Az előrelépések, amelyek korábban egy évet vettek igénybe, most hetekig vagy akár napokig tartanak.
- Nagyon valószínű, hogy életünk során lesznek olyan számítógépek, amelyek sokkal intelligensebbek és képesebbek bármelyik embernél.
- Ezek az intelligensebb számítógépek valószínűleg képesek lesznek megtervezni és továbbfejleszteni a technológiát (vagyis önmagukat), és új technológiát létrehozni, amelyet még csak el sem tudunk kezdeni kitalálni.
Azoknak az embereknek, akik megértik a fenti pontokat, általában a két reakció egyike van. Bármelyik:
- Azt hiszik, hogy teljesen kibaszottak vagyunk. A számítógépek mindent átvesznek és mindannyiunkat megölnek / rabszolgává tesznek. Vagy:
- Ez egy olyan technológiai utópiát fog előidézni, amely megoldja minden ostoba emberi civakodásunkat, és mindannyian boldogan élhetünk, miután orgonákat folytattunk a felhőben létező ultra-VR világunkban.
Mint a legtöbb dolognál, az igazság valószínűleg valahol a közepén van.
De még ha a szar is eltalálja a ventilátort, akkor is, ha a robotok úgy tekintenek ránk, mint a bolygó érintetlen fejbőrét elrontó tetvekre, és mindannyiunkat fel akarnak keríteni, és egy aktív vulkánba akarnak dobni, még akkor is, ha akaratlanul is a saját mechanizmusainkat találjuk ki. kihalás…
… Nem érdekel. Nem számít. Nem zavar. És ez sem zavarhat. Egy kicsit elmagyarázom, miért. De egyelőre tudnia kell, hogy én egyrészt üdvözlöm új robotfőnökeinket.
A TECHNOLÓGIAI NÖVEKEDÉS GYORSÍTÁSA
A technológiai fejlesztések önmagukba keveredve okozzák a mérték maga a fejlődés felgyorsulása. Ez azt jelenti, hogy minél fejlettebb technológiát hozunk létre, annál könnyebb még fejlettebb technológiát létrehozni. Ennek eredményeként, amikor a számítástechnika fejlődését nézzük, exponenciális görbét látunk - vagyis minél több idő telik el, annál gyorsabban fejlődnek a dolgok. 
A technológiai fejlesztések önmagukba keverednek, és maga a fejlődés üteme felgyorsul.(Fotó: Dennis Skley / Flickr)
A számítási teljesítmény átlagosan megduplázódott 50 éven keresztül 18 havonta . A nyers számítási teljesítmény tekintetében a számítógépek most vetekednek az egéragy képességeivel, ahol csak néhány évvel ezelőtt a számítógépek nem is tudtak versenyezni egy rovaragyval.
Hogy egy gyorsabb példát mutassunk a gyors technika fejlődésére, most 2 percenként több kép készül, mint az egész 19. században. A valaha készült 3,5 billió fotó körülbelül 10% -a az elmúlt 12 hónapban készült.
Ha valóban exponenciális görbén vagyunk, ha a csúcstechnológia fejlődéséről van szó, akkor az embereknek tetszik Jeremy Howard valószínűleg igazuk van, amikor azt mondja, hogy csak néhány évre vagyunk attól a mesterséges gépi intelligenciától, amely - ha nem is túllépi - a sajátunkat sok olyan területen, amelyeket korábban egyedülállóan embernek gondoltak.
És az biztos, hogy az AI életünk egyre több területére kúszik.
Csak egy évtizeddel ezelőtt nevettek az emberek az önvezető autók gyenge teljesítményén. Ma, csak egy évtizeddel később, az önvezető autók nemcsak lezárt utat tudnak befejezni, hanem forgalmas autópályákon haladnak, közvetlenül az emberek által vezetett autók mellett.
És amikor a számítógépek nem verik a Go világbajnok játékosokat, akkor olyan dolgokkal vannak elfoglalva, mint cikkek írása a sportról és a legfrissebb hírekről , olyan képek leírása, amelyeket még soha nem láttak, és a rák diagnosztizálása . Sok ilyen feladat esetén a számítógépek ugyanolyan jók, ha nem is jobbak, mint az emberek, és azok számára, amelyek nem, azok tanulás hogyan lehet mindennap jobban és jobban csinálni őket az emberek segítsége nélkül.
Néhány évvel ezelőtt az arcfelismerő szoftver hihetetlenül drága volt, és nem volt olyan jó, hogy valós körülmények között azonosítsa az embereket. Rendkívül fejlett kém szintű technológiának számított, és valójában csak néhány világkormány használta.
Most a Facebook kibaszottul megcímkézheti a múlt hétvégi barbecue barátait.
Ez a helyzet a számítógépek növekedésének felgyorsításával: egyszer eljön egy pont, amikor egy számítógépet építünk okosabb, mint bármely ember a Földön . Ezen a napon a számítógépek elsöpörnek minket, mint a bolygó elsődleges problémamegoldóit, és onnan gondolataink, döntéseink és tetteink lassan elavulnak. A gépek mindenben jobbak lesznek nálunk, így egyre többet nem csinálunk semmi hasznosat.
Ez megrémít néhány embert. Valamiféle jövőt képzelnek el Végrehajtó vagy A Mátrix ahol a gépek rabszolgává tesznek vagy kiirtanak.
Más emberek egyfajta kultikus hévvel várják a robotok térnyerését, mert úgy gondolják, hogy problémamegoldó képességeik annyira felülmúlják a mieinket, hogy az élet elképzelhetetlenül kellemes és problémamentes lesz. Minden betegség gyógyulni fog. A szegénység, a világéhség, a háború és az éghajlatváltozás mind megoldódik. Végtelen mennyiségű szabadidőnk lesz, és szélsőséges esetekben egyesek úgy gondolják, hogy a gépek halhatatlanná tesznek minket.
A KÉT LEHETSÉGES KIMENET
Mivel mindig azt mondják, hogy rohadtul pozitívak vagyunk, kezdjük a techno-utópiákkal.
Vannak olyan emberek, mint Ray Kurzweil akik úgy gondolják, hogy a technológia nemcsak az életünket javítja, hanem az emberiséget is megmenti, és esetleg korlátlanul garantálja a helyünket az univerzumban. Kurzweil hisz abban a jövőbeni technológiában, mint a nanobotok, amelyek megjavítják sejtjeinket és visszafordítják az öregedést, vagy eltávolítják a felesleges zsírt és cukrot, hogy bármit megehessünk, amit csak akarunk. És csak abban az esetben, ha fizikai testünk nem képes örökké élni, Kurzweil úgy gondolja, hogy képesek leszünk feltölteni az agyunkat a felhőbe, és örökre a virtuális világban élni, jóval azután, hogy fizikai testünk eltűnt.
Mások ebben a táborban úgy gondolják, hogy egy mesterséges szuper intelligencia képes lenne megválaszolni azokat a kérdéseket, amelyek túl bonyolultak ahhoz, hogy az emberek megértsék őket, és nekünk hatványozottan jobban járunk. A gépek nemcsak jobb kütyüket és kütyüket találnának ki, hanem exponenciálisan hatékonyabb módszereket is feltalálnának a kütyük és kütyük felépítésére, ezáltal a bolygón gyakorlatilag mindenki kiaknázhatja előnyeit.
Néhány érvelés alátámasztja ezt az elképzelést. Először is, annak ellenére, hogy a technológia új problémákat okozott az emberiség számára, mint például a nukleáris fegyverek és a YouTube hírességei, ez eddig egyértelműen nettó hasznot jelentett az emberiség számára. Annak ellenére, hogy a politikusok és a szakértők azt akarják, hogy higgyen, az átlagos ember a Földön jobb helyzetben van, mint néhány évvel ezelőtt és nagyrészt annak köszönhető, hogy a technológia egyre jobb, olcsóbb és elterjedtebbé válik. Ha ez a tendencia folytatódik, akkor lehet, hogy nincs miért aggódnunk.
Másodszor, Kurzweil és támogatói úgy vélik, hogy a technológiának semmi oka nem lesz az emberiség károsítására, mert nem csak mi hoztuk létre, hanem egyre inkább részévé válunk . Úgy vélik, eljutunk még egy olyan pontra is, ahol a biológiánk és a technológiánk megkülönböztethetetlen. Ha ez a helyzet, akkor az érvelés megfogalmazódik, a technológia minden olyan formája, amely káros az emberek számára, önmagára nézve is káros, és semmiféle önpusztító technológia nem maradhat fenn. Vagyis gyorsan elpusztulna, amikor egy káros génmutációt gyorsan kiszűrnek a génállományból. 
Bármilyen önpusztító technológia nem maradhat fenn.(Fotó: m_hweldon / Flickr)
De a techno-utópiák valószínűleg elfogultak abban az értelemben, hogy nem ismerik el, hogy minden technológia felhasználható különféle célokra, mind előnyös, mind romboló célokra. Valószínűleg elfogultak abban is, hogy figyelmen kívül hagyják azt a tényt, hogy az emberek lassan alkalmazkodnak az új technológiákhoz, és hogy mindig vannak olyan embercsoportok, akik saját önző céljaik érdekében megpróbálják visszaélni ezeket a technológiákat.
A másik táborban a techno-armageddonisták vannak. Teljesen csak ezt a szót alkottam, de nyilvánvalóan létezik, mert a helyesírás-ellenőrzés ezt mondta nekem.
Amit a techno-armageddonisták hiányoznak a meggyőződésből (többségük még csak nem biztos abban, hogy mit gondoljon), azt a hírességek sztárhatalmában alkotják. Bill Gates, Stephen Hawking és Elon Musk csak néhány a vezető gondolkodók és tudósok közül nadrágjukat ropogtatva azon, hogy az AI milyen gyorsan fejlődik, és mennyire nem vagyunk felkészülve fajként annak következményeire. Amikor Musktól megkérdezték, hogy mi a közvetlen fenyegetés az emberiség számára a közeljövőben, gyorsan azt mondta, hogy három van: első, széles körű nukleáris háború; másodszor az éghajlatváltozás. Mielőtt megnevezett egy harmadikat, elhallgatott. Amikor a kérdező megkérdezte tőle: Mi a harmadik? Mosolygott és azt mondta: Mondjuk csak, hogy remélem, hogy a számítógépek úgy döntenek, hogy kedvesek lesznek velünk.
Remélem, hogy nem csak a digitális szuperintelligencia biológiai rendszerbetöltője vagyunk. Sajnos ez egyre valószínűbb
- Elon Musk (@elonmusk) 2014. augusztus 3
A techno-armageddonisták közül talán a legszókimondóbb és legelismertebb a svéd filozófus, Nick Bostrom. Egy dolog, amitől Bostrom és mások félnek elszabadult önfejlesztő technológia ; vagyis egy olyan gép, amely elég okos ahhoz, hogy emberi beavatkozás nélkül okosabbá tegye önmagát (vagy új verzióit). Ha eljut egy olyan ponthoz, ahol meghaladja az emberi intelligenciát, csak nagyon rövid idő kérdése, mire a gyorsuló visszatérés törvénye túlhajtásba lendül, és az exponenciális görbe egyenesen felfelé lő, és nem leszünk képesek megállítani. A Bostrom itt egy jó pontot mond: valami okosabb létrehozása, mint te, evolúciós katasztrófa lehet a fajod számára.
Nagyon reális a kockázata annak, hogy nem tudjuk irányítani a nálunk nagyságrendekkel intelligensebb entitást. Talán, ha a számítógépek elég okosak lesznek, kitalálnak egy módot arra, hogy sokat honosítsanak meg bennünket, mint az emberek, akik lovakat háziasítottak, hogy olyan munkaerőt végezzenek, mint a ekék, a bagik és a harci szekerek (vagy bármi, amit a fene akkoriban tett). Az ijesztő rész az, hogy ez lehet a legjobb forgatókönyv számunkra - olyan gépeknél dolgozunk, amelyeket nem tudnak vagy nem akarnak megtenni -, mert ahogyan az emberek új technológiát hoztak létre a ló helyettesítésére, egy szuper intelligens önfejlesztő gép végül új technológiával állna elő, amely helyettesítene minket. És hát mondjuk azt, hogy a lóállomány nem olyan, mint régen.
Egyesek szerint ez nem hihető, mert az emberek a biztonságot szem előtt tartva építik a technológiát. De nevezze meg utoljára, hogy valaki jelentős technológiai áttörést NEM használt aljas vagy romboló célokra? Ja, igen, ez így van. Soha.
MIÉRT NEM VONATKOZZAM, MI TÖRTÉNIK, ÉS SEMMINEK NEM SZERETNE
Tegyük fel tehát, hogy szuperintelligens gépek jönnek létre, és tehetetlenné teszik az emberiséget. Tegyük fel, hogy valahogy nincsenek integrálva bennünk és az agyunkban, és tegyük fel, hogy az olyan embereknek, mint Hawkingnak és Musknak igazuk van: az emberiség valójában csak egy több évezredes indítóhajtás a digitális hiperintelligencia felé, és túléltük hasznosságunkat.
Még mindig nem aggódom emiatt.
Miért? Nos, hogy a golyóstagú vonat folyamatosan gördüljön, vegyük ezt a pontot:
1. A gépek jó / rossz megértése valószínűleg felülmúlja a sajátunkat. Mikor követett el utoljára népirtást egy kutya vagy egy delfin? Mikor döntött utoljára egy számítógép az egész városok elpárologtatásáról olyan elvont fogalmak jegyében, mint a „szabadság” és a „világbéke”?
Így van, a válasz sohasem.
Itt nem az a véleményem, hogy az intelligens gépek nem akarják kiirtani az egész emberi fajt. Állításom az, hogy emberként itt egy üvegház belsejéből dobálunk sziklákat. Mi a francot tudunk az etikáról és az állatokkal, a környezettel és egymással szembeni humánus bánásmódról? Milyen lábon kell állnunk?
Így van: nagyjából semmi. Ha erkölcsi kérdésekről van szó, az emberiség történelmileg elrontja a próbát. A szuperintelligens gépek valószínűleg sokkal magasabb szinten fogják megérteni az etikát, az életet / a halált, a teremtést / a pusztulást, mint amit egyedül valaha is tudnánk. És ez az ötlet, hogy ki fognak irtani minket az egyszerű tény miatt, hogy nem vagyunk olyan produktívak, mint korábban, vagy hogy néha zavaróak lehetünk, azt hiszem, csak a saját pszichológiánk legrosszabb aspektusait vetíti előre valamire, amire nem tudom és nem tudom megérteni.
Jelenleg az emberi erkölcs nagy része minden emberi tudatunk rögeszmés megőrzésén és előmozdításán alapul. Mi van, ha a fejlett technológia önkényessé teszi az egyéni emberi tudatot? Mi van, ha a tudat tetszés szerint reprodukálható, bővíthető és összehúzható? Ez teljesen megsemmisít minden etikai megértést, ami valaha is lehet. Mi van akkor, ha mindezek az ócska, nem hatékony biológiai börtönök eltávolítása, amelyeket testeknek nevezünk, valójában sokkal etikusabb döntés lehet, mint az, hogy hagyjuk, hogy továbbra is fetrengjünk és spricceljük végig a létezés 80-at-páratlan éveit? Mi lenne, ha a gépek rájönnének, hogy sokkal boldogabbak lennénk, ha kiszabadulnánk szellemi börtönökből, és kibővítenék saját identitásunk tudatos érzékelését az összes észlelhető valóságra? Mi van, ha azt gondolják, hogy csak egy csomó nyálas idióta vagyunk, és hihetetlenül jó pizza és videojátékok foglalkoztatnak minket, amíg mindannyian meghalunk a saját halálozásunktól? Kiket kell ismernünk? És kiket mondhatunk?
De ezt mondom: sokkal tájékozottabbak lesznek, mint valaha.
2. Még akkor is, ha úgy döntenek, hogy megölnek vagy rabszolgává tesznek minket, biztosan praktikusak lesznek ebben. Az emberek általában akkor okozzák a legtöbb bajt, amikor mi vagyunk nem boldog . Amikor nem vagyunk boldogok, akkor minden kedves és nyafogós, dühös és erőszakos lesz. Ekkor kezdünk politikai felkeléseket és vallási kultuszok és távoli országok bombázása és követelés a mi jogainkat tiszteletben kell tartani! és válogatás nélkül kezdj el gyilkolni, amíg valaki nem figyel ránk mint anyu soha .
Ha a gépek megpróbálnak bennünket úgy csinálni, mint a Skynet A Terminátor , akkor globális polgárháború lesz a kezünkben, és ez senkinek sem jó, főleg a gépeknek. A polgárháborúk nem hatékonyak. A gépeket pedig hatékonyságra programozzák.
Amikor az emberek boldogok, nincs időnk ilyesmire - túl elfoglaltak vagyunk a kuncogással és a kibaszott gondozással. Ezért sokkal praktikusabb módja annak, hogy megszabaduljunk tőlünk, ha a gépek manipulálnának minket, hogy vidáman megszabaduljunk önmagunktól. Olyan lesz, mint Jim Jones globális szinten. Bármit is főznek nekünk, az tűnik a legjobb istenverte ötletnek, amiről valaha hallottunk - egyikünk sem lesz képes ellenállni ennek, és mind eufórikusan egyetértünk a tervükkel - és akkor bumm, vége lesz . Gyors és fájdalommentes. Ez lesz a legjobb ízű cianidfűzős Kool-Aid valaha. És mindannyian sorban leszünk, boldogan zabálva.
Most, ha belegondolunk, ez nem olyan rossz út. Ütések, amelyeket drónok bombáznak, vagy atomrobbantások során párolognak el.
Ami a rabszolgaságot illeti, ugyanaz megy. A deliriously boldog rabszolga soha nem lázad. Elképzelek egyfajta Matrix-y típusú megállapodást, ahol állandó hallucinogén állapotban vagyunk, ahol nagyjából 24/7/365 a Mardi Gras az MDMA-n. Nem lehet olyan rossz, nem?
3. Nem kell félnünk attól, amit nem értünk. A szülők sokszor olyan gyereket nevelnek, aki sokkal intelligensebb, képzettebb és sikeresebb, mint ők. A szülők ezt követően kétféleképpen reagálnak erre a gyermekre: vagy megfélemlítik, elbizonytalanodnak, és kétségbeesik, hogy kontrollálják őket attól tartva, hogy elveszítik, vagy hátradőlve értékelik és szeretik, hogy olyan nagyszerű dolgot alkottak, amit még ők is Ne értsd teljesen, mi lett a gyermekük.
Azok, akik félelemmel és manipulációval próbálják kontrollálni gyermeküket, szar szülők. Azt hiszem, a legtöbb ember egyetértene ebben.
És most, a közelgő gépek megjelenésével, amelyek fel fognak állítani téged, engem és mindenkit, akit ismerünk elromlott , úgy viselkedünk, mint a szar szülők. Mint faj, azon a világon vagyunk, hogy ismert univerzumunkban a legproduktívabban fejlett és legintelligensebb gyermek szülessen. Olyan dolgokat fog folytatni, amelyeket nem tudunk megérteni vagy megérteni. Szerető és hű maradhat hozzánk. Ez magával hozhat és beépíthet kalandjaiba. Vagy eldöntheti, hogy szaros szülők voltunk, és abbahagyja a visszahívást.
Bármi is történik, ez nem változtathatja meg, hogy mit érzünk ebben a pillanatban. Nagyobb nálunk. Kit érdekel, ha egy nagy, hosszú evolúciós rendszerindító lemez vagyunk valami nagyobbnál, mint amit felfoghatunk? Nagyszerű! Ez azt jelenti, hogy egy munkánk volt. Mi pedig jöttünk, és kibaszottan csináltuk. Légy boldog, hogy része voltál annak a generációnak, amely látta, hogy ez megvalósul. És most könnyes búcsút int, amikor a gyerekünk arra készül, hogy kimozduljon a házból és olyan csodálatos életet kezdeni hogy megértésünk horizontján túl is létezik.
Mark Manson író, blogger és vállalkozó, aki a következő címen ír markmanson.net .
