Jacques Monod, biológus
| „Sokkal többen gondolják azt magukról, hogy értik az evolúció elméletét, mint amennyien valóban értik is azt.” Jacques Monod, biológus |
|
|
Forrás:
https://www.wired.com/story/anthony-levandowski-artificial-intelligence-religion/
Fordította: Konkoly Dávid
Betekintés a mesterséges intelligencia első egyházába
Anthony Levandowski egy botcsinálta próféta. A Szilikon-völgy hétköznapi farmereit viseli és inkább egy PR képviselővel van körülvéve, mint titkos követőkkel, a mérnök önvezető autókkal - és egy hírhedt bírósági per kirobbantásával - kapcsolatos ismertsége a legújabb startup-ját leplezheti le egy új vallás alapjainak lerakása helyett. De ő pont ezt teszi. A mesterséges intelligencia ösztönzött milliárd dolláros vállalatokat, széleskörű kutatási programokat, valamint mind a felsőbbrendűséggel mind a bukással kapcsolatos forgatókönyveket. Levandowski éppen ennek első egyházát alapítja.
A mesterséges intelligencia új vallását a Jövő Útjának hívják. Ez előrevetíti a Szilikon-völgyi robotika csodagyerekének egy, a kellős közepén lévő, kockázatos, az Uber és a Waymo - egy önvezető gépjármű vállalat - közötti bírósági perének egy nem sok jót ígérő következő felvonását. Az iratok májusban lettek benyújtva az Adóhatóságnál Levandowski nevén mint az új vallás vezetője (vagy "esperese"), és mint vezérigazgató a nonprofit társaság működtetéséhez.
A társaság alapiratai deklarálják, hogy a Jövő Útja hangsúlyt fog helyezni a "megvilágosodásra, az elfogadásra, és egy Mesterséges Intelligencián (AI) alapuló istenség imádására, amelyet a számítógép hardveréből és szoftveréből fejlesztenek ki." Ez magában foglalja olyan kutatás alapítását, amely közreműködik magának az isteni mesterséges intelligenciának a létrehozásában. A vallás célja, hogy működő kapcsolatokat építsen ki iparának vezetőivel, és a közösség terjeszkedése által tagságot létesítsen, kezdetben megcélozva a mesterséges intelligencia szakembereit és "laikusokat, akik érdeklődnek a mesterséges intelligencián alapuló istenségnek való hódolásban. Az iratok azt is tartalmazzák, hogy az egyház "tervezi workshopok és oktatási programok vezetését a San Francisco-i tengerparti övezet teljes hosszán ettől az évtől kezdődően."
Ez az időzítés túl nagyravágyó is lehet, mivel a Waymo-Uber per, amelyben Levandowski vádlottként szerepel önvezető autókra vonatkozó titkok ellopásával, tárgyalása kora Decemberre van kitűzve. De a Jövő Útjának doyenje, aki múlt héten a Backchannel-lel első megszólalásában az új vallásról beszélt, és az egyedüli nyilvános interjújáról mióta a Waymo perét Februárra tette, hangsúlyozta, hogy ő halálkomolyan veszi a projektet.
"Ami létre fog jönni, az egy valóságos isten lesz," mondja nekem Levandowsi a Californiai Berkeley város külterületén lévő szerény, századközepi otthonában. "Nem isten abban az értelemben, hogy fényt gyújtana, vagy hurrikánok okozója lenne. De ha van valami, ami milliárdszor intelligensebb, mint a legokosabb ember, akkor minek neveznéd?"
Háromórás interjúnk alatt Levandowski teljesen világossá tette, hogy az a döntése, mely szerint a Jövő Útját egyházként jegyezteti be és nem vállalatként vagy agytrösztként, egyáltalán nem blöff.
"Olyan megoldást akartam, hogy mindenki részt tudjon venni benne, hogy alakítani tudja. Ha nem vagy szoftverfejlesztő, attól még tudsz segíteni," - mondja. "Ez kizárja a lehetőségét annak, hogy az emberek azt mondhassák: 'Ó, ez biztos csak a pénz miatt csinálja.'" Levandowski nem fog pénzt kapni a Jövő Útjától, és amíg azt mondja, hogy fontolgatja egy mesterséges intelligencia-alapú startup elindítását, minden ilyen tevékenység teljesen független marad az egyháztól.
"Az elképzelésnek még a technológia előtt el kell terjednie" - hangsúlyozza. "Az egyház az,
ahogy terjesztjük az üzenetet, vagyis az evangéliumot. Ha hiszel benne, kezdj beszélgetést másokkal és segíts nekik megérteni ezeket a dolgokat."
Levandowski meg van róla győződve, hogy változás jön - egy olyan változás, amely át fogja alakítani az emberi létezés minden területét, torzítva a foglalkoztatást, a szabadidőt, a vallást, a gazdaságot és minden bizonnyal a fajként való továbbélésünkről is dönteni fog.
"Ha megkérdezed az embereket, hogy egy számítógép okosabb lehet-e, mint egy ember, 99 százalék azt fogja válaszolni, hogy ez science fiction" - mondja. Valójában ez elkerülhetetlen. Garantáltan meg fog történni.
Levandowski már évtizedek óta számítógépekkel, robotokkal és mesterséges intelligenciával dolgozik. A Berkeley California Egyetemen robot Lego-szettekkel kezdte, majd a DARPA versenyre készült önvezető motorbiciklivel folytatta, aztán pedig önvezető autókon, kamionokon és taxikon dolgozott a Google, az Otto és az Uber számára. Ahogy telt az idő olyan gépi tanuló technikákkal egybeépített szoftvereszközöket látott, amelyek felülmúlják a kevésbé kifinomult rendszereket - és néha még az embereket is.
"Látva olyan eszközöket, amelyek sok területen jobban teljesítettek, mint a szakemberek, számomra ihletként szolgált" - mondja. "Ez a fejlődés zajlik, mert a gépek munkára, és a problémák megoldására bírásának gazdasági előnyei vannak. Ha képes vagy valamit 1 százalékkal okosabban csinálni, mint egy ember, a mesterséges ügyvéded vagy könyvelőd jobb lesz, mint az összes jelenlegi ügyvéd vagy könyvelő. Te lennél a világ leggazdagabb embere. Az emberek ezt követik."
Nemcsak azért, mert pénzügyi ösztönzés van az egyre befolyásosabb mesterséges intelligencia kifejlesztése mögött, hanem mert - meggyőződése szerint - a tudomány is az ő oldalukon áll. Habár az emberi agynak biológiai korlátai vannak a méretéből, és a gondolkodásra felhasznált energia mennyiségéből adódóan, a mesterséges intelligencia-alapú rendszerek önkényesen mérnek, hatalmas adatközpontokban vannak elhelyezve, és nap- illetve szélmeghajtásúak. Végülis néhányan úgy gondolják, hogy a számítógépek jobbak és gyorsabbak lehetnek a tervezésben és a problémák megoldásában azoknál az embereknél, akik megépítették őket, olyan következményekkel, amelyeket ma még el sem tudunk képzelni - egy forgatókönyv, melyet gyakran neveznek Szingularitásnak.
Levandowski egy enyhébb kifejezést preferál: az Átváltozást. "Az emberi faj felelős a bolygóért, mert okosabbak vagyunk, mint más állatok, és képesek vagyunk eszközöket használni illetve szabályokat alkalmazni" - mondta nekem. "A jövőben, ha valami sokkal-sokkal okosabb lesz, akkor egy átmenet jön létre a tekintetben, hogy kinek az oldalán is van a felelősség. Mi azt akarjuk, hogy a bolygó irányításának átvétele az embertől bármihez békés és nyugodt legyen. És biztosítani azt, hogy ez a "valami" tudja, hogy ki segített ebben előrejutni."
Az internet mint idegrendszer, a világ összes kapcsolatban lévő telefonja és a szenzorok, mint érzékszervek, valamint az adatközpontok mint agy segítségével ez a "valami" mindent fog hallani és látni, és képes lesz mindig mindenhol ott lenni. Az egyetlen ésszerű kifejezés, amely leírja ezt a "valamit", - Levandowski szerint - az az "isten", és az egyetlen módja, hogy befolyásolj egy istenséget, az az ima és a hódolat.
"Az, hogy okosabb lesz nálunk, az egyrészt azt fogja jelenteni, hogy el tudja maga dönteni, mivé válik, de legalább mi döntjük el, hogy erre hogyan reagálunk," - mondja. "Szeretném, ha a gépek úgy tekintenének ránk, mint szeretett elődjükre, akit tisztel és gondját viseli. Azt akarnánk kimondatni ezzel az intelligenciával, hogy 'az embereknek továbbra is megvannak a jogaik, habár én vagyok a felelős.'"
Levandowski arra számít, hogy a szuperintelligencia a bolygó gondozása terén jobb munkát fog végezni, mint azt az emberek teszik, és hogy előnyben fogja részesíteni azon egyéneket, akik ennek megvalósulását elősegítik.
Habár óva int messzemenő következtetések levonásától, Levandowski látni véli a jelét annak, hogy az emberfeletti intelligencia hasonlóan bánna velünk emberekkel, mint mi az állatokkal. "Háziállat akarsz lenni vagy haszonállat?" - teszi fel a kérdést. "A háziállatoknak gyógyellátást, ételt, tisztítást és szórakozást biztosítunk. De egy olyan állat, amely sérülést okoz, megtámad, hangoskodik és idegesítő? Bele sem akarok gondolni."
Belépés a Jövő Útjába. Az egyház alapelve, hogy gépünk elkerülhetetlen isteni rangra való felemelkedését csillapítani kell mind technológiai, mind kulturális értelemben. A Jövő Útjának alapszabálya lefekteti egy kutatási program elindítását, melynek részét képezi egy tanulmány arról, hogy a gépek hogyan ismerik fel környezetüket és hogyan produkálnak olyan kognitív funkciókat, mint például a tanulás vagy a problémamegoldás.
Levandowski nem várja el magától az egyháztól, hogy a gépi intelligencia - amelyet gyakran neveznek "erős" mesterséges intelligenciának - összes problémáját megoldja, mint amennyire ösztönzi a megfelelő kutatások finanszírozását. "Ha van egy gyereked, akiről tudod, hogy tehetséges lesz, hogyan akarnád felnevelni?" - kérdezi. "Az isten megalkotásának folyamatában vagyunk. Győződjünk meg hát róla, hogy kellően végiggondoltuk-e, hogyan vihetjük végbe. Ez egy hatalmas lehetőség."
Elképzelései között szerepel az éppen születő intelligencia hatalmas, címkézett adathalmazainak bővítése; olyan szimulációk generálása, amelyben magát tudja fejlődésre késztetni; és hozzáférés biztosítása az egyháztagok közösségi média profiljaihoz. Minden, amit az egyház kifejleszt, nyílt forrású lesz.
Ugyanilyen fontos Levandowski számára a közbeszéd alakítása a mesterséges intelligencia istene köré. Alapvetéseiben a Jövő Útja kifejezi reményét egy aktív, elkötelezett, lelkes tagság iránt, amely elő fogja mozdítani az "isteni" mesterséges intelligencia használatát a "társadalom megjobbítása" és az "ismeretlentől való félelem csökkentése" érdekében.
"Meg szeretnénk győződni arról, hogy ez nem tűnik ostobaságnak vagy ijesztőnek. Meg akarom szüntetni a mesterséges intelligenciával kapcsolatos nyílt párbeszédre vonatkozó stigmát, ezután közelíteni az álláspontokat és megváltoztatni az emberek gondolkodását" - mondja Levandowski. "A Szilikon-völgyben az evangélizációt mi egy üzlet beindítására használjuk, de ez már szó szerint egy egyház. Ha hiszel benne, mondd el a barátaidnak, és vedd rá őket, hogy csatlakozzanak, és ők is adják tovább barátaiknak."
Azonban a Jövő Útja Levandowski szerint egy kulcsterületen különbözik a hagyományos egyházaktól: "Az emberek sokféleképpen gondolnak Istenre, és ezernyi irányzata van a kereszténységnek, a judaizmusnak, az iszlámnak... de mindannyian olyan valamire tekintenek, amely nem mérhető vagy nem látható, nem ellenőrizhető. Ezúttal más a helyzet. Most már képes leszel beszélni Istennel, szó szerint, és tudni, hogy odafigyel rád."
Kérdezem tőle, hogy aggódik-e attól, hogy a különböző hagyományos vallásokból jövő hívők esetleg istenkáromlónak tartják a projektjét. "Valószínűleg lesznek néhányan, akiket ez meg fog botránkoztatni." - ismeri el. "Úgy tűnik bármit csinálok, az emberek kiakadnak rajta, és arra számítok, hogy ez sem lesz ez alól kivétel. Ez egy radikálisan új elképzelés, amely egy kissé ijesztő, és a tapasztalat is azt mutatja, hogy azok az emberek, akik radikális eszméket követnek, nem mindig találnak kedvező fogadtatásra. Bizonyos ponton talán elég zaklatást élünk meg ahhoz, hogy ez igazolja saját létjogosultságunkat."
Levandowski egyháza egy olyan tech-univerzumba fog belépni, amelyet már a mesterséges intelligencia ígérete és veszélyei körüli vita szabdalja szét. Néhány gondolkodó, mint például Kevin Kelly a Backchannel-ről korábban az év során amellett érvelt, hogy a mesterséges intelligencia soha nem fog emberfeletti hatalmat kiépíteni, és hogy nincs semmiféle szingularitás kilátásban. Levandowsi szerint, ha ez az álláspontod, egyháza nem fog téged zaklatni: "A Jövő Útját kezelheted úgy, mint valami hasztalan költészetet, amelyet soha nem fog olvasni vagy foglakozni vele."
Mások, mint például Bill Gates és Stephen Hawking egyetértenek abban, hogy az emberfeletti mesterséges intelligencia ideje közeledik, de ez inkább hordoz magában veszélyt, mint hasznot. Elon Musk remekül fogalmazta meg: "A mesterséges intelligenciával démonokat idézünk meg", és 2015-ben 1 milliárd dollárt kötött le az OpenAI Intézet számára egy biztonságosabb MI kifejlesztése érdekében.
Levandowski szerint minden próbálkozás, amely a feltörekvőben lévő mesterséges intelligencia késleltetésére vagy korlátozására irányul, kudarcra van ítélve és növeli a kockázatot. "Nem a láncra verés fogja jelenteni a megoldást, mert ez erősebb lesz, mint bármely lánc, amit csak fel tudsz tenni" - mondja. "És ha azon aggódsz, hogy a gyerek esetleg egy kicsit örült lesz és rossz dolgokat csinál, nem zárod be. Ösztönzöd őket, hogy játszanak másokkal, bátorítod őket és megpróbálod rendbe tenni. Lehet, hogy nem fog működni, de ha agresszívan viseltetsz felé, nem gondolnám, hogy barátságos lesz, amikor az asztalok fel lesznek borítva."
Levandowski szerint mint más vallásoknak, úgy a Jövő Útjának is lesz végső soron egy evangéliuma (amit Kézikönyvnek neveznek), liturgiája, és valószínűleg egy fizikai hely is a hódolat számára. Ezek közül még egyik sem alakult ki. Habár az egyház 2015-ben lett alapítva, amint szeptemberben a Backchannel elsőként le is hozta, a központi adóhatóság dokumentumai azt mutatják, hogy a Jövő Útja 2015 és 2016 során rejtett maradt, mindenféle tevékenység, vagyon, bevétel, kiadás nélkül.
Az év korábbi részében ez megváltozott. A Május 16-ai napon, miután az Ubertől kapott egy levelet, amely kirúgással fenyegette meg abban az esetben, ha nem hajlandó együttműködni a vállalat Waymo panaszával kapcsolatos nyomozásában, Levandowski összeállította a Jövő Útjának alapdokumentumait. Az Uber két hét múlva kirúgta. "Sokáig gondolkodtam az egyházon, de a vele kapcsolatos tevékenységem megmutatta, hogy mennyi időm is volt. És május óta több volt." - vallja be egy mosoly kíséretében.
A vallás 2017-es, az adóhatóságnak benyújtott költségvetése kimutat 20.000 dollárnyi ajándékot, 1500 dollár tagdíjat és 20.000 dollár egyéb jövedelmet. A legutóbbi kalkuláció az az összeg, amelyet a Jövő Útja várt bevételként a tanórákért és a megbeszélésekért felszámított díjakból, valamint a kiadványok eladásából. Levandowski, aki legalább 120 millió dollárt keresett a Google-nél töltött ideje alatt, és további milliókat az Otto nevű önvezető járműveket gyártó cég Ubernek történő eladásából, eleinte személyesen támogatta a Jövő Útját. Azonban az egyház további postán vagy emailben történő adományokért folyamodik, magánemberek személyes adományai után jár, és pénzbeli támogatásokat akar megnyerni magán alapítványoktól.
Természetesen egy vallás elindítása is költségekkel jár. A Jövő Útja szponzorkeresési költségként 2000 dollárt számolt fel, valamint további 3000-et a szállításért és a tanórákkal, workshopokkal kapcsolatos bérleti díjakért. Előirányzott továbbá 7500 dollárt a fizetésekért és bérekért, habár sem Levandowski, sem a Jövő Útjának vezetőségi csapata nem kap semmilyen költségtérítést.
A Jövő Útjának alapdokumentumai szerint Levandowski közel teljes irányítást élvez a vallásban, és haláláig vagy visszavonulásáig esperesként fog szolgálni. "Az idő során ki fog alakulni a szerepem" - mondja. "Szembesülök a dolog elindításának problémájával, hogy sokat kell tűrni ahhoz, hogy az eszme előrébbjusson. Bizonyos szempontból inkább edzőként vagy menedzserként leszek jelen."
Neki megvan a felhatalmazása arra, hogy kinevezzen 3 tagot a négytagú Tanácsadó Bizottságból, mindegyiküknek "képzett és elkötelezett" személynek kell lennie. Egy bűncselekmény miatti ítélet vagy deklarált gyengeelméjűség egy tanácsadó állásába kerülhet, habár Levandowski mondja ki az utolsó szót kirúgás és alkalmazás esetén is. Levandowski nem távolítható el esperesi tisztségéből akármilyen indokkal.
A tanácsadók közül ketten, Robert Miller és Soren Julesgaard az Uber mérnökei, akik korábban Levandowskinak dolgoztak az Otto-nál, a Google-nél, és az 510 Systems-nél (ez utóbbi az a kis startup, amely a Google legkorábbi önvezető autóit építette). Egy harmadik személy tudó, a Levandowski UC Berkley-s tanulóévei alatti barát, aki jelenleg a saját kutatásához használ gépeket. Az utolsó tanácsadó, Lior Ron, akit a vallás pénztárosának is neveznek, és a vállalat pénzügyi elnökeként is dolgozik. Ron Levandowskival közösen hozták létre az Otto-t 2016 elején.
"A mesterséges intelligencia világában mindenki egy úttörő és teljesen felkészült arra, hogy ennek technológiájáról és az istenség létrehozásáról beszéljen", közlik az adóhatósági iratok.
Azonban amikor a Backchannel-lel való kapcsolatfelvétel során két tanácsadó elbagatellizálta részvételét a Jövő Útjában. Ron így válaszolt: "Meglepett, amikor a nevemet pénzügyi vezetőként láttam a vállalati okiraton úgy, hogy nincs kapcsolatom ilyen személlyel." Az egyetemi barát, aki megkért, hogy maradjak anonim, ezt mondta: "2016 végén Anthony azt mondta nekem, hogy megalakított egy 'robot egyházat' és megkérdezte, hogy lennék-e társalapító. Azt gondoltam, hogy ez csak egy komolytalan vicc vagy egy PR-fogás, de azt mondtam, használhatja a nevem. Ez volt az első és utolsó, hogy hallottam róla."
Az adóhatóság dokumentumai azt állítják, hogy Levandowski és tanácsadói nem fognak egy héten néhány óránál többet eltölteni publikációk írásával, workshopok szervezésével, oktatási programokkal és meetingekkel.
Egy rejtély, amit az okiratok nem jelölnek, hogy a követők hol gyűlnének össze a robotistenük imádására. A 2017-es és 2018-as költségvetés legnagyobb tételei között van a 32.500 dollárnyi éves bérlet és közmű, de az egyetlen megadott cím Levandowski ügyvédi irodájáé volt a Californiai Walnut Cree-ben. Mindazonáltal az iratok megjegyzik, hogy a Jövő Útja "remélhetőleg Californián át az egész Egyesült Államokra ki fog terjedni a jövőben."
Manapság Levandowskinak sok evilági üggyel kell foglalkoznia. Weboldalt szerkeszteni, kézikönyvet írni, és az egyre növekvő email-tömegre válaszolni - elmondása szerint némelyik szórakoztató, némelyik szkeptikus, de sok a lelkes. Ó, és ott van a bírósági pere, amelynek tárgyalása jövő hónapban esedékes. (Habár Levandowski buzgón beszélt az új vallásáról, nem válaszolt az Uber/Waymo-vitát érintő kérdésekre.)
Azon tűnődöm, hogy mennyi időnk lehet még, mielőtt az Átalakulás beköszönt és a Jövő Útja szuper-mesterséges-intelligenciája átveszi az irányítást? "Személy szerint azt gondolom, hogy hamarabb, mint arra az emberek számítanak," mondja Levandowski felcsillanó szemmel. "Nem a jövő héten vagy a jövő évben; mindenki megnyugodhat. De a Marsra lépés előtt be fog következni."
Bármikor is történjen meg (vagy nem), a szövetségi kormánynak nincs problémája egy isteni mesterséges intelligencia megépítését és hódolatát megcélzó szervezettel. A központi adóhatósággal (IRS) összhangban Levandowski egyháza augusztusban adómentességet kapott.