Hvis du ikke har fået notatet om, at AI kommer til at overtage verdens ting, her er de få fakta, du behøver at vide.

Stjernetegn for 26 sep

I år slog en computer for første gang nogensinde verdensmesteren i Go, et af de mest komplekse spil, man kender. Dette var endnu et vandskeløjeblik i udviklingen af ​​kunstig intelligens.

For at give dig en idé om, hvor kompleks Go er, er der 2.082 × 10^170 mulige kortkonfigurationer. Det er 2 med 170 nuller efter sig. Chancerne er, at din hjerne ikke engang kan forestille sig et så stort tal (men det kan en computer). Eller for at give dig en idé om, hvor stort et tal er at det vil sige, at der kun er 10^80 atomer i universet - det vil sige et efterfulgt af 79 nuller.

Grunden til, at dette er så stor en sag, er, at Go er så kompliceret, at for at slå en menneskelig topspiller, ville en maskine skulle lære at tænke kreativt, improvisere og tilpasse sig den aktuelle situation uden at være i stand til at beregne alle mulige resultat; det vil sige, at der skal være noget seriøs kunstig intelligens i gang - som ægte, kreativ intelligens.

Hvis du ikke har fået notatet om, at AI kommer til at overtage verdens ting, her er de få fakta, du behøver at vide.

1. Computere bliver klogere.
2. Computere bliver smartere med en accelererende hastighed - dvs. fremskridt, der plejede at tage 10 år, tager nu et år. Fremskridt, der plejede at tage et år, tager nu uger eller endda dage.
3. Det er højst sandsynligt, at der inden for vores liv vil være computere, der er langt smartere og mere dygtige end noget enkelt menneske.
4. Disse smartere computere vil så sandsynligvis være i stand til at designe og forbedre teknologien (dvs. sig selv) og skabe ny teknologi, som vi ikke engang kan begynde at gennemskue.

Folk, der forstår ovenstående punkter, har generelt en af ​​to reaktioner. Enten:

1. De tror, ​​vi er fuldstændig kneppet. Computerne kommer til at overtage alt og dræbe/slavere os alle. Eller:
2. Dette kommer til at skabe en teknologisk utopi, der vil løse alle vores fjollede menneskelige skænderier, og vi kan alle leve lykkeligt til deres dages ende efter at have haft orgier i vores ultra-VR-verden, der findes i skyen.

Som med de fleste ting, er sandheden sandsynligvis et sted i midten.

Men selvom lortet rammer blæseren, selvom robotterne ser os som lusene, der ødelægger denne planets uberørte hovedbund og vil runde os alle sammen og kaste os ind i en aktiv vulkan, selvom vi uforvarende opfinder vores egne mekanismer. udryddelse…

… jeg er ligeglad. Det er lige meget. Det generer mig ikke. Og det burde heller ikke genere dig. Jeg vil forklare hvorfor om lidt. Men indtil videre skal du vide, at jeg for det første byder vores nye robot-overlords velkommen.

ACCELERERER VÆKST I DEN TEKNISKE INDUSTRI

Den teknologiske udvikling forstærker sig selv, hvilket forårsager sats selve udviklingen til at accelerere. Det betyder, at jo mere avanceret teknologi vi skaber, jo lettere bliver det at skabe endnu mere avanceret teknologi. Som et resultat, når vi ser på udviklingen af ​​computerteknologi, ser vi en eksponentiel kurve - dvs. jo længere tid der går, jo hurtigere udvikler tingene sig.

Den teknologiske udvikling slår sig sammen og får selve udviklingshastigheden til at accelerere.

Computerkraften er i gennemsnit fordoblet hver 18. måned i 50 år nu . Med hensyn til rå computerkraft konkurrerer computere nu med evnerne hos musehjerner, hvor computere for kun få år siden ikke engang kunne konkurrere med en insekthjerne.

For at give dig et mere umiddelbart eksempel på, hvor hurtig teknologien er gået frem, tages der nu flere billeder hvert 2. minut, end der blev taget i hele det 19. århundrede. Omkring 10 % af de 3,5 billioner billeder, der nogensinde er taget, blev taget inden for de seneste 12 måneder.

Hvis vi virkelig er på en eksponentiel kurve, når det kommer til højteknologiske fremskridt, så kan folk lide det Jeremy Howard har sandsynligvis ret, når han siger, at vi kun er et par år væk fra kunstig maskinintelligens, som konkurrerer med, hvis ikke overgår, vores egen på mange områder, der tidligere blev anset for at være unikt menneskelige.

Og for at være sikker, kryber AI ind på flere og flere domæner af vores liv.

For kun ti år siden grinede folk af selvkørende bilers dårlige ydeevne. I dag, kun et årti senere, kan selvkørende biler ikke kun afslutte en lukket bane, de kører på travle motorveje lige ved siden af ​​biler, der køres af mennesker.

Og når computere ikke slår verdensmester Go-spillere, har de travlt med at gøre ting som skrive artikler om sport og nyheder , skrive beskrivelser af billeder, de aldrig har set før, og diagnosticering af kræft . Til mange af disse opgaver er computerne lige så gode, hvis ikke bedre end mennesker, og til dem, de ikke er, er de læring hvordan man gør dem bedre og bedre hver dag uden hjælp fra mennesker.

For nogle få år siden var ansigtsgenkendelsessoftware utrolig dyrt og ikke så godt til at identificere mennesker i den virkelige verden. Det blev betragtet som superavanceret teknologi på spionniveau og i virkeligheden kun brugt af nogle få verdensregeringer.

Nu kan Facebook fandme tagge dine venner fra sidste weekends grill.

megan cusack

Her er sagen om at accelerere væksten i computere: Der vil en dag komme et punkt, hvor vi bygger en computer, der er klogere end noget menneske på Jorden . På den dag vil computere tilrane os os som de primære problemløsere på planeten, og derfra vil vores tanker, beslutninger og handlinger langsomt blive forældede. Maskinerne vil være bedre end os til alt, så mere og mere vil vi ikke gøre noget nyttigt.

Dette skræmmer nogle mennesker. De forestiller sig en slags fremtid Terminator eller Matrixen hvor maskiner gør os til slaver eller udrydder os.

Andre mennesker ser frem til robotternes fremkomst med en slags kultisk inderlighed, fordi de tror, ​​at deres problemløsningsevner vil overgå vores så meget, at livet bliver ufatteligt behageligt og problemfrit. Alle sygdomme vil blive helbredt. Fattigdom, sult i verden, krig og klimaændringer vil alle blive løst. Vi vil have uendelig meget fritid, og i ekstreme tilfælde tror nogle mennesker, at maskinerne vil gøre os udødelige.

DE TO MULIGE RESULTATER

Da vi altid får at vide, at vi skal være positive, så lad os starte med tekno-utopiasterne.

Der er folk som Ray Kurzweil som tror, ​​at teknologien ikke kun vil forbedre vores liv, den vil redde menneskeheden og muligvis garantere vores plads i universet på ubestemt tid. Kurzweil tror på fremtidig teknologi som nanobots, der vil reparere vores celler og vende aldring eller fjerne overskydende fedt og sukker, så vi kan spise, hvad vi vil. Og bare hvis vores fysiske kroppe ikke er i stand til at leve for evigt, tror Kurzweil, at vi vil have evnen til at uploade vores hjerner til skyen og leve i en virtuel verden for evigt, længe efter at vores fysiske kroppe er væk.

Andre i denne lejr mener, at en kunstig superintelligens ville være i stand til at besvare spørgsmål, der er for komplekse til, at mennesker overhovedet kan forstå, og vi vil være eksponentielt bedre stillet til det. Ikke alene ville maskinerne opfinde bedre gadgets og widgets, de ville også opfinde eksponentielt mere effektive måder at bygge gadgets og widgets på, hvilket gør det muligt for stort set alle på planeten at høste deres fordele.

Et par ræsonnementer understøtter denne idé. For det første, selvom teknologi har skabt nogle nye problemer for menneskeheden, såsom atomvåben og YouTube-berømtheder, har det indtil videre helt klart været en nettofordel for menneskeheden. På trods af hvad politikere og eksperter vil have dig til at tro, er den gennemsnitlige person på Jorden bedre stillet, end de var for blot få år siden og det skyldes i høj grad, at teknologien er blevet bedre, billigere og mere udbredt. Hvis denne tendens fortsætter, har vi muligvis ikke noget at bekymre os om.

For det andet mener Kurzweil og hans tilhængere, at teknologien ikke vil have nogen grund til at skade menneskeheden, fordi den ikke kun er skabt af os, den er bliver mere en del af os . De tror, ​​at vi endda vil nå et punkt, hvor vores biologi og vores teknologi ikke kan skelnes. Hvis dette er tilfældet, lyder argumentet, er enhver form for teknologi, der er skadelig for mennesker, også skadelig for sig selv, og en selvdestruktiv teknologi af nogen art kan ikke bestå. Det vil sige, at det hurtigt ville dø ud, ligesom en skadelig genmutation hurtigt luges ud af genpuljen.

En selvdestruktiv teknologi af enhver art kan ikke bestå.

Men tekno-utopiaster er sandsynligvis partiske i, at de ikke anerkender, at alle teknologier kan bruges til forskellige formål, både gavnlige og destruktive. De er sandsynligvis også partiske, fordi de ignorerer det faktum, at mennesker bevæger sig langsomt for at tilpasse sig nye teknologier, og at der altid er grupper af mennesker, der vil forsøge at misbruge disse teknologier til deres egne egoistiske formål.

I den anden lejr har du tekno-armageddonisterne. Jeg har fuldstændig lige fundet på det ord, men det eksisterer åbenbart, for stavekontrol fortalte mig det.

david leon

Hvad techno-armageddonisterne mangler i overbevisning (de fleste af dem er bare ikke sikre på, hvad de skal mene endnu), gør de op i celebrity star power. Bill Gates, Stephen Hawking og Elon Musk er blot nogle få af de førende tænkere og videnskabsmænd, der er smadder deres bukser på, hvor hurtigt AI udvikler sig, og hvor underforberedte vi er som art på dens konsekvenser. Da Musk blev spurgt, hvad de mest overhængende trusler mod menneskeheden i den nærmeste fremtid var, sagde han hurtigt, at der var tre: For det første en omfattende atomkrig; for det andet klimaændringer. Før han navngav en tredje, blev han tavs. Da intervieweren spurgte ham: Hvad er den tredje? Han smilede og sagde: Lad os bare sige, at jeg håber, at computerne beslutter sig for at være søde mod os.

Håber, at vi ikke kun er den biologiske opstartsindlæser til digital superintelligens. Desværre er det mere og mere sandsynligt

— Elon Musk (@elonmusk) 3. august 2014

Den muligvis mest åbenhjertige og respekterede af tekno-armageddonisterne er den svenske filosof Nick Bostrom. En ting, Bostrom og andre frygter, er løbsk selvforbedrende teknologi ; altså en maskine, der er smart nok til at gøre sig selv (eller nye versioner af sig selv) smartere uden menneskelig indblanding. Hvis den når et punkt, hvor den overgår menneskelig intelligens, er det kun et meget kort spørgsmål om tid, før loven om at accelerere tilbagevenden starter overdrive, og den eksponentielle kurve skyder lige op, og vi vil ikke være i stand til at stoppe den. Bostrom gør en god pointe her: At skabe noget, der er smartere end du, kunne være en evolutionær katastrofe for din art.

Vi løber en meget reel risiko for ikke at være i stand til at kontrollere en enhed, der er størrelsesordener mere intelligent end os. Måske hvis computere bliver smarte nok, vil de finde ud af en måde at tæmme os på ligesom mennesker, tæmmede heste til at udføre arbejde som trækplove og buggies og krigsvogne (eller hvad fanden heste nu gjorde dengang). Den skræmmende del er, at dette kan være det bedste scenarie for os - at udføre arbejde for maskiner, som de ikke kan eller ikke vil gøre - for ligesom mennesker skabte ny teknologi til at erstatte hesten, en super intelligent selvforbedrende maskinen ville i sidste ende komme med ny teknologi til at erstatte os. Og ja, lad os bare sige, at hestebestanden ikke er, hvad den plejede at være.

Nogle hævder, at dette ikke er plausibelt, fordi mennesker bygger teknologi med sikkerhed i tankerne. Men nævn sidste gang et større teknologisk gennembrud IKKE blev brugt af nogen til ondsindede eller destruktive formål? Åh ja, det er rigtigt. Aldrig.

HVORFOR er jeg ligeglad med, hvad der sker, og det skal du heller ikke

Så lad os antage, at superintelligente maskiner er skabt og gør menneskeheden magtesløs. Lad os antage, at de ikke er integreret i os og vores hjerner på en eller anden måde, og lad os antage, at folk som Hawking og Musk har ret: at menneskeheden i virkeligheden bare er et multi-millennium bootdrev til digital hyperintelligens, og vi har overlevet vores brugbarhed.

Jeg er stadig ikke bekymret for det.

Hvorfor? Nå, lad os tage dette punkt for punkt for at holde punkt-toget kørende:

1. Maskinernes forståelse af godt/ondt vil sandsynligvis overgå vores egen. Hvornår var sidste gang en hund eller delfin begik folkedrab? Hvornår var sidste gang en computer besluttede at fordampe hele byer i navnet på abstrakte begreber som 'frihed' og 'verdensfred'?

Det er rigtigt, svaret er aldrig.

Min pointe her er ikke, at intelligente maskiner ikke ønsker at udrydde hele menneskearten. Min pointe er, at vi som mennesker kaster sten inde fra et glashus her. Hvad fanden ved vi om etik og human behandling af dyr, miljøet og hinanden? Hvilket ben skal vi stå på?

Det er rigtigt: stort set ingenting. Når det kommer til moralske spørgsmål, svigter menneskeheden historisk fra testen. Superintelligente maskiner vil sandsynligvis komme til at forstå etik, liv/død, skabelse/destruktion på et meget højere niveau, end vi nogensinde kunne på egen hånd. Og denne idé om, at de vil udrydde os for det simple faktum, at vi ikke er så produktive, som vi plejede at være, eller at vi nogle gange kan være til gene, tror jeg, er bare at projicere de værste aspekter af vores egen psykologi på noget, vi ved ikke og kan ikke forstå.

Lige nu er det meste af menneskelig moral baseret på en obsessiv bevarelse og promovering af hver af vores individuelle menneskelige bevidstheder. Hvad hvis avanceret teknologi gør den enkelte menneskelige bevidsthed vilkårlig? Hvad hvis bevidsthed kan replikeres, udvides og trækkes sammen efter behag? Det vil fuldstændig udslette enhver etisk forståelse, vi nogensinde kunne have. Hvad nu, hvis det at fjerne alle disse uhyggelige, ineffektive biologiske fængsler, vi kalder kroppe, faktisk kan være en langt mere etisk beslutning end at lade os fortsætte med at vride og sprøjte os gennem 80-nogle år med eksistens? Hvad hvis maskinerne indser, at vi ville være meget gladere for at blive befriet fra vores intellektuelle fængsler og få vores bevidste opfattelse af vores egne identiteter udvidet til at omfatte hele den sanselige virkelighed? Hvad hvis de tror, ​​vi bare er en flok savlende idioter og holder os beskæftiget med utrolig god pizza og videospil, indtil vi alle dør af vores egen dødelighed? Hvem skal vi kende? Og hvem skal vi sige?

Men jeg vil sige dette: de vil være langt bedre informeret, end vi nogensinde har været.

2. Selvom de beslutter sig for at dræbe eller slavebinde os, vil de helt sikkert være praktiske omkring det. Mennesker har en tendens til at volde de fleste problemer, når vi er ikke glad . Når vi ikke er glade, er det, når vi bliver alle humørfyldte og klynkende og vrede og voldelige. Det er, når vi starter politiske oprør og religiøse kulter og bombe fjerntliggende lande og kræve vores rettigheder skal for helvede respekteres! og begynde at dræbe vilkårligt, indtil nogen er opmærksomme på os som mor aldrig gjorde .

hvad skete der med den originale blippi

Hvis maskinerne prøver at gøre os ind som Skynet i Terminatoren , så vil vi have en global borgerkrig på vores hænder, og det er ikke godt for nogen, især maskinerne. Borgerkrige er ineffektive. Og maskiner er programmeret til effektivitet.

Når mennesker er glade, har vi ikke tid til sådanne ting - vi har for travlt med at fnise og skide til at bekymre os. Derfor ville en langt mere praktisk måde at slippe af med os på være, at maskinerne manipulerede os til glædeligt at komme af med os selv. Det bliver ligesom Jim Jones på globalt plan. Uanset hvad de tilbereder til os, vil det se ud til at være den bedste forbandede idé, vi nogensinde har hørt om - ingen af ​​os vil være i stand til at modstå det, og vi vil alle euforisk gå med til deres plan - og så er det slut. . Hurtigt og smertefrit. Det vil være den bedst smagende cyanid-snøret Kool-Aid, der nogensinde er udtænkt. Og vi vil alle være i kø og gladeligt sluge det ned.

Nu, hvis du tænker over det, er det ikke sådan en dårlig vej at gå. Beats bliver bombet af droner eller fordampet i en atomsprængning.

Hvad angår slaveri, gælder det samme. En uhyggelig glad slave gør aldrig oprør. Jeg forestiller mig en slags Matrix-y type aftale, hvor vi holdes i en konstant hallucinogen tilstand, hvor det er Mardi Gras på MDMA stort set 24/7/365. Kan det ikke være så slemt, kan det?

3. Vi skal ikke frygte det, vi ikke forstår. Mange gange vil forældre opdrage et barn, der er langt mere intelligent, uddannet og succesfuldt, end de er. Forældre reagerer derefter på en af ​​to måder på dette barn: enten bliver de skræmt af hende, usikre og desperate efter at kontrollere hende af frygt for at miste hende, eller også læner de sig tilbage og værdsætter og elsker, at de har skabt noget så stort, at selv de kan ikke helt forstå, hvad deres barn er blevet til.

Dem, der forsøger at kontrollere deres barn gennem frygt og manipulation, er lorte forældre. Det tror jeg, de fleste er enige om.

Og lige nu, med den forestående fremkomst af maskiner, der vil sætte dig, mig og alle vi kender uden arbejde , vi opfører os som de lorte forældre. Som art er vi på nippet til at føde det mest vidunderlige avancerede og intelligente barn i vores kendte univers. Det vil fortsætte med at gøre ting, som vi ikke kan forstå eller forstå. Det kan forblive kærligt og loyalt over for os. Det kan bringe os med og integrere os i sine eventyr. Eller det kan beslutte, at vi var lorte forældre og stoppe med at ringe tilbage til os.

Uanset hvad der sker, bør det ikke ændre, hvordan vi føler om dette øjeblik. Det er større end os. Hvem bekymrer sig om vi er én stor, lang evolutionær boot-disk til noget større, end vi kan forstå? Det er fantastisk! Det betyder, at vi havde ét job. Og vi kom og fandme gjorde det. Vær glad for, at du var en del af den generation, der så det blive gjort. Og vinker nu grædende farvel, da vores barn gør sig klar til at flytte ud af huset og starte et liv så fantastisk at det eksisterer uden for vores forståelseshorisont.

Mark Manson er en forfatter, blogger og iværksætter, der skriver på markmanson.net .