Elon Musk opfordrer A.I. ledere til at styre i den mest positive retning som muligt.STR/NurPhoto via Getty Images

Elon Musk mener, at A.I. vil sandsynligvis overgå menneskelig intelligens inden 2030, og der er en reel chance for, at teknologien gør en ende på menneskeheden. Men det betyder ikke, at fremtiden er dyster. Taler ved et Silicon Valley-arrangement i sidste uge(19. marts) advarede Tesla- og SpaceX-chefen om, at A.I. sker hurtigt, og at vi ønsker at forsøge at styre [A.I.] i den mest mulige positive retning for at øge sandsynligheden for en stor fremtid.

Musk talte under enbålchat med Peter DiamandispåOverfloden 360Summit, arrangeret af Singularity University, en Silicon Valley-institution, der rådgiver virksomhedsledere om avancerede teknologier. Diamandis er grundlæggeren af ​​både Singularity University og XPRIZE Foundation, en nonprofitorganisation, der er vært for videnskabskonkurrencer, hvoraf nogle er sponsoreret af Musk.

Det kaldes singularitet af en grund, sagde Musk med henvisning til værten for begivenheden. Når du har fremkomsten af ​​superintelligens, er det meget svært at forudsige, hvad der vil ske næste gang - der er en chance for, at det vil afslutte menneskeheden. Musk tilføjede, at han var enig med A.I. gudfar Geoffrey Hinton i, at der er 10 til 20 pct sandsynligheden for, at en sådan begivenhed finder sted.

Samtidig med at man anerkender risiciene ved A.I. Musk, der overgik menneskelig intelligens, fremhævede også potentialet for et positivt resultat, der opvejer det negative, og pegede på titlen på Diamandis' bog fra 2014, Overflod: Fremtiden er bedre end du tror, som et ønskeligt resultat. Bogen skildrer en fremtid, hvor A.I. og robotteknologi vil drastisk sænke omkostningerne ved varer og tjenester og dermed gavne det menneskelige samfund.Musk bragte også Culture-serien af ​​den skotske sci-fi-forfatter Iain M. Banks op som det bedst mulige scenarie for en semi-utopisk A.I. fremtid.

Musk brugte en analogi med at opdrage et barn som et middel til at udvikle A.I. og kunstig generel intelligens (A.G.I.) for at skabe en positiv indvirkning på menneskeheden fremover. Han understregede vigtigheden af ​​at fremme en sandfærdig og etisk tilgang til A.I. udvikling, der drager paralleller til Stanley Kubricks film fra 1968, 2001: A Space Odyssey.

Jeg tror, ​​det er utrolig vigtigt for A.I. sikkerhed er at have en maksimal form for sandhedssøgende og nysgerrig A.I., sagde Musk og tilføjede, at han troede på at opnå ultimativ A.I. sikkerhed hængslet på aldrig at tvinge A.I. at lyve, selv når de konfronteres med en ubehagelig sandhed.

Et hoved plot punkt i 2001: A Space Odyssey var A.I. bliver tvunget til at lyve, hvilket får det til at dræbe besætningen på rumskibet. Så lektien der er, tving ikke en A.I. at lyve eller gøre ting, der er aksiomatisk uforenelige, men at gøre to ting, der faktisk er gensidigt mulige, forklarede SpaceX CEO.

Musk pegede dog på forskellige begrænsninger, der kunne bremse udvidelsen af ​​A.I., herunder den stramme forsyning af A.I. chips set sidste år og den voksende efterspørgsel efter spændingsreduktionstransformere, der er nødvendige for at konvertere højspændingsstrøm til en lavere spænding, der kræves til enheder i hjem og virksomheder. Det er bogstaveligt talt problemet i år, sagde han.

Diskussionen kom på et tidspunkt ind på begrebetfusionerer det menneskelige sinds neocortex med skyen. Mens Musk beskrev målet med at uploade en persons bevidsthed og minder til skyen som en vej ud, udråbte han sin hjerne-computer-grænseflade opstartNeuralinkog dens første menneskelige patient.En live demo med patienten, som er quadriplegic, blev for nylig udført i et FDA-godkendt forsøg. Efter at have modtaget et hjerneimplantat, var patienten i stand til at styre skærmen, spille videospil, downloade software eller gøre noget andet, der er muligt, når man bruger en mus, bare ved at tænke over det. Det går ganske godt. Den første patient er faktisk i stand til at styre deres computer bare ved at tænke, sagde Musk.

Musk sagde, at udvidelsen af ​​A.I. kan fjerne begrænsningerne for at skabe en hel hjernegrænseflade, men Neuralink arbejder hen imod det mål i mellemtiden.