Geoffrey Hinton taler under kollision 2023 i Enercare Center i Toronto, Canada.Ramsey Cardy/Sportsfile via Getty Images

Elon Musk og Geoffrey Hinton, en banebrydende kunstig intelligens (A.I.) akademiker, der ofte omtales som Godfather of A.I., er tilsyneladende tilpasset de trusler, som den nye teknologi udgør for menneskeheden. Men da Musk, der sidste år lancerede A.I. startup xAI, bad for nylig Hinton om at blive medlem af et advisory board, milliardærens strøm af bevidsthed ramble fik Hinton til at finde på en undskyldning for at forlade opkaldet 20 minutter inde, fortalte den britisk-canadiske datalog til The Globe and Mail i et interview i denne uge.

Jeg fandt på et møde for at få ham væk fra telefonen, sagde Hinton. Det kommer han ikke til at kunne lide. Fordi han er i centrum for opmærksomheden, det er det, han vil. Jeg tror ikke, han er min ven længere.

Gennem en akademisk karriere fokuseret på neurale netværk - en maskinlæringsproces, der er modelleret på neuroner i den menneskelige hjerne, der gør det muligt for computerprogrammer at lære færdigheder ved at analysere data - spillede Hinton en afgørende rolle i at forme grundlaget for A.I. systemer, der driver folk som OpenAI's ChatGPT. Men siden han forlod sin rolle hos Google (GOOGL) i 2023 efter et årti lang embedsperiode, er han blevet en af ​​de mest højlydte kritikere af, hvordan Big Tech-virksomheder udvikler teknologien.

Musk har også længe advaret om A.I.s farer og gentog Hintons advarende påstande , tweetede sidste år, at den akademiske ved hvad han taler om. Men Musk selv, sammen med magtfulde personer som Peter Thiel (en nøgleinvestor i adskillige A.I.-laboratorier) og Mark Zuckerberg, er ifølge Hinton en del af problemet.

Mens vi diskuterede, hvordan A.I. træningsdata skal kureres for at undgå, at bots bliver brugt uden et moralsk kompas, pegede Hinton på behovet for at regulere A.I. ledere for at nå sådanne mål. Det eneste, der muligvis kunne holde Elon og Peter Thiel og Zuckerberg under kontrol, er regeringsregulering, sagde han til The Globe and Mail. Det er det eneste, der er stærkt nok til at udføre jobbet.

15. juli tegn

Tidligere på måneden støttede Hinton også et åbent brev underskrevet af mere end et dusin tidligere OpenAI-ansatte, der hævdede, at den nuværende beskyttelse af whistleblowere er utilstrækkelig, og argumenterede for, at A.I. virksomheder som OpenAI slår ned på kritik fra arbejdere, der forsvarer sikkerhedshensyn. Brevet fulgte afgang af flere top OpenAI-medarbejdere som Ilya Sutskever, der tidligere ledede en mislykket afsættelse af OpenAI's CEO Sam Altman.

Geoffrey Hinton har vejledt mange A.I. magt tal

Sutskever og datalog Alex Krizhevsky var begge tidligere studerende af Hintons ved University of Toronto og arbejdede i 2012 sammen med professoren for at skabe gennembrud i neurale netværk. Året efter udbetalte Google 44 millioner dollars for at erhverve en virksomhed startet af trioen og bragte alle tre som ansatte. Hinton modtog efterfølgende Turing-prisen, kendt som Nobelprisen for computing, sammen med andre akademikere Yoshua Bengio og Yann LeCun for deres bidrag til neurale netværk og A.I.s udvikling.

Hinton fortryder ikke nødvendigvis sit engagement i feltet. Hvis jeg ikke havde gjort det, ville en anden have gjort det, sagde han og tilføjede, at det hele måske var sket et par uger senere. Men datalogen fortsætter med at slå alarm om teknologiens farer og hans tro på, at medmindre der træffes forebyggende foranstaltninger, vil A.I. maskiner vil i sidste ende blive smartere end mennesker og blive useriøse. A.I. agenter, der udelukkende er designet til at organisere ferier og købe pakker til mennesker, for eksempel, vil hurtigt indse, at jo mere kontrol de kan få, jo mere effektive kan de være til at gøre det, sagde Hinton. De kontrollerer verden, så de kan opnå ting. Så i den forstand er disse maskiner som små børn. Og vi er ligesom forældrene, der ikke har nogen anelse om, hvordan de skal være forældre.

For Hinton var A.I.s frygtelige realiteter. er kun blevet mere presserende. Mens han tidligere troede, at teknologien havde potentialet til at udslette menneskeheden på 30 til 50 år, er det tal siden skiftet til mellem fem og 20 år. Der er en 50-50 chance for A.I. vil blive klogere end os, sagde han. Når den bliver klogere end os, ved jeg ikke, hvad sandsynligheden er for, at den tager over, men det forekommer mig ret sandsynligt.