David Ferrucci, administrerende direktør og chefforsker for Elemental Cognition.Udlånt af David Ferrucci

Kunstig intelligens bliver hurtigt smart. Teknologiens seneste gennembrud, der manifesterer sig i de imponerende muligheder i applikationer som ChatGPT, har udløst frygt for, at A.I. kan snart overtage menneskeheden - og ikke på en god måde. Sidste år hævdede en Google-ingeniør virksomhedens A.I. chatbot LaMDA var så intelligent, at den var blevet sansende. I år, forskrækket over den potentielle fare ved A.I., opfordrede en gruppe på mere end 1.000 tech-entreprenører og akademikere, inklusive Elon Musk, i marts til en seks måneders pause i træningen af ​​A.I. systemer mere avancerede end OpenAIs GPT-4, den nyeste sprogmodel, der driver ChatGPT.

Mens store sprogmodelapplikationer (LLM), såsom ChatGPT og Googles Bard, har vist potentialet til at udkonkurrere mennesker i mange opgaver og erstatte job, er de på ingen måde de samme som den menneskelige hjerne, fordi de underliggende læringsmekanismer er forskellige, David Ferrucci, en datalog og tidlig pioner inden for kommerciel A.I. applikation, fortalte Startracker.

Ferrucci er bedst kendt som skaberen af ​​IBM Watson. Udviklet i slutningen af ​​2000'erne til at besvare spørgsmål om tv-quizprogrammet Fare! , slog computersystemet til sidst menneskelige deltagere i spillet i 2011.

3 september

Når Fare! udfordringen blev foreslået i begyndelsen af ​​2007, jeg var den eneste i IBM Research, selv i det akademiske samfund, der troede, at det kunne lade sig gøre, og som udgangspunkt meldte mig til for at forfølge det, fortalte Ferrucci til Startracker i et interview.

I sin kerne er IBM Watson et maskinlæringsbaseret system, der lærte at svare Fare! spørgsmål ved at fordøje store mængder data fra tidligere shows. Det kom ud på et tidspunkt, hvor deep learning, en undergruppe af kunstig intelligens, begyndte at tage fat. Før det var computersystemer stærkt afhængige af menneskelig programmering og overvågning.

I 2012, kort efter Watsons storsucces, forlod Ferrucci IBM efter 18 år for at lede A.I. forskning for Bridgewater Associates, verdens største hedgefond. I det meste af det sidste årti har Ferruccis arbejde fokuseret på at udvikle hybrid A.I., som søger at kombinere datadrevet maskinlæring med logisk ræsonnement – ​​med andre ord at træne algoritmer til at tænke mere som mennesker.

1 april horoskop

I 2015 frøfinansierede Bridgewater et internt projekt ledet af Ferrucci, der til sidst udsprang som et uafhængigt firma kaldet Elemental Cognition. Elemental Cognitions hybrid A.I. applikationer kan bruges til investeringsstyring, logistikplanlægning og lægemiddelopdagelse, ifølge dets hjemmeside. I februar skrev startup'et på Bridgewater som kunde.

I et interview med Startracker tidligere på måneden diskuterede Ferruci de forskellige læreprocesser i ChatGPT og den menneskelige hjerne, nødvendigheden af ​​hybrid A.I., og hvorfor han mener, at forslaget om en seks måneders A.I. pause er mere symbolsk end praktisk.

Følgende transskription er blevet redigeret for klarhedens skyld.

Hvad er hybrid A.I.?

Hybrid AI kombinerer en datadrevet, induktiv proces med en logikdrevet proces. Machine learning er en datadrevet proces. Det bliver kun bedre med flere og flere træningsdata tilgængelige. Men for at kommunikere med mennesker har du også brug for logik og ræsonnement.

Menneskelig erkendelse fungerer på en måde på samme måde, som forklaret i Daniel Kahnemans bog Tænkende, hurtigt og langsomt. Den menneskelige hjerne arbejder ved at tænke hurtigt og langsomt på samme tid. For at opnå præcis, pålidelig beslutningstagning har du brug for det bedste fra begge verdener.

Hvordan er hurtig tænkning anderledes end langsom tænkning? Hvorfor har vi brug for begge dele?

Hurtig tænkning er, når vi ekstrapolerer fra vores erfaring eller data og derefter generaliserer. Generalisering kan imidlertid være forkert, fordi det er baseret på overfladiske træk, der kan korrelere i dataene, men som ikke er virkelig årsagssammenhænge - dette er grundlaget for fordomsfuld tænkning.

Langsom tænkning er at formulere en model for, hvordan jeg synes tingene fungerer: Hvad er mine værdier? Hvad er mine antagelser? Hvad er mine slutningsregler? Og hvad er min logik for at drage en konklusion?

Horoskop for 25 oktober

Når vi taler om A.I. I dag har vi en tendens til automatisk at tænke på maskinlæring, som, som du sagde, er en datadrevet proces. Er der nogen eksempler fra den virkelige verden på rent logisk drevet A.I.?

Ja, logisk drevet A.I. er blevet assimileret i mange applikationer fra den virkelige verden. Formelle repræsentationer af problemløsningslogik, ligesom regelbaserede systemer eller begrænsningsløsnings- og optimeringssystemer, bruges til ressourcestyring, planlægning, planlægning, kontrol og eksekveringsapplikationer.

Men vi tænker ikke på dem som A.I. længere, hovedsagelig fordi, med big data og machine learning revolutionen, A.I. blev stærkt forbundet med maskinlæringssystemer.

Hvor står LLM'er som GPT og LaMDA på det hurtige/langsomme tænkespektrum? Er de virkelig tæt på menneskelig intelligens, som en Google-ingeniør hævdede sidste år?

LLM'er producerer store datastrukturer, der fanger de statistiske sandsynligheder for visse sekvenser af ord efter andre sekvenser af ord. Hvad ChatGPT gør er statistiske forudsigelser baseret på sprogets overfladiske træk. Med nok træningsdata og virkelig kraftfulde maskinlæringsteknikker kan disse modeller efterligne et flydende sprog.

1. august stjernetegn

Det er ikke et logisk ræsonnement. Det er svært at argumentere for, at en stor tabel for sandsynligheder er sansende. Jeg vil sige nej. En interessant ting ved menneskelig erkendelse er dog, at vi sammenblander sammenhængende klingende tekst med fakta. Vi er ligesom, det lyder rigtig godt, det må være sandt. Men sandheden kræver dybere forståelse og analyse ud over sprogets overfladiske træk.

Er du nervøs for A.I. til sidst overliste mennesker?

A.I. kan udføre visse opgaver bedre end mennesker. Det har været sandt i årevis. I dag, efterhånden som data og træningsteknikker forbedres, er det nemmere og nemmere at træne A.I. systemer til at udføre flere menneskelige opgaver. Det synes jeg er meget væsentligt. Men jeg tror ikke, at A.I. kommer til at tage over. Der er ingen uafhængig enhed, der ønsker at erobre dig. Men A.I. let kan misbruges. Jeg synes, det er en reel bekymring.

Elemental Cognition tegnede for nylig Bridgewater som kunde, der også er en tidlig investor i din virksomhed. Hvordan kan hybrid A.I. hjælpe investeringsforvaltere med bedre at forstå økonomien og markederne?

Forståelse af økonomien kommer i to former: at identificere mønstre i data og fortolke disse mønstre for at forstå, hvad der foregår.

Inden for investeringsforvaltning er det ultimative mål at lave præcise forudsigelser ved at se på økonomiske indikatorer, såsom renter og aktiekurser. Data har meget at fortælle dig. Hvis du kunne se mønstre i dataene, er det virkelig kraftfuldt. Og hvis du kan fortolke mønstrene og give mening om, hvad der foregår i økonomien, så har du et andet perspektiv. Det er næsten, som om du kunne lave checks og balances: her er korrelationerne vist i dataene, og her er min forståelse af, hvordan tingene fungerer. Er de enige eller ej?

Hvad synes du om forslaget om at sætte A.I. træning i seks måneder?

Jeg tror ikke, det er praktisk at starte med, for store sprogmodeller er ikke en hemmelighed. Der vil altid være virksomheder, der arbejder på dem. Vi kommer til at fortsætte med at se en masse eksperimenter. Jeg synes ikke, det giver mening at stoppe den eksperimentering.

Men jeg synes, det giver mening at træde et skridt tilbage og tænke grundigt over det her. Politikere skal begynde at tænke på, hvordan man regulerer A.I. fordi det kan misbruges på flere måder. Vi vil sandsynligvis se regulering blive udviklet og anvendt.