Ilya Sutskever taler ved Tel Aviv Universitet den 5. juni 2023.Jack Guez/AFP via Getty Images
Ilya Sutskever, en banebrydende A.I. forsker og OpenAI-medstifter, der for nylig forlod det højtflyvende A.I. selskab efter et mislykket forsøg på at afsætte CEO Sam Altman, lancerer en ny A.I. virksomhed, der har til formål at sætte sikkerheden først. Kendt som Safe Superintelligence, Inc. (SSI), vil opstarten fokusere enestående på sikkert at skabe en A.I. system i stand til at overgå mennesker i intellekt. Vi vil forfølge sikker superintelligens i et lige skud med ét fokus, ét mål og ét produkt, sagde Sutskever fra det nye firma i et indlæg på X.
Bekymringer vedrørende den eksistentielle trussel, som A.I. har været udbredt blandt dem, der arbejder med teknologien og har ført til skel i sikkerhedstilgange på tværs af førende virksomheder som OpenAI. Kort efter Sutskever trådte tilbage fra OpenAI i maj efter en næsten ti år lang embedsperiode, sagde Jan Leike - som han sammen med drev et siden opløst sikkerhedsteam, der overvåger A.I.'s langsigtede risici - også op og sagde, at virksomhedens kultur og processer har taget en bagsædet til skinnende produkter.
https://x.com/ilyasut/status/1803472979873128498
SSIs andre medstiftere omfatter Daniel Gross, der tidligere ledede A.I. indsats hos Apple (AAPL) og fungerede som Y Combinator-partner; og Daniel Levy, der tidligere arbejdede sammen med Sutskever hos OpenAI som medlem af dets tekniske personale. Selvom trioen ikke har afsløret detaljerne om, hvordan de præcis vil forfølge sikker A.I., beskrev de SSI's mission som en, der vil mangle distraktion af ledelsesomkostninger eller produktcyklusser og forblive isoleret fra kortsigtet kommercielt pres. Startup'et, som vil have kontorer i Palo Alto, Californien og Tel Aviv i Israel, har også endnu ikke offentliggjort sin forretningsmodel eller investorer.
En mest efterspurgt A.I. ekspert
Sutskevers første store gennembrud i A.I. fandt sted i 2012, da han studerede på University of Toronto under Geoffrey Hinton, en A.I. akademiker ofte omtalt som Godfather of A.I. En A.I. Laboratoriet oprettet af Sutskever, Hinton og en anden studerende blev erhvervet af Google, som ansatte Sutskever som forsker i 2013.
Datalogen sluttede sig til sidst med OpenAI som medstifter og chefforsker i 2015. Både OpenAI og Demis Hassabis 'Google DeepMind var interesseret i at ansætte Sutskever på det tidspunkt, sagde OpenAI-medstifter Elon Musk under en nylig podcast. Det var en af de hårdeste rekrutteringskampe, jeg nogensinde har haft, sagde han.
Musk, der har været vokal om farerne ved A.I., er tilsyneladende ikke overbevist af Sutskevers nyeste satsning. Enhver given A.I. Startup er dømt til at blive det modsatte af sit navn, skrev Tesla og SpaceX CEO på X.
https://x.com/elonmusk/status/1803783427616821401
Sutskever skabte overskrifter sidste år som medlem af den fire-personers OpenAI-bestyrelse, der hævdede at have mistet tilliden til Altman og kortvarigt fjernede ham fra virksomheden i november, før han hurtigt geninstallerede den administrerende direktør midt i tilbageslag fra medarbejdere og investorer. Kort efter den mislykkede afskedigelse så Sutskever ud til at have ændret sin holdning og sagde, at han dybt fortrød sin rolle i fyringen. Sutskever selv trådte ned som chefforsker for A.I. selskab seks måneder senere. Dengang antydede han SSI ved at oplyse, at han gik videre til et projekt, der er personligt meningsfuldt for ham.