OpenAI CEO Sam Altman har tidligere diskuteret sit ønske om at opnå ræsonnement på menneskeligt niveau i A.I.Justin Sullivan/Getty Images
Som en del af OpenAIs vej mod kunstig generel intelligens (A.G.I), en betegnelse for teknologi, der matcher menneskers intelligens, forsøger virksomheden angiveligt at gøre A.I. modeller til at udføre avanceret ræsonnement. Sådant arbejde foregår under et hemmelighedsfuldt projekt med kodenavnet ' Jordbær ,' som rapporteret af Reuters, som bemærkede, at projektet tidligere var kendt som Q* eller Q Star. Selvom dets navn kan have ændret sig, er projektet ikke helt nyt. Forskere og medstiftere af OpenAI har tidligere advaret mod initiativet, hvor bekymringer over det angiveligt spillede en rolle i den korte afskedigelse af Sam Altman som OpenAIs CEO i november.
Strawberry bruger en unik metode til eftertræning af A.I. modeller, en proces, der forbedrer deres ydeevne efter at være blevet trænet i datasæt, ifølge Reuters, som citerede interne OpenAI-dokumenter og en person, der er bekendt med projektet. Ved hjælp af dybe-research-datasæt sigter virksomheden mod at skabe modeller, der viser ræsonnement på menneskeligt niveau. OpenAI undersøger angiveligt, hvordan Strawberry kan tillade modeller at være i stand til at udføre opgaver over en længere periode, søge på nettet selv og tage handlinger på dets resultater og udføre ingeniørernes arbejde. OpenAI reagerede ikke på anmodninger om kommentarer fra Startracker.
Elon Musk og Ilya Sutskever udtrykte bekymring over Q*
Altman, der tidligere har gentog OpenAIs ønske om at skabe modeller, der kan ræsonnere , mistede kortvarigt kontrollen over sit firma sidste år, da hans bestyrelse fyrede ham i fire dage. Kort før afsættelsen var flere OpenAI-ansatte blevet bekymret over gennembrud præsenteret af det, der dengang var kendt som Q*, et projekt ledet af Ilya Sutskever, OpenAIs tidligere chefforsker. Sutskever selv var angiveligt begyndt at bekymre sig om projektets teknologi, ligesom OpenAI-medarbejdere, der arbejdede på A.I. sikkerhed på det tidspunkt. Efter sin genindsættelse henviste Altman til nyhedsrapporter om Q* som en uheldig lækage i et interview med Verge.
Elon Musk, en anden OpenAI-medstifter , har også tidligere slået alarm om Q*. Milliardæren, der afbrød båndet til virksomheden i 2018, henviste til projektet i en retssag mod OpenAI og Altman, som siden er blevet droppet. Mens han diskuterede OpenAIs tætte partnerskab med Microsoft (MSFT), hævdede Musks sag, at aftalens vilkår dikterer, at Microsoft kun har rettigheder til OpenAIs præ-A.G.I. teknologi, og at det er op til OpenAI’s bestyrelse at afgøre, hvornår virksomheden har opnået A.G.I.
Musk hævdede, at OpenAIs GPT-4-model udgør A.G.I, som han mener udgør en alvorlig trussel mod menneskeheden, ifølge sagen. Rettens sager erklærede, at OpenAI i øjeblikket er ved at udvikle en model kendt som Q*, der har et endnu stærkere krav til A.G.I.
De seneste interne møder har antydet, at OpenAI gør hurtige fremskridt mod den type ræsonnement på menneskeligt niveau, som Strawberry arbejder på. I et OpenAI-møde for alle hænder, der blev afholdt tidligere på måneden, fortalte virksomheden afslørede et fem-trins system at spore dens fremskridt mod A.G.I., som rapporteret af Bloomberg. Mens virksomheden sagde, at det i øjeblikket er på det første niveau, kendt som chatbots, afslørede det, at det næsten har nået det andet niveau af ræsonnementer, som involverer teknologi, der kan vise problemløsning på menneskeligt niveau. De efterfølgende trin består af A.I. systemer, der fungerer som agenter, der kan tage handlinger, innovatører, der hjælper med opfindelser og organisationer, der udfører arbejdet i en organisation.