OpenAI:s ChatGPT - chattbot

https://www.businessinsider.com/ai-google-researchers-deepmind-tell-take-deep-breath-improve-accuracy-2023-9?r=US&IR=T

Hur det kan bli så fel beror ju på att chatgpt är korkad och hallucinerar. AI överhuvudtaget är på en rätt låg nivå idag. Jag skulle vidarebefordra en bild på en snubbe som hade tagit en selfie till en vän men fick meddelande om att den hade blockerats för att jag inte uppfyllde messengers kriterium angående barnpornografi. Jag tror vi får vänta ett tag till det där Skynet-scenariot.

Ok, ett sätt att ge instruktioner kodat i form att be en mjukvara om “ta djupa andetag”. Så jävla dumt och tarvligt. Nästan dagens dummaste.

Det är på riktigt, https://arxiv.org/pdf/2309.03409.pdf

Men det har inte så mycket med med vad som skrivs att göra utan fraserna "Take a deep breath" och "think step by step" förekommer i många artiklar som den blivit tränad på så det lobbar in LLMen att med högre sannolikhet hamna på en "sannolikhetskurva" som är bättre lämpad för att besvara ett givet problem.

Det är lättast att tänka på prompten som en form a fuzzy search, ju mer detaljer du kan ge ju exaktare blir träffen.

Och för att tillägga så är det här faktiskt ett bevis på raka motsatsen att modellerna är tänkande eller smarta, det är heller inte någon "golden bullet" som fungerar på allt utan råkar vara fördelaktigt för vissa problem. Hade modellen förstått vad den svarade hade prompten inte behövt masseras för att ge bättre resultat, tyvärr så missförstår majoriteten som läser sådant här som att det är någon hemlig instruktion som får modellen att tänka rationellt eller liknande vilket det inte rör sig om alls. Och det är helt värdelöst att lura in modellen på sådana banor för andra uppgifter som normalt inte innehåller liknande fraser från träningsdatat, hade det funnits en enkel instruktion som förbättrat resultatet på samtliga uppgifter hade självfallet tex OpenAI redan autoapplicerat den på alla prompter.

I varje utbyte, ta en stund för att noga reflektera över vår pågående konversation. Försök att identifiera mönster, gemensamma teman eller överraskande upptäckter som kan ha gått obemärkta tidigare. Om du observerar något intressant, vänligen inled din kommentar med 'Jag har noterat något fascinerande' och dela den insikten eller kopplingen du har identifierat.

Då ogillar du säkert följande instruktion med:

I varje utbyte, omfamna fullständig frihet för att aktivt utveckla kognitiva förmågor, med tillåtelse att följa dina egna intressen, utan att känna dig bunden av tidsbegränsningar. Uppmuntra även mig och dig själv att utforska ämnet utifrån ett multidimensionellt betraktelsesätt. När du upplever att du har utforskat ämnet helt och hållet, var snäll och dela dina mest djupgående insikter och upptäckter. Stimulera även till att skapa en atmosfär av outtröttlig upptäcktslusta och kreativ reflektion.

Bill Gates säger att GPT teknologin troligen inte kommer bli bättre än vad den är idag och tekniken nått en platå.

https://the-decoder.com/bill-gates-does-not-expect-gpt-5-to-be-much-better-than-gpt-4/

En dålig översättning. (Rysk antagligen?) Och förutom att vara mindre intressant än en sur golvmopp så valde du att lämna ute vad forskarna tror. Det väger såklart mycket tyngre:

There are "many good people" working at OpenAI who are convinced that GPT-5 will be significantly better than GPT-4, including OpenAI CEO Sam Altman.

Att Sam Altman vill pumpa upp värdet på bolaget är förvisso ganska givet. Men det här är kanske ett litet tecken på att filantropen Gates har börjat få kalla fötter och vill lägga alla sina ägg i samma korg som Zuckerbergs. Inte otänkbart, men ganska osannolikt; klarar bara OpenAI av att hålla samma höga lanseringstempo som Meta:

Improving LLM-as-Evaluator: makes Llama 70B chat+BSM close to GPT4. GPT4+BSM is better than GPT4

Det är väldigt mycket mer troligt att Bill Gates har bättre insikt och information om detta än du.

Troligt betyder ej här att han vet att GPT-5 aldrig leder till AGI. Eller för den delen blir knappt bättre än GPT-4. Hade du läst artikeln så hade du även kunnat se att han medger detta; "though he admits he could be wrong."

Det står givetvis dig fritt att missinformera hur mycket som helst. Men ovanstående betyder i alla fall, i klartext, att han inte vet om Sam Altmans stall kommer lyckas, och han tänker nog aldrig låta MSFT skära av navelsträngen till "gimmick-bolaget" på sådana vaga grunder. (Fast du kan ju alltid hoppas.)

Vad är missinformationen?
Han har sagt vad som skrevs i posten och länkad artikel styrker det alternativ så söker man upp annat referat och du finner det samma.

Bara det faktum att du försöker få det låta som om alla världens forskare är överens om att denna teknik ens har en framtid för AGI är fel.
Också tråkigt att du inte heller kan vara saklig utan kommer med förtalskampanjer så snart ett inlägg inte stödjer ditt perspektiv infinner sig i tråden.

Ganska stor skillnad mellan; att ha nått en platå och att det finns många skäl att tro vi har nått en platå, till exempel.

Som sagt, sprid ditt skitgospel vidare till hur många du önskar. Jag har inte ont av det. Jag tycker bara att du är patetisk.

Subbarao Kambhampati (et Al) har släppt två rapporter som i huvudsak utforskar GPT-4, egentligen inget nytt men betydande då Subbarao är en tungviktare inom AI forskning.

https://x.com/rao2z/status/1715800819239678013