2023-12-20, 12:44
  #121
Medlem
Ola Schuberts avatar
Citat:
Ursprungligen postat av Cyborg2030
"Principen" är alltså att de till viss del lyckats censurera GPT 4 med GPT 2? Men GPT 4 är ju inte en AGI alltså finns det inget bevis om hur de ska kontrollera AGI. Det du egentligen vill säga är att de har en metodik här som kan vara användbar i nuvarande modeller. Det säger jag inte emot. Men det är inte en tillräckligt teori för AI-Alignnent av AGI:s.

Principen lyder "1000 gånger kraftfullare än" läraren", och ändå har läraren viss kontroll". Går solklart att implementera samma princip för viss kontroll av ett framtida AGI!
Citera
2023-12-20, 13:20
  #122
Medlem
Ola Schuberts avatar
Citat:
Ursprungligen postat av ax0s
vad är Q

En påstådd algoritm som skulle hjälpa ett LLM att resonera och reflektera över matematiska problem. Q-inlärning lär redan, historiskt sett, ha funnits.
Citera
2023-12-20, 17:58
  #123
Medlem
Ola Schuberts avatar
Citat:
Ursprungligen postat av MandalayBay
Trevligt att inleda med "idiot"...
Känns som att det är en speciell typ av människor som använder den typen av retorik.

Jag har läst dig i ett halvår nu och har svårt att förstå vad du är ute efter. Att du är naiv har jag förstått, men varför du är så manisk har jag svårare att förstå.

Hur många timmar om dagen ägnar du åt att argumentera för hur riskfri den oreglerade ai-forskningen är?

Den är inte oreglerad i praktiken. Forskningen inkluderar både utveckling av bättre modeller och säkerheten runt dem, samt att det skapas säkerhet emot en helt manisk utvecklingstakt, utan spärrar.

Ett nyttexempel ifrån OpenAI, (förutom det jag visade på tidigare) . Och jag förmodar att det sker liknande saker hos andra företag:

https://openai.com/research/practice...tic-ai-systems

Styrelsen får vetorätt gentemot Sam Altman. (Hittar dock inte källan för tillfället.)

Och, ja, jag är dödligt trött på alarmister som inte kommer med något nytt och som tillför noll vad gäller AI-alligement.
Citera
2023-12-25, 10:57
  #124
Medlem
Bleppe_Bfs avatar
Citat:
Ursprungligen postat av Cliff.Booth
Vad är Q*?

Förklara så att ett litet barn förstår...

Den genererar ett svar, läser det och kollar om det stämmer eller kan förbättras, rättar sedan till det.

Korrekturläsning - "AGI".

Förutsatt att man tränar nya språkmodeller med korrekturläst indata och dessa i sin tur blir korrekturlästa så kanske man får bort hallucinerandet. De får inte magiskt förmågan att lösa alla nya problem de ställs inför efter det.
__________________
Senast redigerad av Bleppe_Bf 2023-12-25 kl. 10:59.
Citera
2023-12-26, 14:00
  #125
Medlem
BeneathTheSurfaces avatar
Det är ingen som vet vad Q* faktiskt är (undantaget att det redan är en sökalgoritm) om i kontexten av OpenAI finns inget pålitligt eller ens något som ens bekräftar att det finns eller har funnits ett projekt som heter så.

Det som däremot är bekräftat är att OpenAI kommer inte leverera något som innefattar AGI kommande år och då förutsätter jag dessutom att de använder sin egna definition av AGI nu så inte alls är vad traditionellt varit vad som AGI innefattat dvs ett system som kan jämföras i kognitiva förmågor med en människa utan i stället ett system som kan automatisera en process så den blir ekonomiskt lönsam (vilket inte ens behövs någon AGI för).

Oavsett vilket skrev Sam Altman på twitter och fiskade efter idéer vad folk ville de skulle leverera först under 2024-

"wow way more requests in the first 2 minutes for AGI than expected; i am sorry to disappoint but i do not think we can deliver that in 2024..."

Källa: https://twitter.com/sama/status/1738640093097963713
Citera
2023-12-26, 17:27
  #126
Medlem
Ola Schuberts avatar
Citat:
Ursprungligen postat av BeneathTheSurface
Det är ingen som vet vad Q* faktiskt är (undantaget att det redan är en sökalgoritm) om i kontexten av OpenAI finns inget pålitligt eller ens något som ens bekräftar att det finns eller har funnits ett projekt som heter så.

Det som däremot är bekräftat är att OpenAI kommer inte leverera något som innefattar AGI kommande år och då förutsätter jag dessutom att de använder sin egna definition av AGI nu så inte alls är vad traditionellt varit vad som AGI innefattat dvs ett system som kan jämföras i kognitiva förmågor med en människa utan i stället ett system som kan automatisera en process så den blir ekonomiskt lönsam (vilket inte ens behövs någon AGI för).

Oavsett vilket skrev Sam Altman på twitter och fiskade efter idéer vad folk ville de skulle leverera först under 2024-

"wow way more requests in the first 2 minutes for AGI than expected; i am sorry to disappoint but i do not think we can deliver that in 2024..."

Källa: https://twitter.com/sama/status/1738640093097963713

Självklart inte, speciellt inte AGI enligt Leggs definition.
Citera
2023-12-27, 08:56
  #127
Medlem
Citat:
Ursprungligen postat av BeneathTheSurface
Det är ingen som vet vad Q* faktiskt är (undantaget att det redan är en sökalgoritm) om i kontexten av OpenAI finns inget pålitligt eller ens något som ens bekräftar att det finns eller har funnits ett projekt som heter så.

Q* är väl ändå ingen redan existerande sökalgoritm, eller vad syftar du på? Det finns en sökalgoritm som heter A* och sedan finns Q-learning som är en metod som används i Reinforcement Learning.

Denna förklaring av vad Q* hypotetiskt skulle kunna vara tycker jag är en av de bättre som jag har läst åtminstone.
Citera
2024-01-17, 22:33
  #128
Medlem
knarkadamuss avatar
Är säker på att detta bara är ännu ett utspel av OpenAI där de hävdar vara nära AGI. Med andra ord skitsnack. Tror det när jag ser det, har än så länge varit oimponerad av stora språkmodellers förmågor jämfört vad som hävdats av t.ex. OpenAI innan de släppts till allmänheten.
Citera
2024-08-08, 05:57
  #129
Medlem
Nu kommer nya rykten att Q* / Strawberry (GPT 5?) är på väg att släppas. Senast i en tweet från Sam Altman.
https://mashable.com/article/sam-alt...openai-ai-tool
Matthew Berman vlog https://youtu.be/jV8kyGsLsOU?feature=shared
https://www.reuters.com/technology/a...ry-2024-07-12/

Intressant är om senaste avhoppen från Open AI har något med detta att göra? Var de som hoppade av nu rädda för vilken respons det kommer att få?

Till min stora förvåning dök GPT-5 upp i min GPT-app för Mac när jag klickade på Google sökeresultat för GPT-5 så jag frågade:
edit: det verkar vara en sk. GPT som utvecklats av "communitykonstruktör" så det är inte den riktiga
__________________
Senast redigerad av fabbe2 2024-08-08 kl. 06:38.
Citera
2024-08-09, 19:59
  #130
Medlem
Ytterligare en video från Mathew Berman där han förklarar mer vad Q* / Strawberry verkar vara (se också länken i beskrivningen till videon).
https://youtu.be/3ifszZw6qG4?feature=shared
Citera
2024-08-09, 22:55
  #131
Medlem
BeneathTheSurfaces avatar
Och vem i fan bryr sig om hype termer som Strawberry, Q* osv? Det är naturligtvis inget annat än just marknadsföring OpenAI är vare sig de bästa eller de främsta inom språkmodeller, de råkar bara varit först.

GPT-4o som är den senaste och mest avancerade modell de har tillhör idag en av de sämre av de kommersiella och den står dessutom slätt mot open source modeller som Llama 3.1.
Citera

Skapa ett konto eller logga in för att kommentera

Du måste vara medlem för att kunna kommentera

Skapa ett konto

Det är enkelt att registrera ett nytt konto

Bli medlem

Logga in

Har du redan ett konto? Logga in här

Logga in