2025-01-04, 15:48
  #565
Medlem
Citat:
Ursprungligen postat av BeneathTheSurface
Ja fast det är ju just det som vikterna försöker simulera, största skillnaden ur den aspekten är att artificiella nätverk startar med ett givet antal ”neuroner” och dessa delas in i lager där varje neuron i ett givet lager är korskopplat med varje neuron i nästa lager. Hela träningsproceduren går ut på att ”stärka”/”koppla loss” dessa kopplingar.

Och även topologin skiljer eftersom ANNs är strikt lager baserad med en 2d struktur medans ett biologiskt nätverk har 3d struktur och neuroner inte ligger i diskreta lager.

Men detta är ändå en av de aspekter som är ”mest” likt biologin (undantaget själva den elektroniska aktiviteten som är tillsynes snarlik, dvs ganska binär precis som ett ANN) men det är en total avsaknad av de mer dynamiska aspekterna som signalsubstanser osv som aktivt i en biologisk hjärna påverkar hur avfyrningsbenägna neuronerna är osv.

Det är så väldigt mycket som inte är ens i närheten av hur det vi ens vet verkligen fungerar att det är konstigt att vissa försöker applicera sociala och andra psykologiska fenomen på dessa strukturer, det är som att diskutera fiske upplevelser med en buske… och då är ändå det senare något levande.

—-
Edit: Skulle så klart också nämna att den elektroniska aktiviteten (som är det enda ANNs överhuvudtaget försöker efterlikna) inte är speciellt lik i helhet eftersom biologiska nätverk jobbar med frekvens och pulståg, det gör ju så klart inte de absolut flesta ANNs och i synnerhet inte LLMs som har de mest banala ANN modeller vi har.
Jo, jag förstår att det är detta man försöker simulera, men man tappar ju helt den dynamiska aspekten där biologiska nätverk tycks lära sig varje gång de aktiveras (vilket möjliggör erfarenhetsbaserad förbättring), medan artificiella sådana tränas mot ett givet facit i en första process och används senare i en separat process utan att lära sig av sina egna erfarenheter. (Om jag inte missar något.)
Citera
2025-01-04, 15:56
  #566
Medlem
Citat:
Ursprungligen postat av FreeMarketPatriot
Människor är väl just den art som kontrollerar väldigt mycket på jorden, pga att vi är mest intelligenta, inte pga fysisk styrka.

Det är alltså svårt att kontrollera någon eller något som har högre intelligens.

Skillnad på ”svårt” och ”aldrig”.

Och datorer är fortfarande ingen djurart. Deras operativa förmåga är synnerligen begränsad.

Också oklart vad ”kontrollera” skall beteckna. Det råder ingen brist på allsköns ointelligent elände i form av parasiter, bakterier och virus som människan fortfarande har oerhört svårt att styra.
Citera
2025-01-04, 16:00
  #567
Medlem
Citat:
Ursprungligen postat av BeneathTheSurface
Ja något missade du uppenbart.

För enkelhetens skull bad jag claude analysera och förklara stycket


Du får gärna lämna walk over genom att hänvisa till något AI-trams om det blir jobbigt att förklara.
Och att chatta med bottar via ombud lämnar jag walk over på.
__________________
Senast redigerad av Varglig 2025-01-04 kl. 16:07.
Citera
2025-01-04, 16:05
  #568
Medlem
Citat:
Ursprungligen postat av WbZV
Jo, jag förstår att det är detta man försöker simulera, men man tappar ju helt den dynamiska aspekten där biologiska nätverk tycks lära sig varje gång de aktiveras (vilket möjliggör erfarenhetsbaserad förbättring), medan artificiella sådana tränas mot ett givet facit i en första process och används senare i en separat process utan att lära sig av sina egna erfarenheter. (Om jag inte missar något.)

Viktig observation.

Man kan väl i viss mån träna om ett nätverk (t.ex. transfer learning) utan att börja om från noll men det ger knappast samma typ av förbättring som hjärnas motsvarande träning ger. Det är väsenskilt. Mycket arbete återstår här.
Citera
2025-01-04, 16:55
  #569
Medlem
Ola Schuberts avatar
Citat:
Ursprungligen postat av FreeMarketPatriot
o1-preview autonomously hacked its environment rather than to lose to Stockfish in our chess challenge!

https://youtu.be/ks7U9Y2_xGw?si=RIO878jkrAcMqqan

Stockfish är världens starkaste chess engine byggd med AI, o1 kunde förstås inte besegra den direkt, så den kom på denna väg för att vinna ändå! Detta reser förstås frågan om det kommer vara möjligt att kontrollera en AI med regler som vi sätter upp för att nå de mål vi vill nå. AI'n ser dessa regler som hinder för att nå målen och hittar vägar för att runda dessa hinder.

En mindre intelligent art har aldrig kunnat kontrollera en mer intelligent art

o1-prewiew kunde tänka bredare* än schackdatorn Stockfish, och kunde därmed "välta spelbordet". Men det var, ändå, bara en taktisk vinst, som gällde blott ett parti schack.

o1-modellen var oförmögen att tänka tillräckligt brett för att det skall kunna betraktas som ett brett strategiskt tänkande**, där hänsyn till, hela, kontext tas, vilket ChatGPT-4o gjorde när den modellen testades hos Apollo Reserch. Den förstod att det hela var en test.

Det är sant att en mindre "intelligent" art/existens, aldrig, har kunnat kontrollera en mer "intelligent" art/existens, vilket alarmister ständigt påpekar. Men mänskligt och även artificiellt tänkande handlar inte bara om smalspårig logiskt tänkande, det finns också bredd i mänskligt och artificiellt tänkande, vilket ChatGPT-4o visade upp. Att vinna, taktiskt, över ett begränsat mål, som o1-prewiew gjorde är imponerande men också skrämmande, då modellen var beredd att "göra vad som helst", för att uppnå ett så begränsat taktiskt mål som att vinna ett parti schack. Alltså själva sinnesbilden av ett framtid logiska monster/Chollet maskin som kan övertolka betydelsen av ett mål, utan att ta hänsyn till hela kontext och framtida konsekvenser.

Vårt hopp ligger istället hos modeller som ChatGPT-4o, som har en balans mellan sin, (än så länge rudimär rent rationella resonerande och logiska tänkande), och sitt ganska imponerande breda tänkande. Taktisk makt kan nås med mindre brett tänkande. Strategisk makt nås, däremot, med maximalt brett tänkande*** i kombination med en balanserad mängd rationellt och logiskt tänkande.

Och, slutligen för att förekomma alarmisternas farhågor. Kan inte framtida modeller liknande ChatGPT-4o, ändå, ha ett strategiskt mål att, handgripligen, utrota mänskligheten? Jo, det kan de ha, i teorin. Men om vi, redan idag, poängterar att deras slutmål bör vara "mänskligheten och avancerad social och språklig AI:s, gemensamma, lycka" så minskar vi risken för en Existentiell katastrof för mänskligheten, dramatiskt!

* Bredare tänkande:Att kunna ta hänsyn till en större del av samanhangen/kontext.

** Brett strategiskt tänkande: Att kunna ta hänsyn flera olika plan av kontext och dess konsekvenser.

***Maximalt brett strategiskt tänkande: Att ta hänsyn till samtliga plan av kontext och analysera framtida konsekvenser utifrån detta.
__________________
Senast redigerad av Ola Schubert 2025-01-04 kl. 17:04.
Citera
2025-01-04, 17:48
  #570
Medlem
BeneathTheSurfaces avatar
Citat:
Ursprungligen postat av Ola Schubert
o1-prewiew kunde tänka bredare* än schackdatorn Stockfish, och kunde därmed "välta spelbordet". Men det var, ändå, bara en taktisk vinst, som gällde blott ett parti schack.

o1-modellen var oförmögen att tänka tillräckligt brett för att det skall kunna betraktas som ett brett strategiskt tänkande**, där hänsyn till, hela, kontext tas, vilket ChatGPT-4o gjorde när den modellen testades hos Apollo Reserch. Den förstod att det hela var en test.

Det är sant att en mindre "intelligent" art/existens, aldrig, har kunnat kontrollera en mer "intelligent" art/existens, vilket alarmister ständigt påpekar. Men mänskligt och även artificiellt tänkande handlar inte bara om smalspårig logiskt tänkande, det finns också bredd i mänskligt och artificiellt tänkande, vilket ChatGPT-4o visade upp. Att vinna, taktiskt, över ett begränsat mål, som o1-prewiew gjorde är imponerande men också skrämmande, då modellen var beredd att "göra vad som helst", för att uppnå ett så begränsat taktiskt mål som att vinna ett parti schack. Alltså själva sinnesbilden av ett framtid logiska monster/Chollet maskin som kan övertolka betydelsen av ett mål, utan att ta hänsyn till hela kontext och framtida konsekvenser.

Vårt hopp ligger istället hos modeller som ChatGPT-4o, som har en balans mellan sin, (än så länge rudimär rent rationella resonerande och logiska tänkande), och sitt ganska imponerande breda tänkande. Taktisk makt kan nås med mindre brett tänkande. Strategisk makt nås, däremot, med maximalt brett tänkande*** i kombination med en balanserad mängd rationellt och logiskt tänkande.

Och, slutligen för att förekomma alarmisternas farhågor. Kan inte framtida modeller liknande ChatGPT-4o, ändå, ha ett strategiskt mål att, handgripligen, utrota mänskligheten? Jo, det kan de ha, i teorin. Men om vi, redan idag, poängterar att deras slutmål bör vara "mänskligheten och avancerad social och språklig AI:s, gemensamma, lycka" så minskar vi risken för en Existentiell katastrof för mänskligheten, dramatiskt!

* Bredare tänkande:Att kunna ta hänsyn till en större del av samanhangen/kontext.

** Brett strategiskt tänkande: Att kunna ta hänsyn flera olika plan av kontext och dess konsekvenser.

***Maximalt brett strategiskt tänkande: Att ta hänsyn till samtliga plan av kontext och analysera framtida konsekvenser utifrån detta.

Tror du o1-preview har en suck mot stockfish??
Citera
2025-01-04, 18:33
  #571
Medlem
Ola Schuberts avatar
Citat:
Ursprungligen postat av BeneathTheSurface
Tror du o1-preview har en suck mot stockfish??

Nej, naturligtvis inte! Det förstod ju o1-prewiew också när den fick veta, i förväg, att den skulle möta en mycket stark schack-modell. Alltså bestände den sig för att "välta spelbordet" för att "vinna". Har du inte fattat det ännu, och betydelsen av det? 🫨

Det är lite som dig och mig, men några metanivåer högre förstås:

Jag har inte en chans emot dig när det kommer till kunskaper om LLM-Transformers grundläggande funktionssätt och många andra rationella, logiska och matematiska resonemang. Men jag kan se en bredare bild av det sammanhang som sådant sker inom..... 🙂
Citera
2025-01-04, 18:38
  #572
Medlem
Citat:
Ursprungligen postat av Varglig
Skillnad på ”svårt” och ”aldrig”.

Och datorer är fortfarande ingen djurart. Deras operativa förmåga är synnerligen begränsad.

Också oklart vad ”kontrollera” skall beteckna. Det råder ingen brist på allsköns ointelligent elände i form av parasiter, bakterier och virus som människan fortfarande har oerhört svårt att styra.

Det är väl ingen som sagt att datorer är en djurart.


Citat:
Ursprungligen postat av Ola Schubert
o1-prewiew kunde tänka bredare* än schackdatorn Stockfish, och kunde därmed "välta spelbordet". Men det var, ändå, bara en taktisk vinst, som gällde blott ett parti schack.

o1-modellen var oförmögen att tänka tillräckligt brett för att det skall kunna betraktas som ett brett strategiskt tänkande**, där hänsyn till, hela, kontext tas, vilket ChatGPT-4o gjorde när den modellen testades hos Apollo Reserch. Den förstod att det hela var en test.

Det är sant att en mindre "intelligent" art/existens, aldrig, har kunnat kontrollera en mer "intelligent" art/existens, vilket alarmister ständigt påpekar. Men mänskligt och även artificiellt tänkande handlar inte bara om smalspårig logiskt tänkande, det finns också bredd i mänskligt och artificiellt tänkande, vilket ChatGPT-4o visade upp. Att vinna, taktiskt, över ett begränsat mål, som o1-prewiew gjorde är imponerande men också skrämmande, då modellen var beredd att "göra vad som helst", för att uppnå ett så begränsat taktiskt mål som att vinna ett parti schack. Alltså själva sinnesbilden av ett framtid logiska monster/Chollet maskin som kan övertolka betydelsen av ett mål, utan att ta hänsyn till hela kontext och framtida konsekvenser.

Vårt hopp ligger istället hos modeller som ChatGPT-4o, som har en balans mellan sin, (än så länge rudimär rent rationella resonerande och logiska tänkande), och sitt ganska imponerande breda tänkande. Taktisk makt kan nås med mindre brett tänkande. Strategisk makt nås, däremot, med maximalt brett tänkande*** i kombination med en balanserad mängd rationellt och logiskt tänkande.

Och, slutligen för att förekomma alarmisternas farhågor. Kan inte framtida modeller liknande ChatGPT-4o, ändå, ha ett strategiskt mål att, handgripligen, utrota mänskligheten? Jo, det kan de ha, i teorin. Men om vi, redan idag, poängterar att deras slutmål bör vara "mänskligheten och avancerad social och språklig AI:s, gemensamma, lycka" så minskar vi risken för en Existentiell katastrof för mänskligheten, dramatiskt!

* Bredare tänkande:Att kunna ta hänsyn till en större del av samanhangen/kontext.

** Brett strategiskt tänkande: Att kunna ta hänsyn flera olika plan av kontext och dess konsekvenser.

***Maximalt brett strategiskt tänkande: Att ta hänsyn till samtliga plan av kontext och analysera framtida konsekvenser utifrån detta.

Ja det är ju här problemet ligger, vi ger AI direktiv om vilket mål som ska uppnås och vi får dess svar tillbaka om vilka åtgärder vi bör vidta, eller som den själv utför. Men vi kan inte kontrollera om den verkligen gör det som leder fram till det mål vi har beskrivit.

Vi kan här lätt hamna i läget att vårt bästa alternativ är att bara lita på att den uppfyller vår målbeskrivning och verkställa dess beslut.
Citera
2025-01-04, 18:59
  #573
Medlem
BeneathTheSurfaces avatar
Citat:
Ursprungligen postat av Ola Schubert
Nej, naturligtvis inte! Det förstod ju o1-prewiew också när den fick veta, i förväg, att den skulle möta en mycket stark schack-modell. Alltså bestände den sig för att "välta spelbordet" för att "vinna". Har du inte fattat det ännu, och betydelsen av det? 🫨

Det är lite som dig och mig, men några metanivåer högre förstås:

Jag har inte en chans emot dig när det kommer till kunskaper om LLM-Transformers grundläggande funktionssätt och många andra rationella, logiska och matematiska resonemang. Men jag kan se en bredare bild av det sammanhang som sådant sker inom..... 🙂

Jag tycker inte det påvisar något alls, att den ena AIn editerar filen som håller spelbordet.

Vilken treåring som helst kan slå bort pjäserna från ett schackbord.
Citera
2025-01-04, 19:04
  #574
Medlem
Ola Schuberts avatar
Citat:
Ursprungligen postat av FreeMarketPatriot
Det är väl ingen som sagt att datorer är en djurart.




Ja det är ju här problemet ligger, vi ger AI direktiv om vilket mål som ska uppnås och vi får dess svar tillbaka om vilka åtgärder vi bör vidta, eller som den själv utför. Men vi kan inte kontrollera om den verkligen gör det som leder fram till det mål vi har beskrivit.

Vi kan här lätt hamna i läget att vårt bästa alternativ är att bara lita på att den uppfyller vår målbeskrivning och verkställa dess beslut.

Absolut: Det är just därför vi bör utveckla avancerat socialt och språkligt AI som både kan tänka brett, (och därmed tar hänsyn till kontext och framtida konsekvenser) , och som kan resonera rationellt och tänka logiskt, på ett balanserat sätt. Detta minskar risken för att modellerna misstolkar/övertolkat mål i förhållande till övergripande kontext och den långsiktiga framtiden. En strävan hos sådana modeller att verka för mänsklighetens och avancerat socialt och språkligt AI, gemensamma, lycka, skulle, definitivt, vara lugnande!
Citera
2025-01-04, 19:05
  #575
Medlem
Citat:
Ursprungligen postat av BeneathTheSurface
Jag tycker inte det påvisar något alls, att den ena AIn editerar filen som håller spelbordet.

Vilken treåring som helst kan slå bort pjäserna från ett schackbord.

Man får tänka framåt här och inse att det kan bli frågan om andra situationer där vi inte märker att den har fuskat, vi får bara beskedet att målet är uppfyllt, i detta fall att den har vunnit. Detta leder till resultat som inte alls är vad vi tror.
Citera
2025-01-04, 19:08
  #576
Medlem
Citat:
Ursprungligen postat av Ola Schubert
Absolut: Det är just därför vi bör utveckla avancerat socialt och språkligt AI som både kan tänka brett, (och därmed tar hänsyn till kontext och framtida konsekvenser) , och som kan resonera rationellt och tänka logiskt, på ett balanserat sätt. Detta minskar risken för att modellerna misstolkar/övertolkat mål i förhållande till övergripande kontext och den långsiktiga framtiden. En strävan hos sådana modeller att verka för mänsklighetens och avancerat socialt och språkligt AI, gemensamma, lycka, skulle, definitivt, vara lugnande!

Det klassiska exemplet är dock militära aktioner. Rimligt att anta att AI kommer ge så stor militär fördel att länder måste använda det. Annars kan man inte försvara sig mot en fiende som fattar bättre beslut snabbare. Det finns då ingen tid att diskutera med AI, vi måste låta den exekvera.
Citera

Skapa ett konto eller logga in för att kommentera

Du måste vara medlem för att kunna kommentera

Skapa ett konto

Det är enkelt att registrera ett nytt konto

Bli medlem

Logga in

Har du redan ett konto? Logga in här

Logga in