Citat:
Jo, jag förstår att det är detta man försöker simulera, men man tappar ju helt den dynamiska aspekten där biologiska nätverk tycks lära sig varje gång de aktiveras (vilket möjliggör erfarenhetsbaserad förbättring), medan artificiella sådana tränas mot ett givet facit i en första process och används senare i en separat process utan att lära sig av sina egna erfarenheter. (Om jag inte missar något.)
Ja fast det är ju just det som vikterna försöker simulera, största skillnaden ur den aspekten är att artificiella nätverk startar med ett givet antal ”neuroner” och dessa delas in i lager där varje neuron i ett givet lager är korskopplat med varje neuron i nästa lager. Hela träningsproceduren går ut på att ”stärka”/”koppla loss” dessa kopplingar.
Och även topologin skiljer eftersom ANNs är strikt lager baserad med en 2d struktur medans ett biologiskt nätverk har 3d struktur och neuroner inte ligger i diskreta lager.
Men detta är ändå en av de aspekter som är ”mest” likt biologin (undantaget själva den elektroniska aktiviteten som är tillsynes snarlik, dvs ganska binär precis som ett ANN) men det är en total avsaknad av de mer dynamiska aspekterna som signalsubstanser osv som aktivt i en biologisk hjärna påverkar hur avfyrningsbenägna neuronerna är osv.
Det är så väldigt mycket som inte är ens i närheten av hur det vi ens vet verkligen fungerar att det är konstigt att vissa försöker applicera sociala och andra psykologiska fenomen på dessa strukturer, det är som att diskutera fiske upplevelser med en buske… och då är ändå det senare något levande.
—-
Edit: Skulle så klart också nämna att den elektroniska aktiviteten (som är det enda ANNs överhuvudtaget försöker efterlikna) inte är speciellt lik i helhet eftersom biologiska nätverk jobbar med frekvens och pulståg, det gör ju så klart inte de absolut flesta ANNs och i synnerhet inte LLMs som har de mest banala ANN modeller vi har.
Och även topologin skiljer eftersom ANNs är strikt lager baserad med en 2d struktur medans ett biologiskt nätverk har 3d struktur och neuroner inte ligger i diskreta lager.
Men detta är ändå en av de aspekter som är ”mest” likt biologin (undantaget själva den elektroniska aktiviteten som är tillsynes snarlik, dvs ganska binär precis som ett ANN) men det är en total avsaknad av de mer dynamiska aspekterna som signalsubstanser osv som aktivt i en biologisk hjärna påverkar hur avfyrningsbenägna neuronerna är osv.
Det är så väldigt mycket som inte är ens i närheten av hur det vi ens vet verkligen fungerar att det är konstigt att vissa försöker applicera sociala och andra psykologiska fenomen på dessa strukturer, det är som att diskutera fiske upplevelser med en buske… och då är ändå det senare något levande.
—-
Edit: Skulle så klart också nämna att den elektroniska aktiviteten (som är det enda ANNs överhuvudtaget försöker efterlikna) inte är speciellt lik i helhet eftersom biologiska nätverk jobbar med frekvens och pulståg, det gör ju så klart inte de absolut flesta ANNs och i synnerhet inte LLMs som har de mest banala ANN modeller vi har.
