Citat:
Men du hittar ju på egna argument nu.
Det pennrose säger (och som jag håller med om helt) är att det som kallas artificiell intelligens är felaktigt namngett för det handlar inte om intelligens alls, hans perspektiv är att intelligens är något som kräver ett medvetande och att vara medveten om vad det nu är man behandlar. Han tror medvetandet är en konsekvens av en okänd fysikalisk egenskap och han brukar dra tillståndsreduktion som exempel, för det är en del av kvantfysiken som vi inte förstår alls fortfarande idag trots över 100 års forskning på området.
Det är också grunden till att han och stuart hameroff skrev detta där de spekulerar i om medvetandet kan uppstå genom kvantumeffekter i mikrotubuli i hjärnan. Det finns inga belägg för att detta existerar eller pågår och det är synnerligen svår testat, men det är ett "briljantsätt" att dra in tillståndsreduktion som en hypotes i sammanhanget.
Jag håller däremot helt med om att det som kallas AI idag har inget med intelligens att göra, det är en blackbox karikatyr av vad man tror en hjärna gör, att den förutspår händelser. Och det är inte så konstigt för det är den skenbara effekten av att lära sig saker, men det är här det blir knepigt för det enda sätt vi kommit på sedan hundratals år att förutspå framtiden är statistik, problemet är att statistik ackumulerar och framhäver trender men inte detaljförståelse för något, det har aldrig gjort det.
Den AI vi har idag (alltså neurala nätverk) är som att jämföra med keyboards med samplingar, det kan låta som en trumpet när du trycker på tangenten men det finns inget som fungerar som ett trumpet inuti kretsen, eller säg ett piano, på ett riktigt piano om anslår två tangenter på ett riktigt piano med dämparen nedtryckt så får du sympatisk resonans där andra strängar börjar svänga, samplingar missar helt detta, precis som det inte kan fånga läpp eller lufttrycks dynamiken på en trumpet.
Det du kan göra är så klart att spela in mer och mer samplingar för att försöka täcka varje tänkbart scenario men även om du så skulle spela in miljarder samplingar så kommer det aldrig bete sig som på riktigt, även om det låter så för ett otränat öra.
Och deep learning är inte helt olikt detta egentligen... det är just därför AI kan verkar så "intelligent" när du frågar det något ena sekunden, nästa är det totalt pantat och missförstår/misstolkar varenda formulering, "drar slutsatser" som inte alls överrensstämmer med vad som skrivs osv. Det är skenbar intelligens eller som Roger Pennrose sagt "artificial cleverness".
Men samtidigt för att vända på hela premissen, pratar man musik instrument så blir det genast mycket mer realistiskt och i många fall extremt trovärdigt om man matematiskt modellerar (även om inte heller det är exakt så är det en approximation på en finare nivå) individuella komponenter, tex strängarna i pianot, resonanslådan, anslag osv, samma sak med blåsinstrument som trumpet. Det är fortfarande inte byggt som ett piano eller en trumpet på något sätt, det fungerar inte lika alls men slutresultatet är väldigt nära om inte i stort sett omöjligt att särskilja.
Det finns absolut ingenting som inte säger att exakt samma fenomen skulle kunna vara sant i en eventuell framtida AI arkitektur, det finns som sagt massvis med experiment på sådant redan som SNN osv där man gör just detta, man försöker modellera hjärnans observerade processer mycket nära vad man förstått av dom...
Men det stora problemet är att tex SNNs är långt tyngre än vad traditionell ML/DL är och det andra är att vi har fortfarande inte förstått hur mekaniken bakom lärandet faktiskt fungerar, SNNs är ökända för de är svåra att träna och därför blir resultatet inte övertygande även om det är en modell som är mycket närmare vår faktiska biologi.
Att säga att "riktig intelligens" går inte emulera är extremt kortsiktigt, det finns så mycket i historien vi trodde vi aldrig skulle kunna göra som vi hittat på sätt att göra, vi kan testa flygplan och allt möjligt utan att ens byggt en enda komponent fysiskt med liknande del simulering, vi simulerar inte ens atomnivå på något av detta utan det blir tillräckligt verkligt för att fungera i praktiken ändå.
Det pennrose säger (och som jag håller med om helt) är att det som kallas artificiell intelligens är felaktigt namngett för det handlar inte om intelligens alls, hans perspektiv är att intelligens är något som kräver ett medvetande och att vara medveten om vad det nu är man behandlar. Han tror medvetandet är en konsekvens av en okänd fysikalisk egenskap och han brukar dra tillståndsreduktion som exempel, för det är en del av kvantfysiken som vi inte förstår alls fortfarande idag trots över 100 års forskning på området.
Det är också grunden till att han och stuart hameroff skrev detta där de spekulerar i om medvetandet kan uppstå genom kvantumeffekter i mikrotubuli i hjärnan. Det finns inga belägg för att detta existerar eller pågår och det är synnerligen svår testat, men det är ett "briljantsätt" att dra in tillståndsreduktion som en hypotes i sammanhanget.
Jag håller däremot helt med om att det som kallas AI idag har inget med intelligens att göra, det är en blackbox karikatyr av vad man tror en hjärna gör, att den förutspår händelser. Och det är inte så konstigt för det är den skenbara effekten av att lära sig saker, men det är här det blir knepigt för det enda sätt vi kommit på sedan hundratals år att förutspå framtiden är statistik, problemet är att statistik ackumulerar och framhäver trender men inte detaljförståelse för något, det har aldrig gjort det.
Den AI vi har idag (alltså neurala nätverk) är som att jämföra med keyboards med samplingar, det kan låta som en trumpet när du trycker på tangenten men det finns inget som fungerar som ett trumpet inuti kretsen, eller säg ett piano, på ett riktigt piano om anslår två tangenter på ett riktigt piano med dämparen nedtryckt så får du sympatisk resonans där andra strängar börjar svänga, samplingar missar helt detta, precis som det inte kan fånga läpp eller lufttrycks dynamiken på en trumpet.
Det du kan göra är så klart att spela in mer och mer samplingar för att försöka täcka varje tänkbart scenario men även om du så skulle spela in miljarder samplingar så kommer det aldrig bete sig som på riktigt, även om det låter så för ett otränat öra.
Och deep learning är inte helt olikt detta egentligen... det är just därför AI kan verkar så "intelligent" när du frågar det något ena sekunden, nästa är det totalt pantat och missförstår/misstolkar varenda formulering, "drar slutsatser" som inte alls överrensstämmer med vad som skrivs osv. Det är skenbar intelligens eller som Roger Pennrose sagt "artificial cleverness".
Men samtidigt för att vända på hela premissen, pratar man musik instrument så blir det genast mycket mer realistiskt och i många fall extremt trovärdigt om man matematiskt modellerar (även om inte heller det är exakt så är det en approximation på en finare nivå) individuella komponenter, tex strängarna i pianot, resonanslådan, anslag osv, samma sak med blåsinstrument som trumpet. Det är fortfarande inte byggt som ett piano eller en trumpet på något sätt, det fungerar inte lika alls men slutresultatet är väldigt nära om inte i stort sett omöjligt att särskilja.
Det finns absolut ingenting som inte säger att exakt samma fenomen skulle kunna vara sant i en eventuell framtida AI arkitektur, det finns som sagt massvis med experiment på sådant redan som SNN osv där man gör just detta, man försöker modellera hjärnans observerade processer mycket nära vad man förstått av dom...
Men det stora problemet är att tex SNNs är långt tyngre än vad traditionell ML/DL är och det andra är att vi har fortfarande inte förstått hur mekaniken bakom lärandet faktiskt fungerar, SNNs är ökända för de är svåra att träna och därför blir resultatet inte övertygande även om det är en modell som är mycket närmare vår faktiska biologi.
Att säga att "riktig intelligens" går inte emulera är extremt kortsiktigt, det finns så mycket i historien vi trodde vi aldrig skulle kunna göra som vi hittat på sätt att göra, vi kan testa flygplan och allt möjligt utan att ens byggt en enda komponent fysiskt med liknande del simulering, vi simulerar inte ens atomnivå på något av detta utan det blir tillräckligt verkligt för att fungera i praktiken ändå.
Fast han har rätt här kompis.
En enskild vattenmolekyl är inte "våt".
Men sätter du ihop miljarder molekyler får du vatten som är vått, kan flyta och bilda vågor.
Våtheten är en emergent egenskap
Om du försöker simulera en biologisk varelse med ren fysik, simulerar du bara miljarder atomer som krockar.
Men fysiken ser inte syftet och får "cpryck"
Så du kan ej simulera något som är emergent.
__________________
Senast redigerad av Hastmotsoffgrupp 2026-09-16 kl. 00:00.
Senast redigerad av Hastmotsoffgrupp 2026-09-16 kl. 00:00.
![DAGGER[X]s avatar](https://static.flashback.org/img/avatar/3/12696.jpg)
