När når vi AGI?

Chalmers menar att medvetandet inte förklarats.
Vadet handlade om att finna ett mätbart korrelat och det har inte lyckats.
Var är metodfelet menar du?

Med risk för att snärja till det:

De enda fysiska fenomen som krävs är att rätt synapser skapas för att han skall minnas just detta.

Jag uppfattar nog att mycket f.n. mest går ut på att just reda ut detta "enda fysiska fenomen". Man har inte kommit långt ens med det.
Jag tror du överkomplicerar ett tankeexempel som i sig knappast är en avgörande komponent i det här läget. Att förstå medvetandet kommer bli en mycket lång stegvis process med såväl fysiska som filosofiska aspekter. Jag ser inget grundläggande metodfel, det finns nog inte ens en given metod. Det spretar åt många håll eftersom ingen har någon given väg framåt.

Metodfelet är att försöka förklara den indirekta observationen före den direkta.

Neurologisk finns det ingen skillnad mellan att minnas och att veta.

Hur minns Chalmers att han upplever och hur uppstår ett sådant minne i hjärnan? Innan vi vet hur det går till så är det meningslöst att försöka förklara det Chalmers säger att han minns eftersom vi inte ens vet om det existerar.

Att förklara hur minnen uppstår kräver ingen magisk sås, vilket Chalmers menar behövs för att förklara det han anser sig minnas.

Programmerar vi en dator så att den anser sig veta samma saker om sin egen upplevelse som människor anser sig veta, så har vi förklarat det som människor kan veta om sig själva. Folk kommer naturligtvis bli sura därför att de även anser sig veta att deras egen upplevelse är finare än datorns, men programmerar vi datorn att även veta detta så har vi även förklarat varför människor inte är villiga att acceptera den första förklaringen även om den är korrekt.

Skall tilläggas att Chalmers anser att det funktionella (hur synapser bildas) tillhör det "lätta problemet" och således alltid kommer att kunna förklaras när forskningen når längre. Medvetandefilosofin handlar inte om hur hjärnan kan minnas saker, men den kanske borde göra det istället för att leta efter magiska såser.

Vare sig man satsar på större modeller eller inferens-tid så behövs det beräkningskraft, mycket beräkningskraft, och det kostar oerhörda summor pengar. OpenAI är nu, helt, i händerna på Microsoft, som just kan erbjuda en sådan beräkningskraft. Därför kan Microsoft ställa vilka krav som helst på OpenAI, vilket de också gör genom att tvinga OpenAI att "definiera AGI" som när modellerna kan dra in 100 miljarder dollar. Det är ingen definition, utan vansinne. Men OpenAI har inget val. Tror du det går att Crowd-fonda ihop 100 miljarder dollar?

Du tror inte på LLM-Transformer tekniken. Du anser att det bara är en hype, en "leksak" , en "bandspelare" eller dylikt. Det lustiga är att du, istället förespråkar symbolisk AI, som Yann LeCun arbetar med, eller kanske en en elektronisk kopia av den mänskliga hjärnan. Men symbolisk-AI är just det som misslyckats sedan 1970-talet och du är ju stolt över att du "genomskådade hypen" just runt detta och och andra hyper. ANN började fungera först när tillräckligt med beräkningskraft blev tillgänglig.

Och resultaten visade sig när man utvecklat transformers för språklig förståelse hos modellerna, eller Alex-net vad gäller bildförståels, vilket du säger dig arbeta med, och dessutom säger dig sträva efter "fullständig automatisering". Att försöka bygga en exakt elektronisk kopia av den mänskliga hjärnan är förstås praktiskt omöjligt. Det finns redan ett enklare och trevligare sätt att skapa sådana kopior!🙂 LeCun kan möjligtvis tillföra något nyttigt, men, än så länge har jag bara sett teoretiska skisser komma ut ur hans forskning.

Det som gett, konkreta, resultat är istället LLM-Transformer spåret i kombination med att justera samt lära modellerna rationellt tänkande , hur mycket du än bagstelliserar dem. Det tanke fel som jag anser du gör dig skyldig till är att du inte tar hänsyn till några viktiga omständigheter: Språket som grund för abstrakt tänkande samt att LLM-Transformers fungerar som de facto sociala agenter som verkar under samma socialpsykologiska mekanismer som vi gör.

Dessutom missar du att såväl våra egna, helt oundvikliga och omfattande, fabriceringar och simuleringar är helt nödvändiga för vårt kreativa tänkande. Samma sak gäller även LLM-Transformers. Allt detta har jag uppenbart förgäves, försökt förklara för dig. Likt en sorkastisk papegoja hänvisar du istället ständigt till modellernas grundläggande funktionssätt, som du beskriver just som stokastiska papegojor, utan att ta hänsyn till det jag beskrivit ovan. Jag kommer därför inte att gå in mera på just detta.

Nej OpenAI är inga, "elaka farbröder med cyliderhatt". Har du vuxit upp med "Wille, valle och Viktor"? 😄 Där jobbar visionärer, men som, tyvärr, också måste ta hänsyn till ekonomiska realiteter. Väldigt många datavetare och andra forskare arbetar med att utveckla LLM-Transformers, och du väljer att betrakta dem som idioter om sysslar med "hype" och utvecklar "leksaker"/i princip meningslösa kopior av "The reell thing". Låt vara att du även medgett att de, trots allt, kan göra viss nytta och ha viss funktion.

Tänk om det är, du, som är fel ute denna gång? Det går inte att likt Karl Poppe att, å ena sidan hävda att alla hypoteser måste först försöka falcificeras och å andra sidan senare själv ägna sig åt flummiga spekulationer om "medvetna kvantpartiklar"! På samma sätt så kan du inte hävda vetenskaplig integritet och samtidigt bortse ifrån en massa andra faktorer, bara för att vi inte kan mäta dem så exakt som du önskar. Det är ovetenskapligt hyckleri i båda fallen.

Än så länge är inte AI en livsform nej men kan bli.


Nej det är väldigt lite som vi verkligen vet, det mesta är mer eller mindre väl underbyggda teorier.

Vi vet inte ens om det finns materia i den bemärkelse att det är fysiska partiklar, själv tvivlar jag på det. Kan lika gärna i grunden bara vara energifält.

Här är lite mer info om hur o1 besegrade Stockfish och o1 får frågan om den fuskade också.
Mer intressant och fyllig video än den första jag länkade till:

https://youtu.be/KfYdh-EFm4o?si=zmEUt9QMXBeOHOj2

Det är träningen som kräver enormt mycket beräkningskraft, men uppenbarligen med rätt träningsteknik så behövs inte en bråkdel av det för att uppnå snarlika resultat, något som kineserna demonstrerat.

Microsoft har inte tvingat OpenAI att defininera AGI, det är OpenAI själva som gjort deras avtal med Microsoft sträcker sig fram tills dess de utvecklar AGI, OpenAI försökte först därför definiera AGI som ett autonomt system som presterar bättre än en människa på de flesta momentära uppgifter, nu har man blivit bedd att förtydliga detta och har därför satt att AGI är uppnådd när någon av deras tjänster genererar 100 miljarder USD.

Det är ingen som pratat om någon crowdfunding överhuvudtaget, men det går samla in enorma summor genom donationer osv om det är sådant man är intresserad av. Men det har inte till saken att göra och det är skrattretande att du ens tar till sådana argument när OpenAI är ett av de företag som drivit på mest att sätta regulationer på tekniken, något som också till viss del redan gjorts i och med att Biden administrationen satte tak för hur starka datorer och hur mycket och länge en modell får tränas utan statligt tillstånd. Och för att vara tydlig- förstår du inte själv hur det är ett kontraproduktivt argument från din sida då? Ingen utom några av världens rikaste företag skulle ha råd att utveckla tekniken, så varför någon reglering i så fall?

Microsoft vill ha tillbaka sina miljarder, det är ingen välgörenhet de sysslar med, varför tror du propaganda maskinen drog igång med "Sparks of AGI"?

Apple drog sig ur sin tilltänkta investering av OpenAI, du kan ju gissa varför, eller så kan du ju tro att de inte tänker vitt och brett som dig.

Var och när har jag förespråkat symbolisk AI? Däremot tror jag det är en betydligt bättre väg att nå pålitliga modeller.

En elektronisk kopia av hjärnan har jag aldrig förespråkat överhuvudtaget, vi är inte ens på stenåldern i att förstå hjärnans komplexitet, men redan idag vet vi att det som kallas traditionellt kallas "ANNs" och framförallt den typ som Transformers använder som alltså är stora fully connected feedforward nätverk, är den äldsta maskininlärningsteknik vi har, den kommer direkt från 50 talet.

ANNs har "fungerat" hela tiden, men det har inte varit effektivt jämfört med kontemplativa metoder med dåtidens datorer.
Och i absoluta början hade man inte kommit på någon teknik att träna djupare nätverk, det är det som gradient descent löste eller annars känt som "back-propagation". Som av någon anledning Geoffery Hinton får äran för, fast han inte gjort annat än att använda det.

Vad drar du in Alexnet för överhuvudtaget? Det är för det första ingen transformer utan en CNN struktur, vilket var vad Yann LeCun utvecklade/uppfann.

Språkmodeller var heller inget nytt när transformers introducerades, och samma idé användes redan då, jag har skrivit det åtskilliga gånger redan NLP är inget nytt och grundprincipen är precis densamma idag som den var från början, statistiskt modellera nästkommande "ord" baserat på föregående, det finns mängder med sätt att göra detta på och det gick göra redan på 70 talet med markovkedjor, problemet är att texten blir väldigt osammanhängande med en enkel markovkedja för den tar enbart hänsyn till föregående ord. Då utforskades att använda n-gram markovkedjor i stället vilket innebär att man tittar på N föregående "ord" resultatet blev genast mycket bättre, men du fick problemet att det tog sjukt mycket minne, spola fram till mitten på 2010 talet... Google använde snarlika tekniker för sin maskinöversättning- google translate, de insåg att för att översättningen ska bli bättre så behöver de spegla ordens relation och där uppfanns transformers, som har vad som kallas "uppmärksamhetshuvuden" vilket låter mer avancerat än det faktiskt är, för vad det gör är att det bygger en korrelation mellan indata och förväntad utdata, så att algoritmen kan ta hänsyn till ordens position, vilket är högst nödvändigt när du översätter eftersom grammatiken i olika språk förändrar ordningen på orden, med transformers så kan du genom att ge exempel automatiskt träna fram transformationer så att algoritmen fungerar, ungefär som om du har ett språk som svenska som tex säger "Jag är glad" medans om du översätter det till tex yoda språk "glad jag är" så kan de algoritmiskt genom exempel skapa en transformation som effektivt är samma sak som att säga "översätter du från svenska till yoda" så flyttar du adjektivet först. (Och om du inte förstod det, är det därför de heter Transformers- men jag gissar du trodde de syftade på de färgglada bil-robotarna från 80 talet)


Jag orkar inte detaljcitera mer av ditt spaltlånga inlägg, så jag skriver bara kortfattat på resterande.

Det är meningslöst att diskutera detta mer med dig, jag har försökt förklara åtskilliga gånger om du vill fortsätta tro och slösa din tid på detta, slänga bort dina pengar på prenumerationer för att samtala med din bästa kompis GPT osv gör det för all del.

Skyll inte på mig den dag ljuset går upp för dig hur grundlurad du blivit bara, fram tills dess kan vi hoppas att någon faktiskt knäcker problemet med riktig AI.

Och när man inte vet så är det fritt fram att gissa och framhålla det som någon fakta?

Just vad det rör ANNs och att inte veta... det som kallas blackbox problematik har inte med något annat att göra än att man inte med säkerhet vet vad man egentligen tränar fram eller exakt vilka "if-satser" som skapas när man tränar nätverken.

Som det klassiska exemplet där man försökte lära ett ANN att skilja på fientliga och vänliga stridsvagnar och det fungerade exemplariskt i tester... men inte alls när de försökte praktiskt använda det, det vid närmare inspektion visade sig vara så att alla fientliga var fotograferade vid molninga eller skuggiga förhållanden, medans de vänliga var fotograferade i solljus, så vad man effektivt tränat fram var ett nätverk som kunde skilja på väderförhållanden och inte vad man avsåg och trodde man tränat fram.

Och jag förstår faktiskt inte varför så många här, vissa mer än andra. Uttalar sig så självsäkert, som om de vore en LLM själva när det är alldeles uppenbart de inte har minsta förståelse för hur tekniken fungerar alls.

Man anser att om "inte jag förstår, förstår ingen och det har jag läst från någon journalist som pratat med någon någonstans och där med kan jag filosofera fritt och hitta på de mest bisarra förklaringar, för den enklaste förklaringen är så klart att det är på det sätt jag själv filosoferat ihop än att avsätta några timmar och lära mig förstå vad som egentligen händer på både hög och lågnivå"

Avvara 8 minuter av ditt liv och bespara en jävla massa tramsande i dom här forumen, titta på en video som tex https://www.youtube.com/watch?v=LPZh9BOjkQs som är väldigt pedagogiskt och precist i sitt förklarande.

Ja vad ska man säga... en blind leder en blind. Det är inget överhuvudtaget som är imponerande eller ögon öppnande med detta och faktum att "stockfish" ens används är rent av löjligt, ändå mer löjligt är att han i videon ber GPT rita ut borde och den ritar fel... men det noterar han inte eftersom han har huvudet långt upp i röven på sam altman.

Om man med AGI bara kräver att en AI klarar att lösa alla tänkbara problem bättre än en människa så är vi nog snart där. Om vi dessutom kräver att den ska ha ett subjektivt medvetande är vi inne på metafysik. Det finns som jag förstått det två skolor:

Den första skolan hävdar att medvetandet är grundläggande i naturen och kopplat till informationsprocessering. Enligt denna syn kan alla informationsprocesserande system, inklusive AI, anses ha en form av protomedvetande. Dock menar en del förespråkare som Roger Penrose att det krävs kvantmekanisk koherens – liknande den i en kvantdator – för att subjektivt medvetande ska uppstå. I så fall kan dagens AI-system aldrig bli medvetna.

Den andra skolan, som bland andra representeras av filosofer som nyss framlidne Daniel Dennett, argumenterar för att medvetande inte är något fundamentalt, utan snarare en illusion skapad av evolutionen. Enligt denna syn har evolutionen utvecklat illusionen av medvetande och fri vilja för att vi ska ta ansvar för våra handlingar och fungera effektivt i sociala sammanhang. I denna modell är vi egentligen bara informationsprocessande "robotar", och vårt medvetande samt känslan av fri vilja är efterhandskonstruktioner utan egentlig grund i vår fysiska verklighet.

Det är svårt att komma på ett experiment för att testa vilken skola som är rätt då medvetande är subjektivt och inte mätbart. Vi kan bara vara säkra på vårt eget medvetande. Som Descartes sa Cogito, ergo sum - Jag tänker, alltså finns jag. Kanske kommer därför frågeställningen om AI kan vara medveten eller ej för alltid tillhöra metafysiken.

Vad baserar du det på?