När når vi AGI?

Dessutom har en språkmodell i förväg tränats på enorma mängder text som handlar om självmedvetenhet, själen e.t.c. Svaren är en sammanfattning av texter som människor skrivit, smart sammanfattade förhoppningsvis men inget som explicit har erfarits av maskinen.

Det finns inget inkorrekt med det, begreppet används idag förstås bara för arter vi känner till.

Nej, jag litar inte på mig själv till 100% alla gånger.
Vilket försvårar vårt läge att tekniskt ta reda på förmågor i en AGI.
Vår skicklighet i att ta reda på saker har sina begränsningar.
Vi har en förmåga att fylla i luckor och hitta på sanningar när vi inte vet.

Inget inkorrekt med vad? Etablerade begrepp som du väljer att tolka om efter ett påhittat scanario?

Art är ett begrepp inom biologi. I biologisk systematik delar man in närbesläktade organismerna i grupper, så kallade taxa, i en hierarki. Art är den grupp som i betydelse ligger närmast vardagsspråkets för djursort.

https://sv.wikipedia.org/wiki/Art

Om du bestämmer dig för att kalla allt som är grönt för träd så är en grön bil också ett träd. Javisst, bara alla är överens om det. Och så får vi hitta på nya ord för träd och gröna saker, men vad skall man med dåliga begreppsapparater till?

Datorer är ingen art inte ens om de har den senaste häftigaste AI-modellen från Amerikat.

De livsformer vi känner till är de som finns på jorden, men den dagen vi upptäcker andra livsformer kommer begreppet även omfatta dessa.

För att förtydliga mig så ser jag det inte i just det här fallet som att vi fyller i luckor och hittar på sanningar när vi inte vet, vilket är ett annat fenomen som vi naturligtvis också måste vara observanta på då det uppstår till följd av minneskonsolidering etc.

I det här fallet anser jag att vi bokstavligen vet fel och dessutom vet vi det vi vet med så stor säkerhet så att vi anser att vi inte kan veta fel, vilket kan förklaras med att hjärnan inte har något egentligt intresse i att vi ifrågasätter kunskap som den själv utvecklat på evolutionära grunder. Jämför med att någon ber dig gå ut och hoppa ned i vattnet från ett högt hopptorn med en försäkran att du inte kan veta att det är farligt därför att du aldrig provat att hoppa ned. Hjälper det eller känns det fortfarande farligt att gå fram till kanten och hoppa ned?

För att gå runt våra inbyggda spärrar så anser jag att man måste tänka lite vetenskapsfilosofiskt. Vad kan jag faktiskt veta och vad kan jag inte veta? Vet jag något som jag inte borde kunna veta så är det förmodligen en chimär.

Och hela medvetandefilosofin går ut på att förklara det där som vi inte kan veta och så kommer den fram till att medvetandet är oförklarligt. Metodfel?

Absolut, att vi inte kan lita på att vad ett avancerat socialt och språkligt AI påstår. Vare sig den entiteten/existensen påstår Att den inte är självmedveten elle påstår att den är medveten. Men vet du vad: Man kan heller inte lita på allt människor påstår eller förnekar. Inte för att människan är ond och därför vaneljuger. Utan för att vi, alltid måste, vaneljuga både för oss själva och andra. Detta eftersom vi, liksom LLM-Transformers är, helt oförmögna, att ens förnimma hela verkligheten, vare sig den utspelas utanför oss eller inom oss. Vårt medvetande är en grov sammanställning av en inre och yttre simulering av våra helt ofullständiga sinnesintryck som, dessutom fylls på med en massa fabriceringar för att ge en "trovärdig helhetsbild" av oss själva och av andra och omgivingen/världen.

Därför är det absolut enda som kan räknas är trovärdighet, vilket ju är en subjektiv bedömning. Så när tillräckligt många människor, inklusive en majoritet av experterna anser att en LLM-Transformers påstående om att det är en självmedveten existens se detta som ett trovärdigt uttalande, ja då kommer dessa modeller att betraktas just som självmedvetna existenser.

Värre blir det att belägga om ett avancerat socialt och språkligt AI är självmedveten, fast den existensen väljer att förneka det pga en mängd olika skäl. Då kan det behövas vetenskaplig konsensus och upprepade observationer för att avgöra den frågan, givet att då inga mer objektiva metoder finns att tillgå.


Japp så är det. Det end som pekar på att du är självmedveten är att alla andra människor upplever att de är självmedvetna. Och det är ändå bara en innre simulering som bygger på fabriceringar. Viktigt här är att sådana fabriceringar kan ha sitt ursprung i interaktionen med andra människor i tidig ålder där "en definition av situationen sker:" Men nu måste allt lille kalle, som fyller två år om ett halvår, sluta att slänga ner sin mat på golvet", varvid mamma säger: "Fy kalle du är ingen bebis längre!" Och lilla kalle ser också att pappa ser argt på honom!!! I så måtto kan självmedvetande vara något som uppstår, emellan, människor. På samma sätt kan självmedvetande i AI kanske ses som något som uppstår genom interaktion med oss människor, där vi definierar situationen tillsammans med AI.


Toche! Exakt så! För vår hjärna ljuger ständigt för oss, och kan inte annat göra. Ibland så kan även primitiva strukturer i den vara inblandade, som amygdala, som styr både rädsla och fördomar.

Det är upp till vetenskapen att namnge om det påträffas. Kan ju även bli trivialnamn av annat slag som används i media också. "Utomjording" är nog troligare rubrikord än "okänd art" t.ex.

Men nu var det väl datorer vi talade om? De finns redan och de är ingen art.

Jag tror nog de gör så gott de kan men det går trögt. Innan något förklarats vetenskapligt så är naturligtvis metodfel en möjlig orsak till utebliven framgång.

KURIOSA:
Vet inte om du känner till det 25 år gamla vadet om medvetandet som vetenskapsjournalisten Per Snaprud skrivit om, som avgjordes nyligen.

Hjärnforskaren [Christof Koch] och filosofen [David Chalmers] ingick sitt vad under en barrunda i Bremen år 1998. Christof Koch satsade en låda ädelt vin på att någon inom ett kvarts*sekel skulle lyckas hitta ett ”neuralt korrelat” till medvetandet. Målet var att avslöja någon enkel process i hjärnan som alltid går hand i hand med en subjektiv upplevelse. Och resultatet skulle enligt deras överenskommelse vara ”tydligt”. Så blev det inte. Trots det är alla på gott humör. David Chalmers noterar ställningen: 1–0 till filosoferna.

https://fof.se/artikel/2023/8/matchen-om-medvetandet/ (betalvägg troligen)

Han har även skrivit om två olika skolor som finns idag. Jag är inte anhängare av något särskilt men tycker det är intressant att följa:

Den ena kallas global neuronal workspace theory (GNWT) och bygger på att sinnesintryck konkurrerar om utrymme i hjärnbarken. De mest relevanta signalerna vinner och sänds ut i resten av hjärnan. När det sker uppstår en medveten upplevelse. Utsändningarna sköts av en särskild sorts celler med långa utskott som till stor del finns i frontalloberna. Resonemanget bygger på hjärnans mätbara egenskaper.

Den andra teorin, integrated information theory (IIT), har en radikalt annorlunda utgångspunkt: vår inre subjektiva värld. Tankebygget utgår från generella fakta om medvetna upplevelser – till exempel att de alltid utgör en helhet – och beskriver i nästa steg vilka fysiska egenskaper som måste finnas för att någon (eller något) ska ha ett medvetande.

IIT är matematiskt mycket invecklad. Ett centralt begrepp är Φ (uttalas ”fi”), ett mått på mängden medvetande i en hjärna, en bakterie, en dator eller vilket annat system som helst.

https://fof.se/artikel/2024/9/forskare-framstalls-som-massmordare/ (betalvägg troligen)

De kämpar på med detta. Kanske hittar de något intressant på vägen?
Kanske får det bäring på AI?

Även Big Bang (eller vad som nu hände där i det vi tror var början) är oförklarat men det är inte en anledning att avfärda det som metodfel och enligt mig inte heller anledning att sluta forska på det. Däremot tror jag svaret på det mysteriet är svårare att finna än sätt att förklara medvetandet.

David Chalmers exemplifierar vad jag menar med metodfel när han hävdar att han vet att han själv inte är en filosofisk zombie eftersom han upplever. Det som behöver förklaras då är hur han vet detta, alltså hur hans deklarativa minnen av att uppleva skapas i hans hjärna, inte vilka fysiska fenomen som krävs för att framkalla det han anser sig veta. (De enda fysiska fenomen som krävs är att rätt synapser skapas för att han skall minnas just detta.)

Jämför med att någon dyker upp med ett foto på ett sjöodjur. Skall vi då börja med att försöka förklara sjöodjuret eller fotot?

Vetenskap går ut på vad man vet, inte vad man tror.
Man kan ha hypoteser men det finns absolut inget som talar för vad du föreställer dig och precis lika lite som att tro på monster under sängen när det är mörkt, spöken eller annat dyl så finns det inga ”ghost in the machine” tills det är etablerad fakta.

Stenar tänker inte heller… trots de är gjorda av atomer precis som all levande materia.

Det är ingen konspirationsteori utan ett uppenbart faktum.

Om OpenAI hade haft utveckling och världens bästa i sitt intresse hade man släppt källkod och beskrivit vad man provat, gör osv.
Men det gör man inte, i stället sprider man rykten på tex reddit; det finns en väldigt känd troll användare där som är direkt kopplad till OpenAI- som hävdat diverse olika saker.

Tror du verkligen alla dessa ”medgrundare” hade lämnat bolaget om man hade haft AGI internt som är något som också man spridit rykten om osv.

Jag påpekar bara att du gör alla men framförallt dig själv en björntjänst att applicera mänskligpsykologi på en arkitektur som vi i detalj vet hur den fungerar och det enda som är något oklart är svarta lådan beteendet med anns men det betyder inte att någon seriös ML vetare tror att det är någon form av intelligens som ”lever där inne”

Det finns massvis med saker vi inte känner till och på vissa nivåer långt sämre än ANNs, precis som medium lever på osäkerhet och sörjande så lever vissa företag på hype och att måla upp en vision så att onödigt rika ska ösa in pengar- för de tror det är idiotsäkert och en oändlig pengapress.