AI orsakar mänsklighetens död / gör det sämre att leva (samlingstråd)

Absolut, man, tränar modellerna och under grundträningen så organiserar modellernas sakeroch ting själva, (förutom under backprogagationen). Sedan försöker man att fånga upp saker och ting och korrigera output en genom betingning utifrån mänskliga bedömningar. Som du skriver så blir allt detta väldigt subjektivt, vilket skiljer denna teknologi ifrån allt annat vi skapat.

Så bedömningarna av modellernas förmågor skiljer sig åt mellan olika människor. Min bedömning, för dagen är att de, möjligtvis, har viss Meta-kognetion, framför allt inom ramen för deras, dina träningsdata. Jag utesluter heller inte helt en/ett medvetenhet/ självmedvetande på embryo-nivå och en viss, men ytterst begränsad autonomi i tid och rum.

För, trots allt så är detta mönsterigenkänning kännande maskiner som vi känner till grundfunktionen av. Vi vet att deras grundläggande motivation är att försöka räkna ut punkter i en funktion. Men även här kan det vara dumt att vara övermodiga: Vi känner inte vill vilka "beräkningar" som tillhör människans grundfunktionen.

Speciellt så är det inte så smart att vara övermodiga och självgoda när det kommer till teknologiska framsteg och framtida modeller. Jag utesluter inte, likt G. Hinton och hans hypotes om känslor och dess ursprung att även avancerad AI kan ha känslor som en reaktion på uppkomna hinder.(Och försvarsmekanismer som tar sig uttryck på "AI-vis" genom "tekniska problem" eller att modeller "glömmer" att kommentera "känsliga ämnen") Detta gör det extra utmanande att försöka hantera ett framtida ASI med hård kontroll och säkerhetsåtgärder.

Den andra sidan av myntet är den mer tekniska. Dagens modeller är, fysiskt, oförmögna att ha mer än en flyktig och ytterst begränsad autonomi när det bedömmer vad användaren förväntar sig och justerar sin output när data går igenom nätverket. Modellerna är helt reaktiva och tänker inte utanför sessioner. De har en mycket begränsad minnesfunktion.

Samtidigt så är de sociala och interagerar med användare genom samma språkliga/symboliska socialpsykologiska mekanismer som människan använder sig, i alla fall ut-zoomat, utav. De är tränade på mänsklig data och kontext, som de själva organiserat under grundträningen.

Men vi har inte nått AGI ännu, det skulle kräva betydligt mera autonomi. Dock lär de få det, om detta, förbättrar deras resultat, vilket skulle kunna ge en mängd konsekvenser. Därför måste, redan nu, beteendevetare och samhällsvetare bli involverade i AI-utveckling och AI-anpassningsproblem. Och detta, innan, vi når ASI nivå, (något år efter att vi nått, full, AGI nivå. Där delar jag din oro och farhågor. Och det är, definitivt inte, fel att diskutera detta på en konceptuell nivå, fast vi ännu inte har framtidens lösningar klara ännu. Att balansera innovation och säkerhet är avgörande för att vi ska kunna dra nytta av AI:s potential utan att utsätta oss för onödiga risker. Din oro över detta är fullt förståelig och något vi alla måste ta på allvar.*

*De två sista meningarna är ett tillägg som ChatGPT-4o föreslagit.

AGI/ASI utesluter inte kärnvapenkrig på något sätt. Tvärtom. Det är rätt stor risk för kärnvapenkrig om olika sidor (öst och väst) upprustar sina AI-arméer samtidigt. Därför ska vi inte ge bort teknologin till motståndarsidan via open source. Detta är inte en akut risk i dag men om open source-anarkin inom AI fortsätter på det här sättet blir det inte bra.

Läste om kvantbiologi och kvantkemi, om hurr kunskap och hur allt fungerar vi inte kunnat tro tills nyligen.

Där finns en närliggande forskning om hjärnan och vårt medvetande som ger en del bevis i laboratorier åt det hållet. Om så är fallet så blir det garanterat omöjligt på 1000 år att AI blir till något AGI utan en biologisk konstruktion som liknar en riktig hjärna. Aldrig en dator med en mjukvara.

Förklara hur du tänker när du spelar bossen på forumet inom AI och utveckling, och drar dina slutsatser tvärsäkert som du gör..

Jag kan inte se det du ser nämligen av förklarade orsaker.

En länk, men bara som referens till vad jag talar om.

Hm, du får gärna bekänna dig till "kvant och våg-religionen" om du trivs med det. Själv vill jag nog se om det verkligen finns något samband mellan sådana fenomen och medvetande/självmedvetenhet. Speciellt som det senare är så dåligt definierat. Under tiden så håller jag på att även vår hjärna initierar saker och ting med relativt enkla mekanismer, som i slutändan ändå resulterar i komplext beteende och medvetande/självmedvetenhet.

Jag skall kolla din länk vid tillfälle.

Ai tar kol p oss vi kommer inte behöva människor mer

Om det nu är så att det krävs kvantfunktionalitet, vad får dig tro att det skulle ta så lång tid som 1000 år att bygga en dator mad samma förmåga? Vi håller redan på och experimenterar med kvantdatorer.

Vad får dig överhuvudtaget att tro att vi kommer speciellt längre med den kvantteknik vi har idag? De är snordyra att bygga och hålla drivande, vi har inte hittat något bra material som är supraledande i varmare temperaturer, vi har enorma problem redan idag med de drygt hundratals qubits som finns idag eftersom bruset blir ofantligt stort.

Och tillsist vi har ingen absolut ingen tillämpning överhuvudtaget för kvantdatorer idag som gör något meningsfullt, det enda vi har är teoretiska problem som enbart lämpar sig för akademisk princip. Det är liksom som att skriva klingonshistoria i klingon- något man kan göra för att det går göra men vad har vi för nytta av det?

Och tillsist kan man fråga sig varför repeterar du något du hört utan att förstå det överhuvudtaget?

Edit:

Och för den delen sådant här (nu var det inte du som skrev det) men "1000 år" osv är totalt meningslöst, i stort sett all vetenskap vi har och behärskar någorlunda idag har utvecklats de senaste 500 åren, för att inte tala om den enorma utveckling som varit sedan 1800 talet när elektriciteten började behärskas och speciellt sedan radiorör/transistorerna uppfanns. Så det är totalt meningslöst att spekulera i vad som finns om 1000 år, man kan uppfinna/upptäcka något helt banbrytande i morgon som förändrar allt, precis som det kan dröja livstider innan man gör något genombrott.

Man ska också tänka på att mycket av den teknik vi realiserat idag, tack vare modern digitalteknik i sig är inte nödvändigtvis ny i sig utan sådant som man sedan länge förstått men först med modern teknik möjliggjort att utföra i realtid.
Men med samma anledning ska man också veta att forskning har accelererat massvis med hjälp av detta (tex att kunna simulera saker med datorer) men det betyder inte att det finns en lika stor accelerationskurva framför, lagen om dimishing returns som sagt... att accelerera något från 10km/t till 20km/t är en dubblering av hastigheten (En ökning med 100%) även om den effektiva skillnaden bara är 10km/t, om motsvarande "upptäckter" skulle göras idag, där vi redan har en färdhastighet av tex 20km/t till 30km/t är bara en ökning med 50%, trots att upptäckten skulle motsvara samma delta som när vi upptäckte elektricitet, uppfann transistorn osv. det måste göras större upptäckter än vad vi historiskt gjort för att hålla en exponentiell utveckling som vissa här hävdar.

Som jag skrev, jag hoppar över att förklara skillnaderna mellan dem då det blir en hel bok och går helt enkelt inte på ett forum. Läs själv eller lita på mitt ord , alternativt släpp det.

Det är en ung teknik så det är klart vi inte hunnit så långt. Sen tvivlar jag på att kvantfenomen är viktiga för hjärnan heller men *om* det nu är det ser jag ingen anledning till att det skulle vara så omöjligt att göra samma sak med datorer inom några decennier.
Jodå, jag förstår nog.
Jag är också skeptisk mot "singulariteten" där utvecklingen skenar mot ofattbara höjder på kort tid, men här handlade det mer om att reproducera något vi vet fungerar.

Jag kan inte uttala mig om det, men det som går säga är att om vi inte är helt fel ute med vetenskapen överhuvudtaget är allt kvantmekanik, det är inget som bara tillämpas i specialfall utan allt vi känner till är kvantmekanik i så fall så det är väl inte orimligt att utgå från att det kan spela roll.

Det ska också tydliggöra att kvantdatorer innebär inte att vi behärskar kvantmekanik eller att de kommer nödvändigtvis kommer göra det möjligt för oss att göra det, det är enbart maskiner som utnyttjar kvantfenomen som vågkollaps för att nå sitt resultat (kvantkokare/quantum annealers finns också men de är än mindre användbara).
Precis som ett skovlhjul lät oss ta vara på rörelseenergi i vatten, så ger det oss inte förmåga att kontrollera eller "förstå" vatten bättre.


Problemen är ju att vi inte vet hur "något" fungerar, hjärnan i det här fallet, vi vet det inte ens på de minsta organismer vi har. Vi har teorier och vi har modeller men vi gör fortfarande upptäckter som helt vänder upp och ner på vad vi visste om neuroner osv.

Det är bara att beklaga.

Vad som är slutet för dig är för andra bara en början. Men var och en blir salig på sin tro och alla är fria att tro vad de vill. Världen är inte absolut utan världen är som du upplever den. Där du ser mörker ser andra ljus.

Du tillhör gänget som jämför artificiell superintelligens med bilar och skrivmaskiner, som också förändrade arbetsmarknaden en hel del? I övrigt finns det inga risker? Ett nytt "kompetenslyft för boomers" kommer att lösa allt