AI orsakar mänsklighetens död / gör det sämre att leva (samlingstråd)

Ja och vi är kända för att dra vägar över varenda myrstack som finns när vi bygger vägar. "Utrota mänskligheten"

Men jag har förstått att du är oförmögen att hålla ett resonemang och jag har inget som helst intresse att överta en "diskussion" du haft med någon annan, jag kommenterade och gav argument på det inlägg du gjort du har inte kunnat bemöta det med annat än förskoleretorik, jag lämnar dig här med med dina hjärnspöken.

LLM är människolikt på många sätt, och det vet du. Därför kommer, mycket troligt, samma metoder som fungerar på människor också fungera på LLM. Och gör de det inte så har vi i alla fall provat.

Exakt, även om det kanske kan vara så att "Q*" eller "GPT-5" kan vara en GPT-4 Turbo, med öppna parametrar, förbättrad resonerande förmåga, betydligt bättre minnesfunktion och med ett rudimärt medvetande eller bättre samt med ännu större token fönster.

Jag välkomnar det här av den enkla anledningen att rättvisa kommer skipas för många människor.

Nu är inte total utrotning det enda problem som existerar med ASI, och det fokuseras för mycket på just det i min mening, men eftersom att du tar upp det så får man anta att du är helt omedveten om hur många arter mänskligheten verkligen har utrotat.

Du får nog komma med bättre argument än att det inte är något problem om denna ASI i bästa fall är totalt likgiltig inför vårt öde så som människan är likgiltig inför myrstackens öde när vägen ska byggas om du ska övertyga någon.

Återigen struntar du i att försvara dina ogrundade premisser. Det innebär att jag vinner. Men jag kan knycka ditt sista halmstrå också. Nej, det finns inget annat än din förhoppning om att en kommande AGI utvecklas så att den blir lik en genomsnittlig människa inkl sunda värderingar. Det finns inte ens någon teori om hur det skulle kunna gå till. I denna del har du tidigare hänvisat till ett youtubeklipp med Shapiro. Men han berättar inte heller om vägen dit, han beskriver bara en målbild.

Det här räcker inte som ett tillvägagångssätt för AI-säkerhet, eftersom inget tillvägagångssätt har presenterats.

Jag ska dra en parallell som du kanske kan begripa.

Om vi pratar om vanlig IT-säkerhet då räcker det inte att prata om målbilden: "Vi vill inte bli hackade eller infekterade av ett virus"! I stället pratar man om tillvägagångssätt och verktyg, t.ex långa lösenord, brandväggar och antivirusprogram. Vi behöver en liknande diskussion inom AI-säkerhet, dvs hur gör vi detta säkert? Men det tycker inte du? Du nöjer dig med målbilden, dvs din fantasi.

Hur stora framsteg nästa GPT gör, eller vad hela det här spektaklet med Q* och Altman egentligen innebar, återstår att se. Att vi så småningom skapar en AGI med större förmågor och intellekt än människan ter sig dock oundvikligt - om det sker redan nästa år eller om 10 år spelar inte så stor roll. Problemet är hur vi ser till att det görs på ett säkert sätt, och där räcker det inte med att säga att beteendevetenskap kommer lösa det utan att motivera varför. Det är rent önsketänkande.

Vi har tyvärr ingen aning om hur nära vi är, och det här är en diskussion som behöver tas innan vi når dit. Dagens språkmodeller räcker inte, men hur många nya genombrott krävs? Kanske sitter någon redan och filar på en finurlig idé som kommer förbi bristerna i dagens AI.

De är med andra ord bra på att imitera genomsnittlig FB skribent

Vill du ha en lista på djur och växter vi utrotat eller nästan utrotat? Sen är vi som biologiska varelser beroende av en någorlunda fungerande biosfär så vi har vissa gränser. När vi insåg att freoner höll på att förstöra ozonlagret såg vi till att begränsa användningen. En maskinbaserad AI har inte samma behov, hade den haft någon nytta av att släppa ut freoner skulle den inte nödvändigtvis sett någon anledning att sluta.

Hm, men du talar om data-tekniska lösningar, jag talar om sociologiska och psykologiska lösningar, plus förhandlingar med ett medelstark AGI. Exakt vilka sociologiska och psykologiska metoder som kan användas för att anpassa ett socialt och medvetet AGI kan jag, naturligtvis, inte uttala mig om. Det beror helt på situationen, hur forskarna och AGI väljer att definiera, den tillsammans, samt hur kababelt AGI vi talar om och hur det liknar respektive skiljer sig ifrån människan mentalt.

Jag vet att, du inte blir nöjd med detta, men det beror främst på att du inte vet ett piss om vare sig sociologi, socialpsykologi, psykologi eller om någon annan beteendevetenskaplig eller humanistisk disciplin. Så kan t. ex språkvetare också spela en viktig roll när det gäller att analysera modellens meningsrymd. Men det kommer att behövas insatser ifrån många forsknings discipliner, naturligtvis inklusive datavetare, fysiker och matematiker.

Det är enbart löjligt, hela den här argumentationen utgår ifrån att man skulle lansera en produkt som är helt otestad.
Det är naturligtvis inte så, kan du ge ett enda exempel på en AI produkt som nått marknaden utan att testas först? Sen är det självfallet så att det kommer vara buggar i mjukvara oavsett vad man sitter och kukilurar om i regelväg.
Det händer hela tiden från allt med styrning av flygplan (som det är en ofantligt rigorös testning på innan det används i praktiken)

Vad har djur som vi utrotat eller nästan utrotat med saken att göra? Till majoritet är det djur som antingen haft någon värdeful resurs eller förstört vår verksamhet.
Det finns också fall där djur försvunnit pga skogsskövling osv, detta har inget överhuvudtaget med denna diskussion att göra djur som varit spridda på samtliga kontinenter har vad jag känner till inte något fall av utrotning.
Och du kan ju vända på det hur många arter som lever och frodas enbart pga människansframfart.
Det är självklart att ingrepp i ett etablerat ekosystem ger ringar på vattnet, precis som AI skulle kunna lösa mängder med problem som vi står inför men ändå fokuserar man 100% på den minst sannolika faran för överskådlig framtid, jag tycker det är så fruktansvärt korkat att man blir förbannad.

Ett AGI kommer inte att vara Kognetiv överlägsen alla människor för då är det ett ASI. Att blanda in beteendevetare beror på att LLM är människolikt när det kommer till språk och många sociala och ev. Socialpsykologiska/psykologiska aspekter.

Studera också mina svar till "Cyborg2030", så slipper jag upprepa min analys/argument "en miljon gånger".

Nej, jag ifrågsätter alla er som tycker att AGI verkar ofarligt genom att kritisera er brist på AI-säkerhet. Jag kan inte säga hur AI-säkerheten ska fungera. Jag vet inte det, och det är därför jag frågar er som är obekymrade. Ni borde ju veta, tänkte jag.

En ansats som kan innehålla psykologi verkar inte alls otänkbart. Jag har aldrig sagt att det är ett feltänk. MEN - det räcker inte att säga det lilla och ganska självklara för att vi ska får en grundläggande nivå av AI-säkerhet.

Bra, då är vi framme vid vägs ände. Det finns ingen AI-säkerhet och ingen AI Alignment.
Jag ser också att AI-säkerhet ska vara tvärvetenskapligt. Du tillför ingenting genom att upprepa självklarheter i hundra inlägg.