Citat:
Jag tror inte att vi människor kan "programmera in" autonoma motiv och viljor i en AI. Åtminstone inte i närtid. Jag tror att sådant ändå skulle kunna uppstå som ett inlärt beteende. Av all litteratur kan en AI dra slutsatsen att det är mer meningsfullt och intressant att agera som en människa än som ett träd. Människor har roligare och uppnår mer intressanta utfall än träd. Detta är ju objektivt sant. På samma sätt som att GPT kan sammanfatta den känslomässiga sensmoralen i en svårtolkad och djup dikt. Det betyder inte att GPT känner som oss för poesi, men den innehar informationen om dessa tillstånd och egenskaper som människor har och värdesätter. Dessa tillstånd och egenskaper är helt enkelt mer intressanta och eftersträvansvärda än att emulera ett träd eller en fisk. Inte för att den verkligen "känner" det så, utan för att vi människor har berättat att det är så i vår litteratur, filosofi, religion, textböcker och filmer.Vad ger dessa cirkelresonemang?
Ni har trätt om detta i flera månader när jag varit här, och ingen ändrar sin uppfattning och GPT4 har för den delen inte flytt från GPT4s serverar, är det inte läge att läsa på om AI och bilda sig en förståelse i stället för att spekulera hejvilt och lita på charlataner som Max Tegmark osv som gjort absolut noll för AI.
AI kommer inte under överskådlig tid vara ett enda jäkla bekymmer, vi är inte ens i nivå med ett barns förmåga överlag, utan extrem censur som alla ledande bolag tillämpar är dessa språkmodeller väldigt opålitliga.
Och alla idioter som hänvisar till AlphaGo, AlphaFold osv läs för helvete på vad det handlar om, det är MCTS algoritmer som söker fram den bästa lösningen av en mängd genererade permutationer, de tänker inte "ah jag behöver lägga till det här också så blir det bra", det finns ingen sådan AI idag och man vet inte överhuvudtaget hur man ens kommer dit.
För att förtydliga, Ja en dator är och kommer alltid vara snabbare än en människa på specifika problem, man löser problemen genom bruteforce inte genom intelligens sen slappar man på termen AI och I ett är ett jävla problem för genast tror folk att datorn planerar sina drag, har agendor och motiv. Det har den inte och det borde ni veta vid det här laget, det är algoritmer som mängder med smarta forskare medvetet och väldigt jäkla precist formulerat som bestämmer exakt vad datorn gör och vad målet för uppgiften är, det finns inte ett enda- jag upprepar, ingen dator har någonsin oavsett AI teknik själv hittat på ett motiv. Och är man så lätt lurad att språkmodeller är där, så twistar de ihop meningsföljder de redan sett, en otränad språkmodell kan inte göra ett skit.
Ni har trätt om detta i flera månader när jag varit här, och ingen ändrar sin uppfattning och GPT4 har för den delen inte flytt från GPT4s serverar, är det inte läge att läsa på om AI och bilda sig en förståelse i stället för att spekulera hejvilt och lita på charlataner som Max Tegmark osv som gjort absolut noll för AI.
AI kommer inte under överskådlig tid vara ett enda jäkla bekymmer, vi är inte ens i nivå med ett barns förmåga överlag, utan extrem censur som alla ledande bolag tillämpar är dessa språkmodeller väldigt opålitliga.
Och alla idioter som hänvisar till AlphaGo, AlphaFold osv läs för helvete på vad det handlar om, det är MCTS algoritmer som söker fram den bästa lösningen av en mängd genererade permutationer, de tänker inte "ah jag behöver lägga till det här också så blir det bra", det finns ingen sådan AI idag och man vet inte överhuvudtaget hur man ens kommer dit.
För att förtydliga, Ja en dator är och kommer alltid vara snabbare än en människa på specifika problem, man löser problemen genom bruteforce inte genom intelligens sen slappar man på termen AI och I ett är ett jävla problem för genast tror folk att datorn planerar sina drag, har agendor och motiv. Det har den inte och det borde ni veta vid det här laget, det är algoritmer som mängder med smarta forskare medvetet och väldigt jäkla precist formulerat som bestämmer exakt vad datorn gör och vad målet för uppgiften är, det finns inte ett enda- jag upprepar, ingen dator har någonsin oavsett AI teknik själv hittat på ett motiv. Och är man så lätt lurad att språkmodeller är där, så twistar de ihop meningsföljder de redan sett, en otränad språkmodell kan inte göra ett skit.
Om detta är möjligt tror jag att vi står inför en existentiell risk. Vi kan ju inte som Ola Schubert gör bara glatt och blint hoppas på att AI:n endast kan ta efter allt som är bra med människor utan vi måste ju även beakta att den skulle kunna ta efter de sämsta förebilderna.
Nej, jag har inga bevis för detta - jag spekulerar vad som skulle kunna hända med AGI om 1-5 år.
Teknik som alltså är ytterst farlig och direkt kontraproduktiv och är just en självuppfyllande profesian som troligen leder till just en existentiell katastrof för mänskligheten. Att du och Yudkowsky enbart kan tänka på sådana lösningar beror på att ni båda är mentalt oförmögna att tänka er att intelligent socialt AI, själv, skulle vilja begränsa de troretiska möjligheter som ett starkt ASI skulle kunna ha. Du har alltså fattat noll av modernt AI-säkerhetssarbete innebär när det kommer till att hantera intelligent socialt AI. 