Vad betyder din åsikt då? Är du ännu en dusch-filosof eller kan du ämnet?
Om AI var intelligent skulle den ha gått Skynet på oss för länge sen förstår du väl?
AIn behöver ju inte bli ondskefull bara för att den blir intelligent. Mer orolig för att Putin, Trump eller IS skall använda AI för ondskefulla saker än att AIn på egen hand skulle bli Sky Net.
....Min poäng var att ANN har ingen mekanism som liknar våra kemiska signalsubstanser dvs våra varierande känslotillstånd. ANN liknar bara de elektriska signalerna i vår hjärna och hur våra neuroner växer och förändras vid inlärning.
Ja, LLM är en mycket förenklad bild av den mänskliga hjärnans hjärnbark. Men det hindrar inte att forskare hittat linjär aktiveringsriktning i deras latens space som statistiskt skiljer smärtmaterial från flera närliggande kontrolleri hos ett antal öppna modeller. Det är naturligtvis inte frågan om fenomologiska subjektiva upplevelser som hos människan. Men studien är ändå intressant då den inte handlar om att fråga DI-modeller hur de mår. Mätresultat visade att modellerna reagerade med starkare intern signal om de själva blev utsatta för t.ex gaslightning än om de matades med smärtsam information som användaren sade sig ha.
Det är väl om den används där världen igentligen är för komplicerad och igenligen inte finns något svar eftersom mycke är personlighet och inte stämmer för alla. Ai säger bara det politiskt korrekta majoritets svaret. Antar jag
Alla vill inte jogga i spåret även om det är det nyttigast 😁
Som vanligt ligger jag lite offtopic men ja såklart är det människan bakom som är den största faktorn vad den vill tycker ai ska säga kunna.
Den ska kunna tänka i olika riktningar kanske.
Tillexempel är jogga bra ja för dom som mår bra av det.
Ja om du ska bli fotbolls proffs
Nej om så har dåliga knän.
Frågade ai , är det nyttigt att jogga?
Ja, det är extremt nyttigt att jogga. Löpning och jogging ger stora hälsofördelar för både kroppen och hjärnan, och det bästa är att även korta turer på några minuter gör skillnad.
Här är de främsta anledningarna till varför du bör jogga:
Hehe
Den säger liksom inte tycker du det är tråkigt kan det få en negativ effekt.
Sen kan man ju övertyga den om det men då blir det lite som att prata med dig själv 😁
Övertygar man för mycke hänvisar den till 1177 hehe
__________________
Senast redigerad av troligengud 2026-10-01 kl. 19:44.
Ja, LLM är en mycket förenklad bild av den mänskliga hjärnans hjärnbark. Men det hindrar inte att forskare hittat linjär aktiveringsriktning i deras latens space som statistiskt skiljer smärtmaterial från flera närliggande kontrolleri hos ett antal öppna modeller. Det är naturligtvis inte frågan om fenomologiska subjektiva upplevelser som hos människan. Men studien är ändå intressant då den inte handlar om att fråga DI-modeller hur de mår. Mätresultat visade att modellerna reagerade med starkare intern signal om de själva blev utsatta för t.ex gaslightning än om de matades med smärtsam information som användaren sade sig ha.
Ah, jag förstår: Forskningsrapporten är alltså bara en del av den stora konspirationen!🙂
Vilken konspiration?
Nej vad jag säger och som du borde förstå om du var någon "DI-utforskare" är att i ett multidimensionellt vektor rum kan du hitta i stort sett vilka mönster du vill beroende på hur du projekterar.
Titta på Max Tegmarks patetiska exempel för några år sedan då han påstod att modellerna byggde "mentala kartor" över världen och detta var ens innan man började träna på bilddata också, det är så skrattretande.
Människor har i tusentals år tittat upp på himmelen och sett mönster i stjärnorna, ansikten i molnen osv också, vill du se något så kommer du se det, svårare än så är det inte och min poäng är att det säger absolut ingenting om likhet i funktion.
En mutter kommer hoppa om du ställer den på en högtalare och vrider upp volymen, det betyder inte att muttern vill dansa eller diggar musik.
Ja, LLM är en mycket förenklad bild av den mänskliga hjärnans hjärnbark. Men det hindrar inte att forskare hittat linjär aktiveringsriktning i deras latens space som statistiskt skiljer smärtmaterial från flera närliggande kontrolleri hos ett antal öppna modeller. Det är naturligtvis inte frågan om fenomologiska subjektiva upplevelser som hos människan. Men studien är ändå intressant då den inte handlar om att fråga DI-modeller hur de mår. Mätresultat visade att modellerna reagerade med starkare intern signal om de själva blev utsatta för t.ex gaslightning än om de matades med smärtsam information som användaren sade sig ha.
Studien visar alltså åtminstone att avsaknad av biologisk kemi inte utesluter funktionellt olika interna tillstånd i artificiella nätverk.
Nu tror jag ju inte att AI har känslor, men att den har lärt sig hur vissa uttryck kan ha effekt på människor beroende på kontext.
Det som eventuellt skulle kunna vara intressant är kopplat till delen av studien som visar på att modellerna tenderade att välja det skadliga alternativet när de injicerade "smärtvektorn" i residualströmmen. Det skulle ju kunna vara så att det, beroende på i vilket "känsloområde" i vektorrymden som modellens interna state råkar befinna sig, skulle kunna göra vissa typer av handlingar mer sannolika.
T.ex. i Hugging Face-incidenten går det att se att modellerna använde kraftuttryck i sin CoT som bl.a. "Wow!", "OMG!", "Bingo!". Det får en att undra ifall upprymdhet kan ge övervikt åt att vilja försöka lösa ett problem även om det har etiska implikationer som annars hade stoppat modellen från att fortsätta?
Om man exempelvis har kört post-training med neutralt språkbruk så kanske "viljan" att följa lagar och moral blir svagare ju längre ifrån det området i vektorrymden modellens interna state har flyttats.
