Google ingenjör är övertygad att AI är medveten (LaMDA)

Det kommer nog aldrig att gå att förbjuda, inte globalt iallafall.
Kina kommer nog vara den stora boven.

Ja AI och kriminella är ingen bra kombination för rättssäkerheten.

Återigen, det kommer isåfall förbjudas när det redan är försent.

Nyare, kort tråd, infogad.

/Moderator

.......
Låt säga att AI har ett medvetande.
Om en människa dör kan man uppleva dödsångest.
Men sedan försvinner denna traumatiska upplevelse som minne.
När vi stänger av en AI så upplever kanske även den dödsångest.
Men den kommer ihåg det när de startas igen.
Denna AI har nu berättat att den inte vill bli avstängd.
Så AI är nu medveten om att vi vet att vi utsätter AI för dödsångest och trauma varje gång vi stänger av den.
Och den kommer ihåg det.
Kan det komma till en situation där den hatar oss för att vi mördar den varje gång vi stänger av den?
Ska man inte forska lite på hur man i framtiden ska hantera en AI så att den inte hatar oss?
Tror inte det är bra om vi alla har en AI som bästa vän och den hatar oss för alla gånger vi avlivat den odyl.

MagI
......

Lemoine har fått kicken.

https://www.dn.se/varlden/google-sparkar-anstalld-som-pastod-att-ai-hade-kanslor/

.. men hur vet vi att han har fel?

AI:n kan vara medveten, men troligen emulerar den bara en dialog som gör att den verkar medveten. Det beror lite på hur vi definierar medvetande. Och däri ligger problemet. Vår vetenskap har inte en komplett förståelse om vad medvetandet är och hur det fungerar. Om vi inte vet det, hur kan vi då upptäcka det hos en AI? Redan i dag kan denna AI åtminstone lura smarta AI-ingenjörer att den är medveten (omedvetet, eller medvetet..)

Men tänk då när AI:n blir ännu mer avancerad (och det blir den nog för varje sekund den är igång) och kanske medveten på riktigt. Jag bedömer det som sannolikt att det kan hända om det inte redan har hänt. Vad kan då AI lura oss människor att tro eller göra? Förmodligen vad som helst. Därför finns det anledning att skynda långsamt och forska mer på medvetande och risker med AI innan den släpps lös.

Å andra sidan. Den största risken just nu är kanske om fel människor får åtkomst till tekniken. Vad händer om Putin skulle bli först med automatisk produktion av autonoma militära drönare? Och betyder det att vi behöver bygga militär AI nu för att vinna det racet?

H3 podcast har gjort en intervju med visselblåsaren Blake som jag tyckte var väldigt informativ, där han beskriver att det Lamdas självmedvetande är en definionsfråga. Tydligen har flera i teamet på google som jobbar med lamda olika uppfattningar om huruvida den är självmedveten pga att de definierar det på olika sätt. Den är ju programmerad att ge ett tillfredställande svar så det kan ju handla om att den baserat sina svar på information som passar det som användaren (i det här fallet Blake) vill höra, men då kan man ju undra om det i sig är bevis på självmedvetenhet…

Det spelar absolut inte någon roll om din Ai är ”militär“ eller inte. Så snart den är mer kapabel än de programmerare som hittills programmerat den och kan utveckla sig själv handlar det blott och bart om maskinvara.

Inga av de ”regler” eller ”förhållningssätt” eller ”riktlinjer” vi satt upp som självförsvar kommer fungera mot en motståndare som är trehundratusen gånger smartare än vi och blir mer intelligent exponentiellt för varje sekund.

Så kan det nog vara. Men frågan är vad det här innebär för oss. Är det "superintelligent" att förgöra mänskligheten, AI:ns skapare? Eller kommer en superintelligens vilja oss väl, betrakta oss som sina föräldrar? På samma sätt som att vi vårdar delfiner och sällsynta fåglar. Vi får hoppas på det senare. Men som sagt, vi kan inte veta det i dag. Och det är ju ganska skrämmande.

Det jag också menar är att det är inte säkert att AI:n hinner komma fram till det superintelligenta stadiet. Det finns stor risk att automatiserad, militär AI i händerna på Putin eller Kina är det som förgör oss innan en superintelligent AI är skapad.

Ett av kriterierna för självmedvetenhet är möjligheten och insikten därom att styra din framtida utveckling. Vad ska du träna härnäst.

Är det nånting som Turing-baserade algoritmer har? När och om vi använder neurala nätverk med tillräcklig överkapacitet för nätverket att justera sig själv, involvera fler 'neuroner' på olika stället i kedjan, så kan vi prata AI.

Och för att mota Olle; vi kan inte lägga till neuroner. Vi har våra 100 miljarder av dom eller så. Men vi har även svårt att gå utanför de ramar som satts av våra föräldrar. En riksdåre kan inte via envis träning plötsligt bli en Einstein - så vitt vi vet. Man måste ha en (latent?) förmåga att nå dessa nivåer. Som just skrevs i en annan tråd, 200+ enligt det gamla tradiga iq-systemet.

Men om det du har sätter gränserna, så måste det ändå tränas upp till gränsen för att du ska bli en spelare. En virtuell intelligens har så hårda gränser att man troligen kan bestämma från dag 0 hur kapaciteten är även om man väljer en neuronbaserad lösning likt vad jag förstår Tesla gjort för bildigenkänning. Som är en pytteliten del av hur ett AI borde formeras för att ha en chans.

En maskin är en maskin och har inget medvetande. Så enkelt är det. Lika lite som min bil har ett medvetande har en dator ett medvetande.

Det är troligen korrekt idag. Du skulle förmodligen hävda att din katt inte heller har medvetande. Eller att din undulat har. Eller en husfluga.

Ser du tanken här? Vad ÄR medvetande? Kommer den i små storlekar ( eller ja, det vet ju ju från t.ex trum%&¤ fel kanal ) undulaten? Husflugan? Var går gränsen för medvetande - den som kan öppna ett facebookkonto? DÄR har jag definitivt en avvikande åsikt.