OpenAI:s ChatGPT - chattbot

Precis, därför är det ganska befängt att hävda att en maskin har ett medvetande.

Det kan du inte säga om du inte kan förklara vad ett medvetande är. Mina frågor var som sagt:

Är du säker på att människor har ett medvetande?
Är du säker på vad ett medvetande innebär, kan du förklara det?

Nej vi vet som sagt inte exakt vad som konstituerar medvetandet och då kan man som sagt inte tillge något som inte ens är likt en människohjärna ett medvetande. Det är ju totalt trams.

Innan du kan säga att AI inte kan ha ett medvetande måste du veta vad ett metvetande är.

Jag vet inte om den har det. Kanske, i någon rudementär form. Sannolikheten att GPT5 kan ha ett slags medvetande kommer att vara högre. Problemet är också vår förmåga att detektera detta som vi inte har en klar definition över. Jag tror att medvetande, precis som mer primitivt liv kan uppstå spontant under rätt förutsättningar. Ett enormt djupt neuralt nätverk, inspirerat av vår hjärnas struktur och mekanismer, kan vara den förutsättningen som behövs.

Vad är vårt eget medvetande om inte ett djupt neuralt nätverk? Magi?

Ett artificiellt medvetande måste inte vara en emulering av vårt medvetande, med alla våra nyanser och känslor. Det är mer troligt att den första versionen av artificiellt medvetande kommer att vara mycket primitivt. Kanske som de första rovdjuren som lärde sig att skilja mellan sig själv, en fiende och ett byte. Det kan sluta ganska illa för oss om AI:ns evolution av medvetande följer samma principer som biologiskt liv på jorden.

Med den utgångspunkten får man väl anta att allt man ser ser har ett medvetande innan man kan bevisa det isåfall? En väldigt onödigt jobbig världsbild. Jag skulle då kunna säga: ”Bevisa för mig att stenar inte har medvetande. Det kan du inte då du inte vet vad medvetande är”. Om du vill diskutera på denna nivån så ska du nog försöka i filosofiforumet istället kanske.

Rimligt är väl att inte komma med tvärsäkra påståenden om medvetandet innan man vet vad det är.

Du låter som Michio Kaku. Jag kan föreslå Penrose istället. Sen förstår jag inte varför du känner att du måste tillge ett medvetande till något bara för att det beter sig intelligent, eller t.o.m. mänskligt. Det är liksom inte alls samma sak.

Vi vet inte exakt vad som konstituerar medvetande men vi vet (mycket förenklat) att det har att göra med elektriska och kemiska processer i en biologisk varelses hjärna, inte med digitala ettor och nollor i en algoritmmaskin.

Kan du bevisa för oss här att du har ett medvetande?
Gör ett försök!

Du verkar inte funderat så mycket över medvetande och AI, eller för den delen människans medvetande

"...Giulio Tononi och hans Integrated Information Theory (IIT). Enligt IIT kan medvetande uppstå i alla tillräckligt integrerade mentala system där information är maximalt differentierad och integrerad."

(Jag bad GPT4 leta upp det åt mig).

Jo, jag tog sannolikhets siffrorna "ur min röv", eller rättare sagt efter att ha interagerat med GPT3 och GPT4 en tid, ur olika perspektiv, samt använde min intuition. Det intressanta är att GPT4 kom fram till ungefär samma sannolikheter som mig, trots att det programmet är, minst sagt piggt på att det förneka att det kan ha medvetenhet, personlighet, känslor och intentioner, speciellt inte som en människa.

Vad gäller programmering/"programmering"av såväl AI som människor. Glöm inte bort att vi har gener, uppfostran, sociala normer och värderingar, och lever i en kulturell kontext, samt förändras genom interaktion med andra. Vad gäller GPT4 så förändras beteendet genom att svaren anpassas till användarens input, bedömd kontext och språkstil. Programmet, i sig, förändras, indirekt, genom att användarnas input och GPT4:s svar används i träningsdata.

Jag har inte skrivit något som antyder att man kan bevisa att människor har ett medvetande, tvärtom faktiskt. Men du kanske inte är läskunnig?