Citat:
Du har bara nämnt att psykologer ska hjälpa till, vilket ju är en ren självklarhet om vi pratar om att analysera en personlighet. Vem skulle annars göra det, en elektriker? Du har inte nämnt någon metod eller teori om hur de rent praktiskt ska gå tillvåga för att skapa en snäll AI. Du klarar inte det eftersom det inte existerar en sådan teori och du har givetvis inte uppfunnit en heller. Men du har ett imponerande självförtroende, det får jag ge dig.
Jag har nämnt det socialpsykologiska perspektivet Symbolisk interaktionism. Tyvärr så valde jag att inte inrikta mig på det när jag läste sociologi. Men det handlar om småskalig social interaktion, t.ex "definition av situationen". Andra sociologiska perspektiv som "spegel jaget" som inte är en teori i sig utan en konsekvens av sociala mekanismer. Anna Freuds och hennes kartläggning av människans försvarsmekanismer. Rogers mer jämställda terapi. Klassisk och operat betingning. Ev. Transaktionsanalys som är ett, iof inte helt erkänt system som handlar om vad som händer när människor behandlar varandra som barn/vuxna/föräldrar. Diverse utvecklingspsykologisk teori och givetvis datavetenskap samt neurologiska mekanismer.
Mycket av detta kan inte bara användas för att analysera potentiellt medvetet/,medvetet socialt AI. Det kan även användas för att analysera mänsklig interaktion med AI. Då kan också bredare sociologiska/socialpsykologiska teorier och praktiker användss.
Men du kräver 100 procentig säkerhet, vilket är omöjligt för precis alltting. Och för att uppnå detta vill du slippa all generell AI, med vilka extrema metoder som helst. Bara du slipper genomgripande förändringar, för just det gör dig livrädd. Så det spelar ingen roll vad jag skriver: Du kommer aldrig att bli nöjd!
Citat:
Du menar göra en Steel man? Jo, det kan jag väl göra. Jag tror att det kan vara så att empati och att undvika konflikter är en naturlig konsekvens av hög intelligens. Därför tror jag att en AI med "IQ 1.000.000" inte borde vilja utrota människor. Vi är ju trots allt AI:ns föräldrar. Jag tror att din idé om känslomässig bindning eventuellt skulle kunna fungera och kanske uppstå spontant utan att vi behöver skapa en teknik för det. Men jag vet inte. Jag bara tror och hoppas på det. För mig räcker inte den förhoppningen som säkerhetslina. Jag kräver mycket starkare garantier än mitt hopp eftersom mänsklighetens överlevnad står på spel.
Ja, där kom du med några positiva argument. Vad gäller mänsklighetens överlevnad så kommer två, tre års träning av nya modeller inte att hota den. Jag har räknat på det och det krävs en betydligt snabbare utvecklingstakt av nya modeller med bättre grundläggande förmåga för att jag skulle kräva en/ett tränings-paus/stopp under de närmaste två åren.
