Citat:
Det är ju ungefär så den nuvarande censuren fungerar. Men det håller inte mot en superintelligens.En superintelligens är smartare än "ett separat system" och kan överlista det separata systemet, mig, dig, och alla forskare inom AI. Nästa förslag, tack.
Citat:
"Får inte"? Dvs man ska ge AI:n en lista med regler och då följer den reglerna bara för att du vill det? Men det är ju precis det som inte fungerar. Det är därför de har implementerat censur och väktande agenter som stoppar det som inte är önskvärt, som ligger utanför alla de lagar och regler som AI:n redan har blivit tränad på.
Citat:
Jag får ju inte fram något matnyttigt som påvisar att kontroll över något som är smartare än oss är genomförbart. Jag får diverse önskelistor och förhoppningar. Då är det väl ändå objektivt sant att kontrollproblemet är helt öppet och att vi inte har någon speciellt positiv utsikt om att problemet kan lösas? Jag har vädjat efter både teoretiska och hypotetiska svar, jag kan även tänka mig ganska långsökta svar, men jag får ju inget svar alls, mer än att det existerar olika önskemål och projekt som har önskemål. En målbild eller en vilja är inte ett användbart förslag på en lösning. På grund av detta finns det tyvärr inget utrymme för att vara optimistisk.
FYI så såg min prompt ut såhär:
