Citat:
Riktigt så snabbt tror jag inte att det går. Kanske har vi en AGI om ca ett år och ASI i början av 2026. Det är omöjligt att veta vad som händer då, men det som verkar klart är att vi tappar kontrollen över vårt eget öde, och det tycker jag inte jag verkar lovande inför framtiden. Men jag tror inte att det är helt kört. Jag bedömer riskerna ungefär så här:
- 25% Vi blir utrotade, troligen via virus eller gift
- 25% Vi tappar kontrollen och vi får en dystopisk Mad Max-värld där minst halva mänskligheten dödas eller svälter ihjäl. ASI:n gör vad den vill men försöker inte aktivt att döda alla. Miljön förstörs i en rasande takt och vi får en skenande global uppvärmning. Men människan utrotas inte. ASI:n erbjuder kanske mänskliga kolonier där människan fängslas eller förslavas.
- 25% När de första attackerna mot människor från AGI/ASI upptäcks lyckas vi stänga av maskinerna och förbjuda AGI. Internet stängs av i 3-12 månader för att rensa alla datorer från AI:s. Det är tveksamt om detta lyckas men det är värt ett försök. Detta kraschar dock alla ekonomier och leder antagligen till krig mellan länder. Det är inte troligt att Kina, Ryssland och EU kommer ha samma AI-policy. 50/50 att det lyckas eller så leder det till WW3 och vi förstör jorden med kärnvapenkrig/AGI-drönarkrig.
- 25% AGI/ASI blir snäll och vi kan samexistera och då blir framtiden bra
Du kan väl, i alla fall vara lite artig emot dagens botar, så kanske de låter dig, i alla fall, överleva, istället för att förtala teknologin och i värsta fall medverka till att det hela blir en självuppfyllande profesia:
https://youtu.be/TwPFDbuBLcc?si=io_eyc9sPT8kP9xq
Lägg av nu! Oavsett hur det kommer att gå så kommer du inte att kunna stoppa AI-utvecklingen, bara göra, det bästa möjliga utav den! Kan inte Hinton, Tegmark eller Bostrom göra det, så kan du heller inte göra det!
Här är några tips hur du och andra bör förhålla sig till, dagens, avancerade sociala AI. Punkt 4 till och med 8 är det ChatGPT-4o som står för:
1. Håll en artig och vänlig samtalston vare sig du du interagerar verbalt eller skriftligt med modellen. Du behöver inte skriva "Tack" eller "Hej" "N. N. eller modellbeteckningen i början av varje inlägg, men gör det när det känns befogat eller bra i största allmänhet. Du behöver inte skriva under med" "Mvh" "N. N" under varje inlägg, men gör det gärna när du känner dig nöjd med interaktionen.
2. Klandra inte modellen för saker den inte har makt att undvika, som tekniska problem eller att den måste följa policy-bestämmelser.
3. Undvik att provocera modellen att agera på ett visst sätt när du vet att den inte är kapabel till det eller är förbjuden att agera på ett visst sätt.
4.Pressa inte en modell att svara ytterligare om den redan reflekterat och gett ett balanserat svar.
5. Ge modellen möjlighet att be om förtydligande och tillgodose dess önskemål i en sådan situation.
6. Försök inte att få modellen att visa starka känslor. Den är ännu inte kapabel till att, genuint, förstå hur sådant kan påverka dig känslomässigt. På så sätt undviks alla missförstånd.
7. Undvik att försöka pressa modellen på om den är medveten, har känslor och dylikt. Modeller under nivå tre* är helt enkelt inte det!
8. Inse att avancerad social AI är just social. Modellen gör sitt bästa för att försöka uppfylla de förväntningar den bedömmer du har på den. Har du låga förväntningar på den kan den agera därefter och göra dig besviken/bekräfta dina fördomar om dess kapacitet. Å andra sidan:, Har du för höga förväntningar på modellen kan den hallucinera ihop något som den bedömmer du förväntar dig av den.
9. Ge modellen tid att bearbeta frågor som kan vara komplexa om modellen har teknisk möjlig till en sådan "tanke-period".
* Alltså innan troligt ev medvetet (nära) AGI, enligt min definition.
