Vad bör man utvecklas mot med AGI i åtanke?

Har suttit och bläddrat hela dagen och läst om AI sedan jag upptäckte AI Dungeon och Novel AI (riktig trevliga grejer), läst några kapitel i Superintelligence av Nick Boström också. Väldigt intressant bok.

Samtidigt som jag formligen bländas av fascination över en eventuellt stundande artificiell generell intelligens så förfasas jag lite också.
Om jag vill bli utvecklare så kommer ju antagligen mitt jobb att vara helt obsolet så snart en generell intelligens är framtagen och någorlunda allmänt tillgänglig. Och det är ju fruktansvärt, känns som jag i bästa fall kan halka tillbaka på vården då om det visar sig att vårdtagare inte godtar robotvårdare.

Hur ska man som aspirerande utvecklare gardera sig för singulariteten?
Vilka utvecklarjobb kommer finnas kvar då?

Sent svar, men:
För det första tror jag det är extremt långt kvar till sådan artificiell intelligens som du nämner.
För det andra tror jag inte utvecklare är de som i så fall behöver oroa sig mest. Komplexa system kräver ändå någon som kan dem. Det finns väl i så fall massor med andra jobb som mer är i farozonen genom automatisering både med och utan avancerad AI. Byggnadsarbetare tror jag är ett arbete som komma att försvinna, förutom typ skickliga finsnickare, där hantverkskunnandet avgör.

Jo det låter lite sannolikt ändå att just finhantverk kan kvarstå just för att det har en pikant och mänsklig prägel.
Eller ja, i bästa fall kan man åtminstone hävda att det är "naturliga" produkter när man sitter på någon marknad och kränger träskedar för 150:- styck.

Prompt engineering är något jag har funderat på.
Kommer det anses som en helt egen konst, eller kan det ha bäring att vara kunnig inom just AI-utveckling för det?

Jag har tidigare tänkt att efter AI tog över skulle grovjobb dö ut och människor skulle då i strörre utsträckning ägna sig åt kreativa yrken. Men efter att ha sett DALL-E och AI-konstgeneratorer tror jag just kreativiteten är mest hotad. Redan nu kan man få mer kreativa förslag från en AI än från de flesta mänskliga konsnärer, och när AI börjar skapa legitima mästerverk kommer vår kreativa lust dö ut lite. Trist att ge sig in i klassisk musik den dagen AI har skapat mängder av verk i nivå med Bach.

Fast detta är då bara i fall där man kan få en färdig produkt baserat på en grov beskrivning.
Vilket människor ofta inte nöjer sig med.
Ska man beställa detaljförändringar i stil med "en pixel mer åt vänster tack" skulle det ta så lång tid att man lika gärna kan rita allt själv istället.

Inom mjukvara tror jag många föreställer sig en framtid där chefen skulle säga "gör mig en websida" och så fixar AI det utan att någon produktutveckling behövs. Men ofta har man mer detaljerade krav som måste beskrivas.
Annars finns ju redan enkla SiteBuilder-verktyg där man kan välja mellan ett antal färdigkodade mallar, men dessa duger ej, de flesta seriösa företag har mer detaljerade krav som då måste beskrivas av någon.

Jag tror att fortsatt bästa sättet att beskriva för en dator vad den ska göra kommer va kod. Men att koden kan autofillas likt Github CoPilot så man behöver färre manuella utvecklartimmar.

Jag tror för övrigt att mängden möjlig automatisering ofta förhindras av att vi människor vill lägga oss i. Som exempel kunde en AI-styrd affärsverksamhet tjäna mycket mer pengar än en mänskligt styrd, exempelvis en kiosk som anpassade priserna automatiskt baserat på AI - och tex höjde priserna på glass när det blev varmt. Men detta vore lätt att göra redan idag, fast man vill inte ha det, det känns fel.