AI orsakar mänsklighetens död / gör det sämre att leva (samlingstråd)

Du förvånar mig ibland. Tänker du inte kommentera OpenAI:s ev. "Strawberry" projekt?
Hade jag varit renodlad alarmist så hade jag rivit upp himmel och jord och förutspått "mänsklighetens snara undergång"! 🙂

(FB) AI-hypen är över?

Och vad vet du om "strawberry" projekt annat än vad som senesations media skriver om? Du ifrågasätter inte ens att OpenAI/Sam Altman "läcker" sådan här information när det börjar kallna av? Personligen anser jag det fruktansvärt jäkla löjligt att ens "nappa" på sådant här innan något konkret bevis presenteras.

Visst, men inte ens Sam Altman kan "bluffa" hur länge som helst. Vi får se hur, det hela avlöper. Men med tanke på att Standford forskarna presenterade sin forskningsrapport typ för två år sedan och kanske OpenAI nappade direkt på den, så borde OpenAI kunna presentera något snart, eller i alla fall i år. Vi får se hur det hela avlöper.

Jag tror inte ett jävla skitt på detta i vilket fall.

Möjligt att du har rätt, möjligt att du har fel. Vi får helt enkelt avvakta och se.

Äh, jag orkar inte sitta på FB och försöka uppfostra strutsar varje dag. Dessutom vet vi väldigt lite om Strawberry, det blir mest spekulation. Vi har ju redan pratat om Q* som tros vara samma sak.

Allmänheten och politikerna vaknar väl om 1-2 år när någon mördar några tusen människor med autonoma drönare/robotar. Jag förväntar mig att man då kommer att förbjuda allmänheten från att leka AGI-ingenjörer. Och att företag som Open AI tas över av säkerhetstjänsten. Sen blir det väl locket på och slut på AI-nyheter i ett par år tills de ändå tappar kontrollen, dvs om de går vidare och försöker utveckla en entitet som är smartare än oss. Men jag hoppas de inser att det inte är en bra idé.

Autonoma drönare finns redan nu i Ukraina. Det är möjligt att någon människa, fortfarande, sitter i loopen, men den kommer att kunna tas bort ganska snart, om man nu önskar.

Här ett Ukrainskt robot fordon:

https://youtu.be/CkkTI7PLQM4?si=cnWm6NbSmLKgr1S8

Sebastien Bubeck (en av författarna till "Sparks of AGI" pappret som släpptes om GPT-4) backpedalar och mer eller mindre erkänner att AGI inte kommer framträda med nuvarande teknik.

https://x.com/SebastienBubeck/status/1803770413560029645

Efter att ha reviderat min kritik och lyssnat och lärt, så kvarstår dock flera frågor.

Utan en evolutionär utveckling så finns inget incitament för en AI att skada oss. Om vi inte lever i en "Matrix",- liknande värld såklart, så kan vi helt enkelt dra ur kontakten ur väggen så försvinner faran direkt.

Plus att sci-fi är kul på Netflix om man bortser från att författarna antingen inte vill eller kan förstå vad en kvantdator eller kvantfysik innebär i praktiken. Medvetandet är lika spekulativt som strängteorierna för tillfälligt.

Man måste kunna sålla bland allt trams och vetenskap för att kunna sätta upp en prognos till att börja med. Men jag lyssnar gärna på nyktra hypoteser.

Subbarao Kambhampati, en av de kanske största inom modern AI uttalar sig om språkmodeller (och jag gör så klart den intressanta notationen att han också identifierar dom för vad de är... avancerade n-gram modeller, som förlöjligats när jag lyft det här tidigare och jämfört med n-gram markovkedjor).

https://www.youtube.com/watch?v=y1WnHpedi2A

Summering är att dagens AI är inte mycket att vara rädd för, i alla fall inte tekniken i sig utan det är väl i så fall tillämpningen. Men som redan sagts flera gånger i dessa trådar det är ingen skillnad mot de huvudbryr en tillverkare av köksknivar har, de kan missanvändas också och det är så vitt vi känner till omöjligt att skapa en kniv som enbart skär tex bröd.

Jag menar inte jorden undergång, att robotar dödar oss alla, eller något sånt.
Menar mer allmänna vardagliga saker, hur kommer AI att försämra livet för oss?

Du kommer förlora alla viktiga kunskaper och bli efterbliven eftersom du konstant kommer använda AI, kommer göra allt åt dig.