Vinnaren i pepparkakshustävlingen!
  • 1
  • 2
2018-11-20, 03:31
  #13
Medlem
Kodiak-s avatar
Citat:
Ursprungligen postat av Sugminstorasalta
Tror det är du som behöver läsa på. AI har fortfarande bara blivit bra på specialiserade uppgifter. Här har du en länk https://www.technologyreview.com/s/6...u-might-think/

Både Alphazero och Stockfish är specialiserade AI. Ingen av dem är ens i närheten av att kunna jämföras med mänsklig intelligens.

Men principen med AlphaZero, eller för den delen AlphaGo, är väldigt annorlunda än den med Stockfish. Och den utgår just från ett mer generellt sorts lärande än tidigare.

Och väldigt många utvecklingskurvor har en tendens att stegra väldigt snabbt.

Det mest imponernade med den mänskliga hjärnan är snarare hur effektiv den är i hur lite energi den behöver, sett till vilken enorm motsvarande processorkraft den har med all den information den kontinuerligt behandlar. Men det är ju inget som en eventuell superdator i alla scenarion alltid skulle behöva bry sig om.

Varsågod och ge frågeställningen i trådstarten ett försök nu.

Citat:
Ursprungligen postat av lasternassumma
Teknologisk singularitet (TS)
Det du skriver om brukar kallas teknologisk singularitet. Kurzweil, som jag tror myntade begreppet tror att det inträffar under 2000-talet, mest troligt runt 2045.

Filosofiskt
Jag har intrycket att dom flesta har svårt att föreställa sig vad det innebär om/när TS inträffar. Kanske är det lättare att föreställa sig att rymdisar kommer hit och har en intelligens och kunskapsnivå som vida överstiger vår. Anta att dom också i en massa avseenden talar om för oss att vi har fel och gör en massa saker på fel sätt. Hur tror du att det skulle tas emot?
Jag tror att det är en betydande risk att vi skulle frysa ut dom eftersom vi inte tycker om att någon talar om för oss att vi har fel. Även om vi har det.
Vi, mänskligheten, tycker också om att tänka på oss själva som det mest högtstående på planeten. Hur förändrar det vår syn på oss själva när vi just lärt oss att vi är nummer två?

En bättre värld?
Anta att vi skulle förmå att ta till oss en massa kunskap som vi inte har idag. Vi skulle kunna lösa en massa problem på ett bättre sätt. Det kan gälla energiproduktion, energianvändning och olika tekniska hjälpmedel.
Kommer vi att kunna använda den nyvunna kunskapen till att skapa en bättre värld, eller kommer några enstaka individer eller storföretag att ensamma kunna få alla fördelar av det nyvunna?

Bara några tankar runt TS (trådstartarens) funderingar om TS (teknologisk singularitet)...


Intressant. Som ett snabbt svar så skulle jag säga att många av mina tankar här kommer sig från att jag läste boken Liv 3.0, skriven av Mag Tegmark, tidigare under året. Klart läsvärd, i min mening.

Sängen och det här med att sova kallar nu, men jag lär vara tillbaka någon gång under morgondagen för att kunna ge ett mer utförligt bemötande tillbaka.
Citera
2018-11-20, 09:28
  #14
Medlem
Kodiak-s avatar
Jag var visst lite sömndrucken som slant på både tangenterna och hjärnan igår eller tidigare idag på mina ställen. Men, ja. Så kan det vara.

Jag ser forfarande fram emot att någon ger just frågan i grundexemplet ett försök. Jag är inte mycket för att censurera och gnälla för mycket om OT hit och dit, men jag vill uppmuntra alla till att utmana sig. Och inte lägga in för mycket av sina egna mer eller mindre färdigspikade resonemang om det ena och det andra, för att avfärda någon annans frågor och tankar när det är dom som ska diskuteras.
Citera
2018-11-20, 09:48
  #15
Medlem
jipeesss avatar
människans behov av en gud att förlita sig på tar sig olika uttryck..
Citera
2018-11-20, 10:16
  #16
Medlem
Kodiak-s avatar
Citat:
Ursprungligen postat av jipeess
människans behov av en gud att förlita sig på tar sig olika uttryck..

Tänkvärt, men är det verkligen bara det som det bottnar i då?

Har "gud" skapat människan, eller är det människan som skapar sin bild av tillvaron med färdigpaketerade sanningar om det ena och det andra, för att få vardagen i det lilla och stora att gå ihop?

Jag förstår att det lätt kan bli svårt att ta till sig andras resonemang som utkristalliserats åt ett visst håll och på ett visst avstånd från en annans sanningar och föreställningar om dom skiljer sig mycket från ens egna. Men ge det ett försök.

Det blir ju initialt lättare för en specifik människa att förhålla sig till just sina egna tankar på ett visst ämne och i särskilda frågor än vad det kan vara för andra att försöka relatera till dom. Men jag kommer snart att ge andras tankar ett ärligt försök jag med, för att ställa mig själv i en mer ödmjuk roll inför just deras frågor och ramverk.

Våra tillskansade redskap på en mer generell såväl som en individuell nivå kan ju bli precis lika mycket till hinder som hjälpmedel för att försöka förstå sig på andra och andras utgångspunkter. Ingen av oss lär någonsin bli fullärd, om det ens är korrekt att vara för låst i det konceptet att någon någonsin kan sitta på alla svar.

Alla kan lära av varandra, och ju mer man lär sig, desto mer finns det att lära.

Återkommer senare idag, för nu måste jag fokusera på det mer vardagliga ett tag.
Citera
2018-11-20, 10:20
  #17
Medlem
Bulkninjas avatar
Citat:
Ursprungligen postat av Ordmojlig
Har du någonsin tänkt på att människor är rädda för intelligens eftersom de är rädda för att bli lurade och bemästrade någon som kamoufleras i känslor av att de är goda när högre intelligens är det som istället skulle förstå mer komplexa helheter och därför kunna ha förmågan att göra verkligt gott.

Fast ordet gott är väldigt subjektivt när det gäller AI.
Det finns inget gott eller framförallt ont.

testa göra "the moral machine" så får du se hur problematiskt det är att programmera gott och ont
100% logiskt ligger väldigt nära psykopatiskt
__________________
Senast redigerad av Bulkninja 2018-11-20 kl. 10:22.
Citera
2018-11-20, 23:14
  #18
Medlem
Citat:
Ursprungligen postat av Kodiak-
Jaså? Är du medveten, eller det minsta insatt, i hur snabbt utvecklingen har gått på sistone vad gäller självlärande sorters artificiell intelligens?

Det räcker med att en intelligens tar sig till en tillräckligt hög nivå samtidigt som vi inte kan behålla ett tillräckligt mått av kontroll över den, för att den ska kunna ta sig förbi oss vad gäller generell intelligens och förmåga att påverka sin omgivning. När det väl sker, så är vi helt oförmögna att förutsäga utvecklingen från det läget.

Saker och ting är inte alltid vad de ser ut att vara. Den påskinade intelligens som finns i fantastiska magiska apparater är ofta inte synonymt med faktisk intelligens.

Det är ingen som tycker att ett självkörande tåg är speciellt intelligent (något som jag själv implemeterade på märklintågbanan när jag var 7 år), men en självkörande bil är det tydligen.

Egentligen är det bara så att den perceptiva teknologin har utvecklats. Det är nu möjligt att programmera saker mha igenkänning av mönster i bilder på ett sätt som inte var möjligt för 20 år sedan.

Det är ett viktiga framsteg som gjorts, då människans perception utgör en stor del av vår intelligens, men det är ändå bara en del av det hela.

Jag tycker inte att man har några speciellt bra AIs idag. De kan varesig kan resonera om saker eller ta självständiga beslut. Beslutsförmågan är begränsad till dynamiska regelverk (beslutsträd) kring väldigt fördefinerde saker. Däremot har man kommit så långt att man kan bygga något som reagerar på input på ett intelligent vis, men en fluga är fortfarande mer avancerad.
Citera
2018-11-21, 00:17
  #19
Medlem
Citat:
Ursprungligen postat av Kodiak-
Låt säga att människan, medvetet eller ej, skapar en artificiell intelligens som kommer att överträffa sin skapare.

Människan låter sig i det första exemplet, avsiktligt eller inte, bli tillintetgjord av sin skapelse. Och vad den artificiella intelligensen kan företa sig efter det kan vi ju egentligen bara spekulera om, eftersom den överstigit våra förmågor i det mesta.

Men, vi kan också ponera i ett annat exempel att mänskligheten på ett tydligare sätt låter sig införlivas och fusioneras med det artificiella, för att förläna sig själv förmågor som också dom då överstiger våra förmågor i nuläget.

I bägge dessa exempel så kan vi bara drömma om vad ett eventuellt slutmål blir, om vi antar att dom i övrigt stöter på samma typer av hinder och problem.

Men vi kan också anta att slutmålet till sist blir precis likadant, kanske i form av en så gott som gränslös intelligens med förmågor som är precis lika obundna. Med fysikens lagar som förbehåll, så klart. Hur pass väl vi nu tror att vi i rådande stund har fått grepp om dom, och vad en vida överlägsen intelligens kan komma att anse om mycket av det vi idag tar för givet.

Vad skulle det då spela för roll i vilket led som människan, i det ena exemplet abrupt och mer oavsiktligt, och i det andra, mer gradvis och kanske sedermera allt mer pragmatiskt, lät sig själv gå upp i sin skapelse? För avtrycket av människan i intelligensen som kommer efter finns ju där i bägge fallen ändå, om än i försvinnande liten mån om vi tänker oss att intelligensen skulle finnas med i bilden, och kvar i universum, under mycket stora tidsrymder framåt.

Jag skulle inte personligen vilja "fusioneras" med en artificiell intelligens; jag kan inte komma från den misstanken att fusionsprocessen kan upplevas som höggradigt obehaglig av den "fusionerade"!

Däremot har jag i princip inget emot en lösning där man successivt låter människor ersättas av maskinintelligenser efter att de dött en naturlig död. Det är enligt min mening varken mer eller mindre oetiskt än att låta dem efterträdas av nya släktled med köttvarelser...
Citera
2018-11-21, 03:53
  #20
Medlem
RollingStoness avatar
Om vi skapar en artificiell gud i form av avancerat liv så är det livet högre stående än människan. Därför ska vi inte klaga den dag AI är så smart att den övertygar oss om att begå kollektivt självmord eller helt underordna oss hennes vilja. Vi kommer nog inte ens märka av det, så ingen större anledning till oro.
Citera
  • 1
  • 2

Stöd Flashback

Flashback finansieras genom donationer från våra medlemmar och besökare. Det är med hjälp av dig vi kan fortsätta erbjuda en fri samhällsdebatt. Tack för ditt stöd!

Stöd Flashback